专家文章 开源人工智能会如何发展？

　　参考消息网3月5日报道 美国《国会山》日报网站2月11日刊登题为《开源人工智能已是必然，唯一的问题是如何发展》的文章，作者是英士国际商学院技术与商业教授塞奥佐罗斯·尤金尼奥、英士国际商学院人工智能社区联合创始人法比奥·瓦尔和“可能”人工智能公司联合创始人扬·莱谢勒，内容编译如下：

　　如果一项强大的技术会给商业和社会带来重大风险，它是否应该供人免费使用？

　　许多人认为人工智能就属于这一类技术。有些人甚至警告说，其构成的威胁攸关人类生存。自ChatGPT等基础模型问世以来，人工智能专家、企业高管和监管机构之间的争论主要围绕这些模型是否应该开源这一问题展开。

　　开放潮流势不可挡

　　但一直以来，大家关注的重点都错了。最近一个模型的开发者决定开源一个几乎与前沿模型相当的人工智能模型(而且成本低得多)，改变了这场争论的方向。问题不再是“是否”要开源人工智能，而是“如何”开源——在实现利益最大化的同时处理好安全与滥用方面的问题。

　　开源人工智能不仅仅涉及开放代码，还涵盖数据、算法和模型权重——从人工智能训练中习得的参数。一个完全开源的人工智能系统包括开放数据集、开源代码和开放模型权重，但许多机构只发布模型权重，这会限制全面理解或重建该系统的能力。如果权重是基于未公开的数据进行训练的，情况就会变得更加复杂，这可能引发责任问题。虽然开放能鼓励创新，但也会带来有关责任和安全风险的问题。

　　但开源模型“出人意料”的崛起可能意味着，我们可能正走在人工智能基础模型的单行道上。这些模型走向开放可能势不可挡，因为开放能推动广泛应用，并创造经济价值，进而支持模型的改进。就像Linux成为如今我们使用的许多软件的基础一样，开源人工智能基础模型可能很快会成为生成式人工智能的标准。

　　风险挑战不容忽视

　　支持开源人工智能最有力的论据之一在于集体创新。公开可用的模型将支持全球协作。它将加快实现各项突破，其速度是任何单个团队无法实现的。开放模型还能提高透明度，让第三方能够检测安全漏洞——尽管现代模型庞大的规模会使这项工作颇具挑战性。

　　经济可及性是另一个因素。开源人工智能会降低进入门槛，使小公司、学术界和政府(尤其是硅谷以外的)能够参与竞争。如果管理得当，这有助于使全球经济竞争环境变得更公平。

　　但开放也会放大风险。对人工智能模型的无限制访问会增加滥用的可能性，比如用于新型网络攻击。专有人工智能模型能让模型提供商更好地管理使用情况。与专有人工智能不同，开源模型可以被自由修改和重新利用，使得滥用行为更难被追踪。

　　从商业角度看，开源人工智能也会威胁模型开发者的竞争优势。投入大量资金训练专有模型的公司可能会看到它们的创新成果被商品化，从而削弱资金投入和研究的动力。知识产权问题也随之而来：如果后来发现一个开源模型是基于受版权保护的素材进行训练的，谁该负责呢？

　　从技术角度看，质量控制和问责可能成为主要问题。在没有集中监督的情况下，确保人工智能的可靠性会很困难，尽管风险可以在应用层面得到降低。

　　人工智能依赖三大关键资源：数据、算力和数学。虽然争论主要集中在前两者，但数学突破才是大部分进展的真正驱动力。毕竟，从古代工程到现代人工智能，数学推动了一次次变革。数学(算法)的进步必然会提高性能和效率。同时，在竞争激烈的人工智能领域，公司可能出于战略考虑而开源模型，以扰乱竞争对手并获得优势。

　　因此，限制模型访问最终可能是徒劳的。

　　有效治理迫在眉睫

　　如果开源人工智能不可避免，治理就必须成为优先考虑的问题。一个负责任的框架应聚焦三个关键优先事项：安全技术、治理机制和国际政策协调。

　　开源人工智能的兴起需要更好的护栏技术——集成安全功能和实时监控。就像对人类生成的内容进行网络审核一样，对人工智能生成的内容也必须负责任地加以管理。对确保负责任使用人工智能的工具进行投资至关重要。

　　人工智能治理应借鉴网络安全和软件监管的最佳实践。例如，模型卡和数据文档可以通过详细说明训练数据、预期用例和限制来提高透明度。就像用于网络安全的SSL证书一样，标准化的人工智能安全认证可以在不抑制创新的情况下明确问责。采用此类标准的企业可能会赢得消费者信任，同时避免监管审查。

　　最后，人工智能的全球影响要求一定程度——哪怕是最低限度——的全球监管协作。欧盟的《人工智能法案》为负责任的人工智能开发提供了一个范例，而负责任的人工智能开发必须兼顾创新与风险，以及地区差异。美国和中国以外的国家现在可以更轻松地接纳人工智能以弥合技术差距，这使得国际合作变得更加紧迫。

　　如果得到有效治理，开源人工智能可以带来前所未有的价值：加速创新、促进全球竞争、确保透明度甚至安全性。有趣的是，更广泛地采用人工智能也可能提供资源，以让人工智能模型在开放人工智能研究中心(OpenAI)等机构的封闭环境之外继续得到改进。挑战在于兼顾开放与风险管理。通过优先考虑治理、安全技术和一定程度的国际协调，我们能更好地确保人工智能的开放未来如同其倡导者所承诺的那样具有变革性。

　　同时，人工智能竞赛将从开发前沿模型转向将其应用于现实世界。现在可能是一个转折点，人们的注意力将从谁构建了最先进的模型转移到这些模型如何得以使用上。企业和监管机构是否准备好迎接这一转变还有待观察，但有一点是肯定的：人工智能的格局正在改变，开源人工智能的时代已然来临。（编译/朱捷）