AI安全辩论：争的是安全，还是控制？

科技行业应当如何看待AI安全这一议题？随着一场辩论愈演愈烈——像“Hugging Face事件”这样的事件（其中OpenAI的一个智能体侵入了多家不同公司）是否表明AI即将把我们的世界推入混乱——越来越多的高管正就此发表看法。 最近几周，知名实验室纷纷呼吁放缓AI发展步伐。最引人注目的是，首席执行官达里奥·阿莫代伊撰写了一篇近4000字的文章，阐述为何应当放慢AI开发，以便部署充分的防护措施。该计划包括——除其他内容外——一项推动企业与政府在安全部署方面开展合作的国际战略。竞争对手的AI高管——如OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克——也对阿莫代伊的计划表示支持。 这篇文章在整个科技行业引发了进一步讨论，尽管并非所有人都赞同阿莫代伊关于全球协调行动的呼吁。事实上，许多人似乎认为政府监管根本不必发挥作用。 最新加入这场辩论的人包括Meta首席执行官马克·扎克伯格。他本周在X上分享了自己对此事的看法。 “我的观点是，信任与对齐正在迅速成为区分智能体和模型的最重要能力。”扎克伯格透露，出于安全考虑，他的公司推迟了AI模型的发布。“Meta推迟了Muse的发布数月，以专注于安全与保障，”扎克伯格说。“我们没有要求其他人在我们之前都这样做。我们只是把它作为日常工作的一部分，因为这对人们、对我们显然都是正确的事。” 扎克伯格——他支持阿莫代伊计划的部分内容——似乎暗示政府行动并无必要，而塑造行业的自发激励机制将迫使企业把安全做好。市场最终应会让那些用心打造不会引发混乱的模型的公司获得成功。这似乎与扎克伯格上月撰写的那篇长文一致。该文主张在必要时与政府进行有限合作，但总体上将美国竞争力誉为通向繁荣技术未来的关键。 总体而言，这似乎是许多其他科技高管的立场。 另一位发声的高管是Reddit联合创始人亚历克西斯·奥哈尼安。他周三对CNBC表示，在向公众解释AI风险方面，科技行业总体上一直“充耳不闻”。然而与扎克伯格一样，奥哈尼安似乎也希望企业能够自行解决问题。Google DeepMind联合创始人谢恩·莱格也分享了他的看法。“我们现在所处的时期，能力正非常、非常迅速地进步，”莱格说。“但我们不能让能力跑在安全前面。”他补充道：“我们需要真正厘清其中的细节，以及这在实践中将如何运作。” 尽管大型实验室呼吁公私合作，一些支持监管的声音似乎也相对乐意让企业自行制定规则。事实上，本周一则不那么显眼但同样有趣的消息来自The Information的报道：OpenAI、Anthropic及其他主要AI公司正合作创建一个AI标准组织——一家媒体将其描述为私营“自律机构”。 此前曾讨论过创建一个类似的、由联邦运营的机构。然而，特朗普政府——其中不乏高调支持AI的人士，并且总体上推动不受监管的科技行业（该政府甚至试图强力阻止州政府出台自己的AI法律）——并未推进任何相关计划。该政府的“AI沙皇”、科技界资深人士戴维·萨克斯曾表示，AI监管应留给开发它的公司。 与白宫一样，国会中的知名议员似乎同样无意接受阿莫代伊提出的监管其公司的建议。在这位Anthropic首席执行官的文章发表后不久，众议院议长迈克·约翰逊就这样回应了对AI灾难性发展的担忧：“你们不会在10年内全都死掉，”他说。 一个私营组织将使该行业除自愿承诺外不受监管，并自然会把一定的权威和影响力赋予创建它的那些公司。这引出了另一种持续存在的说法：行业的监管呼吁实际上是一种“监管俘获”策略。按照这种论点，已经在行业中占据显赫地位的强大公司可能利用监管策略排挤或削弱规模更小、资源更少的公司，从而扼杀竞争。这未必涉及真正的法规，但可能涉及对较弱企业施压的自愿行业标准。 中国政府中的许多重要声音也呼应了这一立场。在阿莫代伊本周呼吁“为前沿发展定速”后，中国外交部发言人郭嘉昆指责美国利用“散布恐慌”来干扰全球AI治理的发展，而中国官方报纸的一篇评论文章则称阿莫代伊的言论完全出自“冷战剧本”。 重组企业与中国开展业务的方式——这是阿莫代伊在文章中所呼吁的事项之一——自然可能成为美国公司让局势向自身有利方向倾斜的机会。阿莫代伊甚至承认这就是目标。“如果我们把这些措施执行好，我相信它们将足以放缓中国的进展，从而在未来3至5年内显著扩大美国的领先优势——而这段时间正是AI在地缘政治上最为关键的窗口期，”他在文章中写道。 然而，将美国大型AI实验室视为试图操纵竞赛、使之有利于自己的，并不只有中国。加拿大AI公司Cohere的首席执行官艾丹·戈麦斯最近指责这些公司组成“卡特尔”，并在一篇博文中写道：“AI需要防护栏。这不是争论所在，也从来不是。争论在于谁来制定它们、谁能够参与，以及这些规则保护的是谁的利益。” 正如戈麦斯所言，AI安全是一个高度政治化的领域。在其中，安全如何被定义——以及由谁定义——最终将有助于决定谁在下一阶段AI竞争中占得先机，谁又被甩在后面。