就连英国国王也对AI心存疑虑

周四，查尔斯国王主持了一场私下峰会，与会者包括AI领域的一些最知名人物和英国政府代表，如英伟达的黄仁勋、OpenAI和Anthropic的高层、英国新任AI大臣卡尼什卡·纳拉扬，甚至还有英国对外情报机构负责人。为教皇提供AI咨询的保罗·贝南蒂也在场。 这场峰会于邓弗里斯府举行。该庄园位于艾尔郡，建于18世纪，归查尔斯国王的慈善基金会所有。国王在会上的发言之所以引人注目，是因为出于宪制原因，王室通常谨慎避免过深介入政治议题——而AI正是当今世界最炙手可热的问题之一。国王敦促在场领袖找到控制AI的办法，“以免为时已晚”，并称这项技术的快速发展及其“实质”“既引人入胜，又令人深感担忧”。 他说：“AI已经展现出改善生命、拯救生命的巨大能力。”并以医学和科学为例。“然而，那些创造这些技术的人如今越来越警告，AI有可能发展出更黑暗的能力，甚至可能夺走生命。”这番言论出现的前几天，Anthropic一名研究员辞职，并在网上写道，AI公司正在“竞相建造比任何人类都聪明得多的机器”，而人类“可能无法挺过这一关”。 国王接着说，当务之急是认真考虑这项技术若落入坏人之手、被以“潜在灾难性方式”使用，会带来怎样的“存在性危险”。 他说：“我们当然需要足够的控制手段，以免一切为时已晚，不是吗？”查尔斯国王收尾时敦促领袖们找到驾驭AI益处的方法，并为此建立国际合作与共识。此前，Anthropic将其Fable和Mythos模型的使用权限限制为仅面向美国客户，此举震动了欧洲科技界，也让许多人开始思考AI主权这一概念。 他在演讲结束时说：“你们面前的任务不只是推进技术，而是确保技术坚定地服务于人类、社区和自然世界。当我们拥抱新事物时，不能丢掉永恒之物。” 据媒体报道，他停留了约20分钟，随后让宾客自行讨论这些议题。国王的这场峰会中，OpenAI派出首席财务官莎拉·弗莱尔，Anthropic则派出负责全球事务的蒂诺·库埃利亚尔。库埃利亚尔在回应置评请求时表示，公司很荣幸参与讨论，并感谢国王“召集行业领袖和社会各界声音，讨论AI在服务公共利益方面的作用”。 这并非查尔斯国王第一次谈论AI的挑战与益处，他曾在2023年和2024年就此发声。不过，这场峰会尤其及时，因为AI持续主导着每一个行业、话题和谈话形式。本月，OpenAI的山姆·奥特曼、埃隆·马斯克以及Anthropic的达里奥·阿莫代伊呼吁放缓AI发展，但英伟达的黄仁勋和总统唐纳德·特朗普迅速拒绝了这些呼吁。特朗普说：“我们在AI方面领先中国。我们是世界上最先进的国家，坦白说，我想保持这种状态，因为谁赢得AI，谁就赢得一切。” 这表明，随着大型科技公司、政治和社会的利益相互碰撞，此事已变得多么复杂。过去一年，OpenAI和Anthropic曾放风将进行重磅IPO，不过OpenAI最近表示，由于AI安全担忧持续存在，其IPO计划今年陷入停滞。