OpenAI、Anthropic 与 Google 已就 AI 安全磋商数周

OpenAI 全球政策负责人 Chris Lehane 周二对记者表示，该公司已与竞争对手 Anthropic 和 Google DeepMind 就人工智能安全合作数周。彭博社率先报道了这一消息。据报道，Lehane 正在华盛顿与美国立法者合作，应对与人工智能相关的灾难性风险。 这一披露正值 Anthropic 首席执行官 Dario Amodei 于周六发表文章之后。该文章呼吁全行业携手放缓前沿 AI 的发展步伐，避免灾难性风险。行业内多位 AI 领袖，包括 OpenAI 的 Sam Altman、Google 的 Demis Hassabis 以及 xAI 的 Elon Musk，都支持 Amodei 的信函和行动呼吁。Altman 表示，OpenAI 将加入 Anthropic，在公司内部引入第三方评估者以监督安全。 周二，Lehane 承认，这三家公司已就 AI 安全进行了数周磋商。包括 Altman 在内的一些人指出，如果这种协调被认定会抑制竞争，相关公司可能面临违反反垄断法的风险。Amodei 的文章提议政府给予一项范围狭窄的豁免，以允许此类安全协调，但据报道，Lehane 表示这些公司并不需要豁免。 这一消息证实了此前的报道，并暗示这些公司正在合作。上周晚些时候接受《财富》采访时，Altman 暗示他曾与其他 AI 领袖进行私下讨论。本周，The Information 报道称，这三家公司一直在合作，拟为 AI 行业创建一个标准机构——据报道，Altman 曾告诉员工，这件事需要在美国政府不支持的情况下推进。 Hassabis 曾在 7 月呼吁美国建立一个新标准机构，充当 AI 监督者，有权筛查全球最先进的模型，并在危险升级时协调全行业放缓发展。 特朗普总统则把安全担忧斥为骗局，并反对收紧监管，称任何放缓都会让中国在这场竞赛中占据优势。他的关键 AI 顾问 David Sacks——一位长期投资者，在业内许多领域拥有个人利益——也附和这一观点，称对 AI 生存性风险的担忧被夸大了。 在周二的同一场记者会上，Lehane 表示，OpenAI 支持《FRONTIER Act》中的一项条款，该条款将强制顶级前沿实验室允许“独立验证组织”进入公司，以确保模型安全开发。 TechCrunch 已联系 Anthropic、Google 和 OpenAI 寻求置评。