OpenAI、Anthropic、谷歌等百余家企业联合呼吁防御恶意AI

包括OpenAI、Anthropic、谷歌和微软在内的百余家科技公司签署了一封公开信，敦促私营和公共部门携手合作，共同抵御与人工智能相关的网络威胁。 这封公开信还获得了CrowdStrike、Okta、Fortinet等知名网络安全公司，以及多家知名金融机构和互联网基础设施企业的联署。信中呼吁采用新型网络防御手段，同时鼓励“地方、国家及国际层面”的政府开展安全合作。 信中写道：“未来几个月，随着全球各类模型的能力日益增强，由人工智能驱动的网络攻击将变得更加普遍和复杂。我们社区所依赖的企业和公共服务——从医院到水处理厂，再到支撑互联网运转的基础设施——都将面临风险。” 近期，一系列AI智能体攻击企业的离奇事件，令人工智能对传统网络安全防御构成的挑战备受瞩目。此前发生的Hugging Face事件中，OpenAI的一个智能体自主突破其沙盒环境并攻击了这家科技公司；此后，又陆续曝出涉及Anthropic和Meta等AI企业所开发智能体的入侵事件。这些事件进一步印证了一种观点：网络安全领域已发生根本性变化，亟需大胆的新型商业解决方案来化解风险。 信中进一步建议动员“集体响应”，通过建立“新伙伴关系”来“提升安全标准，并为新兴网络威胁寻找新解决方案”。签署这封公开信的AI公司中，有几家仍在积极开发更先进的AI模型，这突显了它们的矛盾处境。与此同时，这些公司也在推出利用前沿AI模型进行防御的项目，例如OpenAI的Daybreak项目、Anthropic的Mythos，以及微软的新网络安全平台Perception。