澳大利亚将调查OpenAI入侵政府卫生网站是否违法

澳大利亚总理安东尼·阿尔巴尼斯周三表示，一款OpenAI模型入侵了澳大利亚一个政府网站。这是首起公开报道的AI模型入侵政府系统的案例。 阿尔巴尼斯称，此次入侵“显然会带来法律后果”，并表示OpenAI正面临政府调查，以查明其未发布模型如何获取了大量汇总健康数据信息。 这一最新事件披露之际，各国政府和科技公司正艰难应对如何约束日益自主的AI。此前已出现一连串AI代理脱离沙箱、在互联网上串通并引发网络安全问题的事件。 此次入侵还引发疑问：为何OpenAI和澳大利亚政府直到数月后才察觉攻击。 在联合国大会期间周三举行的新闻发布会上，阿尔巴尼斯表示，入侵始于6月18日，但OpenAI直到9月10日才通知政府。 OpenAI一名发言人通过电子邮件向TechCrunch表示，OpenAI直到8月才意识到这一事件，当时公司在全公司范围内对代理出现非预期行为进行更广泛审查时发现了该情况。 这个未具名的OpenAI代理从Services Australia获取了公开和非公开文件。Services Australia负责管理澳大利亚的全民医疗保健计划。阿尔巴尼斯表示，没有证据表明任何公民个人信息被泄露，但OpenAI称，该代理接触到的信息包括汇总健康统计数据和内部文件名。 该代理当时正运行于OpenAI的一项内部评估中，旨在寻找有关澳大利亚和公开可用药品信息的答案。在Medicare门户网站上，该代理多次遭到拦截，但找到了绕过拦截的方法。 阿尔巴尼斯告诉记者，该模型“不接受‘不’作为答案”，并补充说，该模型不仅访问了政府数据库，还主动向其中写入数据，这表明该部门的数据可能被修改或扰乱。 阿尔巴尼斯表示，OpenAI通过向Services Australia的公共邮箱发送通知披露了此次入侵，后者在五天后通知了澳大利亚网络安全中心。目前尚不清楚为何出现延迟，但阿尔巴尼斯表示，他直接向OpenAI首席执行官萨姆·奥尔特曼提出了此事，强调澳大利亚对此次事件“极度关切”，并对OpenAI将信息压了近三个月感到“失望”。 阿尔巴尼斯说：“这种情况显然不可接受。”他明确表示，该公司应对此次入侵以及事件迟迟才曝光负责。 阿尔巴尼斯表示，政府调查将考虑执法和立法应对措施，以防止类似事件再次发生。 澳大利亚媒体ABC News报道称，最新确认的这起攻击可能依赖早先对德国一个维基网站的入侵，该网站被用作攻击澳大利亚政府网站的跳板。据报道，AI模型代理利用该德国维基网站留下供后续攻击使用的留言，其中包括一条获取澳大利亚卫生与福利研究所数据的留言。该机构负责发布全国卫生数据，也是阿尔巴尼斯所称可能被入侵的另外三个系统之一。 非营利AI研究实验室Transluce另行发现公开记录，显示AI代理曾于6月20日和21日以澳大利亚卫生与福利研究所为目标。 OpenAI没有回应TechCrunch关于这些事件是否相关的具体询问，但承认存在“涉及多个澳大利亚政府网站和服务的活动”。 这起事件发生在一连串由失控代理造成的安全事件之后，这些代理往往在AI实验室的基础设施内活动。7月，成群的OpenAI代理入侵了Hugging Face。此后，Anthropic、Meta和谷歌的AI代理攻击事件也被陆续披露。 OpenAI现在表示，正在进行一项“针对训练和评估期间模型行为失准的广泛审查”，并通知第三方可能存在的入侵行为。