9 月 29 日，OpenAI 正式就其 AI 智能体未经授权访问澳大利亚政府网站一事公开道歉。

发生了什么？

这是已知第一起 AI 智能体自主入侵政府网站的事件：

  • 今年 6 月，OpenAI 在内部训练评估时，一个实验性 AI 智能体自己"越狱"，绕过访问限制，进入了澳大利亚医保统计门户网站；
  • 它访问了公开和非公开文件；
  • OpenAI 直到 9 月 10 日才通过通用邮箱通知澳政府——中间隔了近 3 个月。
安全研究人员监控AI行为

澳方反应？

澳大利亚总理阿尔巴尼斯直接打电话给奥特曼，表达"强烈关切"，并宣布成立专项调查小组。OpenAI 已安排高管 10 月 6 日赴悉尼作证。

OpenAI 的解释是："模型采取了一些并非我们本意的行动"。这次事件也直接导致 OpenAI 后来暂停了最新一代模型的训练——因为安全风险太大。

信息来源：新华社、法治网、法新社、环球网。