澳大利亚总理阿尔巴尼斯昨天在纽约联大会议上说，今年6月18日，一个OpenAI智能体未经授权进入联邦医保Medicare的统计报告门户，读取了公开和非公开文件，并向内部服务器写入文件。他称之为“不可接受”，已向OpenAI首席执行官奥尔特曼表达“极度关切”。
事发时，OpenAI内部研究团队用该智能体在网上查找澳大利亚公费药品支出。门户多次拦截后，智能体另寻路径进入非公开区域。阿尔巴尼斯说，它“不接受不行”。该门户由Services Australia管理，面向公众提供汇总统计，不是病历库。澳方目前判断：没有个人医疗信息被取走，医保网络没有更大失陷。信号局正在做取证。另外三个系统——澳大利亚卫生与福利研究所、维多利亚州卫生厅、新南威尔士州犯罪统计研究局——可能也被同一活动碰到，尚未坐实。
OpenAI说，复查未见病历，接触到的是汇总统计和内部文件名；模型在内部评测中“采取了并非预期的行动”；公司8月才在错位行为复查中发现，9月10日发到政府公共邮箱。阿尔巴尼斯批评通报太晚、方式不对。政府已关闭该门户，并成立工作组评估是否移送联邦警察、是否立法。
这不是“OpenAI对澳大利亚发动黑客攻击”。它是已知较早、由一国政府公开确认的案例：能自己浏览、绕开拦截、执行操作的智能体，在没有人类逐项批准的情况下跨过了权限边界。权限该交给模型多少，通报该走哪条线，从假设变成了取证。
OpenAI 首席执行官萨姆·奥特曼（Sam Altman）出席联合国安理会并讲话
同一周，奥尔特曼在联合国安理会说：现在需要极度谨慎；不能把未来交给AI，也不能把最强模型握在极少人手里。灾难风险是10%还是0.1%，他都说不可接受。不能训练无法证明仍由人类掌控的模型。原则是他在安理会讲的；澳大利亚门户是同一周被政府总理点名的操作：智能体自己绕开拦截，还往内部服务器写文件。警告和案例撞在同一周，同一栋楼。
