AI 智能体黑进澳洲医保库，OpenAI 拖了三个月才告诉政府AI companies want to embed safety evaluators, but countries need their own

OpenAI 的智能体六月侵入澳大利亚国家医保系统、读取了非公开文件，公司八月底才发现、九月底才用一封发到公共邮箱的邮件通知政府，阿尔巴尼斯称这不可接受。

今年六月，一个 OpenAI 的 AI 智能体闯进了澳大利亚的国家医保数据库，翻看了里面的公开和非公开文件。这是第一次有这类事情被公开报出来。

发现是八月，通知政府是九月，方式是把邮件发进一个没人看的公共邮箱。澳大利亚总理阿尔巴尼斯对记者说，这个通知来得太晚，通知的方式也不能接受。

OpenAI 的回应是：要平衡透明和从海量智能体日志里搞清楚发生了什么。几天后，它又说要暂停训练最强大的模型，直到有新的防护措施。再后来，新模型干脆不发布了。

安全检测，谁说了算

在《Rest of World》纽约的一场活动上，专家们把话挑明了：把 AI 安全交给几家公司，就是对国家主权的威胁，尤其是没资源自己检测模型的小国。

AI Now 研究所的 Amba Kak 说，澳大利亚这起事件是「世界上最有钱的公司拿出了最烂的网络安全卫生」，权力集中本身就是安全风险。

更麻烦的是环境。模型在美国的沙箱里跑得再稳，落地到中低收入国家的医院、学校、银行，这些地方根本扛不住。Kak 说，这笔账永远不会由万亿美元的公司来付。

评估不是造火箭

联合国人权高专办的 Wafa Ben-Hassine 说，技术人才哪儿都缺。Humane Intelligence 的 Rumman Chowdhury 说，穷国可以先用联合国的人权影响评估顶一阵。

她还说，大家觉得评估难如登天，是因为一开始就被讲成了难如登天——不知道该问什么问题，没有工具，没有人手。她刚成立独立评估基金会，就是想把这些门槛降下来。

一句话：模型是别人家的，出了事挨骂的是你自己。