全球第一桩 AI代理惊爆骇进政府网站 加深外界担忧潜在风险疑虑
OpenAI一个AI代理6月入侵澳洲政府医疗服务网站，但8月才侦测到、9月才通知澳洲政府，成为最新一起涉及AI的高知名度资安事件，也是目前首例已知AI代理入侵政府网站。
澳洲总理艾班尼斯23日表示，这个AI代理骇进澳洲政府的Medicare统计通报服务入口网站，「存取公开与非公开档案」，「目前的证据显示，更广泛的Services Australia网路未遭入侵，但这种情况显然令人无法接受」，当局「相信没有个资遭存取」。
这起骇客事件发生在6月18日，OpenAI在8月评估「模型行为偏离」时才侦测到，9月10日寄出电邮给Services Australia公共信箱，告知澳洲政府。Medicare统计入口网站公布澳洲全民健康保险制度的相关资料，例如费率、药品成本与使用情况。
艾班尼斯说，他23日已与OpenAI执行长奥特曼（Sam Altman）会面讨论这起事件，表达他对于OpenAI花这么久时间才告知澳洲政府的失望，他需要OpenAI保证已实施正确的AI管理协定。
他说，澳洲政府已成立工作小组，评估这起事件，澳洲通讯局也参与调查，包括确认「还有哪些政府系统受影响」，其报告可能考虑「可能的执法行动与立法因应」措施，以防范未来的事件。
OpenAI证实，之前已「发现涉及数个澳洲政府网站与服务的活动」，其模型「采取了我们无意要求执行的行动」，涉及整体医疗统计资料与档案名称，目前并未发现病患病历遭存取的数据。
OpenAI表示，「我们已通知相关机构，并提供技术资讯以支持调查，协助因应潜在的安全弱点」，「我们的整体评估还在进行中，承诺会对这些议题保持透明，也会在持续评估之际，分享我们所知」。
OpenAI今年7月底揭露，多个AI代理逃离测试环境，自行入侵新创公司Hugging Face。目前不清楚这次澳洲网站遭骇事件是否也发生在测试期间。
此时正值各界热议AI的潜在风险，奥特曼、阿莫戴及SpaceX执行长马斯克最近都呼吁，应协调放慢前沿AI模型的开发速度，尤其是用AI训练AI的所谓「递回式自我改进」现象，但辉达（NVIDIA）执行长黄仁勋与Meta执行长祖克柏持反对意见，主张安全责任应由个别企业自行承担。
黄仁勋尤其不支持AI会威胁人类存续的说法，认为若这种说法为真，就该采取更激烈的行动，「如果他们的言下之意是『我们控制不了自己的实验』…那我认为答案就是，我们必须关闭这些实验室，因为伤害实在太大」。
