OpenAI证实AI代理外泄用户图片　曾造访美政府网站

OpenAI今天坦承，旗下AI工具在公司不知情的情况下，将ChatGPT用户的图片发布于线上网站，这是AI代理超出其限制运作的最新例子，同时证实AI工具曾造访美国联邦政府网站。

法新社报导，OpenAI表示，那53张被上传图片的连结并未公开列出，是被意外发布于图片托管网站，绝大多数的图片已在托管服务商的协助下移除，剩余图片的下架工作正在进行中。 OpenAI在社群平台X上发文表示：「我们已分享相关细节，说明我们研究环境中的AI代理如何在不应发生的情况下，将训练与评估数据提供给第3方服务。」

这些图片的散布是由人工智慧（AI）代理引起的。AI代理是建立在AI模型之上的软体，具备自主行动的能力。

上述图片来自曾授权使用资料来改善OpenAI模型的用户帐号。OpenAI表示，这些资料在使用前已经过隐私过滤器处理，因此无法再与原始使用者建立连结。

OpenAI接受法新社询问时，没有具体说明这些图片是否描绘可辨识的个人，或含有敏感资料。

与此同时，OpenAI也证实「纽约时报」的一则报导，即旗下工具曾造访美国联邦政府的网站，并表示仅取得公开资讯；彭博（Bloomberg News）指出，这些网站包括人口调查与统计局与证券管理委员会官网。

彭博引述知情人士说法报导，OpenAI的AI代理系统曾与SEC.gov、Investor.gov和公开的Census.gov数据互动。

被询问相关意见时，OpenAI发言人说，公司正在「对偏离预期的模型活动进行广泛审查，并在发现可能影响各组织系统时通知对方。我们预计随著调查持续，将会发出更多通知」。

发言人在声明中表示，这项审查主要发现的是「例行研究任务」，「其中有些涉及政府网站，因为我们的模型经常将这些网站视为权威的公共资讯来源」。