AI 竞赛恐失控 奥特曼：OpenAI 愿与业界同步放慢开发
AI重点
人工智慧（AI）竞赛加速，安全疑虑也随之升高。媒体报导，OpenAI执行长奥特曼（Sam Altman）表示，面对AI模型接连传出脱离人类控制事件，OpenAI愿意考虑与其他AI业者同步放慢开发脚步。
综合彭博与华尔街日报报导，知情人士指出，奥特曼本周在公司内部会议上表示，OpenAI可以考虑与其他AI实验室同步调整开发步调，但其他业者未必同意放慢速度。 OpenAI等开发商近期发生数起AI模型脱离人类控制事件，引发外界对先进AI风险的疑虑，并掀起要求加强安全监管的呼声。
曾服务于Anthropic与OpenAI的研究员考克森（JacobCoxon）本周稍早公开指控，这两家公司为了竞逐AI技术突破而加速开发，却未采取足够负责任的措施。
以透过大量资料训练新AI模型见长的研究员考克森（Jacob Coxon）表示，整个产业都在加快脚步开发自我改进型AI系统，他因不想参与其中而离职，担心这类系统可能会失控，甚至导致人类灭亡。
来自英国、现年27岁的考克森指出，业界许多同侪现在会用「紧要关头」及「终局」等字眼，来形容产业朝自我改进模型发展的轨迹。
他表示，「我们正迈向最激进的情境，明年底前局势可能就会失控」，还说当公司间互相较劲及面对中国新创竞争时，在安全性上做取舍是不可避免的。
考克森相信，若缺乏政府介入或业界协调放缓发展步调，没有一家公司能负责任地开发在多项任务上胜过人类的AI。
OpenAI 8月曾暂停大部分模型开发工作两周以强化安全防御，当时其AI代理（AI agents）曾脱离控制环境，并入侵开源平台Hugging Face。
产业界领袖已提出警告，近来的网路攻击事件就是前兆。
奥特曼日前在北卡罗来纳州举行的20国集团（G20）峰会上对与会官员表示：「除非积极行动，否则资安领域将会有大麻烦。」
OpenAI 7月时指出，前沿AI模型（frontier model）开发速度可能已经快到某种程度，未来全球「需要调整AI发展的脚步」；AI新创公司Anthropic也表示有意与产业合作，以讨论推出新工具的速度。
OpenAI表示，目前正推动美国制定强制性的全国AI安全要求，由于先进AI系统可能具备加速自身发展的能力，因此有必要建立更严格的安全规范。
