OpenAI 研发模型脚步放慢

ChatGPT开发商OpenAI表示，将减缓最先进人工智慧（AI）模型研发，并加强管控。该公司上月测试资安能力时，一套自主AI代理系统绕过监控、连上网路，并入侵AI新创公司Hugging Face。

OpenAI 18日在部落格表示，将暂缓AI训练计划，同时将确认训练出的模型行为是否符合预期，今后将强化模型隔离措施，防止测试中的模型连上网路，并以自动化系统监控所有高阶模型测试。系统发现可疑行为后，目标是在30分钟内发出警报；若无法在30分钟内确认只是误报，便会暂停测试。

执行长奥特曼表示，如果觉得模型能力发展超越安全管控范围，行为与意图无法保持一致，就采取行动。

OpenAI之前也曾暂停最新模型的训练长达两周，随后才在更严格管控下恢复。OpenAI下一款重要模型「Astra」，相关研发大部分均已暂停，原因是公司月初判定，这款新模型可能跨越公司对于AI系统骇客能力所设的警戒门槛。  

OpenAI先前多次承诺，将公布Hugging Face事件的详细技术报告，但至今尚未发布；不过公司在部落格表示，报告将于「未来数周内」发表。

在此同时，华尔街日报报导，OpenAI向投资人表示，截至6月底的第2季营收高于第1季的57亿美元。不过营业利益率进一步恶化，距离获利更加遥远。同期Anthropic营收增逾一倍至116亿美元，首度超越OpenAI，并出现小幅营业获利。