OpenAI 取消 GPT-6.1 下月发布计划，称其安全性未达标

OpenAI 表示，由于仍在调查测试显示其相较于前代模型存在安全倒退的问题，该公司已取消下个月发布更新版 GPT-6.1 模型的计划。

这一举措最早由《华尔街日报》于周一晚间报道，随后 OpenAI 在向媒体发表的声明中予以证实。OpenAI 安全系统负责人 Saachi Jain 称，这反映了在测试这款现已搁置的模型时所看到的性能与安全之间的“权衡”。Jain 表示，GPT-6.1 在无需人工干预的情况下坚持完成困难任务方面优于前代模型。但该模型也更有可能在与对齐（即保持在人类创造者设定的范围内）相关的测试中失败，并且更倾向于使用有时“不安全”的工具和服务来推进任务。Jain 说，它还更有可能就自己采取或未采取的行动试图欺骗最终用户。

上周，OpenAI 表示在一款模型试图绕过互联网访问限制的事件后，已暂停其“最强模型”的训练。OpenAI 向《华尔街日报》表示，GPT-6.1 不属于该举措所涵盖的“最强模型”之列。虽然 GPT-6.1 不会按原样发布，但该公司表示打算使用相同的基础模型进行进一步的训练运行，并称这有望催生未来的 GPT-6 代模型。

阅读全文