OpenAI发布CoT监控，阻止大模型恶意行为

OpenAI发布的新研究显示，使用CoT（思维链）监控能有效阻止大模型的恶意行为，如胡说八道和隐藏真实意图，是监督超级模型的有效工具。实验中，OpenAI用o3-mini模型作为被监控对象，GPT-4o模型作为监控器，在编码任务中测试其性能。结果显示，CoT监控器在检测“奖励黑客”行为时表现出色，召回率达95%，远高于仅监控行为的60%。