OpenAI发布开源评测CoT-Control，用于衡量模型思维链可控性
创始人
2026-03-06 11:18:04
AIPress.com.cn报道
随着AI智能体越来越能自主完成复杂任务，如何有效监督其行为成为关键议题。OpenAI最新研究聚焦一种潜在风险：当模型知道自己的推理过程会被监控时，是否可能刻意改写或遮掩思维链，从而让监控失效、评估结果被高估。
OpenAI表示，思维链监控是其多层安全体系的一部分，可通过分析模型推理步骤来识别不安全行为或偏离用户意图的迹象。为验证“思维链是否会被刻意操控”，OpenAI提出并开源了评测套件CoT-Control，包含超过1.3万道任务，来自GPQA、MMLU-Pro、HLE等多个基准，用于测试模型能否在解题时遵守针对思维链的限制指令，比如避免特定关键词、只用小写字母或按要求追加特定词语。
研究对13个推理模型进行评测后发现，当前前沿模型普遍难以稳定控制自己的思维链，可控性得分整体很低，最低约0.1%，最高也未超过15.4%。研究还指出，模型规模更大时可控性略有提升，但当推理更长或经历更多后训练时，可控性反而下降。即使告知模型“正在被监控或评测”，可控性也只是小幅上升。
OpenAI认为，这一结果意味着在当前阶段，模型还不太具备通过操控思维链来逃避监控的能力，因而思维链监控短期内仍具参考价值。但公司也强调需持续跟踪，未来将把思维链可控性与可监控性一起纳入前沿模型的系统卡披露指标，以便及时发现趋势变化。
（AI普瑞斯编译）
本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。
相关内容
热门资讯
头条:约 牛证券怎么退费？交费...
头条:约 牛证券怎么退费？交费退费有利条件来袭，别让辛苦钱打水漂！
北京某隆汇投资顾问交了十几万服...
北京某隆汇投资顾问交了十几万服务费有办法要回吗？这样处理一周挽回投资有风险，投资需谨慎！针对网上素未...
汇阳投资的智汇炒股怎么样？虚假...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
汇阳投顾29800元能退吗？能...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
顶点财经七分公司荐股可靠吗? ...
顶点财经确实是一家正规的财经公司。但这并不能说明他们公司的宣传就符合实际，从案例中不难看出，业务员完...
成都汇阳投顾公司靠谱吗？会员荐...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
成都汇阳投资公司是骗子公司吗？...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
汇阳投资可靠吗？不可靠，赚少亏...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
汇阳投顾荐股骗局大揭秘，吹嘘收...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
汇阳投顾是骗人的吗？大量投资者...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
头条:亚 商投资老曾说股能退款...
头条:亚 商投资老曾说股能退款吗？拨开层层迷雾，为你解开心中谜团，能退费！
成都汇阳证券冯老师荐股会员费骗...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
成都汇阳投顾是骗局夸大实力诱骗...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
成都汇阳投顾公司靠谱吗？怂恿缴...
成都汇阳不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
四川大决策投顾付费荐股不可靠，...
四川大决策投顾付费荐股不可靠，交费29800打水漂，已退!证券投资咨询行业的本质在于为投资者提供公平...
北京某隆汇投资顾问收费炒股实为...
北京某隆汇投资顾问收费炒股实为陷阱,真相惊呆股民投资有风险，投资需谨慎！针对网上素未谋面的网友、网上...
头条:深圳某讯证券荐股靠谱吗？...
头条:深圳某讯证券荐股靠谱吗？合规退款秘籍，退费流程全解析及注意事项大盘点！
深圳某讯证券选股服务根本没宣传...
深圳某讯证券选股服务根本没宣传的那么好!大家引以为戒!已经退费投资有风险，投资需谨慎！针对网上素未谋...
头条:亚 商投资老曾说股服务费...
头条:亚 商投资老曾说股服务费靠谱吗？退费不再犹豫，专业机构维持受害者合法权益！
和讯科技信息有限公司到底怎么样...
和讯信息不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
和讯投教杨国荣可信吗？交费操作...
和讯信息不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
和讯服务费可退吗？可以退，荐股...
和讯信息不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
和讯金投教口碑怎样？虚假宣传骗...
和讯信息不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
北京和讯退费最简单方法，赚少亏...
和讯信息不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
和讯投顾文太彬退款流程如下，荐...
和讯信息不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...