跳到正文
The Decoder· Maximilian Schreiner·· 1 天前精选AI 评分78

OpenAI 研究指出前沿模型隐藏思维源于开发者对能力与成本的优化

OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute

AI 导读

OpenAI 安全团队发布新分析,指出 GPT-6 Astra 等前沿模型思维链(CoT)透明度下降并非自然规律,而是由预训练能力提升、架构选择、强化学习及知识蒸馏四个训练因素导致。

推荐理由

文章解析了前沿模型思维链透明度下降的四个训练成因,揭示了能力、成本与安全监控之间的具体权衡。

来源:The Decoder · the-decoder.com