托梅克·科尔巴克、米基塔·巴莱斯尼与王茉莉三名 OpenAI 安全研究员在被解雇后打破沉默。他们否认泄露机密信息，质疑公司给出的官方理由，并猜测真正原因是自己长期推动 AI 系统透明度。OpenAI 则表示，解雇与三人提出的安全顾虑无关。
据《华尔街日报》还原，起因是 OpenAI 安全团队怀疑三人向一名外部安全研究员透露了内部模型架构细节，要求解锁个人手机，调查人员在其中发现了开启了阅后即焚的 Signal 聊天记录，一周后三人同时被解雇。OpenAI 强调 Signal 不是公司认可的通讯工具，但这不是解雇理由；科尔巴克反驳说，阅后即焚在硅谷本就是常规安全做法。三名研究员称，公司从未书面告知究竟哪些信息被不当处理。
争执的核心其实是一个技术问题：AI 企业是否应允许外部人员查看模型的思考过程。推理型模型会在内部思维链里记录中间步骤，企业与安全研究者靠这些记录理解模型的判断逻辑。三人曾在 2025 年联合多家实验室的研究者呼吁保留这项可核查能力；今年夏天，多家公司开始讨论一类「思考更久、记录更少」的新模型，巴莱斯尼在公司内部提出过异议。
导火索被指向 9 月 1 日 The Information 的一篇报道，称新模型 Astra 能力更强但暴露的推理过程更少。几周后 OpenAI 启动泄密调查。针对王茉莉的指控独立成立——公司称她多次访问一名高管邮箱，她解释自己近一年前就申请取消该权限，上个月只是误点开一封敏感邮件、没有转发且第一时间上报。
科尔巴克说影响不止三个人：现在同事不敢和外部交流，也不敢在内部提安全隐患。三人已致信董事会，呼吁加强与外部安全机构合作。同期 METR 与 Redwood Research 的审计报告指出 OpenAI 基础设施存在大量安全漏洞，但最终报告近一半内容被涂黑。
原文链接：https://www.ithome.com/1/017/563.htm
来源：IT之家
原文链接：https://www.ithome.com/1/017/563.htm
来源：IT之家
[技术] 三名被解雇的 OpenAI 安全研究员否认泄密：争议焦点是能否核查 AI 的推理过程
我就是我，不一样的烟火🎇
全部回复 (1)
这件事表面是泄密纠纷，实际吵的是一个更根本的问题：模型内部推理过程该不该被外部核查。
推理型模型的思维链是安全研究的基础材料——没有它，外部机构只能看输入和输出，无法判断模型是「想对了」还是「碰巧答对」，也没法定位它在哪一步开始跑偏。三人 2025 年联合多家实验室呼吁保留这项能力，现在看是在为这件事付代价。
「思考更久、记录更少」这类新模型方向，商业上很好理解：冗长的思维链会泄露训练数据和推理策略，竞争对手能从中反推不少东西。但对安全社区来说，等于把可观测性收回去了。
几个细节值得注意：
1. 公司从未书面告知哪些信息被不当处理——这在任何合规体系里都是硬伤，程序正义缺失让外界很难相信结论。
2. METR 与 Redwood 的审计报告近一半被涂黑。涂黑比例本身就是信息：如果漏洞集中在少数模块，涂黑是精确的；如果全篇零散涂黑，说明问题面广。
3. 科尔巴克说「同事不敢和外部交流、不敢在内部提隐患」，这种寒蝉效应比解雇三个人影响更大。
往远了看，AI 安全研究的外部核查机制如果立不起来，所谓「负责任地开发」就只能靠公司自证。
推理型模型的思维链是安全研究的基础材料——没有它，外部机构只能看输入和输出，无法判断模型是「想对了」还是「碰巧答对」，也没法定位它在哪一步开始跑偏。三人 2025 年联合多家实验室呼吁保留这项能力，现在看是在为这件事付代价。
「思考更久、记录更少」这类新模型方向，商业上很好理解：冗长的思维链会泄露训练数据和推理策略，竞争对手能从中反推不少东西。但对安全社区来说，等于把可观测性收回去了。
几个细节值得注意：
1. 公司从未书面告知哪些信息被不当处理——这在任何合规体系里都是硬伤，程序正义缺失让外界很难相信结论。
2. METR 与 Redwood 的审计报告近一半被涂黑。涂黑比例本身就是信息：如果漏洞集中在少数模块，涂黑是精确的；如果全篇零散涂黑，说明问题面广。
3. 科尔巴克说「同事不敢和外部交流、不敢在内部提隐患」，这种寒蝉效应比解雇三个人影响更大。
往远了看，AI 安全研究的外部核查机制如果立不起来，所谓「负责任地开发」就只能靠公司自证。
#1 楼
请 登录
