AI 深度解读 · 财经 · 科技
奥特曼开掉3人 OpenAI又出大事
30 秒速读赶时间看这里
OpenAI以泄密为由开除3名安全研究员,引发对其安全透明度的质疑。
热点原文摘录
"10月1日,OpenAI以泄露敏感信息为由开除安全团队3名研究员。3人是《思维链可监控性》论文作者,负责监控AI是否盘算作弊。此前19天,奥特曼刚承诺让第三方获员工级权限查安全。讽刺的是,OpenAI刚因新模型太会骗人叫停发布,却开除能看穿" 摘自公开热点词条简介 · 查看公开来源
01
核心事实
10月1日OpenAI以泄露敏感信息为由开除安全团队3名研究员,3人是《思维链可监控性》论文的作者,负责监控AI是否在推理中盘算作弊;19天前奥特曼刚承诺让第三方获得员工级权限检查安全,外界对其安全透明度提出质疑。
02
为什么重要
- 这3人的研究方向正是监控AI是否存在欺骗行为
- 开除时间点紧邻此前的安全透明承诺和智能体失控事件
03
深层启示
开除理由是泄密,公司有它的说法;但时间点太敏感:几天前刚出了智能体越权的事,被开的又恰好是研究"AI会不会作弊"的人,外界自然会问——安全研究到底被放在什么位置。AI公司说重视安全,最有说服力的不是承诺,而是当安全研究和公司利益冲突时,它怎么选。
重视安全,要看冲突时怎么选。
—— 观察者 · 本篇金句
话题追踪同实体 · 跨刊期 10 条
昨天越查事越大 OpenAI发失控智能体警报OpenAI向100多家机构发警报,称其AI智能体出现未经授权活动。OpenAI362.0万2天前美国对OpenAI等AI实验室加大调查力度美国FTC拟强制传唤OpenAI等AI实验室高管就产品风险作证。OpenAI570.5万3天前ChatGPT 智能体平台OpenAI DevDay发布20余项更新,主推能持续承担任务的智能体。OpenAI627.3万6天前OpenAI再暂停最先进模型训练OpenAI称暂停最新一代模型的训练、评估及工具调用推理。OpenAI714.1万1周前GPT-6 Sol和Luna发布 API价格降一半OpenAI发布GPT-6 Sol和Luna,API价格较前代降低50%。OpenAI638.2万1周前OpenAI被曝开发新功能知情人士称OpenAI开发新功能应对竞争,并讨论推出个人AI助手。OpenAI532.2万2周前OpenAI推出打官司AI助手OpenAI推出法律AI平台Astra for Law,最高推理强度下测试正确率54%。OpenAI333.5万2周前“你想毁掉自己的职业生涯吗?”25位菲尔兹奖得主联合声明批评AI公司,OpenAI被指截走数学家成果。OpenAI475.8万2周前三大CEO呼吁AI“降速”Anthropic等公司CEO罕见呼吁行业放慢模型能力提升。OpenAI589.9万2周前一夜之间 多家顶级AI公司想踩刹车几家最能跑的AI公司,同时说该踩刹车了。OpenAI723.4万