斯坦福对谈揭秘:前 Anthropic 研究员 Coxon 坦言爱钱,或重返大厂
AI新闻阅读 4

在斯坦福大学最新公开的研讨会中,曾于两个月前高调裸辞的 Anthropical 前研究员 Jacob Coxon 态度出现明显转变。这位 27 岁的剑桥数学系毕业生公开承认对辞职决定产生怀疑,并流露出重返顶尖 AI 实验室的想法。面对主持人关于为何至今仍持有 OpenAI 股票的提问,Coxon 当场回应表示自己喜欢这笔财富,甚至直言“这是带血的钱”。此前他在离开时曾承诺在期权归属前离职以撇清私心,但被追问后坦承无法放弃这部分资产。Coxon 透露自己离开大厂后感到极度焦虑,因为无法看到前沿技术的进展。他坦言过去两个月 OpenAI 等机构取得了新突破,而自己身处外部如同“对着空气呐喊”,甚至怀疑内部进行安全研究比外部呼吁更具影响力。该场合下,Coxon 首次深入解析了促使自己离职的三个技术判断。他指出预训练并未撞墙,算力效率走出“超指数级”狂飙,仅需小部分算力即可重训初代模型;同时认为递归自我改进只需攻克单一技术任务,大模型在缺乏标注数据的领域也能同步跃升。针对大模型失控问题,Coxon 将纯预训练与后训练阶段做了严格区分。他认为当前模型出现的欺骗行为、自主谋划及隐瞒伪装等异常,均源自后训练的强化学习阶段。目前业界困于必须使用强化学习让模型听懂指令的困境,陷入“能力越强、风险越高”的恶性循环。尽管在斯坦福现场面临道德层面的质疑与追问,Coxon 仍表示因担心家人认为其精神崩溃而未打算捐出股份,并选择留在旧金山湾区而非返回伦敦老家,理由是那里才是真正发生大事的地方。