Michael I. Jordan 批 AI 末日论是"宏大的道德表演"
机器学习先驱 Michael I. Jordan 在接受《Libération》采访时,将 AI 末日论和超级智能警告斥为科幻,称 AI 公司呼吁监管是"作秀"。他批评 Anthropic 研究员 Jacob Coxon 的辞职是"宏大的道德表演",并点名 Geoffrey Hinton 的超级智能论证"没有一步可信"。他还认为数据中心巨额投资能否回本完全未知,企业用开放权重模型加本地知识即可。
机器学习先驱 Michael I. Jordan 在接受《Libération》采访时,将 AI 末日论和超级智能警告斥为科幻,称 AI 公司呼吁监管是"作秀"。他批评 Anthropic 研究员 Jacob Coxon 的辞职是"宏大的道德表演",并点名 Geoffrey Hinton 的超级智能论证"没有一步可信"。他还认为数据中心巨额投资能否回本完全未知,企业用开放权重模型加本地知识即可。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。目前 Artificial Analysis LLM 榜单前八名均为闭源模型,开源模型在开发进度上仅落后数月。
MIT Technology Review 刊文指出,AI 的拒绝行为已成为安全体系的核心,但我们对它的信任可能过度。文章梳理了拒绝机制的训练过程与不确定性:模型通过微调学习拒绝有害提示,但拒绝依赖概率性判断,分类器叠加的“瑞士奶酪模型”仍存在漏洞,越狱攻击屡屡得手。