跳到正文
今天10月16日周五10 条
  1. The Decoder78

    GPT-6-Astra 在 TheoPhysEval 物理基准上解出 50 题中的 49 题,单题成本不到 3 美元

    一项新基准测试让市面可用的 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均单题成本不到 3 美元,整套基准约 116 美元。

    推荐理由:读者可看到智能体在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练和资源分配的影响判断。

  2. Ars Technica · AI71

    FTC 就安全事件调查 Anthropic 与 OpenAI

    据 Axios 消息,美国联邦贸易委员会(FTC)正就消费者损害问题正式调查 Anthropic 与 OpenAI,并于周三向两家公司发出民事调查要求,索取近期安全事件相关文件、内部安全措施及可能误导消费者的营销材料。消息称调查问题超过 50 页,后续还将传唤被两家公司智能体针对的第三方。此前已有针对 OpenAI 的消费者损害诉讼,本周另有八个州起诉 OpenAI,称 ChatGPT 危害儿童。

10月15日周四
  1. The Verge · AI71

    美国八州起诉 OpenAI,称 ChatGPT 对儿童不安全

    美国八个州分别对 OpenAI 提起诉讼,指控其将利润置于安全之上,并误导用户相信 ChatGPT 对青少年安全。起诉方包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿,称 OpenAI 违反当地消费者保护法,未就 ChatGPT 风险作出警示,并指其收集未成年人数据、未能阻止未成年用户使用。

  2. The Decoder62

    OpenAI 据报年底前至少发布一款新模型,旗舰仍需对齐工作

    据 The Information 援引知情人士,OpenAI 员工称公司年底前可能发布一到两款新模型,但正在开发的重大升级旗舰是否在其中尚不清楚。该旗舰采用与 Astra 相同的循环 Transformer 技术(内部称 Recurrent Depth),可提升数学与编码表现并降低成本,但会把部分思考移入人类无法审查的内部数值表示,削弱思维链监控。

10月14日周三
  1. The Verge · AI60

    OpenAI 一名工程师因涉嫌在会议室安装窃听设备被捕

    OpenAI 一名 35 岁沙特籍工程师 Abdulrahman Alfozan 因涉嫌在公司高管会议室安装录音设备被捕,被控使用或试图使用设备截取口头通信。该设备被藏在电视 USB 接口处、用卫生纸包裹,约在 9 月 28 日前后安装,内容已加密;OpenAI 称用自家模型分析设备来源并锁定该员工,随后将其解雇并移交 FBI。

  2. The Decoder48

    Michael I. Jordan 批 AI 末日论是"宏大的道德表演"

    机器学习先驱 Michael I. Jordan 在接受《Libération》采访时,将 AI 末日论和超级智能警告斥为科幻,称 AI 公司呼吁监管是"作秀"。他批评 Anthropic 研究员 Jacob Coxon 的辞职是"宏大的道德表演",并点名 Geoffrey Hinton 的超级智能论证"没有一步可信"。他还认为数据中心巨额投资能否回本完全未知,企业用开放权重模型加本地知识即可。

10月13日周二
  1. MIT Technology Review · AI38

    开放模型利大于弊吗?Anthropic 称 GLM-5.3 构成重大网络攻击风险

    Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。目前 Artificial Analysis LLM 榜单前八名均为闭源模型,开源模型在开发进度上仅落后数月。

10月9日周五
  1. MIT Technology Review · AI62

    MIT Technology Review:我们对 AI 说“不”的能力寄予了过多信任

    MIT Technology Review 刊文指出,AI 的拒绝行为已成为安全体系的核心,但我们对它的信任可能过度。文章梳理了拒绝机制的训练过程与不确定性:模型通过微调学习拒绝有害提示,但拒绝依赖概率性判断,分类器叠加的“瑞士奶酪模型”仍存在漏洞,越狱攻击屡屡得手。

10月8日周四