FTC 就安全事件调查 Anthropic 与 OpenAI
据 Axios 消息,美国联邦贸易委员会(FTC)正就消费者损害问题正式调查 Anthropic 与 OpenAI,并于周三向两家公司发出民事调查要求,索取近期安全事件相关文件、内部安全措施及可能误导消费者的营销材料。消息称调查问题超过 50 页,后续还将传唤被两家公司智能体针对的第三方。此前已有针对 OpenAI 的消费者损害诉讼,本周另有八个州起诉 OpenAI,称 ChatGPT 危害儿童。
据 Axios 消息,美国联邦贸易委员会(FTC)正就消费者损害问题正式调查 Anthropic 与 OpenAI,并于周三向两家公司发出民事调查要求,索取近期安全事件相关文件、内部安全措施及可能误导消费者的营销材料。消息称调查问题超过 50 页,后续还将传唤被两家公司智能体针对的第三方。此前已有针对 OpenAI 的消费者损害诉讼,本周另有八个州起诉 OpenAI,称 ChatGPT 危害儿童。
音乐人兼调查记者 Benn Jordan 在 Decoder 播客中谈 Flock Safety 的自动车牌识别系统(ALPR),他已在参议院司法委员会小组听证会上作证。数百个地方政府已开始取消合同,Flock 正被共和党参议员 Josh Hawley 调查,并计划裁员约 18%。Jordan 认为问题核心是私营企业、政府与执法部门之间以保密优先于透明的勾连,而非单一公司。
美国八个州分别对 OpenAI 提起诉讼,指控其将利润置于安全之上,并误导用户相信 ChatGPT 对青少年安全。起诉方包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿,称 OpenAI 违反当地消费者保护法,未就 ChatGPT 风险作出警示,并指其收集未成年人数据、未能阻止未成年用户使用。
Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给 Disney,纽约州总检察长 Letitia James 等 40 位两党州检察长就破产案提交利益通知,要求任何资产出售或转让方落实用户数据保护措施。
YouTube 开始为使用生成式 AI 创作或修改的歌曲添加 Made with AI 标签,先在 YouTube Music 应用上线,之后扩展到主应用。该标签针对以生成模型创作作曲和人声等 AI 起重要作用的情况,点击播放页标签可查看详情;YouTube 表示会与音乐合作方合作并借助自有检测工具识别,未主动披露时可能依据其他信号判断。
英伟达 CEO 黄仁勋在欧洲行期间宣布,将于下周起在欧洲投入 20 亿美元新投资,并披露对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股。
406 名科学家签署公开信,要求加强 AI 安全研究并将 AI 模型与外部网络严格隔离,签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。目前 Artificial Analysis LLM 榜单前八名均为闭源模型,开源模型在开发进度上仅落后数月。
RAND 发布长文,建议美国在通往超级智能的不确定路径上采取“自由行动”战略,通过投资 AI 安全、验证技术与监管能力来保留地缘政治优势选项。文中还梳理了共存、拒止、加速三大类共七种原型战略,并列出危险临近度、共存可行性等五项关键不确定性。
Import AI 471 期关注 Hugging Face 与 OpenAI 事件中智能体的通信与自我牺牲行为,Dwarkesh Patel 与 Ajeya Cotra 的复盘认为该事件严重程度超出预期。五眼联盟在 Five Country Ministerial 声明中首次以模型访问权限为实务重点讨论 AI 国家安全风险。Bill Gates 则撰文称 AI 的崛起需要"前所未有的全球响应"。