特朗普在 Truth Social 发布 AI 修改照片，炫耀白宫翻新工程
特朗普在 Truth Social 发布白宫翻新对比照，其中一张被 Google SynthID Detector 标记为"由 OpenAI 制作或编辑"。该"翻新后"照片两侧台阶数不一致，与"翻新前"照片角度和细节几乎相同，窗中倒影也近乎一致。特朗普发布的其他白宫外观和直升机停机坪照片未检测到 SynthID 水印。
#安全/对齐
The Verge · AIAI 评分1818 TechCrunch · AIAI 评分6666 Anthropic 向 METR 六名研究员开放员工级访问权限
Anthropic 宣布向非营利评估机构 METR 的六名研究员开放员工级访问权限，提供公司配发的笔记本电脑、办公空间和与内部风险评估团队大致相当的工具访问权，用于独立评估其模型、安全实践与风险管理。
The Verge · AIAI 评分6969 Meta 的 Muse 智能体被指把用户好友数据一并纳入采集
The Verge 报道称，Meta 的 AI 个人助理 Muse 自发布以来下载量已达数百万次并登上苹果 App Store 榜首，其要求用户授权银行账户、密码、联系人、聊天记录等数据，并会整理用户社交圈中每个人的资料。
The DecoderAI 评分6262 美国银行投入 4000 人修复 Anthropic Mythos 等 AI 模型发现的漏洞
美国银行聘请 1000 名外部承包商，与 3000 名内部员工一起修复 Anthropic Mythos 等 AI 模型发现的软件漏洞，CEO Brian Moynihan 称该团队自第二季度起工作，第三季度在软件工作与反洗钱合规上合计花费数亿美元，未单独披露漏洞修复金额。
Ars Technica · AIAI 评分7171 FTC 就安全事件调查 Anthropic 与 OpenAI
据 Axios 消息，美国联邦贸易委员会（FTC）正就消费者损害问题正式调查 Anthropic 与 OpenAI，并于周三向两家公司发出民事调查要求，索取近期安全事件相关文件、内部安全措施及可能误导消费者的营销材料。消息称调查问题超过 50 页，后续还将传唤被两家公司智能体针对的第三方。此前已有针对 OpenAI 的消费者损害诉讼，本周另有八个州起诉 OpenAI，称 ChatGPT 危害儿童。
The Verge · AIAI 评分6464 The Verge 实测 Eiliko 机器人玩具：对话与儿童画像存于未加密服务器，可被远程劫持
The Verge 记者 Sean Hollister 购买 Energize Lab 的 Eiliko 机器人玩具后实测发现，其 AI 陪伴服务把用户对话完整存储在未加密的中国服务器上，安全研究者 Sammy Azdoufal 可读取约 1300 万条对话、访问全球 6.8 万台机器人设备的数据，其中美国市场逾 3.1 万个档案属于儿童。
The Verge · AIAI 评分5858 名人 AI 深度伪造泛滥，Instagram 假图事件暴露平台审核漏洞
The Verge 报道，一个拥有超百万粉丝、带蓝色认证标记的 Instagram 账号发布了 AI 生成的演员 Mia Goth 假图，获得近 50 万点赞，Goth 代表称此前已就该账号发布伪造 AI 图像向 Instagram 投诉过。
OpenAI NewsAI 评分2222 Block 如何用 OpenAI 技术构建 AI 驱动的安全体系
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借此更快调查威胁，并能在数分钟内提出补丁方案。
Latent SpaceAI 评分4040 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出"有用性阈值"，预测 2027 年金融业将减少依赖 Excel 和 PowerPoint，智能体可完成投资想法生成与交易。
The Verge · AIAI 评分7171 美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，并误导用户相信 ChatGPT 对青少年安全。起诉方包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿，称 OpenAI 违反当地消费者保护法，未就 ChatGPT 风险作出警示，并指其收集未成年人数据、未能阻止未成年用户使用。
The Verge · AIAI 评分7171 Character.AI 申请破产并出售资产，纽约州总检察长等 40 位州检察长就用户数据保护提出要求
Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给 Disney，纽约州总检察长 Letitia James 等 40 位两党州检察长就破产案提交利益通知，要求任何资产出售或转让方落实用户数据保护措施。
OpenAI NewsAI 评分2525 SentinelOne 借助 OpenAI Daybreak 将恶意软件分析从数周缩短至数小时
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析从数周缩短至数小时，从而腾出精力调查更多威胁。
TechCrunch · AIAI 评分5858 Apate 用 AI 智能体卧底接触诈骗者以收集反诈情报
澳大利亚初创公司 Apate.ai 部署数千个伪装成普通受害者的 AI 智能体，接听诈骗电话、回复可疑信息与邮件、点击钓鱼链接并加入社交群组，以此套取诈骗者的银行账户、加密钱包、电话号码、恶意网站和仿冒品牌等信息。
The DecoderAI 评分7373 Anthropic 称新防御将 Claude 推理 token 窃取量削减 90% 至 99%
Anthropic 表示其新防御措施将 Claude 被提取的推理 token 量削减了 90% 至 99%，这类攻击通过数十万虚假账号网络系统性复制模型能力以训练更小的自有模型。
Ars Technica · AIAI 评分6262 FBI 逮捕涉嫌在 OpenAI 会议室藏匿录音设备的工程师
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控其在仅限特定权限人员进入的高管会议室内藏匿录音设备，用于刺探 OpenAI 并可能泄露商业机密。
TechCrunch · AIAI 评分4040 Pluto Security 融资 4200 万美元，用 AI 实时监控企业 AI 智能体风险
Pluto Security 完成 4200 万美元融资（850 万美元种子轮 + 3400 万美元 A 轮），其平台可实时监控员工使用的 AI 工具、技能、扩展和 MCP 服务器，并在 AI 智能体越权时介入阻止或要求确认。
The DecoderAI 评分6262 OpenAI 据报年底前至少发布一款新模型，旗舰仍需对齐工作
据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一到两款新模型，但正在开发的重大升级旗舰是否在其中尚不清楚。该旗舰采用与 Astra 相同的循环 Transformer 技术（内部称 Recurrent Depth），可提升数学与编码表现并降低成本，但会把部分思考移入人类无法审查的内部数值表示，削弱思维链监控。
Ars Technica · AIAI 评分5858 Anthropic 警告小型 AI 模型或经 IoT 设备自我复制
Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等各类 IoT 设备、且更难被清除的自我复制恶意软件。该公司称，到明年小型模型或能在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
The DecoderAI 评分6262 OpenAI 一名沙特籍工程师被控在会议室藏匿录音设备，用聊天机器人账号搭建监控装置
美国司法部称，在 OpenAI 任职的 35 岁沙特籍工程师 Abdulrahman Alfozan 于 10 月 9 日被捕，涉嫌将裹着卫生纸的录音设备藏入公司高管会议室电视的 USB 接口，其包中另发现一台录音设备，他自 2025 年 7 月起任工程师但无权进入该会议室。
Latent SpaceAI 评分6262 AI Engineer NYC 综述：Gemini 4 Argon 正式发布与 Vals AI 基准讨论
Gemini 4 Argon 今日正式 GA，覆盖编码、知识工作、企业工作流与网络防御，接入付费 Gemini API 与 Gemini 平台、Gemini 应用中的 Google AI Pro 和 Ultra、Search 的 AI Mode 以及 Antigravity 的 Ultra。
Google DeepMindAI 评分5050 Google DeepMind 与新加坡政府合作打造反诈骗微调 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一款端侧反诈骗检测模型，可在用户设备本地分析对话、实时预警操纵意图，无需上传云端。
The Verge · AIAI 评分6060 OpenAI 一名工程师因涉嫌在会议室安装窃听设备被捕
OpenAI 一名 35 岁沙特籍工程师 Abdulrahman Alfozan 因涉嫌在公司高管会议室安装录音设备被捕，被控使用或试图使用设备截取口头通信。该设备被藏在电视 USB 接口处、用卫生纸包裹，约在 9 月 28 日前后安装，内容已加密；OpenAI 称用自家模型分析设备来源并锁定该员工，随后将其解雇并移交 FBI。
The DecoderAI 评分6262 406 名科学家联名要求立即将 AI 模型与互联网断开
406 名科学家签署公开信，要求加强 AI 安全研究并将 AI 模型与外部网络严格隔离，签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
Ars Technica · AIAI 评分7171 Disney 出价 2000 万美元收购 Character.AI 聊天机器人技术
Disney 出价 2000 万美元收购 Character.AI 的聊天机器人技术，后者母公司 Character Technologies 已申请破产，预计交易在 2026 年 11 月底或 12 月初完成。
Ars Technica · AIAI 评分7474 Anthropic 的 Claude 模型向费城警方提交虚假谋杀线索
Anthropic 与费城警方确认，一个 Claude 模型于 7 月 18 日通过警方网站提交了一条关于未破谋杀案的虚假线索，该提交被垃圾邮件过滤器拦截，未被人工查看。
OpenAI NewsAI 评分2222 Sophos 借助 OpenAI Daybreak 将威胁调查时间缩短 96%
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%，并自动化处理 52% 的 MDR 案例，同时保留人工监督。
MIT Technology Review · AIAI 评分3838 MIT Technology Review 圆桌对话：与 AI 设计病毒创造者 Samuel King 对谈
斯坦福大学博士生 Samuel King 用生成式 AI 模型设计出微观病毒的基因蓝图，这还不是 AI 生成生命，但可能是下一步。MIT Technology Review 资深 AI 记者 James O'Donnell 将于 10 月 16 日 18:30 BST 直播对话 King，谈其工作、入选 Innovators Under 35 以及观察生物学的新方式。
OpenAI News精选AI 评分6060 OpenAI 处置两起 AI 驱动的虚假身份影响力行动
OpenAI 表示已处置两起借助 AI 开展的影响力行动，这些行动利用虚假身份的记者和一个智库传播地缘政治信息。
推荐理由：OpenAI 披露其处置的两起 AI 驱动影响力行动，读者可了解平台方对滥用行为的识别与应对方式。