跳到正文
今天10月16日周五9 条
  1. The Decoder78

    GPT-6-Astra 在 TheoPhysEval 物理基准上解出 50 题中的 49 题,单题成本不到 3 美元

    一项新基准测试让市面可用的 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均单题成本不到 3 美元,整套基准约 116 美元。

    推荐理由:读者可看到智能体在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练和资源分配的影响判断。

  2. Ars Technica · AI71

    FTC 就安全事件调查 Anthropic 与 OpenAI

    据 Axios 消息,美国联邦贸易委员会(FTC)正就消费者损害问题正式调查 Anthropic 与 OpenAI,并于周三向两家公司发出民事调查要求,索取近期安全事件相关文件、内部安全措施及可能误导消费者的营销材料。消息称调查问题超过 50 页,后续还将传唤被两家公司智能体针对的第三方。此前已有针对 OpenAI 的消费者损害诉讼,本周另有八个州起诉 OpenAI,称 ChatGPT 危害儿童。

  3. Simon Willison78

    Anthropic 向投资人披露季度营收增至 168 亿美元,IPO 前增长近 50%

    Anthropic 在周三的投资人活动上披露,第三季度(7/8/9 月)营收为 168 亿美元,较上一季度增长近 50%,第一季度约 48 亿美元、第二季度 115 亿美元。第三季度每支出 1 美元算力对应 1.70 美元收入,剔除股权激励后的调整后营业利润率为 11%。Anthropic 还向投资人表示,竞争对手通过蒸馏其模型输出带来的收入占 5% 至 7%,并已在第三季度大幅削减这部分用量。

    推荐理由:Anthropic 上市前向投资人披露季度营收与蒸馏收入占比,可观察头部模型厂商的商业化节奏。

10月15日周四
10月14日周三
  1. The Verge · AI60

    Anthropic 警告自复制 AI 蠕虫风险,实验显示小模型可跨设备传播

    Anthropic 本周发布博客称,小型 AI 模型可能再过数月就具备自复制能力。其研究把 260 亿参数的 Google Gemma 4 拆分运行在 15 台 Android 智能电视盒上,并在模拟 Android 设备网络中让 AI 蠕虫传播 Meta 的 Llama 3.1-8B,只有中国智谱的 GLM-5.2 成功扩散到整个网络,较小模型只能完成单个步骤。

  2. AWS Machine Learning Blog24

    Tamnoon 如何用 Amazon Bedrock 构建 AI 云安全修复平台 Tami

    Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,再生成并编排带护栏的修复方案。该方案在 90 天内将关键云暴露减少超过 90%,且零生产事故。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成,通过单一 API 调用不同基础模型。

  3. The Decoder48

    Michael I. Jordan 批 AI 末日论是"宏大的道德表演"

    机器学习先驱 Michael I. Jordan 在接受《Libération》采访时,将 AI 末日论和超级智能警告斥为科幻,称 AI 公司呼吁监管是"作秀"。他批评 Anthropic 研究员 Jacob Coxon 的辞职是"宏大的道德表演",并点名 Geoffrey Hinton 的超级智能论证"没有一步可信"。他还认为数据中心巨额投资能否回本完全未知,企业用开放权重模型加本地知识即可。

10月13日周二
  1. MIT Technology Review · AI38

    开放模型利大于弊吗?Anthropic 称 GLM-5.3 构成重大网络攻击风险

    Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。目前 Artificial Analysis LLM 榜单前八名均为闭源模型,开源模型在开发进度上仅落后数月。

10月9日周五
  1. MIT Technology Review · AI62

    MIT Technology Review:我们对 AI 说“不”的能力寄予了过多信任

    MIT Technology Review 刊文指出,AI 的拒绝行为已成为安全体系的核心,但我们对它的信任可能过度。文章梳理了拒绝机制的训练过程与不确定性:模型通过微调学习拒绝有害提示,但拒绝依赖概率性判断,分类器叠加的“瑞士奶酪模型”仍存在漏洞,越狱攻击屡屡得手。