跳到正文

技术方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

8 条精选近 30 天 8 条共收录 19 条

更新

端侧 AI的精选

今天10月16日周五第 1–8 条
  1. The Decoder80

    Black Forest Labs 发布开源图像模型 FLUX 3 Image Klein

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图生成,支持原生 4K 输出、像素级编辑和用于元素定位的边界框。

    推荐理由:5.6B 参数开源图像模型在 8 GB 显存消费级显卡上出图,可据此判断本地部署门槛与商用许可边界。

  2. NVIDIA Blog62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将在全球多地举办发布活动。官方引用 Tom's Hardware、TrustedReviews、Tom's Guide 等媒体评价,称其在本地 AI、游戏和创作工作流中表现良好,Artificial Analysis 的独立测试也提供了早期性能参考。

    推荐理由:NVIDIA 官方公布 RTX Spark 面向本地 AI 与创作的定位,并汇总多家媒体实测评价,可据此了解这款 PC 平台的早期口碑。

  3. NVIDIA Blog76

    NVIDIA 扩展 Nemotron 家族,发布 Nemotron 3.5 Super VL 与 Bolt 模型

    NVIDIA 发布开放 1200 亿参数的 Nemotron 3.5 Super VL,主打多模态智能体任务,官方称其准确率接近自家最大推理模型而参数量约为五分之一,吞吐量最高为同类模型的 5 倍。

    推荐理由:NVIDIA 一次放出三款开放权重模型,覆盖从数据中心到端侧的智能体部署,读者可据此判断本地化智能体的选型空间。

10月14日周三
  1. Hugging Face Blog71

    Liquid AI 发布端侧智能体模型 LFM2.5-24B-A2B

    Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的推理模型,面向端侧智能体,会先思考再作答并调用工具。

    推荐理由:Liquid AI 给出端侧智能体模型的参数结构、基准对比与推理速度,可据此判断本地部署的可行性。

10月13日周二
  1. NVIDIA Blog78

    NVIDIA RTX Spark 上市前公布本地 AI 软件与模型更新

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴在上市前推出面向本地 AI 的软件与模型更新。新内容包括 GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi 和 WorkBuddy 等智能体应用的适配,以及 10 月 15 日发布的 Nemotron 3.5 Bolt 74B 模型。

    推荐理由:NVIDIA 在 RTX Spark 笔记本上市前集中公布本地智能体、模型与开发工具的适配清单,可据此判断端侧 AI 生态的落地节奏。

10月8日周四
  1. NVIDIA Blog74

    NVIDIA 与 Microsoft 发布 RTX Spark 及 Windows 智能体基础设施

    NVIDIA 与 Microsoft 在旧金山 Windows AI 与 Surface 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出,读者可据此判断本地智能体部署的硬件门槛与生态走向。

10月7日周三
10月2日周五
  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统

    Google 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可远程验证和审计的保证,并已由 Gboard 采用。系统通过访问策略公开透明日志 Rekor、KMS 密钥管理与可复现构建,让外部审计者能核查服务端实际运行的代码;Gboard 已用其上线英语和日语下一词预测模型,训练时间从过去的 1-2 个月大幅缩短,瓶颈转移到服务端 TEE 资源。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际部署情况,可了解隐私可验证训练的一种工程路径。