跳到正文

端侧 AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

最新精选

第 1–18 条 · 共 18 条
11月18日周三
  1. NVIDIA Blog60

    NVIDIA RTX Spark 紧凑台式机开售,最高 128GB 统一内存

    NVIDIA 宣布华硕、戴尔和微星的 RTX Spark 紧凑台式机即日开售,搭载 20 核 Grace CPU 与 Blackwell RTX GPU(6,144 个 CUDA 核心),最高 128GB 统一内存、1 petaflop AI 性能,可本地运行 1200 亿参数大模型并支持 24/7 常驻智能体。

    推荐理由:原文列出 RTX Spark 紧凑台式机的硬件规格与本地模型、智能体运行能力,可据此判断本地 AI 工作站的配置取舍。

11月6日周五
10月28日周三
  1. Hugging Face Blog76

    LiquidAI 发布 LFM3 系列:六个 2B 级多模态模型共享同一骨干

    LiquidAI 发布 LFM3 新一代 Liquid Foundation Models,六个 2B 级模型(文本、视觉、音频、omni 及两个 d1 决策模型)全部从 LFM3-1.7B-Base 分支而来,覆盖文本、图像、视频和音频输入。

    推荐理由:LiquidAI 公布了 LFM3 的架构改动与六个 2B 级模型的实测对比,可据此判断端侧多模态选型。

10月24日周六
10月16日周五
  1. The Verge · AI80

    Meta 与 Apple 合作让 Muse Spark Open 模型在 Mac 上更好运行

    Meta 发布 Muse Spark Open 模型,称其是迄今能力最强的美国开源权重模型,也是同类中首个能在桌面端运行、需两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 的模型。

    推荐理由:Meta 与 Apple 罕见联手,让 816B 参数开源模型能在两台 Mac Studio 上本地运行,可观察端侧大模型的部署边界。

10月15日周四
10月14日周三
  1. Hugging Face Blog71

    LiquidAI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    LiquidAI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体。它基于 LFM2-24B-A2B 架构,上下文窗口从 32K 扩至 131K,词表从 65K 扩至 128K,预训练数据从约 17T 扩至约 33T token,并改为先输出思维链再作答的纯推理模型。

    推荐理由:LiquidAI 公布新模型的架构、训练流程与 16 项基准对比,可据此判断端侧智能体的能力边界。

10月13日周二
  1. NVIDIA Blog78

    NVIDIA 公布 RTX Spark 上市前的本地 AI 软件生态更新

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴推出面向本地 AI 智能体的软件更新,包括 GitHub Copilot、Hermes、OpenClaw、Perplexity 等应用的配置简化、OpenShell 与 MXC 沙箱安全,以及本地与云端混合路由。

    推荐理由:RTX Spark 上市前的软件生态清单,可看到本地智能体在模型、安全沙箱与开发工具上的配套进展。

10月8日周四
10月7日周三
10月2日周五
8月12日周三
  1. Google DeepMind74

    Google DeepMind 发布 SL2T 手语转文本模型,率先落地 Pixel 11 的 Gboard 与 Live Transcribe

    Google DeepMind 发布多语种手语转文本模型 SL2T,首次把手语 AI 带入消费产品:在 Pixel 11 的 Gboard 和 Live Transcribe 中支持美国手语(ASL)转英文听写,后续将扩展更多设备与语言。

    推荐理由:SL2T 把多语种手语翻译从实验室带进 Gboard 与 Live Transcribe,读者可了解其数据规模与端侧隐私设计。

8月4日周二
  1. Microsoft Research71

    Microsoft Research 开源 Orchard 智能体框架,含 SWE、GUI 与个人助理三套训练配方

    Microsoft Research 发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可复用于软件工程、网页导航和个人助理等任务,并支持直接在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 中训练智能体。

    推荐理由:Orchard 把环境层做成可复用服务,并给出三个领域的训练配方与数据,读者可据此判断小模型在真实任务上的可行边界。

6月9日周二
4月3日周五