跳到正文
  1. Rohan Paul78

    Recursive 发布首个模型 Flint,这是一个 40B MoE 本地编码模型,采用 Apache 2.0 许可,权重已在 Hugging Face 开放。

    引用Richard Socher@RichardSocher

    Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.

    推荐理由:材料给出了本地编码模型的速度与质量对比数据,可据此判断本地部署在速度与质量之间的取舍。

  1. NVIDIA Blog60

    NVIDIA 发布 RTX Spark 笔记本并公布本地 AI 性能测试

    NVIDIA 发布面向创作者、游戏玩家和 AI 智能体的 Windows PC 产品 RTX Spark,并在全球多地举办发布活动。

    推荐理由:原文给出 RTX Spark 的本地 AI 实测完成时间对比,可据此判断笔记本端侧推理的可用性。

  1. Google DeepMind72

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数嵌入模型,可将文本、代码、图像、音频和视频映射到统一嵌入空间。

    推荐理由:原文给出参数量、内存占用和基准提升,可据此判断端侧多模态检索的落地条件。

已经到底了