跳到正文

技术方向

端侧 AI 最新动态

直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。

4 条精选近 30 天 4 条共收录 16 条

更新

端侧 AI的精选

今天10月22日周四第 1–4 条
  1. elvis75

    Recursive SI 发布首个模型 Flint,这是一个 40B MoE、2.5B 激活参数的本地编码模型,以 Apache 2.0 开源权重发布在 Hugging Face。

    引用Richard Socher@RichardSocher

    Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.

    推荐理由:Flint 以 40B MoE、2.5B 激活参数和 Apache 2.0 开源权重给出本地编码模型的速度与质量对照。

10月16日周五
10月15日周四
10月7日周三