跳到正文
10月21日周三
  1. 雷锋网35

    一次抓取背后:Token经济学如何计量算力、模型与语料

    截至2026年6月,我国日均词元调用量已突破500万亿,Token正成为连接模型服务、推理算力与数据供给的计量接口。DeepSeek自8月起探索峰谷时段定价,9月10日调整Flash系列价格,闲时每百万词元缓存命中输入价0.02元。无问芯穹跨集群异构推理架构在特定测试中首词元等待时间降低51.5%、单词元成本降低37.5%。

  2. Latent Space44

    SF Compute CEO Evan Conrad 谈可编程数据中心与 GPU 算力交易市场

    SF Compute 正把 GPU 算力做成可交易市场,并自建云运营能力实现"物理交割",让买家拿到可用算力而非现金结算。CEO Evan Conrad 称 NVIDIA 因缺乏中立性无法自建这类交易所,而 SF Compute 通过匹配不同约束条件的订单在技术快速迭代期维持交易。他还提到可动态切分 InfiniBand 网络等让基础设施可编程的工程细节。

10月20日周二
  1. MIT Technology Review · AI18

    企业 AI 的新经济学:从 token 成本转向有效成果成本

    HPE 提出企业 AI 的成本衡量应从 token 或 GPU 小时价格转向"每个有用成果的有效成本",即完成可用工作所需的平台、模型、运维与算力总成本。企业可选自建栈、按需消费或集成私有 AI 平台三条路径,其中 HPE Private Cloud AI 通过调度、模型选择、GPU 分区和 KV-cache 管理提升利用率,并附 90 天前驻工程师服务。

10月19日周一
  1. 极客公园30

    端侧 AI 商业化难在哪?麒麟软件、后摩智能等五位一线操盘手讲透了

    后摩智能 10 月 14 日在北京举办生态合作伙伴大会,圆桌环节五位来自操作系统、应用、数据工程、整机集成和芯片领域的从业者讨论端侧 AI 如何成为一门生意。麒麟软件姚翎称涉密场景下本地安全没有商量余地,罗格数据刘学鹏认为企业要把 AI 数字员工招进内部而非放在云端。后摩智能陈仲铭表示正通过 M 系列做大算力和先进封装做大带宽,突破算力、带宽、功耗的「不可能三角」。

7月7日周二
  1. Berkeley AI Research42

    智能免费之后怎么办?面向智能体、由智能体构建的数据系统

    UC Berkeley 团队提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10,基准测试中推理价格每年下降 9x 至 900x、中位数约 50x。作者据此提出三类数据系统挑战:为智能体设计的数据系统、支撑智能体群体运行的数据系统、以及由智能体合成的数据系统。

5月8日周五
  1. Berkeley AI Research36

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队综述并行推理进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开多少并发线程以及如何协调。现有方法如 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。

3月27日周五
  1. Andrej Karpathy58

    Andrej Karpathy 回顾约一年前搭建 menugen 的经历,认为最难的不是代码本身,而是服务、支付、认证、数据库、安全、域名等一整套 DevOps 组装。

    引用Patrick Collison@patrickc

    When @karpathy built MenuGen (https://karpathy.bearblog.dev/vibe-coding-menugen/), he said: "Vibe coding menugen was exhilarating and fun escapade as a local demo, but a bit of a painful slog as a deployed, real app. Building a modern app is a bit like assembling IKEA future. There are all these services, docs, API keys, configurations, dev/prod deployments, team and security features, rate limits, pricing tiers." We've all run into this issue when building with agents: you have to scurry off to establish accounts, clicking things in the browser as though it's the antediluvian days of 2023, in order to unblock its superintelligent progress. So we decided to build Stripe Projects to help agents instantly provision services from the CLI. For example, simply run: $ stripe projects add posthog/analytics And it'll create a PostHog account, get an API key, and (as needed) set up billing. Projects is launching today as a developer preview. You can register for access (we'll make it available to everyone soon) at http://projects.dev. We're also rolling out support for many new providers over the coming weeks. (Get in touch if you'd like to make your service available.) https://projects.dev