#推理

一次抓取背后：Token经济学如何计量算力、模型与语料

截至2026年6月，我国日均词元调用量已突破500万亿，Token正成为连接模型服务、推理算力与数据供给的计量接口。DeepSeek自8月起探索峰谷时段定价，9月10日调整Flash系列价格，闲时每百万词元缓存命中输入价0.02元。无问芯穹跨集群异构推理架构在特定测试中首词元等待时间降低51.5%、单词元成本降低37.5%。

自适应并行推理：高效推理扩展的下一个范式

伯克利 AI 研究团队综述并行推理进展，重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开多少并发线程以及如何协调。现有方法如 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定，而非模型自主选择。

Andrej Karpathy@karpathy· 23:56AI 评分2020

Andrej Karpathy 用 LLM 花 4 小时打磨自己的博客论证，觉得极具说服力；随后让 LLM 论证相反观点，结果 LLM 彻底推翻原论证并说服他反面才是对的。他指出 LLM 被问时会给出观点，但极擅长朝几乎任何方向论证，可作为形成个人观点的工具，但要多问不同方向并警惕谄媚。