跳到正文
今天10月22日周四4 条
  1. elvis42

    告别上下文工程,迎来缓存工程。 玩笑归玩笑,这篇论文对这个问题采取了一种有趣的思路。

    引用DAIR.AI@dair_ai

    We love papers that go deeper down the stack. This is a good example that shifts from agentic context engineering to agentic cache engineering. They also apply recursive self-improvement to cache policies to further reduce cost by 7.1% over expert design. Specifically, this work focuses on KV cache management in long-running agents. When an agent summarizes or trims its history, the prefix change invalidates the cache after it, and the retained context must be prefilled again. Cache engineering gives the agent two operations on its own KV cache. One removes entries from future attention, and the other shifts the positions of the keys that remain. The trajectory text stays unchanged. This essentially provides a programmable interface for agents to define and refine their own cache engineering strategies. A rolling drop of old tool responses scores 1.7 points higher and costs 27.7% less than threshold-triggered summarization. Their AKV serving engine adds up to 1.2x throughput and 1.5x faster P95 latency. https://arxiv.org/abs/2610.28577 Chat with Paper: https://academy.dair.ai/papers/cache-engineering-for-agents-2610.28577

10月21日周三
  1. OpenAI News62

    OpenAI 模型将上线 Google Cloud 的 Gemini Model Garden

    OpenAI 与 Google Cloud 宣布,OpenAI 的前沿模型和 Codex 工作流将接入 Gemini 的 Model Garden,并通过 Google Cloud Marketplace 提供。原文未披露具体模型版本、上线时间和定价。

    推荐理由:OpenAI 模型与 Codex 工作流接入 Google Cloud 的 Gemini Model Garden,读者可了解企业采购与部署路径的变化。

  2. 雷锋网18

    MAXHUB 发布新一代专业视讯终端与分体式会议方案

    MAXHUB 在 10 月 21 日北京媒体品鉴会上发布新一代专业视讯终端、面向不同会议空间的分体式方案和全向麦产品。新终端配备 16 阵列天籁阵列麦克风、2.2 声道 50W 扩音和 2 亿像素四摄三焦段方案,XBar 系列面向既有显示设备升级,BM61 全向麦支持 3D 空间拾音与无线级联。相关产品支持国密算法、专网部署和国产化适配,并获等保三级认证。

  3. 钛媒体58

    美团无人车转向支线运输,无人配送赛道融资升温

    钛媒体授权发布的文章复盘美团无人车业务调整,认为其从复杂末端配送收缩,转向与大型物流企业合作的支线运输和远距离同城配送。文章提到10月20日新石器完成E轮近4亿美元融资,并援引内部人士估算,一辆4.2米货车购置成本约10万至15万元,而司机月薪7000元至10000元,人力支出是长期运营的大头。

  4. NVIDIA Blog62

    英伟达 GTC Berlin 2026:黄仁勋发布 DSX POD 与 OpenShell 智能体安全架构

    英伟达 CEO 黄仁勋在 GTC Berlin 2026 主题演讲中发布 DSX POD 参考设计,将 Vera Rubin AI 工厂装入模块化集装箱,现场部署时间可从六个月缩短至 14 天。

    推荐理由:黄仁勋在 GTC Berlin 集中发布 DSX POD、OpenShell 安全智能体架构与 Agent 知识层,可据此观察英伟达如何把智能体纳入自家全栈基础设施。

  5. NVIDIA Blog50

    NVIDIA 欧洲云合作伙伴扩展:主权、开放、面向安全 AI 智能体

    NVIDIA 欧洲云合作伙伴正扩展区域算力,用于模型训练与推理,并支持智能体和物理 AI 应用。Nscale 测试显示,NVIDIA DSX MaxLPS 在同等供电预算下多部署 37% 的 GPU、聚合推理吞吐提升近 50%。Nebius 采用 NVIDIA Groq 3 LPX 搭配 Spectrum-X 以太网,为延迟敏感应用和智能体系统加速 token 生成。

  6. 雷锋网35

    一次抓取背后:Token经济学如何计量算力、模型与语料

    截至2026年6月,我国日均词元调用量已突破500万亿,Token正成为连接模型服务、推理算力与数据供给的计量接口。DeepSeek自8月起探索峰谷时段定价,9月10日调整Flash系列价格,闲时每百万词元缓存命中输入价0.02元。无问芯穹跨集群异构推理架构在特定测试中首词元等待时间降低51.5%、单词元成本降低37.5%。

  7. 雷锋网42

    真机实干、产训一体:为什么实景实训平台是具身智能的下一座基础设施

    实景实训平台把机器人训练搬进真实工位,让采集、标注、训练与失败样本回流连成数据流水线。信通院报告显示,截至2026年6月底全国已建成启用超70家具身智能训练场,另有46家在建或规划中;上汽通用与智元联合研发的“能仔1号”已在别克至境E7电池量产线累计完成近8万件工件作业,开动率稳定在98%。

  8. 少数派42

    Vitals:比「活动监视器」更直观的 macOS 系统监控工具,支持 MCP 接入 AI 助手

    Vitals 是一款面向 macOS 的系统监控应用,把 CPU、内存、GPU、磁盘、网络、电池等指标汇总到单一窗口,并按 App 归并进程资源占用。它提供 MCP 服务,支持 Claude、Claude Code、Codex、Cursor 等 AI 助手读取系统数据进行分析。应用采用一次性买断,官网现价 9 美元,常规价格 39 美元。

  9. Latent Space88

    DeepSeek 开源生产推理栈 DeepInfer,披露单集群 155T tokens/天与单卡每小时 38 美元收入

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。

    推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。

  10. 钛媒体72

    DeepSeek推理框架对等支持华为、英伟达芯片,意味着什么?

    钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。

    推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。

  11. 少数派22

    Tim Cook 探访蓝盒子:Mac 如何支撑 300 人家居企业的本地 AI 与设备管理

    Tim Cook 上周四走访上海床垫家居品牌蓝盒子,了解其以 Mac 和 iPad 支撑设计、内容制作与线下试睡服务的用法。蓝盒子用一台 64GB 内存 Mac mini 本地部署 35B 参数千问模型,员工以自然语言转 SQL 查询销售、库存等数据,已投用约一个月,部分查询从一两天缩短到几分钟。新员工开机联网即可零接触部署,从拆封到开工约 12 分钟。

  12. AWS Machine Learning Blog50

    TwelveLabs Pegasus 1.5 在 Amazon Bedrock 上线

    TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 上线,可将长视频转为带时间戳的结构化 JSON 元数据。相比 Pegasus 1.2,单次请求可分析视频时长从 1 小时提升至 2 小时,并新增视频分段、参考图多模态提示和免预索引的即时处理。