OpenAI 最新模型将登陆 Google Cloud 与 Antigravity
据 Ars Technica 报道,Google Cloud 将在未来几周内上线 GPT 6.1 Astra、Sol 和 Luna。
据 Ars Technica 报道,Google Cloud 将在未来几周内上线 GPT 6.1 Astra、Sol 和 Luna。
我们构建 ChatGPT 的广告系统,以响应不断演变的对话,同时确保回答保持独立。 以下是 LLM 编排器、检索、排序和竞价工具如何协同工作。
告别上下文工程,迎来缓存工程。 玩笑归玩笑,这篇论文对这个问题采取了一种有趣的思路。
We love papers that go deeper down the stack. This is a good example that shifts from agentic context engineering to agentic cache engineering. They also apply recursive self-improvement to cache policies to further reduce cost by 7.1% over expert design. Specifically, this work focuses on KV cache management in long-running agents. When an agent summarizes or trims its history, the prefix change invalidates the cache after it, and the retained context must be prefilled again. Cache engineering gives the agent two operations on its own KV cache. One removes entries from future attention, and the other shifts the positions of the keys that remain. The trajectory text stays unchanged. This essentially provides a programmable interface for agents to define and refine their own cache engineering strategies. A rolling drop of old tool responses scores 1.7 points higher and costs 27.7% less than threshold-triggered summarization. Their AKV serving engine adds up to 1.2x throughput and 1.5x faster P95 latency. https://arxiv.org/abs/2610.28577 Chat with Paper: https://academy.dair.ai/papers/cache-engineering-for-agents-2610.28577
Google Cloud 从 10 月 21 日起成为唯一同时提供 Gemini、Claude 和 OpenAI 模型的大型云平台,首批上线 GPT-6 Astra、GPT-6.1 Sol 和 GPT-6 Luna 三款 OpenAI 模型。
推荐理由:Google Cloud 同时上架 Gemini、Claude 与 OpenAI 模型,读者可据此观察云厂商与自家模型团队的资源张力。
英伟达CEO黄仁勋在GTC柏林大会主题演讲中介绍DSX Pods模块化数据中心方案,称可将数据中心部署时间从数月缩短到数天。他表示推迟三个月可能带来高达100亿美元的收入损失,戴尔、联想和施耐德电气等为合作伙伴。原文为巴伦付费文章节选,全文需订阅阅读。
Mistral 与 NVIDIA 宣布合作,用 AI 加速工程仿真和工业产品设计,将 Mistral Large 4 与 Mistral 的物理 AI 同 NVIDIA 的 CUDA-X、Warp 软件库及 Omniverse 3D 仿真结合,目标是把设计、仿真与 AI 训练串成一条连续工作流,面向航空航天、汽车和半导体等行业。
Inception 发布扩散语言模型 Mercury 3,称其在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5,运行速度快 4 到 8 倍。
OpenAI 详解 ChatGPT 的广告技术栈:由 LLM 驱动理解对话意图,并将广告与回答内容分离,从而在大规模下投放相关广告。该方案以用户信任与相关性为核心设计目标。
Nvidia 在 GTC Berlin 发布 DSX POD,这是围绕 Vera Rubin 系统构建的模块化数据中心参考设计,由 Dell、HPE、Lenovo、Schneider Electric 等合作伙伴在工厂内完成计算、网络、布线、供电和液冷安装与测试,现场只需接入电力、冷却和网络。
作者用 Claude Mods 定制 Claude Code 的工作流,并解释 mod 是运行在 Claude Code 内的 TypeScript 或 JavaScript 插件,可响应提示词、工具调用和界面渲染等事件,修改渲染或接管默认行为。
爱范儿 APPSO 用 21499 元的 iPhone Duo 搭配 86749 元的 Mac Studio,搭建了一套手机远程指挥本地 Agent 的工作流,并专门做了适配折叠屏三种形态的 App。
同一件事,精选收录的是《OpenAI 模型将上线 Google Cloud 的 Gemini Model Garden》
Google Cloud 将于下月向所有客户开放基于 Vera Rubin 的 A5X 实例。伦敦广告集团 WPP 的早期测试中,此前需要多台服务器集群的 AI 智能体负载在单台 A5X 实例上运行。
OpenAI 与 Google Cloud 宣布,OpenAI 的前沿模型和 Codex 工作流将接入 Gemini 的 Model Garden,并通过 Google Cloud Marketplace 提供。原文未披露具体模型版本、上线时间和定价。
推荐理由:OpenAI 模型与 Codex 工作流接入 Google Cloud 的 Gemini Model Garden,读者可了解企业采购与部署路径的变化。
MAXHUB 在 10 月 21 日北京媒体品鉴会上发布新一代专业视讯终端、面向不同会议空间的分体式方案和全向麦产品。新终端配备 16 阵列天籁阵列麦克风、2.2 声道 50W 扩音和 2 亿像素四摄三焦段方案,XBar 系列面向既有显示设备升级,BM61 全向麦支持 3D 空间拾音与无线级联。相关产品支持国密算法、专网部署和国产化适配,并获等保三级认证。
钛媒体授权发布的文章复盘美团无人车业务调整,认为其从复杂末端配送收缩,转向与大型物流企业合作的支线运输和远距离同城配送。文章提到10月20日新石器完成E轮近4亿美元融资,并援引内部人士估算,一辆4.2米货车购置成本约10万至15万元,而司机月薪7000元至10000元,人力支出是长期运营的大头。
DeepSeek 发布的开源推理包把华为昇腾处理器与 Nvidia 当前数据中心 GPU 列为同一支持层级的构建目标,同一项目树可同时面向两者,切换工作负载更接近改配置而非分叉技术栈。
Nebius、Nscale 和 Verda 等 AI 云厂商正基于 NVIDIA Vera CPU 构建本地基础设施,以支撑智能体计算带来的数据处理与软件执行需求。
英伟达 CEO 黄仁勋在 GTC Berlin 2026 主题演讲中发布 DSX POD 参考设计,将 Vera Rubin AI 工厂装入模块化集装箱,现场部署时间可从六个月缩短至 14 天。
推荐理由:黄仁勋在 GTC Berlin 集中发布 DSX POD、OpenShell 安全智能体架构与 Agent 知识层,可据此观察英伟达如何把智能体纳入自家全栈基础设施。
NVIDIA 扩展开源 Agent Toolkit,新增 Agent Knowledge Foundation、Nemotron Retriever 与 Kumo 系列开放模型、OpenShell 安全运行时和 NemoClaw 蓝图。
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方裸金属基础设施上运行敏感负载时仍掌控模型与数据。
NVIDIA cuDSS 正式 GA,这一 CUDA-X 库把工程与科学仿真中反复出现的大规模稀疏系统求解迁移到 GPU 上。Applied Materials 在 Ginestra 中实现最高 10x 加速,Dassault Systèmes 的 Abaqus 报告 8-10x 加速,ZEISS SMT 用 COMSOL 完成 EUV 光刻等离子体仿真基准测试提速 4x。
NVIDIA 的 Factory Operations Blueprint(FOX)已在 GitHub 开放早期访问,开发者可构建常驻工厂管理智能体及视觉检测、根因分析等专用智能体。
NVIDIA 欧洲云合作伙伴正扩展区域算力,用于模型训练与推理,并支持智能体和物理 AI 应用。Nscale 测试显示,NVIDIA DSX MaxLPS 在同等供电预算下多部署 37% 的 GPU、聚合推理吞吐提升近 50%。Nebius 采用 NVIDIA Groq 3 LPX 搭配 Spectrum-X 以太网,为延迟敏感应用和智能体系统加速 token 生成。
Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用,A5X 实例将于下月开放,并计划扩展至欧洲。
推荐理由:Google Cloud 与 NVIDIA 公布 A5X 实例的可用时间与欧洲扩展计划,读者可据此判断大规模强化学习负载的部署节奏。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线产品并公布多项更新:上周发布的 RTX Spark 面向 Windows PC 运行个人智能体,DGX Spark 64GB 于 10 月 23 日由合作伙伴开售,DGX Station 的 Windows 版本预计 12 月推出。
截至2026年6月,我国日均词元调用量已突破500万亿,Token正成为连接模型服务、推理算力与数据供给的计量接口。DeepSeek自8月起探索峰谷时段定价,9月10日调整Flash系列价格,闲时每百万词元缓存命中输入价0.02元。无问芯穹跨集群异构推理架构在特定测试中首词元等待时间降低51.5%、单词元成本降低37.5%。
实景实训平台把机器人训练搬进真实工位,让采集、标注、训练与失败样本回流连成数据流水线。信通院报告显示,截至2026年6月底全国已建成启用超70家具身智能训练场,另有46家在建或规划中;上汽通用与智元联合研发的“能仔1号”已在别克至境E7电池量产线累计完成近8万件工件作业,开动率稳定在98%。
奇瑞在 2026 全球创新大会上发布自研「紫微」芯片系列,其中 C100 单颗算力 1200TOPS、双颗整车 NPU 算力 2400TOPS、内存带宽 600GB/s,计划 2027 年推出。
Vitals 是一款面向 macOS 的系统监控应用,把 CPU、内存、GPU、磁盘、网络、电池等指标汇总到单一窗口,并按 App 归并进程资源占用。它提供 MCP 服务,支持 Claude、Claude Code、Codex、Cursor 等 AI 助手读取系统数据进行分析。应用采用一次性买断,官网现价 9 美元,常规价格 39 美元。
Tenex 联合创始人 Alex Lieberman 与 CJ Hess 在 AIE New York 介绍公司如何把按产出付费的模式扩展到工程组织,目前团队已增至 75 人,客户覆盖财富 2000 强与中型企业。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。
推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。
钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。
推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。
Tim Cook 上周四走访上海床垫家居品牌蓝盒子,了解其以 Mac 和 iPad 支撑设计、内容制作与线下试睡服务的用法。蓝盒子用一台 64GB 内存 Mac mini 本地部署 35B 参数千问模型,员工以自然语言转 SQL 查询销售、库存等数据,已投用约一个月,部分查询从一两天缩短到几分钟。新员工开机联网即可零接触部署,从拆封到开工约 12 分钟。
AWS 在 vLLM 中实现双向 KV 传输,让 decode 节点在后续轮次把已计算的 KV 块回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 实例的 1P1D 部署上,该功能使 Qwen3-32B 的 TTFT 最多降低 1.6 倍、zai-org/GLM-5-FP8 最多降低 3.3 倍。
vLLM 新增 push 模式的 NIXL connector,把 prefill 后的传输协调与建立过程移出首 token 关键路径。在 AWS EC2 P5en 1P1D 部署、EFA 互联的测试中,Qwen3-32B 的 TTFT 最高改善 3 倍,TPOT 最高改善 30%。该功能先在 AWS Trainium 集群验证,再作为与加速器无关的特性贡献给 vLLM。
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转写等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,按评估时实例价格计算,每美元处理的音频量比原有算力方案高 11%–70%。
TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 上线,可将长视频转为带时间戳的结构化 JSON 元数据。相比 Pegasus 1.2,单次请求可分析视频时长从 1 小时提升至 2 小时,并新增视频分段、参考图多模态提示和免预索引的即时处理。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超 100 个模型,覆盖 30 家提供商。阿里 Qwen 贡献 29 个模型,NVIDIA 17 个,Mistral 7 个,Google 6 个 Gemma 4 变体,IBM 和 Cohere 各 4 个。新增模型重点覆盖多模态、量化与紧凑模型以及图像视频生成能力。