跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

11 条精选近 30 天 11 条共收录 117 条

更新

部署工程的精选

10月21日周三第 1–11 条
  1. OpenAI News62

    OpenAI 模型将上线 Google Cloud 的 Gemini Model Garden

    OpenAI 与 Google Cloud 宣布,OpenAI 的前沿模型和 Codex 工作流将接入 Gemini 的 Model Garden,并通过 Google Cloud Marketplace 提供。原文未披露具体模型版本、上线时间和定价。

    推荐理由:OpenAI 模型与 Codex 工作流接入 Google Cloud 的 Gemini Model Garden,读者可了解企业采购与部署路径的变化。

  2. NVIDIA Blog62

    英伟达 GTC Berlin 2026:黄仁勋发布 DSX POD 与 OpenShell 智能体安全架构

    英伟达 CEO 黄仁勋在 GTC Berlin 2026 主题演讲中发布 DSX POD 参考设计,将 Vera Rubin AI 工厂装入模块化集装箱,现场部署时间可从六个月缩短至 14 天。

    推荐理由:黄仁勋在 GTC Berlin 集中发布 DSX POD、OpenShell 安全智能体架构与 Agent 知识层,可据此观察英伟达如何把智能体纳入自家全栈基础设施。

  3. Latent Space88

    DeepSeek 开源生产推理栈 DeepInfer,披露单集群 155T tokens/天与单卡每小时 38 美元收入

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。

    推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。

  4. 钛媒体72

    DeepSeek推理框架对等支持华为、英伟达芯片,意味着什么?

    钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。

    推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。

  5. Rohan Paul85

    SpaceX 在 Q3 2026 财报电话会上披露,向 Anthropic、Google 等客户出租算力的 Super Intelligence 业务收入 76 亿美元,接近上季度 25.6 亿美元的 3 倍,超过 Starlink 的 52 亿美元成为最大收入来源,其中 6.08 亿美元来自新收购的 Cursor。

    引用SpaceX@SpaceX

    Watch live as SpaceX discusses our Q3 2026 earnings at 3:30pm CT today → https://x.com/i/broadcasts/1PKqrNbLZbPGb

    推荐理由:SpaceX 财报电话会显示 AI 算力业务已成其最大收入来源,读者可据此了解算力租赁的规模与资本开支节奏。

10月20日周二
10月16日周五
  1. Microsoft Research60

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并输出可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同类最快的 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。

    推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与密码学假设之间同时取得进展。

10月8日周四
  1. Microsoft Research66

    微软研究院开源 Agent Lightning v1.0:约 3500 行的轻量 Agentic RL 框架

    微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。

    推荐理由:微软研究院开源约 3500 行的 Agent RL 框架,用真实 harness 参与训练,并给出 6000 样本提升 14.6 个点的完整流程。