OpenAI 如何为 ChatGPT 构建兼顾用户信任与相关性的广告技术栈
OpenAI 详解 ChatGPT 的广告技术栈:由 LLM 驱动理解对话意图,并将广告与回答内容分离,从而在大规模下投放相关广告。该方案以用户信任与相关性为核心设计目标。
OpenAI 详解 ChatGPT 的广告技术栈:由 LLM 驱动理解对话意图,并将广告与回答内容分离,从而在大规模下投放相关广告。该方案以用户信任与相关性为核心设计目标。
AWS 在 vLLM 中实现双向 KV 传输,让 decode 节点在后续轮次把已计算的 KV 块回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 实例的 1P1D 部署上,该功能使 Qwen3-32B 的 TTFT 最多降低 1.6 倍、zai-org/GLM-5-FP8 最多降低 3.3 倍。
vLLM 新增 push 模式的 NIXL connector,把 prefill 后的传输协调与建立过程移出首 token 关键路径。在 AWS EC2 P5en 1P1D 部署、EFA 互联的测试中,Qwen3-32B 的 TTFT 最高改善 3 倍,TPOT 最高改善 30%。该功能先在 AWS Trainium 集群验证,再作为与加速器无关的特性贡献给 vLLM。
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转写等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,按评估时实例价格计算,每美元处理的音频量比原有算力方案高 11%–70%。
AWS 博客演示用 AtScale 作为语义层、配合 Amazon Bedrock AgentCore 托管 Strands 智能体,构建 Customer 360 分析模式。
该教程演示如何用 Strategy Mosaic 作为语义层,在 Amazon Redshift 与 Amazon Aurora 上以两个链接模型建模 C360 域,无需 ETL。
本文演示如何用 Denodo Platform 作为语义层,通过 Denodo MCP Server 向托管在 Amazon Bedrock AgentCore 上的智能体暴露受治理视图,并联合查询 Amazon Aurora、Amazon Redshift 与本地 PostgreSQL 构建 Customer 360 视图。
Eon 基于 Amazon Bedrock AgentCore 的 MCP Gateway 搭建了统一的多云调查入口,用单一认证网关替代逐工具凭证和本地 MCP 进程,让开发者和自主智能体统一访问 AWS、GCP、Azure 三朵云上的调查工具。
i14 与 AWS 团队用 TorchNeuron Native 原生 PyTorch 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,保留 GLA 架构与 Muon 优化器。
AWS 展示用 Amazon Quick 作为交互界面、Amazon Bedrock AgentCore 作为智能层,通过 MCP 服务器把 ERP、监控、采购等系统串成可组合工具层,让供应链管理者用自然语言跨系统提问。
在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 做多语言推理微调,基座模型在 50 例测试中仅 22% 用目标语言推理(法语、西班牙语、意大利语均为 0%)。
Octave 在 Amazon Bedrock 上为质量管理平台 Reliance 构建了多租户 AI 基础平台,用 Cohere Embed v4 完成 20 亿份文档的嵌入,并将单用例部署时间缩短 50%。该平台以每租户独立向量存储、AgentCore Gateway 隔离执行和 Guardrails 双向过滤三层架构,确保客户数据不跨租户边界。首个落地应用为投诉摘要与分诊助手。
AWS 介绍 Agent Registry 的运行时工具发现方案,让编排器不再把工具硬编码进智能体,而是按请求检索已批准的 MCP 服务器和 A2A 智能体记录。
GitHub 博客采访了 Vlad Mihalcea、Patrick Baumgartner 和 Frank Delporte 三位 Java Champion,分享他们在生产与开源项目中使用 GitHub Copilot 的具体做法。
AWS 与 Keyfactor 联合发布参考架构,用 Keyfactor EJBCA 的 X.509 PKI 为 AI 智能体建立可验证、可撤销的加密身份。
GitHub Copilot 应用中的会话可直接在 VS Code 中打开并继续,对话、代码改动和工作上下文均保持不变。VS Code 会以该会话关联的 worktree 打开项目,并在 Copilot 侧边栏显示原会话,便于逐行审查 diff、手动编辑、本地运行测试,最后提交并推送到会话对应的 pull request。
Benefit Street Partners 的 Anant Kumar 借助 Codex 进行代码审查并加快后续跟进,从而更快回答客户问题。他用 Codex 构建了用于比较贷款估值和分析信贷协议的工具。
GitHub 用微调的 ModernBERT 分类器替换原有 LLM 流水线来识别通用密钥,用户接受率提升 11.5%,推送后扫描中位执行时间缩短 86%,服务成本降低超 98%。该方案先用正则高召回生成候选,再由分类器结合文件路径、变量名和上下文判断是否为真实凭据,并已把通用密钥检测扩展到推送保护阶段。
GitHub Copilot 新手指南介绍了四种让 Copilot 适配项目的方式:用 .github/copilot-instructions.md 定义仓库级约定。
GitHub 博客提出开发者应对 AI 工作流的三项技能:学会指挥 AI 智能体而非只使用工具,用第二个模型审查 AI 输出,并把省下的实现时间投入判断与决策。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明其用第二个模型审查计划、代码和测试。
GitHub Copilot 应用中的 canvas 是一种用户与智能体共享的可定制界面,可以是看板、问题分诊板、发布清单或仪表盘,双方都能实时修改。创建时只需打开智能体会话,输入 /create-canvas 技能并用自然语言描述要支持的工作流、用户可做的操作和智能体可做的操作,智能体就会生成界面并显示在右侧面板。