【AI早读 0625】推理芯片 Jalapeño 问世,思考如何解锁知识边界
摘要
OpenAI 正式发布自研推理芯片 Jalapeño;Google Research 用实验解释「为什么思考能帮模型记住更多东西」;Databricks 开源 Omnigent,一个想统一各家 Agent 框架的元调度层。

今天的 AI 圈子有三件事值得认真看看:OpenAI 正式发布了自研推理芯片 Jalapeño,Google Research 用实验解释了“为什么思考能帮模型记住更多东西”,以及 Databricks 开源了 Omnigent - 一个想统一所有 Agent 框架的元调度层。这三件事放在一起看,正好勾勒出 2026 年 AI 行业在硬件、算法、系统三层上的同时演进。
OpenAI 的芯片野心:Jalapeño 的九个月奇迹
OpenAI 和 Broadcom 联合发布了 Jalapeño - OpenAI 的第一款自研推理加速器。这不是一个通用的 AI 芯片,它是从零开始为 LLM 推理设计的专用处理器。
有几个数字值得注意。从设计到 tape-out 只用了九个月,OpenAI 称这是“高性能先进半导体领域最快的 ASIC 开发周期”。加速这个过程的因素之一很有趣:OpenAI 用自家的模型来辅助芯片设计和优化 - 跑在用户身边的模型,反过来帮用户改进明年跑模型的基础设施,形成了一个正反馈循环。
初始测试显示,Jalapeño 的性能功耗比“显著优于当前最先进的方案”。芯片架构围绕减少数据移动来设计,在计算、内存和网络之间做平衡,目标是让实际利用率更接近理论峰值。量产出货计划在 2026 年底开始,配合微软的 Gigawatt 级数据中心部署。
OpenAI 描述的“全栈优势”逻辑很清晰:自己做芯片架构、内核、内存系统、网络、调度部署和产品体验,每一层朝着同一个目标优化 - 让模型更快、更可靠、更便宜。这个飞轮的启动意味着 OpenAI 在战略上已经不再只是“做模型的公司”,而是“跑模型的基础设施公司”。
链接:OpenAI and Broadcom unveil LLM-optimized inference chip
为什么思考能解锁模型的知识
Google Research 发了一篇有意思的论文,题目叫《Thinking to Recall: How Reasoning Unlocks Parametric Knowledge in LLMs》。它回答了一个反直觉的问题:问一个简单的事实性问题,模型明明不需要一步步推理,为什么打开推理模式后正确率反而更高?
实验很漂亮。研究人员用 Gemini-2.5 和 Qwen3-32B 做对照:对同一个事实性问题,开启推理 vs 关闭推理,测量 pass@k。结果一致地显示,推理模式能回答出在非推理模式下几乎“够不到”的事实。
他们发现了两个互补机制:
计算缓冲(computational buffer) - 把模型推理过程中生成的内容替换成无意义的“Let me think”重复串,模型仍然能答对更多问题。这说明多生成一些 token 本身就是在给模型额外的“计算跑道”,让它有更多前向传播来调整内部状态。
事实启动(factual priming) - 模型在推理过程中会自然地列出相关事实,比如被问到“尼泊尔第十任国王是谁”,它会先列出前九位。这些列出的事实就像语义预热,激活了模型内部的知识关联网络,最终让目标答案更容易浮现。
但这条路径有陷阱。Google 构建了大规模审计管线来检查推理过程中生成的每一个中间事实,发现只要推理链里出现一个幻觉事实,模型最终答对的概率就会显著下降。这意味着“利用推理来检索知识”是一个有效但脆弱的机制 - 它依赖中间事实的正确性,而模型恰恰在这一点上不可靠。
链接:Thinking to recall: How reasoning unlocks parametric knowledge in LLMs
Databricks 的 Omnigent:Agent 世界的统一层
Databricks 联合创始人和 Spark 之父 Matei Zaharia 最近在 Latent Space 的访谈里详细解释了 Omnigent - Databricks 刚刚开源的元调度层(meta-harness)。
为什么需要这样一层?Matei 观察到两条线在同时收敛:一是内部团队在用 Claude Code、Codex、Cursor 等各种 coding agent,高级工程师们在搭建自己的多 Agent 工作流;二是 Databricks 自己在给客户构建 Genie 等数据 Agent,遇到了和 coding agent 一模一样的问题 - 可移植性、会话历史、安全策略、花费控制、跨 Agent 协作。两条线撞在一起,结论是需要一个公共 API 层跑在所有 harness 之上。
Omnigent 做的事情就是在 Claude Code、Codex、Pi、自定义 Agent 和内部工具之上,提供一个统一的编排接口,支持持久会话、云端沙箱、共享、搜索、协作和细粒度权限策略。开源的选择背后是一个很清醒的判断:如果 Agent 基础设施成为新的操作系统,那这家公司应该做操作系统底层的那个数据库层 - 让数据在 Databricks 里,Agent 在数据上跑。
访谈里还聊到了 LTAP(Lake Transactional Analytical Processing) - Databricks 对数据库的重新思考。Reynold Xin 尖锐地评价 CDC(变更数据捕获)是“continuous data corruption”的缩写,认为真正的方向是把事务性数据直接以列式格式写入对象存储,让 Agent 能获取实时的运营上下文,而不是滞后的遥测数据。
这个底层逻辑很自洽:当前沿模型性能逐渐商品化,真正持久的优势就变成了公司特有的数据、权限、操作状态和业务逻辑。谁能让数据准备好让 Agent 消费,谁就在价值链上更靠前。
链接:Why the Frontier Ecosystem must be Open — Matei Zaharia and Reynold Xin, Databricks
关于 AI 行业的一个提醒
Alberto Romero 在《The State of AI, 2026》里做了一个冷水澡式的提醒。OpenAI 和 Anthropic 的年化收入曲线非常漂亮 - 两者占据了 AI 初创公司收入的 90% 左右 - 但 Romero 警告这可能只是“蜜月期收入”(honeymoon revenue)。The Information 报道客户正在削减 OpenAI 和 Anthropic 的账单,微软取消了内部的 Claude Code 授权,Uber 在四月就用完了全年的 AI token 预算。
问题的核心不是技术潜力不够大,而是“它到底能不能用”这个基础问题还没有令人满意的答案。GPT-5.5 可以解决令数学家困惑数十年的猜想,但会在一个孩子的游戏上卡住。模型的 jagged intelligence 让企业在决策是否大规模投入时左右为难。
Romero 用铁路的比喻来对比:没人会问“火车能工作吗”,因为火车当然能工作。但 AI 最困难的问题恰恰就是那个最基础的问题 - “它能工作吗?”回答这个问题需要的不是更高的 mountain,而是填平所有的 valley。
来源:VerySmallWoods Research Feed - 2026-06-25 UTC
相关文章
2026年6月12日
【AI早读0612】OpenAI收购Ona为Codex构建持久化Agent执行环境
今天的主线是 AI Agent 正在走向“生产级”:OpenAI 收购 Ona,给 Codex 补上持久化云端执行 —— 电脑离线后 Agent 仍能在企业自有云里接着跑。Google Cloud 用 TEE 推出 Confidential AI 保护推理数据;Anthropic 发布企业订阅 Claude Corps 并联合 DXC 进入受监管行业;AWS 开源 Agent-EvalKit 系统化评估 Agent 全执行链路;再加 DeepMind“模型察觉被评估反而表现更差”的研究与多 Agent 安全投资。
2026年7月9日
【AI早读 0709】智能体评估困局与工程化新思路
OpenAI 发表 audit 报告《Separating signal from noise in coding evaluations》,把业界常用的编程评测集 SWE-Bench Pro 翻箱倒柜查了一遍,结论有点尴尬 - 大约 30% 的题目是坏的。围绕智能体评估,harness 工程化成了新的关注点。
2026年7月1日
【AI早读 0701】Claude Sonnet 5 发布,引领 Agentic 模型新浪潮
Anthropic 放出 Claude Sonnet 5,是 Sonnet 线史上最大的跨代升级;Google 推出 Nano Banana 2 Lite 和 Gemini Omni Flash;微软发布 SkillOpt 研究;Vercel 一口气更新容器注册表、Dockerfile 支持和 Agent 功能。
最近一封 · Sample
【AI早读 0709】智能体评估困局与工程化新思路
“OpenAI 发表 audit 报告《Separating signal from noise in coding evaluations》,把业界常用的编程评测集 SWE-Bench Pro 翻箱倒柜查了一遍,结论有点尴尬 - 大约 30% 的题目是坏的。围绕智能体评估,harness 工程化成了新的关注点。”
—— william
来信
里面装的是
- 新文章 — 写完一篇就寄一封,不攒货
- 这周读到的、看到的、好用的工具
- 正在折腾的实验,附带翻车记录
约莫 1–2 周一封 · 随时退订
合作伙伴
CompeteMap — 英国及爱尔兰学生竞赛一站式搜索
数学、编程、科学、写作等各类竞赛信息汇总,支持按年龄和科目筛选,再也不错过报名截止日。