【AI早读 0717】Inkling 975B 开源,Thinking Machines 的首个基座模型
摘要
昨天是开源大日子 - Thinking Machines 发布首个基座模型 Inkling(975B MoE,Apache 2.0),Moonshot 放出 2.8 万亿参数的 Kimi K3,xAI 的 Grok 4.3 首次登陆 Amazon Bedrock,NVIDIA Nemotron 3 Embed 登顶 RTEB 排行榜,ChatGPT 也开始接管桌面操作。

昨天是开源的大日子。Thinking Machines Lab 发布了 Inkling,一家从 OpenAI 走出来的人马做的第一个模型,而且是一上来就开源。
Inkling:975B 的 Apache 2.0 开源模型
Thinking Machines Lab 发布了其首个全尺寸开源模型 Inkling(975B 总参数 / 41B 活跃参数),采用 Apache 2.0 许可证。模型基于 Mixture-of-Experts 架构,支持 1M token 上下文窗口,原生支持文本、图像和音频输入。
链接:Inkling: A New Open-Weight 975B MoE with a Few Surprises
Sebastian Raschka 的深度拆解揭示了一些架构上的意外设计。Inkling 在每个 decoder layer 的 key/value 投影之后以及 attention 和 MLP 分支输出处,都加入了 kernel-4 的小卷积层 - 相当于给 attention 加了一个显式的局部 token mixing 偏置。另外,它在 token embedding 层之后额外加了一层 RMSNorm,这在其他 MoE 模型里不常见。
最有趣的位置编码方案。Inkling 没有用 RoPE,而是采用了一种可学习的、输入依赖的相对位置偏置。66 个 decoder layer 中,55 个使用 512 token 的局部窗口注意力,剩下的 11 个全局层也只在前 1024 token 范围内应用位置偏置 - 超出范围的部分实际上是按 content-based 处理。这和 NoPE 的思路有相似之处。
Mira Murati 和 John Schulman 在 X 上透露,训练从去年冬天开始,1 月中旬才组建小团队做 coding、reasoning 和 agentic training 的微调。Lilian Weng 表示这是“实用的、可定制的基座模型”。
模型发布时已有 vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等平台的 day-0 支持。Inkling-Small(276B / 12B 活跃)作为轻量版本一同预览。
Kimi K3:2.8T 参数的中国新对手
Moonshot AI 发布了 Kimi K3,2.8 万亿参数,自称首个“开源 3T 级模型”。定价 $3/M 输入、$15/M 输出,是目前中国实验室发布的最贵模型,也是 DeepSeek V4 Pro 之后参数规模最大的开源模型。
链接:Kimi K3, and what we can still learn from the pelican benchmark
Simon Willison 用经典的“鹈鹕骑自行车”SVG 测试跑了一遍。模型花了 16658 个输出 token 画了一只鹈鹕,成本 25 美分。拿生成的 SVG 做 image input 让他描述,花了 0.6 美分。他说这个测试在 21 个月前开始是玩笑,但没想到一开始真的和模型质量有相关性 - 现在已经基本失效了。
Artificial Analysis 的报告显示,K3 在长程知识工作评估中达到 1547 Elo,比 K2.6 提升 732 分,仅次于 Claude Fable 5。每任务成本 $0.94,和 GPT-5.6 Sol 的 $1.04 接近,大约是 Opus 4.8 的一半。K3 的 token 使用量比 K2.6 少了 21%。模型在 Arena.ai 的前端代码竞技场上甚至超过了 Claude Fable 5。
Kimi K3 的权重承诺在 7 月 27 日之前发布。
Grok 4.3 登陆 Amazon Bedrock
xAI 的 Grok 4.3 已正式在 Amazon Bedrock 上可用,这是 xAI 首次作为 Bedrock 模型提供商入驻。模型支持 1M token 上下文窗口,提供可配置的 reasoning effort(none / low / medium / high)。
链接:Introducing Grok on Amazon Bedrock
xAI 宣称 Grok 4.3 在 Artificial Analysis Omniscience 基准上以最低幻觉率排名第一,同时在 Tau2 Telecom 工具调用基准和 Vals AI Case Law 与 Corporate Finance 文档理解基准上也拿了第一。模型运行在 Bedrock 的 Mantle 推理引擎上。
NVIDIA Nemotron 3 Embed 登顶 RTEB 排行榜
NVIDIA 发布了 Nemotron 3 Embed 系列,包含三个开源 embedding 模型。旗舰版 8B 模型登上 RTEB 多语言排行榜第一,另有 1B 标准版和 Blackwell 优化的 NVFP4 版本。
链接:NVIDIA Nemotron 3 Embed Ranks #1 Overall on RTEB
模型支持 32K 上下文窗口,覆盖 multilingual 检索和代码检索。NVIDIA 同时开放了权重、数据集和训练配方。
ChatGPT 开始接管桌面
OpenAI 发布了一则视频,展示 ChatGPT 可以完成电脑上的操作任务。视频时长较短,属于技术预告性质。
用 Bedrock AgentCore 搭建餐厅电话 AI
AWS 发布了一篇技术手册,演示如何使用 Bedrock AgentCore 和 Nova 2 Sonic 构建一个能接听餐厅电话、处理预订和点餐的 AI 前台系统。每个月每家餐厅平均漏接 150 通电话,其中 60% 是顾客想下单或订座。
链接:Building a restaurant telephony AI host with Bedrock AgentCore and Nova 2 Sonic
来源:VerySmallWoods Research Feed - 2026-07-17 UTC
相关文章
2026年7月14日
【AI早读 0714】GPT-5.6 登陆 Bedrock,开源模型在生产端占比逼近三成
7 月 13 日 AI 圈的关键词是生产级基础设施 - OpenAI 的 GPT-5.6 全系登陆 Amazon Bedrock,Vercel 的 7 月 AI Gateway 生产指数揭示开源模型 token 占比逼近三成,AWS 拿出多租户代理的 OBO 身份方案,Google Cloud 开源 k8s-aibom 补上 AI 供应链安全的空白。
2026年7月13日
【AI早读 0713】语义盲点、Agent 评估与 AI 前沿
AI Engineer 频道集中发了一批高质量 talk - Phaidra 的 50 万传感器让 LLM 陷入语义盲点、微软 Pablo Castro 谈 AI 知识系统的检索与理解之别、Alignment Forum 上让模型通过独立推理形成道德判断的训练流程,还有 eBay 给每个 PR 打分的 ReviewDebt 框架。主线是从让 AI 跑起来转向让 AI 可靠地跑起来。
2026年7月12日
【AI早读 0712】自动化评估能替代人工判断吗
Hamel Husain 和 Antaripa Saha 拿 100 条真实生产 trace、39 个已知失败,横评了 Braintrust、Arize、LangSmith 三个评估平台和 Claude Code、Codex、Factory Droid 三个通用 coding agent - 成绩各有高低,但所有系统都漏掉了同一类 failure,引出 criteria drift 与人在回路的评估方法。
最近一封 · Sample
【AI早读 0716】GPT-Red自改进与AI Agent全面进化
“今天的主轴是 AI 开始自己改进自己 - OpenAI 用自博弈训练出红队模型 GPT-Red,把 GPT-5.6 的 prompt injection 失败率降到四个月前的六分之一;AWS 把 Computer Vision、Strands Agents 和 MCP 串成 Agentic Vision 管线,Codex Micro 与 Computer-Use 2.0 把 Agent 推向多线并行,Tomasz Tunguz 则抛出「Harness 才是新战场」。”
—— william
来信
里面装的是
- 新文章 — 写完一篇就寄一封,不攒货
- 这周读到的、看到的、好用的工具
- 正在折腾的实验,附带翻车记录
约莫 1–2 周一封 · 随时退订
合作伙伴
CompeteMap — 英国及爱尔兰学生竞赛一站式搜索
数学、编程、科学、写作等各类竞赛信息汇总,支持按年龄和科目筛选,再也不错过报名截止日。