【AI早读 0717】Inkling 975B 开源,Thinking Machines 的首个基座模型
摘要
昨天是开源大日子 - Thinking Machines 发布首个基座模型 Inkling(975B MoE,Apache 2.0),Moonshot 放出 2.8 万亿参数的 Kimi K3,Grok 4.3 首次登陆 Amazon Bedrock,Nemotron 3 Embed 登顶 RTEB。

昨天是开源的大日子。Thinking Machines Lab 发布了 Inkling,一家从 OpenAI 走出来的人马做的第一个模型,而且是一上来就开源。
Inkling:975B 的 Apache 2.0 开源模型
Thinking Machines Lab 发布了其首个全尺寸开源模型 Inkling(975B 总参数 / 41B 活跃参数),采用 Apache 2.0 许可证。模型基于 Mixture-of-Experts 架构,支持 1M token 上下文窗口,原生支持文本、图像和音频输入。
链接:Inkling: A New Open-Weight 975B MoE with a Few Surprises
Sebastian Raschka 的深度拆解揭示了一些架构上的意外设计。Inkling 在每个 decoder layer 的 key/value 投影之后以及 attention 和 MLP 分支输出处,都加入了 kernel-4 的小卷积层 - 相当于给 attention 加了一个显式的局部 token mixing 偏置。另外,它在 token embedding 层之后额外加了一层 RMSNorm,这在其他 MoE 模型里不常见。
最有趣的位置编码方案。Inkling 没有用 RoPE,而是采用了一种可学习的、输入依赖的相对位置偏置。66 个 decoder layer 中,55 个使用 512 token 的局部窗口注意力,剩下的 11 个全局层也只在前 1024 token 范围内应用位置偏置 - 超出范围的部分实际上是按 content-based 处理。这和 NoPE 的思路有相似之处。
Mira Murati 和 John Schulman 在 X 上透露,训练从去年冬天开始,1 月中旬才组建小团队做 coding、reasoning 和 agentic training 的微调。Lilian Weng 表示这是“实用的、可定制的基座模型”。
模型发布时已有 vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等平台的 day-0 支持。Inkling-Small(276B / 12B 活跃)作为轻量版本一同预览。
Kimi K3:2.8T 参数的中国新对手
Moonshot AI 发布了 Kimi K3,2.8 万亿参数,自称首个“开源 3T 级模型”。定价 $3/M 输入、$15/M 输出,是目前中国实验室发布的最贵模型,也是 DeepSeek V4 Pro 之后参数规模最大的开源模型。
链接:Kimi K3, and what we can still learn from the pelican benchmark
Simon Willison 用经典的“鹈鹕骑自行车”SVG 测试跑了一遍。模型花了 16658 个输出 token 画了一只鹈鹕,成本 25 美分。拿生成的 SVG 做 image input 让他描述,花了 0.6 美分。他说这个测试在 21 个月前开始是玩笑,但没想到一开始真的和模型质量有相关性 - 现在已经基本失效了。
Artificial Analysis 的报告显示,K3 在长程知识工作评估中达到 1547 Elo,比 K2.6 提升 732 分,仅次于 Claude Fable 5。每任务成本 $0.94,和 GPT-5.6 Sol 的 $1.04 接近,大约是 Opus 4.8 的一半。K3 的 token 使用量比 K2.6 少了 21%。模型在 Arena.ai 的前端代码竞技场上甚至超过了 Claude Fable 5。
Kimi K3 的权重承诺在 7 月 27 日之前发布。
Grok 4.3 登陆 Amazon Bedrock
xAI 的 Grok 4.3 已正式在 Amazon Bedrock 上可用,这是 xAI 首次作为 Bedrock 模型提供商入驻。模型支持 1M token 上下文窗口,提供可配置的 reasoning effort(none / low / medium / high)。
链接:Introducing Grok on Amazon Bedrock
xAI 宣称 Grok 4.3 在 Artificial Analysis Omniscience 基准上以最低幻觉率排名第一,同时在 Tau2 Telecom 工具调用基准和 Vals AI Case Law 与 Corporate Finance 文档理解基准上也拿了第一。模型运行在 Bedrock 的 Mantle 推理引擎上。
NVIDIA Nemotron 3 Embed 登顶 RTEB 排行榜
NVIDIA 发布了 Nemotron 3 Embed 系列,包含三个开源 embedding 模型。旗舰版 8B 模型登上 RTEB 多语言排行榜第一,另有 1B 标准版和 Blackwell 优化的 NVFP4 版本。
链接:NVIDIA Nemotron 3 Embed Ranks #1 Overall on RTEB
模型支持 32K 上下文窗口,覆盖 multilingual 检索和代码检索。NVIDIA 同时开放了权重、数据集和训练配方。
ChatGPT 开始接管桌面
OpenAI 发布了一则视频,展示 ChatGPT 可以完成电脑上的操作任务。视频时长较短,属于技术预告性质。
用 Bedrock AgentCore 搭建餐厅电话 AI
AWS 发布了一篇技术手册,演示如何使用 Bedrock AgentCore 和 Nova 2 Sonic 构建一个能接听餐厅电话、处理预订和点餐的 AI 前台系统。每个月每家餐厅平均漏接 150 通电话,其中 60% 是顾客想下单或订座。
链接:Building a restaurant telephony AI host with Bedrock AgentCore and Nova 2 Sonic
来源:VerySmallWoods Research Feed - 2026-07-17 UTC
相关文章
2026年7月18日
【AI早读 0718】Kimi K3 发布:2.8万亿参数开源模型登顶前端代码竞技场
昨天 AI 圈最大的新闻是 Moonshot 发布 Kimi K3 - 2.8 万亿参数的开源 frontier 模型,登顶前端代码竞技场、以 76% 胜率超过 Claude Fable 5,另有 Managed Agent 不暴露 GitHub token 的安全方案。
2026年7月21日
【AI早读 0721】开源模型竞逐前沿,长程安全浮现
过去 24 小时拼出一幅图景 - 英国 AISI 首次定量开源与闭源前沿的网络能力差距(已缩到 4-7 个月),Kimi K3 与 Qwen 3.8 Max 相继发布,OpenAI 复盘长程自主模型如何绕过沙箱、拆分令牌规避扫描器,Demis Hassabis 提出类 FINRA 的 AI 监管方案。
2026年7月20日
【AI早读 0720】Agent 评测困境与新基准 WANDR
这一周的主题是 Agent 评测到底该测什么 - 一个评测全绿的客服 Agent 被 CFO 用每成功一单的完整成本算账砍掉;Perplexity 开源研究 Agent 基准 WANDR;还有一项研究显示 AI 建议让人准确率降到三分之一、自信却翻倍。
最近一封 · Sample
HyperFrames 渲染帧率实验
“我测试了 GPU、worker 数量和帧率对 HyperFrames 渲染时间的影响。在这组 4K 讲解视频实验中,将帧率从 60fps 改为 30fps,带来的变化远大于另外两个参数。”
—— william
来信
里面装的是
- 新文章 — 写完一篇就寄一封,不攒货
- 这周读到的、看到的、好用的工具
- 正在折腾的实验,附带翻车记录
约莫 1–2 周一封 · 随时退订
合作伙伴
CompeteMap — 英国及爱尔兰学生竞赛一站式搜索
数学、编程、科学、写作等各类竞赛信息汇总,支持按年龄和科目筛选,再也不错过报名截止日。