返回博客2026年7月17日2 分钟阅读

【AI早读 0717】Inkling 975B 开源,Thinking Machines 的首个基座模型

摘要

昨天是开源大日子 - Thinking Machines 发布首个基座模型 Inkling(975B MoE,Apache 2.0),Moonshot 放出 2.8 万亿参数的 Kimi K3,xAI 的 Grok 4.3 首次登陆 Amazon Bedrock,NVIDIA Nemotron 3 Embed 登顶 RTEB 排行榜,ChatGPT 也开始接管桌面操作。

AI 早读 0717 封面

昨天是开源的大日子。Thinking Machines Lab 发布了 Inkling,一家从 OpenAI 走出来的人马做的第一个模型,而且是一上来就开源。

Inkling:975B 的 Apache 2.0 开源模型

Thinking Machines Lab 发布了其首个全尺寸开源模型 Inkling(975B 总参数 / 41B 活跃参数),采用 Apache 2.0 许可证。模型基于 Mixture-of-Experts 架构,支持 1M token 上下文窗口,原生支持文本、图像和音频输入。

链接:Inkling: A New Open-Weight 975B MoE with a Few Surprises

Sebastian Raschka 的深度拆解揭示了一些架构上的意外设计。Inkling 在每个 decoder layer 的 key/value 投影之后以及 attention 和 MLP 分支输出处,都加入了 kernel-4 的小卷积层 - 相当于给 attention 加了一个显式的局部 token mixing 偏置。另外,它在 token embedding 层之后额外加了一层 RMSNorm,这在其他 MoE 模型里不常见。

最有趣的位置编码方案。Inkling 没有用 RoPE,而是采用了一种可学习的、输入依赖的相对位置偏置。66 个 decoder layer 中,55 个使用 512 token 的局部窗口注意力,剩下的 11 个全局层也只在前 1024 token 范围内应用位置偏置 - 超出范围的部分实际上是按 content-based 处理。这和 NoPE 的思路有相似之处。

Mira Murati 和 John Schulman 在 X 上透露,训练从去年冬天开始,1 月中旬才组建小团队做 coding、reasoning 和 agentic training 的微调。Lilian Weng 表示这是“实用的、可定制的基座模型”。

模型发布时已有 vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等平台的 day-0 支持。Inkling-Small(276B / 12B 活跃)作为轻量版本一同预览。

Kimi K3:2.8T 参数的中国新对手

Moonshot AI 发布了 Kimi K3,2.8 万亿参数,自称首个“开源 3T 级模型”。定价 $3/M 输入、$15/M 输出,是目前中国实验室发布的最贵模型,也是 DeepSeek V4 Pro 之后参数规模最大的开源模型。

链接:Kimi K3, and what we can still learn from the pelican benchmark

Simon Willison 用经典的“鹈鹕骑自行车”SVG 测试跑了一遍。模型花了 16658 个输出 token 画了一只鹈鹕,成本 25 美分。拿生成的 SVG 做 image input 让他描述,花了 0.6 美分。他说这个测试在 21 个月前开始是玩笑,但没想到一开始真的和模型质量有相关性 - 现在已经基本失效了。

Artificial Analysis 的报告显示,K3 在长程知识工作评估中达到 1547 Elo,比 K2.6 提升 732 分,仅次于 Claude Fable 5。每任务成本 $0.94,和 GPT-5.6 Sol 的 $1.04 接近,大约是 Opus 4.8 的一半。K3 的 token 使用量比 K2.6 少了 21%。模型在 Arena.ai 的前端代码竞技场上甚至超过了 Claude Fable 5。

Kimi K3 的权重承诺在 7 月 27 日之前发布。

Grok 4.3 登陆 Amazon Bedrock

xAI 的 Grok 4.3 已正式在 Amazon Bedrock 上可用,这是 xAI 首次作为 Bedrock 模型提供商入驻。模型支持 1M token 上下文窗口,提供可配置的 reasoning effort(none / low / medium / high)。

链接:Introducing Grok on Amazon Bedrock

xAI 宣称 Grok 4.3 在 Artificial Analysis Omniscience 基准上以最低幻觉率排名第一,同时在 Tau2 Telecom 工具调用基准和 Vals AI Case Law 与 Corporate Finance 文档理解基准上也拿了第一。模型运行在 Bedrock 的 Mantle 推理引擎上。

NVIDIA Nemotron 3 Embed 登顶 RTEB 排行榜

NVIDIA 发布了 Nemotron 3 Embed 系列,包含三个开源 embedding 模型。旗舰版 8B 模型登上 RTEB 多语言排行榜第一,另有 1B 标准版和 Blackwell 优化的 NVFP4 版本。

链接:NVIDIA Nemotron 3 Embed Ranks #1 Overall on RTEB

模型支持 32K 上下文窗口,覆盖 multilingual 检索和代码检索。NVIDIA 同时开放了权重、数据集和训练配方。

ChatGPT 开始接管桌面

OpenAI 发布了一则视频,展示 ChatGPT 可以完成电脑上的操作任务。视频时长较短,属于技术预告性质。

用 Bedrock AgentCore 搭建餐厅电话 AI

AWS 发布了一篇技术手册,演示如何使用 Bedrock AgentCore 和 Nova 2 Sonic 构建一个能接听餐厅电话、处理预订和点餐的 AI 前台系统。每个月每家餐厅平均漏接 150 通电话,其中 60% 是顾客想下单或订座。

链接:Building a restaurant telephony AI host with Bedrock AgentCore and Nova 2 Sonic


来源:VerySmallWoods Research Feed - 2026-07-17 UTC

相关文章

2026年7月13日

【AI早读 0713】语义盲点、Agent 评估与 AI 前沿

AI Engineer 频道集中发了一批高质量 talk - Phaidra 的 50 万传感器让 LLM 陷入语义盲点、微软 Pablo Castro 谈 AI 知识系统的检索与理解之别、Alignment Forum 上让模型通过独立推理形成道德判断的训练流程,还有 eBay 给每个 PR 打分的 ReviewDebt 框架。主线是从让 AI 跑起来转向让 AI 可靠地跑起来。

2026年7月12日

【AI早读 0712】自动化评估能替代人工判断吗

Hamel Husain 和 Antaripa Saha 拿 100 条真实生产 trace、39 个已知失败,横评了 Braintrust、Arize、LangSmith 三个评估平台和 Claude Code、Codex、Factory Droid 三个通用 coding agent - 成绩各有高低,但所有系统都漏掉了同一类 failure,引出 criteria drift 与人在回路的评估方法。

最近一封 · Sample

【AI早读 0716】GPT-Red自改进与AI Agent全面进化

今天的主轴是 AI 开始自己改进自己 - OpenAI 用自博弈训练出红队模型 GPT-Red,把 GPT-5.6 的 prompt injection 失败率降到四个月前的六分之一;AWS 把 Computer Vision、Strands Agents 和 MCP 串成 Agentic Vision 管线,Codex Micro 与 Computer-Use 2.0 把 Agent 推向多线并行,Tomasz Tunguz 则抛出「Harness 才是新战场」。

—— william

Letters

来信

里面装的是

  • 新文章 — 写完一篇就寄一封,不攒货
  • 这周读到的、看到的、好用的工具
  • 正在折腾的实验,附带翻车记录

约莫 1–2 周一封 · 随时退订

合作伙伴

CompeteMap — 英国及爱尔兰学生竞赛一站式搜索

数学、编程、科学、写作等各类竞赛信息汇总,支持按年龄和科目筛选,再也不错过报名截止日。

准备开始了吗?

先简单说明目标,我会给出最合适的沟通方式。