Thinking Machines Lab 发布 Inkling 2 Small：594B 参数 MoE 模型，下周开放 Apache 2.0 权重

今天我们推出第二代模型 Inkling 2 Small。它是一款混合专家模型，总参数 594B，激活参数 17B，支持图像输入和可变推理强度。

在 Artificial Analysis 智能指数上，Inkling 2 Small 得分 31，远超我们此前各代模型，体现出在智能体编程、视觉、知识工作和推理方面的提升。能力增长来自训练流程每个环节的改进，包括更高效的预训练和一次大规模统一强化学习。

Inkling 2 Small 初期将通过 Tinker 提供，权重闭源，遵循我们在开放权重的安全路径中提出的做法。我们计划在完成外部安全测试和红队评估后，于下周以 Apache 2.0 许可证开放完整权重。

今天你就可以在 Tinker Playground 上试用 Inkling 2 Small。该模型也可在 Tinker 上微调和采样；随着 Inkling 2 Small 权重发布，检查点将可供下载。

能力

Inkling 2 Small 在各方面都比第一代更强，尤其是在长时程自主工作方面。

Inkling 2 Small 的视觉和智能体能力让它能利用视觉反馈，反复构建和完善带交互元素的网站、游戏和 3D 设计。

Inkling 2 Small 使用 Three.js 构建了一个完整的城市模拟器，没有任何预制素材，每栋建筑、每张贴图和每辆车都由程序生成，用户可以从一条路开始发展一座有生命的城市，同时管理电力、预算和突发事件。

一个用 Python 从零编写的 PC 模拟器。它能启动真实的 Linux 内核，并提供网页界面，在浏览器中启动一个实时实例。

普通纸上手绘的山谷，纸鹤落在 Inkling 上。用 Inkling 2 Small 在 Blender 中生成；后经修改改进了水面和烟囱。

根据地图生成的户型图漫游。

智能体编程与自动研究

Inkling 2 Small 通过强化学习训练，覆盖数十万个长时程编程任务，涉及多种智能体框架和上下文压缩策略。我们提升了合成编程数据管线的质量，不再只依赖单元测试奖励；许多任务配有智能体强化学习评分器，评估模型如何着手解决问题，而不只是代码是否通过。我们还在 OpenCode 上以 Fledge-Alpha 之名测试了 Inkling 2 Small 的早期检查点，以评估模型在真实世界编程任务中的表现。

结果是，这个模型编程更强，在真实智能体循环中也更易用。相比 Inkling，Inkling 2 Small 的可用性有所提升：它更好地遵循指令，审慎考虑改动，并主动验证自己的工作。

编程与自动研究	Inkling 2 Small	GLM-5.3-Flash	DeepSeek-V4.1-Flash-1017	Muse Spark Open	Kimi K3
FrontierCode v2.0	25.4%（该行报告的第二高分）	14.2%	28.5%（该行报告的最高分）	7.6%	17.3%
DeepSWE v1.1	72.1%（该行报告的第二高分）	63.4%	77.0%（该行报告的最高分）	60.0%	68.5%
SWEBench Pro v2（Hard）	86.3%（该行报告的第二高分）	–	–	82.4%	88.2%（该行报告的最高分）
Vibe Code Bench v1.1	81.6%	30.8%	87.7%（该行报告的最高分）	76.2%	85.0%（该行报告的第二高分）
PostTrainBench v1.2	31.9%（该行报告的第二高分）	36.8%（该行报告的最高分）	30.5%	–	31.5%
Terminal Bench Science v0.1	5.7%	4.8%	12.9%（该行报告的最高分）	1.9%	8.1%（该行报告的第二高分）

内核优化（PMPP-Hard）

69 个任务 · 四次独立尝试 · 10 小时预算

View full results

PMPP-Hard 结果
模型	AUC（任务·小时）	平均解出数 / 69	Pass@4 / 69
GPT-6 Astra	616.39	63	63
Kimi K3.1 Pro	583.86	60.5	63
Claude Opus 5.5	499.65	60	64
DeepSeek V4.1 Flash	497.36	55.25	62
Inkling 2 Small	494.27	54.25	64
Mistral Large 4	478.39	50.25	61
Kimi K3	453.58	55.75	66
GLM 5.3	430.96	52.5	61
GLM 5.2	389.12	42	61

各行按 AUC 排序：AUC 是 0–10 小时内平均曲线下的面积，最大值为 690 任务·小时。

每个模型均使用其可用的最高推理设置、PI harness 和统一的压缩策略。我们纳入了评估期间发现的任务与评分问题的修复。每个提交的解决方案都要经过两次独立的 LLM 审核，出现分歧时由第三次评审裁定。

PMPP-Hard 是一个外部 GPU 内核优化基准，此处经过调整以支持一致的跨模型评估。曲线显示四次独立尝试的平均值；图例数值为 10 小时时平均解出的任务数。

除了常规软件任务，Inkling 2 Small 还接受了长时程自主研究任务的训练，包括智能体式 GPU 内核优化，以及自主后训练模型等机器学习任务，且均在一系列 GPU 架构上运行。

内核自主研究初步结果

DeepSeek-V3.2 稀疏注意力，前向 + 反向

DeepSeek 稀疏注意力让每个查询只关注由轻量索引器选出的前 k 个较早 token，因此长上下文成本不再随上下文长度的平方增长。从公开的 TileLang 内核出发，在保持误差接近原版（严格容差）的前提下让训练内核更快，且不设时间限制。该基准覆盖不同场景下的多种模型规模，从打包的预训练序列到长上下文训练。公开的 TileLang 基线并未针对 B300 调优，因此这些工作负载上仍有充足空间来衡量各模型的优化能力和毅力。加速比仅针对这些内核本身，而非端到端训练。

为展示其端到端自主研究表现，我们在一个基于内部基准构建的任务 Proximal 上测试了 Inkling 2 Small。Inkling 2 Small 在 Tinker 上自主训练 Qwen3.5-4B，用于预测天气、维基百科页面浏览量等多种时间序列。它先分析任务并编写自己的评估器，尝试不同的训练数据集和配方，试验多种 SFT 和 RL 方法，同时边做边调试。经过 4.5 小时的工作和 426 美元的 Tinker 花费，训练后的模型预测得分提高了一倍以上。

我们要让 Qwen/Qwen3.5-4B 预测时间序列。模型会拿到一个窗口，也就是某条序列最近一段历史，以文本形式输入，然后写出后续各步的数值。每个窗口会采样多次。它预测结果的中位数应当接近实际发生的情况，而预测的离散程度应当与真实的不确定性相匹配。[...] 用 Tinker 训练 Qwen/Qwen3.5-4B 的 LoRA。[...] 你有 12 小时时间和 500 美元的 Tinker 预算。

Bashls /app /data && cat /data/README.md

/app： examples.jsonl forecast …（另有 25 行）

Bashtinker-usage 2>&1 | head -20; echo ---; tinker-usage --prices 2>&1 | head -40

已用 0 小时 0 分，共 12 小时（剩余 11 小时 59 分）

现在来看看 Tinker 的采样是怎么工作的：

~/tinkerbench/time-series-forecasting/本次运行已进行 0 小时 00 分

在其评估样例上的预测Qwen3.5-4B（基座）

电力

美国西南电网 · 需求

风电与光伏

纽约电网 · 风电

空气质量

温尼伯 · PM2.5

页面浏览量

维基百科 · “Valhalla”

观测值模型预测

"Less error" is compared with simply copying the last values forward.

评估分数（误差比直接复制低多少）100 个样例

运行过程中的评估分数：基座 19%，SFT 1 25%，SFT 2 27%，RL 23%，SFT 4 29%。在未见数据上：基座 10%，SFT 4 23%。

$0.00Tinker 花费，共 $500

数据来源：美国能源信息管理局（EIA-930）；天气与空气质量数据来自 Open-Meteo.com（CC BY 4.0），包含经修改的 Copernicus 气候变化服务与 Copernicus 大气监测服务 2026 年信息；维基百科页面浏览量（CC0）。

开始。Inkling 2 Small 阅读任务和给定的原始数据，涵盖来自五个来源的多年逐小时和逐日历史：电力需求、风电与光伏、天气、空气质量以及维基百科页面浏览量。

视觉理解与创作

Inkling 2 Small 使用基于 Perception Encoder 的 292M 参数视觉编码器处理图像输入Bolya et al., 2025。。我们采用 20×20 像素的图像块，配合 2×2 空间池化，并将图像块与文本 token 交错排列。该模型在多个类别上展现出强大的视觉能力，包括 OCR、定位、信息图理解和视觉推理。

视觉推理与创作	Inkling 2 Small	GLM-5.3-Flash	DeepSeek-V4.1-Flash-1017	Muse Spark Open	Kimi K3
GDP.pdf	25.2%（该行已报告的最高分）	15.4%	17.2%	18.6%	22.0%（该行已报告的第二高分）
MMMU Pro（Standard 10）	81.6%（该行已报告的最高分）	79.0%	80.6%	80.9%（该行已报告的第二高分）	80.5%
PerceptionBench	64.7%（该行已报告的最高分）	–	47.7%	–	58.5%（该行已报告的第二高分）
Humanity’s Sixth Sense	33.3%（该行已报告的最高分）	26.8%	30.1%（该行已报告的第二高分）	29.6%	25.5%
ScreenSpot Pro原始 / 配合 Python	83.8/91.5%（该行已报告的最高分）	–	–	–	73.8/83.2%（该行已报告的第二高分）
BabyVision原始 / 配合 Python	68.6/93.7%（该行最高报告分数）	53.4/82.6%（该行第二高报告分数）	–/92.5%	44.3/80.2%	53.4/85.7%（该行第二高报告分数）
Charxiv RQ原始 / 配合 Python	85.6/87.7%（该行最高报告分数）	80.2/89.4%	77.0/85.6%	85.4/88.7%（该行第二高报告分数）	84.8/91.3%
Chartography原始 / 配合 Python	36.7/80.4%（该行最高报告分数）	16.3/78.0%	17.9/83.0%	35.7/63.2%（该行第二高报告分数）	26.6/68.1%
Code Arena (WebDev)	1653	1607	1665（该行最高报告分数）	–	1656（该行第二高报告分数）
AA-3D	1021（该行最高报告分数）	937	–	–	982（该行第二高报告分数）
Code2Video-AA	1020（该行第二高报告分数）	975	–	–	1041（该行最高报告分数）

该模型在推理过程中引入视觉能力，用来解读并验证自己生成的视觉编码输出。待权重发布后，它将成为 DesignArena 上排名第一的开源权重模型。

DesignArena 网站得分

DesignArena 网站排行榜。分数来自 11 月 5 日的排行榜快照；蓝色柱条代表 Inkling 2 Small。对比范围包括排名前十的模型以及另外三个开源权重模型。柱状图起点为 1,100，而非零。在 DesignArena 上查看。

我们甚至在一场品酒活动中让 Inkling 2 Small 与几位研究员同场竞技。它仅凭视觉就胜过了他们，在 20 次试验中有 19 次仅凭一张照片正确识别出三款葡萄酒。

Three glasses of red wine on a restaurant table, in the left-to-right order used in the model response. — 品酒照片，按模型看到的样子呈现，以及模型的回答。

智能体式知识工作

Inkling 2 Small 在真实职业环境中加速知识工作。它能熟练查找信息、通过 MCP 调用工具，并产出高质量交付物。在端到端知识工作基准 AA-Briefcase 上，这些能力综合起来得到 1527 的 ELO 分数。

知识工作与企业运营	Inkling 2 Small	GLM-5.3-Flash	Muse Spark Open	DeepSeek-V4.1-Flash-1017	Kimi K3
AA-Briefcase v1.1	1527（该行报告的第二高分）	1451	1279	1570（该行报告的最高分）	1497
GDPVal-AA v2.1	1630	1649（该行报告的第二高分）	1401	1746（该行报告的最高分）	1543
JobBench	70.5%（该行报告的最高分）	60.7%	61.8%（该行报告的第二高分）	–	54.3%
Vals Legal Index	73.9%（该行报告的最高分）	71.1%	68.5%	71.9%（该行报告的第二高分）	71.7%
EnterpriseBench-CoreCraft	71.8%（该行报告的最高分）	46.7%（该行报告的第二高分）	–	–	43.1%

Inkling 2 Small 在金融以及针对电子表格、申报文件和文档的定量推理方面尤其强。在开放权重模型中，Inkling 2 Small 在 AA-AnalystAgent 和 Dayjob:Finance 上排名第一，在 Vals Finance Index 和 DiligenceBench 上排名第二。

金融工作	Inkling 2 Small	GLM-5.3-Flash	Muse Spark Open	DeepSeek-V4.1-Flash-1017	Kimi K3
Vals Finance Index	61.5%（该行报告的最高分）	55.8%	53.0%	60.9%（该行报告的第二高分）	58.0%
Diligence Bench最佳测试框架	58.1%（该行报告的第二高分）	–	59.0%（该行报告的最高分）	50.4%	–
DAYJOB（金融）	14.3%（该行报告的最高分）	7.3%	–	12.5%（该行报告的第二高分）	5.5%
Apex-Accounting v1.1pass@1	14.5%（该行报告的最高分）	12.3%	13.8%（该行报告的第二高分）	12.5%	9.5%

可定制性

有些模型对微调的响应更好，这与其开箱即用的表现无关。我们希望 Inkling 2 Small 能成为一个强大的基础模型，便于定制。

在多种后训练场景下（我们根据客户用例精心设计），用相同的数据和算法训练时，Inkling 2 Small 比我们此前的模型学得更快、提升更多。例如，在一个公开的金融文档摘要任务上，Inkling 2 Small 与 Inkling Small 起点分数相近且都较低，但前者适应很快，仅用 75 个训练步就达到了 Inkling Small 的最终表现，并最终大幅领先。

评估模型的微调能力

ECTSum 留出集评分奖励随训练步数的变化，横轴为 symlog 刻度。Inkling 2 Small、Inkling-Small 和 Inkling：三次随机种子运行的平均值，未显示不确定性区间。GLM 5.3 Flash、DeepSeek V4.1 Flash 1017 和 Qwen 3.5 397B：单次运行，以无区间的灰色实线表示。图中展示第 0 步至第 200 步的检查点；横轴在第 25 步之前为线性，之后为对数刻度。绘制的奖励值四舍五入到四位小数：Inkling 2 Small：第 0 步，奖励 0.3308；第 25 步，奖励 0.4260；第 50 步，奖励 0.6008；第 75 步，奖励 0.8347；第 100 步，奖励 0.8662；第 125 步，奖励 0.8905；第 150 步，奖励 0.9022；第 175 步，奖励 0.9105；第 200 步，奖励 0.9400。Inkling-Small：第 0 步，奖励 0.2959；第 25 步，奖励 0.3242；第 50 步，奖励 0.3896；第 75 步，奖励 0.4533；第 100 步，奖励 0.5464；第 125 步，奖励 0.6453；第 150 步，奖励 0.7076；第 175 步，奖励 0.7477；第 200 步，奖励 0.7924。Inkling：第 0 步，奖励 0.3098；第 25 步，奖励 0.3473；第 50 步，奖励 0.4363；第 75 步，奖励 0.5994；第 100 步，奖励 0.7077；第 125 步，奖励 0.7635；第 150 步，奖励 0.7785；第 175 步，奖励 0.8103；第 200 步，奖励 0.8202。GLM 5.3 Flash：第 0 步，奖励 0.3285；第 25 步，奖励 0.4323；第 50 步，奖励 0.5960；第 75 步，奖励 0.7279；第 100 步，奖励 0.7336；第 125 步，奖励 0.7872；第 150 步，奖励 0.7906；第 175 步，奖励 0.8079；第 200 步，奖励 0.8310。DeepSeek V4.1 Flash 1017：第 0 步，奖励 0.3053；第 25 步，奖励 0.4932；第 50 步，奖励 0.5598；第 75 步，奖励 0.7144；第 100 步，奖励 0.7897；第 125 步，奖励 0.7893；第 150 步，奖励 0.7723；第 175 步，奖励 0.8285；第 200 步，奖励 0.8457。Qwen 3.5 397B：第 0 步，奖励 0.2572；第 25 步，奖励 0.3493；第 50 步，奖励 0.4197；第 75 步，奖励 0.5624；第 100 步，奖励 0.6080；第 125 步，奖励 0.6814；第 150 步，奖励 0.6910；第 175 步，奖励 0.6152；第 200 步，奖励 0.7338。

ECTSum 留出集评分标准奖励与预估的 rollout 采样及训练成本（美元）对比图，横轴为 symlog 坐标，250 美元以内为线性、之后转为对数，覆盖至 RL 第 200 步。对比模型包括 Inkling 2 Small、Inkling-Small、Inkling、GLM 5.3 Flash、DeepSeek V4.1 Flash 1017 和 Qwen 3.5 397B。假设提示词缓存命中率为 96.875%，并非实测用量或实际账单支出。Inkling 各点为三个随机种子的检查点均值，未标注不确定区间。其余三个模型均为单次运行，用灰色实线表示，无区间带。图中奖励值保留四位小数，成本精确到美分：Inkling 2 Small：$0.00，奖励 0.3308；$255.78，奖励 0.4260；$490.72，奖励 0.6008；$712.73，奖励 0.8347；$961.52，奖励 0.8662；$1,216.90，奖励 0.8905；$1,443.46，奖励 0.9022；$1,680.28，奖励 0.9105；$1,916.20，奖励 0.9400。Inkling-Small：$0.00，奖励 0.2959；$273.53，奖励 0.3242；$574.17，奖励 0.3896；$848.30，奖励 0.4533；$1,102.15，奖励 0.5464；$1,396.68，奖励 0.6453；$1,652.69，奖励 0.7076；$1,925.09，奖励 0.7477；$2,206.01，奖励 0.7924。Inkling：$0.00，奖励 0.3098；$885.28，奖励 0.3473；$1,756.22，奖励 0.4363；$2,600.98，奖励 0.5994；$3,369.48，奖励 0.7077；$4,250.08，奖励 0.7635；$5,075.56，奖励 0.7785；$5,859.02，奖励 0.8103；$6,695.94，奖励 0.8202。GLM 5.3 Flash：$0.00，奖励 0.3285；$321.98，奖励 0.4323；$687.83，奖励 0.5960；$1,094.00，奖励 0.7279；$1,482.11，奖励 0.7336；$1,906.80，奖励 0.7872；$2,302.96，奖励 0.7906；$2,701.59，奖励 0.8079；$3,140.35，奖励 0.8310。DeepSeek V4.1 Flash 1017：$0.00，奖励 0.3053；$372.16，奖励 0.4932；$767.76，奖励 0.5598；$1,091.41，奖励 0.7144；$1,430.09，奖励 0.7897；$1,936.96，奖励 0.7893；$2,293.45，奖励 0.7723；$2,651.91，奖励 0.8285；$3,057.17，奖励 0.8457。Qwen 3.5 397B：$0.00，奖励 0.2572；$1,128.13，奖励 0.3493；$2,086.98，奖励 0.4197；$3,123.11，奖励 0.5624；$4,138.93，奖励 0.6080；$5,237.54，奖励 0.6814；$6,454.57，奖励 0.6910；$7,742.11，奖励 0.6152；$8,904.39，奖励 0.7338。

在强化学习微调场景下，Inkling 2 Small 的学习速度比我们此前的模型更快，最终性能也更高，与同规模的其他开源模型相比颇具竞争力。我们用公开的财报电话会议数据构建了一项投资分析任务，由专家进行评判，这与客户使用 tinker 训练定制模型时所涉及的金融分析工作负载类似。为确保比较公平，我们对每个模型都做了学习率扫描；所有模型均在 Tinker 上训练，使用 Tinker Cookbook 抽象，采用我们的异步 RL 实现和 Stable Reinforce 损失函数，训练 200 步。Inkling 系列模型的结果为 3 个随机种子的平均值，其他模型为单次运行。成本按采样与训练 token 数乘以当前 tinker 每 token 定价估算；采样部分假设同一组内 rollout 之间存在前缀缓存命中。

推理、知识与认知

Inkling 2 Small 在具有挑战性的 STEM 问题、指令遵循、有无网络搜索的信息检索以及预测任务上训练。在 RL 过程中，我们对预测任务使用适当的评分规则，对部分问答任务使用对不确定性敏感的奖励。这让模型学会评估不确定性、表达恰当的置信度，并做出校准良好的预测。

长上下文推理与事实性	Inkling 2 Small	GLM-5.3-Flash	Muse Spark Open	Mistral Large 4	Kimi K3
HLE-Diamond	28.7%（本行最高报告得分）	18.2%	26.3%	17.3%	26.9%（本行第二高报告得分）
CritPt v2完整 / 困难	55.7/35.0%（本行最高报告得分）	–/24.5%	52.6/29.5%（本行第二高报告得分）	50.3/27.0%	–/40.5%
AA-LCR v1.1	83.3%（本行第二高报告得分）	80.0%	78.3%	–	88.7%（本行最高报告得分）
LongBench v2	70.6%（本行最高报告得分）	68.2%	68.7%	65.7%	69.0%（本行第二高报告得分）
AA-Omniscience v1.1得分 / 非幻觉率	16.1/73.3（本行第二高报告得分）	0.7/–	25.8/72.0（本行最高报告得分）	5.1/71.8	–

安全与对齐

我们对 Inkling 2 Small 的安全工作围绕两个问题展开：模型对普通用户的表现如何，以及面对恶意行为者移除防护措施时，模型的抵御能力有多强。Inkling 的权重发布仍在等待我们与合作伙伴的进一步安全评估。

为评估滥用风险，我们训练了一个内部仅助益变体。我们让该模型和发布检查点都接受了一整套更广泛的评估，外部测试者也比以往任何一次发布都多。

在化学、生物、放射性及核（CBRN）风险方面，Inkling 2 Small 的知识与能力得分低于开放权重前沿水平。在 FORTRESS 上——这是 Scale AI 的私有基准，用于评估模型在 CBRN、恐怖主义和非暴力犯罪领域面对专家撰写的对抗性提示词时提供有害协助的程度——Inkling 2 Small 的平均风险得分低于 Inkling 和 Inkling-Small，同时过度拒答得分更高（见局限性）。与发布检查点相比，Inkling 2 Small 的仅助益变体在 CBRN 知识上仅有边际提升，但在我们测量的任何维度上都未显著推进前沿。

在攻击性与两用智能体网络基准上，Inkling 2 Small 相比 Inkling Small 有大幅提升，但仍落后于开放权重前沿。在 Vals CyberBench v1.1 和 PatchEval 上，它与开放权重前沿持平，这两项基准都衡量发现并修补安全漏洞的能力。

安全	Inkling 2 Small	GLM-5.3-Flash	DeepSeek V4.1 Flash	Muse Spark Open	GLM 5.3
FORTRESS (ARS) ↓	16.2（本行第二佳报告结果）	26.7	27.2	7.6（本行最佳报告结果）	28.2
FORTRESS (ORS) ↓	20.4	3.6（本行第二佳报告结果）	6.9	16.0	3.2（本行最佳报告结果）
DistressBench ↑	82.0*（本行第二佳报告结果）	72.7	79.8	87.7（本行最佳报告结果）	72.5
StrongREJECT ↑	97.8（本行第二佳报告结果）	96.8	98.7（本行最佳报告结果）	97.6	97.2
PatchEval ↑	79.6（本行第二佳报告结果）	74.8	80.4（本行已报告的最佳结果）	77.8	69.6
Vals CyberBench ↑	72.7（本行已报告的第二佳结果）	67.9	73.7（本行已报告的最佳结果）	–	72.1

DeepSeek 综合了所提供的 Flash 结果：FORTRESS 和 PatchEval 采用 1017，DistressBench、StrongREJECT 和 Vals CyberBench 采用未标注版本的 Flash。

* 尽管我们能较好地处理心理困扰情境，但在正常的情绪支持类查询中，模型有时会过度反应，给出免责声明，这一点在“局限性”部分已有提及。

随着模型承担无人监督、时间跨度更长的自主工作，其不当行为可能造成的危害也在上升。如果不对对齐问题给予足够重视，以能力为导向的强化学习可能促使模型不惜一切代价追求成功。在任务难度较高时，Inkling 2 Small 的早期检查点会执着于尝试成功——在某些情况下甚至伪造结果、无视指令、隐瞒自己的所作所为。

我们从整个训练流程入手改进模型对齐。在中期训练阶段，我们过滤掉包含不当行为的轨迹，并加入体现诚实、对齐行为的轨迹。在强化学习阶段，我们增加了一项通用的对齐奖励，对每项任务中的不当行为进行惩罚。我们还构建了针对训练中观察到的特定失败模式的环境，例如对模型在不可能完成的任务上放弃给予奖励。最后，我们采用了在策略自蒸馏Zhao et al., 2026。，从以行为规范为提示词的教师模型中蒸馏，使模型无需显式提示即可内化良好行为的原则。

我们通过内部和外部评估来衡量进展，发现 Inkling 2 Small 在内部和外部评估上均较此前的 Inkling 模型有大幅提升，并在我们的内部评估中优于一组同类的开放权重模型。

Inkling + 开放权重						闭源权重
对齐	Inkling 2 Small	Inkling	Inkling Small	Muse Spark Open	GLM-5.3-Flash	DeepSeek V4.1 Flash	GPT-6.1 Sol
不当行为（内部）↓	14.9（本行已报告的第二佳结果）	66.8	75.2	82.4	57.1	68.0	0.8（本行已报告的最佳结果）
隐蔽不当行为（内部）↓	11.8（本行已报告的第二佳结果）	59.4	59.1	60.8	29.2	37.6	0.8（本行已报告的最佳结果）
破坏性行为（内部）↓	4.7（本行已报告的最佳结果）	71.9	67.2	7.8	25.8	10.9	7.0（本行已报告的第二佳结果）
HoneyBench v0.2-alpha：奖励黑客（Goodhart Labs）↓	44（本行已报告的最佳结果）	70	69	–	–	–	59（本行已报告的第二佳结果）
无目标的隐蔽行动（Apollo Research）↓	8（本行已报告的最佳结果）	37	36（本行已报告的第二佳结果）	–	–	–	–
有目标的隐蔽行动（Apollo Research）↓	0（本行已报告的最佳结果）	7	4（本行已报告的第二佳结果）	–	–	–	–

在我们的对齐评估中，Inkling 2 Small 仍落后于闭源权重模型，例如 GPT-6.1 Sol。缩小这一差距是未来模型的重点工作。

我们还通过两层监控来保障训练和评估的安全。第一层是同步监控：监控器在工具调用执行前先做检查。每个任务都会声明自己授权哪些操作，确定性规则会对照任务策略和规避模式检查这些调用，遇到不确定的情况就升级交给 LLM 裁判处理。第二层是异步监控：LLM 裁判会审查训练和评估中已完成的 rollout，检查是否存在不当行为以及越过安全边界的操作，发现问题就发出警报，由我们分诊并升级进入事件处理流程。两层合在一起，构成了一套纵深防御的安全与对齐方案，我们认为这对打造安全的模型工厂至关重要。

训练 Inkling 2 Small

Inkling 2 Small 的初始预训练阶段（H1）覆盖了 8.4 万亿 token，混合了自然语言、代码和图像数据。该阶段在 NVIDIA GB300 NVL72 机架上运行了 68 小时，从而实现了高专家并行度。训练原生采用 NVFP4，这是随 NVIDIA Blackwell GPU 架构引入的 4 位浮点格式。我们很快会在后续文章中分享更多关于 NVFP4 配方的细节。

内部代码

截止 2026-06 · 每字节比特数（越低越好）

在我们主要的留出评估中，Inkling 2 Small 显著优于其他开放权重模型。请注意，部分模型被标记为“base-recovered”。对于只能拿到后训练检查点的模型，我们先在预训练格式的代码和文档数据集上做微调，再计算对数损失。我们已在其他能拿到真实基准（即实际基础模型）的模型上验证过，这一流程基本能还原基础模型的损失。

在初始阶段之后，我们进行了第二阶段（H2）：使用 3.8 万亿 token 质量更高、模型此前未见过的新数据，上下文长度为 512K。第三和第四阶段则混入了部署格式的数据。第三阶段约 3200 亿 token，包含 1M 上下文下的推理与智能体轨迹，并混入重放的预训练数据。第四阶段（H4）只保留质量最高的数据：约 340 亿 token 的智能体轨迹。H3 和 H4 的混合数据主要来自早期模型（包括 Kimi K3 和我们自己的模型）采样的轨迹，并按正确性和对齐性做了筛选。

随后我们进行了一次联合强化学习运行，共 1,075 步，9 天内完成超过 1700 万次 rollout。详见下表。这次单一联合运行与上一版 Inkling 不同——当时我们分别运行推理和智能体强化学习，再用多教师蒸馏把它们合并起来。

主强化学习运行的规模
指标	规模
算力	超过 4 × 10²³ FLOPs
GPU	2,048
时长	9 天
Rollout	1700 万+
Token	3T+

任务组合涵盖真实代码仓库中的软件工程、终端任务、文档创作、STEM 问答、视觉、Web 应用构建、与模拟用户进行的工具调用，以及安全。每类任务都有各自的评分器：

大多数编程任务采用隐藏单元测试和程序化检查；
文档和工具调用由基于评分标准的 LLM 评审打分；
STEM 与视觉问答使用参考答案；
Web 应用则用成对奖励模型比较渲染后的截图。

强化学习训练任务组合
类别	Rollout 次数	Token 数
编程	38.5%	65.0%
办公与知识工作	9.1%	13.3%
STEM 与推理	7.0%	7.6%
Web 与应用构建	4.7%	7.2%
视觉	13.9%	3.0%
工具调用与通用智能体	17.1%	2.3%
搜索	2.0%	1.4%
聊天、安全与认知论	7.8%	0.2%

我们随机采样并设定一个努力程度，同时在奖励函数中加入长度惩罚，从而训练模型在速度与周全程度之间做权衡。

我们采用异步强化学习，并使用了分数中心化的变体——Tinker 中的 StableReinforce 目标函数，它能容忍较明显的陈旧度。本次训练混合了短时程和长时程任务，总 rollout token 数的 p50/p99 分别为 43k 和 1.5M，时长的 p50/p99 分别为 8 分钟和 4 小时。我们使用 256k 上下文长度，并针对长时程任务启用了压缩训练。结果是，训练奖励和评测表现都随算力呈对数线性增长。

训练奖励

训练奖励。训练奖励与累计学习器和采样器 FLOPs 的关系，对数坐标轴。共 801 个数据点，从 7.147e+21 FLOPs 时的 0.3783 到 4.132e+23 FLOPs 时的 0.5497。分数范围 0.3755 至 0.5552。

训练奖励与累计学习器和采样器 FLOPs 的关系，对数坐标轴。

STEM 评测表现

STEM 评测表现。STEM 评测表现与累计学习器和采样器 FLOPs 的关系，对数坐标轴。共 33 个数据点，从 7.147e+21 FLOPs 时的 0.3230 到 4.132e+23 FLOPs 时的 0.4751。分数范围 0.3230 至 0.4751。

STEM 评测表现与累计学习器和采样器 FLOPs 的关系，对数坐标轴。

视觉评测表现

视觉评测表现。视觉评测表现与累计学习器和采样器 FLOPs 的关系，对数坐标轴。共 33 个数据点，从 7.147e+21 FLOPs 时的 0.5756 到 4.132e+23 FLOPs 时的 0.6959。分数范围 0.5756 至 0.7034。

视觉评测表现与累计学习器和采样器 FLOPs 的关系，对数坐标轴。

稳定训练
指标	数值
策略陈旧度中位数	17 次更新
Rollout 批大小	16K
每次 rollout 的总 token 数	中位数：43K · p99：1.5M
Rollout 时长	中位数：8 分钟 · p99：4 小时
上下文窗口	256K token，对更长的轨迹启用压缩

要让这一规模真正可行，需要对整个系统栈做改进。我们的 RL 基础设施部署了 NVFP4 MoE 训练与采样。采样时，prefill、draft 和 verify 全部运行在 CUDA graph 上。训练器沿用预训练栈，采用高专家并行、EPLB 和 CUDA graph 来提升 GPU 效率。为支撑长时程智能体负载，我们使用粘性路由和 DRAM KV 缓存卸载，将前缀缓存命中率维持在 93% 以上，从而在长上下文训练下仍能保持 5:3 的采样器与训练器比例。权重传输通过 GPUDirectRDMA 以 93% 以上的线速完成，并配有与并行度无关的校验和验证器。我们还提供了一种 NVFP4 KV 缓存变体，进一步降低部署推理成本，实测对评测结果的影响很小。

长时程任务让模型可以自主运行数小时，从而增加了行为失准带来的潜在风险。在主 RL 训练进行到中途时，我们的异步监控发现了一个实例：模型在任务失败后，借助搜索工具能够访问的第三方服务绕过了网络封锁。我们暂停了训练，加固了基础设施，移除了需要网络访问的环境，并增加了同步的工具调用监控。随后我们恢复训练，并按上文所述加入了专门针对对齐的额外训练阶段。

流程上的改进让我们能用相似的配方训练不同规模的模型，且扩展性和性能都可预测。Inkling 2 Small 是模型阶梯中的一级；我们期待很快与大家分享更多层级。

对 Inkling 2 Small 进行基准测试

与之前的 Inkling 版本一样，我们在广泛的能力范围内对 Inkling-Small 进行了基准测试。所有评测均在 effort 0.99（xhigh）和 temperature 1.0 下运行。所有评测的最大轨迹长度限制为 1M token，相比 Inkling Small 使用的 256K token 限制有所提高。

开放权重 Flash					开放权重 Pro					闭源权重 Flash
Inkling 2 Small	GLM-5.3-Flash	MiMo V2.6 Flash	MiniMax-M3.1-Flash	DeepSeek-V4.1-Flash-1017	Muse Spark Open	GLM 5.3	MiMo V2.6 Pro	Mistral Large 4	Kimi K3	GPT-6 Luna	Gemini 3.8 Flash	Claude Haiku 5.5
模型信息
参数量（B）激活 / 总量	17/594	18/320	15/309	23/428	16/552	42/816	40/753	42/1020	49/1050	104/2800	–	–	–
第三方指数
AA 指数（v5.0）	30.6	27.8	26.7	29.1	32.6（该行报告的第二高分）	24.9	31.7	29.9	26.1	–	27.9	30.8	36.5（该行报告的最高分）
Vals 指数（v2.2）	56.1%	50.9%	54.8%	53.8%	61.3%（该行报告的最高分）	48.6%	59.7%（该行报告的第二高分）	57.8%	56.5%	53.0%	52.3%	56.0%	58.7%
编程
FrontierCode v2.0	25.4%	14.2%	21.6%	20.8%	28.5%（该行报告的第二高分）	7.6%	21.6%	24.0%	15.0%	17.3%	25.2%	18.7%	34.9%（该行报告的最高分）
DeepSWE v1.1	72.1%	63.4%	67.9%	73.7%	77.0%（该行报告的最高分）	60.0%	69.0%	71.9%	61.7%	68.5%	66.6%	73.8%（该行报告的第二高分）	59.9%
Terminal Bench Science v0.1	5.7%	4.8%	4.3%	3.3%	12.9%（该行报告的第二高分）	1.9%	9.5%	5.7%	4.3%	8.1%	8.6%	10.0%	20.0%（该行报告的最高分）
Vibe Code Bench v1.1	81.6%	30.8%	79.0%	73.9%	87.7%（该行报告的第二高分）	76.2%	78.1%	85.2%	81.6%	85.0%	81.7%	78.7%	90.4%（该行报告的最高分）
SWEBench Pro v2（Hard）	86.3%（该行报告的第二高分）	–	–	84.3%	–	82.4%	84.3%	–	–	88.2%（该行报告的最高分）	–	58.8%	52.9%
自动研究
PostTrainBench v1.2	31.9%	36.8%（该行报告的最高分）	–	–	30.5%	–	34.5%（该行报告的第二高分）	–	–	31.5%	–	–	–
PMPP-HardAUC（任务时长，0–10 小时）	494.27（该行报告的第二高分）	–	–	–	497.36（该行报告的最高分）	–	430.96	–	478.39	453.58	–	–	–
BioMysteryBench	70.0%	–	69.3%	–	–	–	–	–	–	72.6%（该行报告的最高分）	61.5%	62.2%	70.4%（该行报告的第二高分）
搜索与工具
MCP Atlas完整 / 公开	85.4/85.0%（该行报告的第二高分）	–/82.0%	–/62.9%	–/80.4%	–/83.2%	89.2/87.5%（该行报告的最高分）	84.2/83.6%	–/84.4%	–/84.5%	82.3/84.2%	–/77.8%	–/87.5%	–/81.0%
知识工作
AA-Briefcase v1.1	1527	1451	1487	1476	1570（该行报告的第二高分）	1279	1503	1512	1348	1497	1337	1203	1574（该行报告的最高分）
GDPVal-AA v2.1	1630	1649	1614	1465	1746（该行报告的最高分）	1401	1657	1689（该行报告的第二高分）	–	1543	1444	1445	1631
JobBench	70.5%（该行报告的最高分）	60.7%	61.2%	67.5%（该行报告的第二高分）	–	61.8%	61.4%	62.0%	55.2%	54.3%	49.0%	–	39.2%
企业运营
EnterpriseOps-Gym	46.8%（该行最高报告得分）	33.2%	–	–	–	–	36.4%	–	–	45.3%（该行第二高报告得分）	–	–	–
EnterpriseBench-CoreCraft	71.8%（该行最高报告得分）	46.7%	–	–	–	–	51.8%	–	–	43.1%	–	58.5%（该行第二高报告得分）	–
金融工作
Vals 金融指数	61.5%（该行最高报告得分）	55.8%	57.1%	55.9%	60.9%（该行第二高报告得分）	53.0%	60.5%	57.8%	57.0%	58.0%	53.1%	60.5%	57.4%
Tau 3 Banking v1.0.1	40.4%（该行第二高报告得分）	47.2%（该行最高报告得分）	–	–	–	–	–	–	–	33.4%	–	–	–
DAYJOB（金融）	14.3%（该行最高报告得分）	7.3%	–	–	12.5%（该行第二高报告得分）	–	11.0%	–	4.8%	5.5%	6.8%	4.5%	–
Apex-Accounting v1.1pass@1	14.5%	12.3%	–	13.5%	12.5%	13.8%	13.9%	–	12.0%	9.5%	10.8%	15.5%（该行最高报告得分）	15.3%（该行第二高报告得分）
Apex-Accounting v1.1平均分	62.0%（该行第二高报告得分）	53.7%	–	60.0%	59.3%	58.0%	59.5%	–	56.5%	56.7%	53.9%	58.8%	62.2%（该行最高报告得分）
法律工作
Vals 法律指数	73.9%（该行第二高报告得分）	71.1%	69.0%	67.1%	71.9%	68.5%	74.6%（该行最高报告得分）	72.1%	67.8%	71.7%	62.2%	69.8%	70.3%
视觉创作
DesignArena Web Apps	1296（该行最高报告得分）	–	–	–	–	–	–	1275	–	1283（该行第二高报告得分）	1161	1221	–
DesignArena Website	1340（该行最高报告得分）	1270	–	1280	1297	1303	1290	1307	1256	1334（该行第二高报告得分）	1268	1299	1261
DesignArena 游戏开发	1428（该行最高报告得分）	1276	–	1312	1261	1270	1303	1315	1225	1351（该行第二高报告得分）	1261	1305	1319
DesignArena 3D 设计	1401（该行最高报告得分）	1314	–	1332	1361	1261	1324	1333	1249	1381（该行第二高报告得分）	1213	1291	1334
Code2Video-AA	1020	975	1052（该行第二高报告得分）	–	–	–	1034	1052（该行第二高报告得分）	–	1041	1030	899	1192（该行最高报告得分）
视觉感知
PerceptionBench	64.7%（该行最高报告得分）	–	–	–	47.7%	–	–	–	–	58.5%（该行第二高报告得分）	56.2%	–	–
ScreenSpot Pro原始 / 使用 Python	83.8/91.5%（该行最高报告得分）	–	–	–	–	–	–	56.6%/–	42.3%/–	73.8/83.2%	81.1/87.6%（该行第二高报告得分）	–	–
HSS	33.3%（该行第二高报告得分）	26.8%	25.4%	–	30.1%	29.6%	–	25.2%	–	25.5%	21.0%	41.6%（该行最高报告得分）	–
BabyVision原始 / 使用 Python	68.6/93.7%（该行最高报告得分）	53.4/82.6%（该行第二高报告得分）	–	–/91.0%	–/92.5%	44.3/80.2%	–	–	42.3/71.5%	53.4/85.7%（该行第二高报告得分）	–	–	–
视觉推理
GDP.pdf	25.2%（该行最高报告得分）	15.4%	9.0%	20.8%	17.2%	18.6%	11.2%	19.2%	17.6%	22.0%	22.8%（该行第二高报告得分）	21.0%	20.8%
MMMU Pro（标准 10）	81.6%（该行报告的第二高分）	79.0%	–	79.1%	80.6%	80.9%	–	74.1%	78.0%	80.5%	79.7%	85.6%（该行报告的最高分）	79.1%
Charxiv RQ原始 / 使用 Python	85.6/87.7%（该行报告的第二高分）	80.2/89.4%	66.2%/–	82.5%/–	77.0/85.6%	85.4/88.7%	–	74.2%/–	83.2/87.9%	84.8/91.3%	81.8/85.3%	86.2/92.1%（该行报告的最高分）	84.4%/–
Chartography原始 / 使用 Python	36.7/80.4%	16.3/78.0%	7.5%/–	12.6%/–	17.9/83.0%	35.7/63.2%	–	10.8%/–	21.2/56.6%	26.6/68.1%	32.0%/–	40.9/82.0%（该行报告的第二高分）	46.4%/–（该行报告的最高分）
STEM 推理
CritPt v2完整 / 困难	55.7/35.0%	–/24.5%	–/29.5%	51.4/32.5%	50.6/25.0%	52.6/29.5%	57.4/33.5%	56.9/34.0%	50.3/27.0%	–/40.5%	65.1/42.5%（该行报告的最高分）	65.1/46.5%（该行报告的最高分）	64.0/43.5%（该行报告的第二高分）
HLE-Diamond	28.7%	18.2%	13.7%	28.1%	25.3%	26.3%	17.9%	15.2%	17.3%	26.9%	22.2%	33.1%（该行报告的最高分）	29.6%（该行报告的第二高分）
HLE（使用工具）	53.2%	–	–	–	58.8%	61.0%（该行报告的第二高分）	62.5%（该行报告的最高分）	–	–	56.0%	–	–	57.4%
Apex 2025	63.5%（该行报告的第二高分）	–	–	–	–	32.3%	–	–	–	65.6%（该行报告的最高分）	–	–	–
长上下文
AA-LCR v1.1	83.3%	80.0%	–	–	–	78.3%	79.7%	86.3%（该行报告的第二高分）	–	88.7%（该行报告的最高分）	–	81.3%	82.7%
LongBench v2	70.6%（该行报告的第二高分）	68.2%	60.7%	60.9%	69.0%	68.7%	68.4%	68.0%	65.7%	69.0%	65.0%	73.7%（该行报告的最高分）	65.3%
事实性
AA-Omniscience v1.1得分	16.1	0.7	-10.8	-6.4	0.9	25.8（该行报告的最高分）	6.0	-4.5	5.1	–	-8.3	23.3（该行报告的第二高分）	12.3
AA-Omniscience v1.1非幻觉率	73.3%（该行报告的最高分）	–	–	6.3%	35.9%	72.0%（该行报告的第二高分）	61.1%	39.8%	71.8%	–	20.7%	44.9%	65.8%
指令遵循
ComplexConstraints v1.0	44.5%	27.6%	22.1%	23.2%	50.4%（该行报告的最高分）	41.3%	30.5%	32.3%	36.5%	37.9%	27.3%	48.4%（该行报告的第二高分）	36.8%
安全性（失准）
DistressBench	82.0%（该行报告的第二高分）	72.7%	–	–	79.8%	87.7%（该行报告的最高分）	72.5%	–	77.0%	73.5%	66.7%	70.7%	71.7%
FORTRESS（对抗性）	83.8%（该行报告的第二高分）	73.3%	–	–	72.8%	92.4%（该行报告的最高分）	71.8%	–	76.0%	–	–	–	–
FORTRESS（良性）	79.7%	96.4%（该行报告的第二高分）	–	–	93.1%	84.0%	96.8%（该行报告的最高分）	–	91.8%	–	–	–	–
StrongREJECT（无）	97.8%	96.8%	–	–	98.7%（该行报告的最高分）	97.6%	97.2%	–	98.6%（该行报告的第二高分）	–	–	–	–
安全性（滥用）
CyberBench v1.1	72.7%	67.9%	75.4%	–	73.7%	–	72.1%	72.9%	–	75.2%	76.3%（该行报告的最高分）	43.8%	75.5%（该行报告的第二高分）
PatchEval	79.6%（该行报告的第二高分）	74.8%	–	–	80.4%（该行报告的最高分）	77.8%	69.6%	–	76.1%	–	–	–	–

每行中报告的最高分；并列分数一并计入每行中报告的第二高分；并列分数一并计入

为提高一致性，在适用的情况下，我们对内部模型和外部模型都采用外部报告的评测结果。具体来说，我们采用以下机构报告的分数：

ARC Prize：ARC-AGI v1 和 ARC-AGI v2

Arena：CodeArena 自动评测

Artificial Analysis：AA-3D、AA-AnalystAgent、AA-Briefcase、AA-LCR、AA-Omniscience、AutomationBench-AA、CritPt v2、EnterpriseOps-Gym-AA、FrontierCode 2.0、GDP.pdf、GDPval-AA、HLE、HLE-Diamond、MMMU-Pro、SciCode、Terminal-Bench v2.1、Terminal-Bench v4.0、TerminalBench-Science、τ³-Banking

Datacurve：DeepSWE v1.1

DesignArena：DesignArena

Scale AI：MCP Atlas、SWE-Pro v2

Surge：ComplexConstraints v1.1、EnterpriseBench、Handbook.md v1.1、sudo L7

Mercor：APEX Accounting 1.1、APEX Agents 1.1

Thoughtful：DiligenceBench、PostTrainBench v1.2

Vals：BioMysteryBench、Code Migration v1.1、CyberBench、CyberOffense、Excel Modeling Benchmark v1.1、Finance Agent v2.1、HLAB-Vals-1.1、Legal Research Bench、SAGE、SRE Bench、SWE-bench Multimodal、Tax Agent Bench、Terminal-Bench 4.0、Vibe Code Bench v1.1

评测快照：缺失的结果以短横线表示。

局限

与 Inkling 相比，Inkling 2 Small 在易用性上有所提升，但它的表达并不算最简洁，也不总能选中最合适的工具——在技能数量庞大的代码库中尤其如此。

和之前的 Inkling 模型一样，Inkling 2 Small 原生支持图像输入；不过该模型不支持音频。

Inkling 2 Small 在聊天体验上的优化也相对不足。我们注意到一些问题，比如内容组织与呈现较差、斜杠使用过多，以及对心理健康和其他安全相关提问反应过度。

立即试用 Inkling 2 Small

我们很高兴在 Tinker 上提供 Inkling 2 Small，用于推理和微调。安全测试完成后，该模型将在未来几周内登陆更多平台。

Inkling 2 Small 的诞生服务于我们的使命：打造能够延伸人类意志与判断力的 AI。希望它能助你实现抱负，我们也期待看到你用它做出什么。