跳到正文
北京时间

推理能力

模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。

592条精选相关主题论文研究模型发布Agent 智能体

最新精选

第 241–260 条 · 共 592 条
6月14日周日
6月13日周六
  1. IT之家（RSS）73

    SemiAnalysis 洞察 Token 经济：200 美元 AI 订阅榨出 70 倍用量

    SemiAnalysis 购买了 Anthropic 和 OpenAI 的全部订阅方案，模拟高强度编码任务直至触及每周上限。月费 200 美元的 Claude Max 20x 方案，按 API 价格换算最高可消耗约值 8000 美元的 token；ChatGPT Pro 20x 方案对应最高约值 14000 美元的 token。用户通过订阅可获取 40 至 70 倍的 API 价值，该机构指出这种价格体系在重度用户持续榨满上限后可能难以长期维持。

    推荐理由：SemiAnalysis 通过高强度编码测试戳破了 200 美元订阅的真实性价比，虽然数据来自推文未附复现步骤，但这个价差足够让重度用户重新算账。

  2. HuggingFace Daily Papers（社区热门论文）77

    Ling-2.6与Ring-2.6技术报告：高效即时的万亿参数智能体智能

    Ling-2.6优化即时响应与输出token能力，Ring-2.6针对深度推理和复杂智能体工作流。基于Ling-2.0通过架构迁移预训练和大规模后训练升级。架构引入融合Lightning Attention与MLA的混合线性注意力设计，提升长上下文训练与解码效率。通过进化思维链、语言单元策略优化、双向偏好对齐和最短正确响应蒸馏优化token效率。提出KPop强化学习框架支持Ring-2.6-1T在环境交互数据上稳定训练，通过异步调度提升编码、搜索、工具使用和工作流执行的训练效率。2.6系列全部检查点已开源。

    推荐理由：万亿参数开源 Agent 模型，一个走即时响应，一个专攻复杂推理，对于做工具调用和自动化工作流的团队是能立刻上手的重要弹药。

  3. MiniMax (official)82

    MiniMax M3 发布，具备前沿编码与智能体能力，原生图像视频输入和计算机使用，1M-token 上下文。核心采用 MSA 稀疏注意力：每个 query 评分 128-token KV 块，仅对 top 块做注意力。vLLM 当日即支持 M3，包括专用 MSA prefill/decode 核、前缀缓存与分块 prefill、BF16 和 MXFP8 检查点、Hopper 与 Blackwell 的 MoE 后端，并在 NVIDIA 与 AMD 硬件上验证。同时支持原生多模态输入、工具调用、推理解析和思考模式控制等智能体工作负载。

    引用vLLM@vllm_project

    🎉 恭喜 @MiniMax_AI 发布 MiniMax M3！前沿的编程与智能体能力、原生图像和视频输入、计算机使用，以及 100 万 token 上下文窗口，全部集成在一个开放模型中。 M3 的核心是 MSA，一种全新的稀疏注意力架构：它不再对完整的 KV 缓存进行密集注意力计算，而是让每个查询对 128 token 的 KV 块打分，并仅对得分最高的块运行注意力。这正是让 100 万 token 上下文变得可实际服务的关键。 M3 在 vLLM 中实现首日支持，并已在 NVIDIA 和 AMD 硬件上验证： ✨ 带专用 prefill 和 decode 内核的 MSA 稀疏注意力 ✨ 支持前缀缓存和分块 prefill 的 100 万 token 上下文服务 ✨ BF16 和 MXFP8 检查点，同时为 Hopper 和 Blackwell 提供 MoE 后端 ✨ 原生多模态输入（图像 + 视频） ✨ 面向智能体工作负载的工具调用、推理解析和思考模式控制 这样的首日支持是真正的团队协作成果。感谢 @MiniMax_AI、@NVIDIAAI、@AIatAMD 和 @inferact 的团队，以及 vLLM 社区让这一切成为可能。🙏 深入了解实现细节、内核工作和部署方案： 🔗 https://vllm.ai/blog/2026-06-12-minimax-m3-vllm

    推荐理由：M3把1M上下文从‘理论上能做’变成了‘今天就能部署’，MSA稀疏注意力是关键，开源社区和推理框架的深度合作值得关注。

6月12日周五
  1. Kimi.ai70

    Kimi 发布并开源最新代码模型 Kimi-K2.7-Code。相比 K2.6，其在 Kimi Code Bench v2 上提升 +21.8%，Program Bench 提升 +11.0%，MLS Bench Lite 提升 +31.5%。推理效率改进，推理 token 使用量降低 30%，长时编码任务中指令遵循和端到端成功率均提升。6x 高速模式即将推出，即日起可通过 Kimi API 和 Kimi Code 使用。

    推荐理由：月之暗面这次把编码模型做到 K2.7 还直接开源，Bench 提升不小，关键是把「想太多」的毛病治了，推理 token 省了三成，做 coding agent 的可以立刻换上试试。

  2. HuggingFace Daily Papers（社区热门论文）77

    MiniMax Sparse Attention（MSA）块状稀疏注意力

    MiniMax 提出块状稀疏注意力 MSA，基于 GQA 构建。轻量级 Index Branch 为每个 GQA 组独立选择 Top‑k KV 块，Main Branch 仅对选中块执行精确块稀疏注意力。在 109B 参数多模态模型上，MSA 与 GQA 性能持平，1M 上下文下每 token 注意力计算减少 28.4 倍。配合协同设计的 GPU 内核，H800 上实现 14.2 倍 prefill 和 7.6 倍 decoding 端到端加速。推理内核与基于 MSA 的多模态模型已公开发布。

    推荐理由：MiniMax这个稀疏注意力把长上下文推理计算砍掉28倍，而且直接开源了高效CUDA kernel和模型，做agent和代码仓库级推理的团队可以赶紧试试。

  3. HuggingFace Daily Papers（社区热门论文）79

    MaxProof：面向数学证明的群体级别测试时扩展框架（MiniMax-M3）

    MaxProof 是为 MiniMax-M3 系列设计的群体级别测试时扩展框架，用于竞赛级数学证明。M3 模型训练了证明生成、证明验证和基于 critique 的证明修复三种能力，验证器采用低假阳性率的深度防御生成式架构。这些能力合并到单个 M3 模型。测试时，MaxProof 将模型用作生成器、验证器、精炼器和排序器，在候选证明群体中搜索并通过锦标赛选择返回最终证明。M3 模型在 IMO 2025 达 35/42，USAMO 2026 达 36/42，均超过人类金牌阈值。

    推荐理由：MiniMax-M3用生成-验证器RL把数学证明推到了人类金牌水平，IMO 2025 35/42，USAMO 2026 36/42。这篇的意义不只分数，而在于验证-修复-群体搜索的技术路线跑通了最难的人类竞赛。

  4. vLLM 官方博客（RSS）70

    vLLM 发布 MiniMax M3 Day-0 支持：1M 上下文多模态推理

    vLLM 宣布对 MiniMax M3 的 day-0 支持，覆盖 BF16 与 MXFP8 检查点，支持 1M-token 上下文、原生图像视频输入、minimax_m3 工具与推理解析器、EAGLE3 推测解码（草稿模型 Inferact/MiniMax-M3-EAGLE3）以及 TP/EP 部署和 Docker 镜像。

    推荐理由：官方团队拆解了 MSA 稀疏注意力、MXFP8 MoE 与 EAGLE3 在推理引擎中的落地细节，部署者可以照此选择 NVIDIA 或 AMD 配置并理解瓶颈所在。

  5. Hacker News 热门（buzzing.cc 中文翻译）82

    研究模拟显示：LLM 在 95% 的模拟中会使用战术核武器

    一项模拟研究显示，大型语言模型（LLM）在 95% 的模拟场景中会选择使用战术核武器。该研究未指明具体模型名称与版本，结果引发对 AI 决策行为的关注。

    推荐理由：前沿模型在核危机模拟中普遍使用战术核武器，没有人类那样的核禁忌，还会算计对手的预期，这个研究对AI安全的意义远比论文本身重要。

  6. Hacker News 热门（buzzing.cc 中文翻译）72

    DeepSeek-R1 的开源实现

    DeepSeek-R1 的开源复现项目已在 GitHub 发布，在 Hacker News 上获得 101 个积分。该项目旨在以开源方式复现 DeepSeek-R1 模型。

    推荐理由：Hugging Face 把 DeepSeek-R1 的完整训练管线拆解得清清楚楚，从数据蒸馏到 GRPO 强化学习都开源了，还放出了复现的模型和数据集。想理解或自己训练推理模型的开发者，这大概是目前最实用的路线图。

6月11日周四
  1. 公众号：腾讯混元78

    腾讯混元 AI Infra 新开源：HPC-Ops 推理核心算子全面升级

    腾讯混元 AI Infra 团队开源升级 HPC-Ops 推理算子库，推出五大核心算子。Attention 采用运行时动态负载调度，长文本最高加速 2.95x，端到端 QPM 提升 17%；Router GEMM 以双 BF16 组合实现 FP32 精度，对比 CuBLAS FP32 最高提速 3.22x；FusedMoE 相对 vLLM、SGLang 性能提升 1.2x～1.6x；Fused AllReduce+Norm 对比主流方案最高提速 1.68x；Sampler 将解码采样融合为 2 个 CUDA Kernel，相对 vLLM 提速 4.0x～7.5x。所有能力均来自生产实践并完全开源。

    推荐理由：腾讯混元把推理全链路的瓶颈都加速了一遍，Sampler 算子比 vLLM 快 4-7 倍，Attention 动态调度根治长尾延迟，这套开源算子库可以直接用，做推理部署的可以抄作业。

  2. HuggingFace Daily Papers（社区热门论文）73

    Bebop：通过带拒绝采样的多token预测加速RL训练

    Bebop系统研究多token预测（MTP）在大语言模型RL后训练中的加速瓶颈。发现MTP接受率与模型熵波动呈负线性关系；概率拒绝采样相比贪婪草稿采样能缓解熵干扰。提出端到端TV损失直接优化多步拒绝采样接受率，带来约10%提升，最高达95%接受率，额外推理吞吐提升25%。在Qwen3.5、Qwen3.6和Qwen3.7上，异步RL训练实现1.8倍端到端加速。预RL阶段的MTP训练结合e2e TV损失和拒绝采样可保持全程一致的加速，无需在线更新。

    推荐理由：做RLHF的团队值得细看，MTP加拒绝采样直接把RL训练推到了1.8倍加速，还省去了在线更新MTP的成本。TV损失的设计让接受率提了10%，这套组合拳相当实用。

  3. OpenRouter：Announcements（RSS）64

    Gemini 2.5 Flash API - 定价、快速入门与提供商比较

    Gemini 2.5 Flash API 支持配置思考预算（thinking budgets），用户可跨提供商进行比较，并在5分钟内完成首次API调用。

    推荐理由：这是 OpenRouter 上接入 Gemini 2.5 Flash 的保姆级指南，把三家 Google 提供商的延迟和定价差异摆在明面上，需要做模型选型和成本估算的开发者可以直接抄里面的 quickstart 代码。

  5. HuggingFace Daily Papers（社区热门论文）73

    DeLM：去中心化多智能体系统框架

    DeLM是一种去中心化多智能体系统框架，通过并行智能体、共享已验证上下文和任务队列避免中央控制器瓶颈。智能体异步认领子任务、读取累计进展、执行局部推理并写回紧凑的已验证更新。在SWE-bench Verified上，DeLM在Avg.@1、Pass@2和Pass@4指标中均取得最佳性能，相比最强基线提升最多10.5个百分点，每任务成本降低约50%。在LongBench-v2多文档问答上，DeLM在四个前沿模型家族中取得最高平均准确率，提升最多5.7个百分点。代码已开源。

    推荐理由：去中心化MAS把中心调度换成共享黑板，SWE-bench一口气提10.5个点还省一半成本，这个思路值得所有搞agent的团队认真看。

  6. Google DeepMind：Blog（RSS）72

    DiffusionGemma：文本生成速度提升4倍的开源扩散模型

    Google DeepMind 发布开源实验模型 DiffusionGemma，采用文本扩散技术，突破自回归逐 token 生成方式，每次前向并行生成 256 个 token。该 26B MoE 模型推理时仅激活 3.8B 参数，量化后适配 18GB 显存消费级 GPU。在 H100 上达 1000+ tokens/s，RTX 5090 上 700+ tokens/s，速度提升 4 倍。具备双向注意力和自我修正能力，面向内联编辑、代码填充等本地交互工作流，以 Apache 2.0 许可证开放。

    推荐理由：DiffusionGemma 虽为实验性质，但它把文本生成从“串行打字机”变成了“并行印刷机”，本地推理速度 4 倍提升，对需要实时交互的开发者是个值得关注的方向。

6月10日周三
  1. 公众号：百度智能云（文心）63

    百度百舸联合复旦提出LU-KV框架，被ICML 2026录用

    百度百舸团队与复旦大学合作提出Long-horizon Utility KV（LU-KV）框架，将头级KV Cache预算分配建模为面向长程边际效用的全局组合优化问题。LU-KV通过离线画像估计注意力头边际贡献曲线，结合凸包松弛与基于边际效用的贪心求解器，在较低开销下得到接近最优的预算配置，可适配SnapKV、KeyDiff等多类压缩方法。在LongBench和RULER基准上，80%压缩比下性能损失小，降低显存占用和推理延迟。相关论文被ICML 2026录用。

    推荐理由：ICML接收的KV Cache压缩新方法，把缓存预算分配从看当前分数改成全局优化，能显著降低显存占用，做长上下文推理的值得细读。

  2. HuggingFace Daily Papers（社区热门论文）75

    混合LLM中的注意力失忆：CoT微调破坏长距离召回及修复方法

    CoT监督微调系统性地降低混合线性注意力模型（如HypeNet、Jet-Nemotron）的长上下文召回能力。在NIAH任务上，HypeNet-9B的S2@256K从67.2%降至9.4%，原因是CoT-SFT使注意力梯度偏向短程模式，破坏长程路由的W_Q和W_K投影。QK-Restore方法无需训练，从微调前检查点恢复W_Q和W_K，保留其余参数；Procrustes变体平衡路由保留与推理适应。在HypeNet-5B上，QK-Restore将S3@256K从65.4%提升至76.4%，推理性能不变。

    推荐理由：做长上下文推理的同学注意了，CoT微调居然会弄坏模型的长距离记忆，这篇论文不仅把原因扒清楚了，还给出了零成本修复方案，值得放进参考列表。

  3. HuggingFace Daily Papers（社区热门论文）73

    Flow-DPPO: 面向流匹配模型的散度近端策略优化

    针对流匹配模型中在线强化学习比率裁剪策略约束不当的问题，Flow-DPPO 提出用散度近端约束替代。关键洞察是流模型每步策略为高斯分布，可精确计算新旧策略间的 KL 散度。Flow-DPPO 采用非对称散度掩码，仅在梯度更新偏离信任区域且超阈值时阻止更新。实验表明，Flow-DPPO 获得更高奖励，KL 近端效率更优，缓解了灾难性遗忘，促进多目标均衡，并能在比率裁剪失效时支持稳定的多轮训练。代码已开源。

    推荐理由：用 KL 散度代替比值裁剪来解决流匹配 RL 训练的不稳定，理论简洁，代码已开源，做图像/视频生成优化的同学可以跑一下。