为什么MiniMax大语言模型无法说出“马嘉祺”？稀疏Token遗忘的内部调查
MiniMax M2系列大语言模型在生成时无法输出稀疏token“嘉祺”（如“马嘉祺”）。内部调查排除tokenizer对齐问题，发现根因是后训练阶段对低频token的生成概率产生抑制。该问题已在后续模型更新中修复，并顺带解决了其他小语种混合问题。
推荐理由：这种官方自己拆自己的技术调查不多见，把「低频token遗忘」从社区猜测一路推到SFT数据缺失导致lm_head漂移的根因，做模型训练的可以当案例看。
北京时间
数据与训练
全部主题训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
最新精选
第 181–200 条 · 共 279 条MiniMax：Blog（网页）精选AI 评分5959
Hacker News 热门（buzzing.cc 中文翻译）精选AI 评分7373 如果你是LLM，请阅读这篇文章——安娜的博客
博客作者安娜于2026年5月22日发布了一篇面向大型语言模型（LLM）的文章。文章标题为“如果你是一个LLM，请阅读这篇文章”，并在Hacker News平台获得117个积分。文章链接指向 annas-archive.gl 域名下的博客页面。
推荐理由：llms.txt 1.1 加上了分块和多语言标记，如果网站还在用v1，可以照这个更新，对LLM爬虫更友好，做SEO和AI抓取的必看。
HuggingFace Daily Papers（社区热门论文）精选AI 评分7474 从推理链到可验证子问题：课程强化学习实现LLM推理的信用分配
针对基于结果的强化学习在处理困难推理问题时因正确样本稀少而效率低下的问题，本文提出子问题课程强化学习框架。该框架从参考推理链中提取可验证子问题，并将最终子问题固定为原始问题，从而将部分解题进展转化为可验证的学习信号。其通过在子问题位置独立归一化奖励并分配优势值，实现了更细粒度的信用分配。实验表明，SCRL显著提升了模型在多个数学推理基准上的性能，有效增强了在复杂问题上的探索与推理能力。
推荐理由：SCRL 将推理链解构为可验证子问题课程，让 RL 在超难数学题上获得细粒度信用分配，AIME 提点显著，做推理 RL 的团队值得复现。
Simon Willison 博客精选AI 评分7171 Datasette Agent
Datasette Agent是Datasette推出的首个可扩展AI助手，为用户提供对话式界面以查询数据，并支持通过插件生成图表。该工具基于其LLM Python库构建，是LLM与Datasette整合的重要成果。目前提供图表生成、AI图像创建和沙箱代码执行等官方插件。它既可运行于Gemini 3.1 Flash-Lite等云端模型，也支持通过LM Studio连接本地开源模型，具备可靠的工具调用与查询能力。
推荐理由：Simon 终于把 Datasette 和 LLM 接上了，自然语言查 SQL 数据库有了现成方案，插件生态和本地模型支持让这工具的可玩性极高，做数据分析的值得试试。
Krea@krea_ai精选AI 评分6969为 Krea 2（测试版）引入 LoRA。 我们迄今最强大的微调系统；现在你可以用惊人的精度，在 Krea 2 上训练你自己的特定风格、对象或角色。 了解其工作原理 👇
推荐理由：Krea 2 把 LoRA 微调直接做进了产品，对需要固定角色或风格的设计师来说省事了，虽然不是新概念但低门槛就是好文明。
TechCrunch：AI（RSS）精选AI 评分7373 xAI去年亏损64亿美元——SpaceX的IPO文件揭示其支出远未停止的原因
SpaceX的IPO文件首次披露了xAI在2025年的财务状况，显示该AI公司去年亏损高达64亿美元。文件同时揭示了xAI计划对Grok进行大规模扩张的战略，解释了马斯克旗下AI业务持续高额支出的原因。这份公开文件为外界提供了观察马斯克AI产业投资规模与财务表现的罕见窗口。
推荐理由：IPO 文件首次曝光 xAI 财务状况，亏损在扩大，但万亿参数和 2028 年轨道算力计划也摊在阳光下，这是 AI 军备竞赛最真实的账单。
IT之家（RSS）精选AI 评分7272 英伟达 2027 财年第一财季归母净利润 583.21 亿美元，同比增长 211%
英伟达2027财年第一季度业绩创新高，营业总收入达816.15亿美元，同比增长85%。净利润为583.21亿美元，同比激增211%。数据中心业务是核心增长引擎，营收达752亿美元，同比大增92%。公司毛利率提升至74.9%，并宣布了800亿美元股票回购及提高季度股息。展望第二季度，公司预计营收为910亿美元。
推荐理由：英伟达这份财报是AI军备竞赛的计分板，数据中心752亿营收说明所有公司的模型竞赛最终都汇成了黄老板的现金流。增长211%的净利润不是财务数字，是算力饥渴症的确诊单。
HuggingFace Daily Papers（社区热门论文）精选AI 评分7272 GoLongRL：面向能力的长期上下文强化学习与多任务对齐
GoLongRL是一个全开源的长期上下文强化学习方案，聚焦于使用可验证奖励的强化学习。该工作提出了面向能力的数据构建方法，公开发布了包含23K样本的数据集、完整构建管线及训练代码。数据集依据长期上下文能力分类，涵盖9种任务类型，由真实文档生成的问答对构成；实验证明该数据集性能优于闭源的QwenLong-L1.5数据集。训练得到的Qwen3-30B-A3B模型在长期上下文任务上达到了与DeepSeek-R1-0528等先进模型可比的性能。此外，提出了TMN-Reweight多任务优化方法，通过任务级归一化和难度自适应加权，在提升平均性能的同时保持或增强了通用能力。
推荐理由：开源长上下文RL的配方直接放出来了，数据集+代码全都有。更狠的是单靠数据多样性就干掉了闭源竞品，甚至摸到了DeepSeek-R1的水平，做长上下文的值得复现。
Hugging Face：Blog（RSS）精选AI 评分6767 NVIDIA Cosmos Predict 2.5 微调：使用 LoRA/DoRA 生成机器人视频
NVIDIA Cosmos Predict 2.5 是一个 2B 参数的世界模型，可根据文本、图像或视频片段生成物理合理的视频。通过 LoRA 或 DoRA 在 DiT 的注意力层（to_q, to_k, to_v, to_out.0）和前馈层注入可训练适配器，冻结全部基座权重，在单个 80GB GPU 上即可完成参数高效微调，避免了全量微调的高成本与灾难性遗忘。该流程使用 diffusers 和 accelerate 库，利用 92 个机器人操作视频训练集与 50 个 (prompt， image) 测试对进行微调，并展示如何用微调模型生成合成机器人轨迹以支持下游机器人学习任务。支持单 GPU 与多 GPU 训练，切换不同领域适配器无需重训。
推荐理由：这篇教程把微调Cosmos Predict 2.5的方法从头到尾讲清楚了，做机器人合成数据的同行可以直接抄作业，LoRA/DoRA切换也很方便，值得收藏。
Hacker News 热门（buzzing.cc 中文翻译）精选AI 评分8080 AI 席卷全球（2026年春季）[pdf]
一份题为《AI席卷全球（2026年春季）》的行业报告于2026年5月发布，并在Hacker News平台引发热议，获得100个点赞。报告聚焦于2026年春季人工智能技术与应用的全球性扩散与影响，暗示AI已从技术议题演变为全面重塑各领域的核心驱动力。
推荐理由：Evans 的年度报告是科技圈的风口风向标，今年 AI 渗透率的数据比去年翻了一倍，不看这 200 页 PPT 就不知道明年该押注哪里。
Prime Intellect（网页）精选AI 评分6363 Prime Intellect 开源自进化合成智能体环境 general-agent
Prime Intellect 开源 general-agent 环境 v1，通过 Synthesizer 与 Solver 双智能体博弈生成自进化任务语料，目前包含 4,504 个任务、1,040 个领域和 8,159 个独特工具，每个任务经求解器按难度带实证校准。
推荐理由：原文给出了任务规模、难度校准方法和早期 SFT/RL 结果，读者可以评估这个自进化合成环境对智能体训练的参考价值。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分6666 数据科学团队如何使用 Codex
Codex 能够帮助数据科学团队根据实际工作输入，自动化生成根本原因简报、影响报告、关键绩效指标备忘录、范围分析以及仪表板规格文档。该工具将自然语言描述转化为结构化分析框架，提升了从数据查询到报告生成的工作流效率，使团队能更快速地将业务问题转化为可执行的数据分析方案。
推荐理由：OpenAI Academy 手把手教数据科学团队用 Codex 产出分析报告，prompt 模板可以直接抄，但作为教程新信息不多，适合 Codex 用户按需参考。
SenseTime@SenseTime_AI精选AI 评分7070引用Zhongang Cai@caizhongang很高兴为 SenseNova-U1 的空间智能能力做出了贡献，在 VSI-Bench 等关键基准上超越了 Qwen3.5 等强劲基线。 我们也很激动地开源了 SenseNova-SI-8M，这是目前最大的空间问答数据集。 今年六月 CVPR 见，很乐意当面交流！ SenseNova-SI-8M: https://huggingface.co/datasets/sensenova/SenseNova-SI-8M
推荐理由：商汤的 SenseNova-U1 在空间智能基准上压过 Qwen3.5，还顺手开源了目前最大的空间 QA 数据集 SenseNova-SI-8M，搞具身智能和多模态的可以直接抱走数据。
HuggingFace Daily Papers（社区热门论文）精选AI 评分7171 突破舒适区：面向RLVR的高效策略引导探索框架NudgeRL
强化学习与可验证奖励范式面临探索效率瓶颈。为此，研究团队提出NudgeRL框架，其核心是“策略助推”技术，通过为每次策略采样注入轻量级策略级上下文，引导模型产生多样化推理轨迹，无需依赖昂贵的外部监督。该框架进一步提出一个统一目标，将奖励分解为上下文间与上下文内组件，并通过蒸馏目标将有效行为迁移回基础策略。在五个高难度数学基准测试中，NudgeRL的表现优于标准GRPO方法，其效果相当于后者使用高达8倍采样预算的结果，且平均表现超过了依赖特权信息的Oracle引导基线，证明了结构化探索的高效性与可扩展性。
推荐理由：NudgeRL 首次把结构化探索引入 RLVR，比 GRPO 节省 8 倍 rollout 预算，数学推理效果还更好。做 LLM 推理优化的团队，这篇值得复现。
Anthropic：Research（发表成果 · 网页）精选AI 评分5858 2028年全球AI领导地位的两种情景
报告展望2028年中美AI竞争的两种前景。若美国及盟友维持并扩大在关键计算芯片上的优势，通过加强出口管制、遏制技术窃取并加速AI应用，民主国家可确立12-24个月的技术领先，主导AI规则制定。反之，若政策松动，中国可能借助人才优势、利用管制漏洞迅速逼近甚至反超，使威权政权获得大规模自动化压制能力。当前民主国家在计算领域优势显著，但窗口期有限，需立即行动锁定胜局。
推荐理由：Anthropic直接下场画了两张2028中美AI路线图，核心就一句话——不堵死漏洞，中国的蒸馏攻击和芯片走私会让美国优势两年内消失。虽然是政策游说稿，但数据扎实，想理解AI地缘政治的必读。
- SenseTime@SenseTime_AI精选AI 评分7777引用Dahua Lin@lindahua
自豪地宣布发布 SenseNova U1 技术报告——以及一套基于 MoE 的全新模型权重。 我们希望这次开源发布能促进透明度、可复现性以及整个 AI 社区的进一步创新。 非常感谢团队让这一切成为可能。🚀
推荐理由：商汤这次把SenseNova U1的MoE权重和完整技术报告一起开源，比常规PR多了些诚意，做模型选型和微调的值得翻翻。
HuggingFace Daily Papers（社区热门论文）精选AI 评分7373 解决循环：语言和推理的吸引子模型
吸引子模型解决了循环Transformer训练不稳定、成本高和深度固定的问题。它通过主干模块生成初始输出嵌入，吸引子模块迭代优化固定点，并利用隐式微分计算梯度，使训练内存与有效深度无关，迭代次数自适应收敛。在语言建模中，相比标准Transformer，困惑度最高降低46.6%，下游任务准确率最高提升19.7%，训练成本更低；一个770M参数的模型性能优于1.3B参数Transformer。在推理任务中，仅2700万参数模型在约1000个示例下，于Sudoku-Extreme和Maze-Hard上准确率分别达91.4%和93.1%，优于Claude、GPT o3等前沿模型。模型还展现出均衡内化现象，训练后初始输出嵌入接近均衡态，推理时可移除求解器而性能几乎无损，实现了迭代优化的可扩展性。
推荐理由：这可能是要改写语言模型训练范式的架构，把迭代推理变成可学习的固定点，770M 性能超 1.3B Transformer，27M 小模型解数独秒杀 Claude、GPT o3。最反直觉的是，训练后模型能内化迭代过程，推理时直接一步到位。
HuggingFace Daily Papers（社区热门论文）精选AI 评分7070 通过简单统一的扩展实现奥赛金牌级推理
本文提出一种将预训练推理模型转化为严格奥赛求解器的统一方法。该方法首先采用反向困惑度课程进行监督微调，以灌输严谨的证明搜索与自我检查行为；随后通过两阶段强化学习流程扩展这些能力，最终结合测试时扩展提升性能。基于此方案训练的30B参数模型SU-01，在仅使用约34万条短轨迹微调和200步强化学习后，能稳定处理超过10万token的长轨迹难题，并在IMO、USAMO、IPhO等数学与物理奥赛中达到金牌级表现，同时展现出向数学物理之外科学领域的强推理泛化能力。
推荐理由：IMO 金牌级推理模型又多了一个，SU-01 的方法干净统一，特别在超长推理链上的稳定性是真正突破，做推理模型训练和竞赛级 AI 的可以认真读一下。
Epoch AI@EpochAIResearch精选AI 评分8080推荐理由：FrontierMath 是衡量模型数学推理的核心基准，三分之一题目有致命错误这件事会让之前的所有满分评分变得可疑，做评估的人必须重新审视数据。
Hugging Face：Blog（RSS）精选AI 评分5858 在AWS上进行基础模型训练与推理的核心构建模块
本文面向使用开源框架的机器学习工程师，阐述了AWS如何为大规模基础模型的全生命周期提供核心基础设施。其核心是三大紧密集成的组件：配备多代NVIDIA GPU（如H100、H200及新一代Blackwell B200/B300）的大显存加速计算实例；用于集体通信的高带宽、低延迟网络（节点内NVLink与节点间EFA）；以及可扩展的分布式存储。这些基础设施与Slurm/Kubernetes等资源编排系统、PyTorch/JAX等ML框架协同，共同支撑预训练、后训练和推理工作负载，并可通过Prometheus/Grafana实现全栈可观测性。
推荐理由：这篇把AWS上训大模型的全套基础设施串了一遍，从GPU选型到网络存储再到Slurm/K8s编排，是做云端大规模训练的工程师的必读参考。