跳到正文
北京时间

论文研究

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展的精选解读。

最新精选

第 101–120 条 · 共 473 条
7月23日周四
  1. HuggingFace Daily Papers(社区热门论文)70

    RECAP:通过可解码性监督训练可验证的激活解释

    研究发现自然语言自编码器(NLA)的重建分数无法验证逐声明的忠实性,模型可能依赖“私密代码”而非真实依据。作者提出RECAP方法,在目标模型上联合训练线性头以保持指定内容可解码。在Pythia-160M上,独立探针能可靠区分真假声明(AUC 0.96),并在对抗编辑下仍能标记谎言(AUC 0.95)。

    推荐理由:这是近期可解释性领域最扎实的实证,它证明让模型自解释是危险的——重建测试会被内容和语言捷径欺骗,而训练时植入可解码性更可靠。虽仅在Pythia-160M上验证,但审计方法和思路对安全团队极为重要。

  2. 公众号:小红书技术(dots.llm)83

    小红书引擎架构团队 OSDI 2026 新成果:HELMSMAN 重塑大规模向量检索基础设施

    小红书引擎架构团队在 OSDI 2026 发表论文,提出面向全闪存的高性能向量近似最近邻检索系统 HELMSMAN。该系统通过 ANNS 定制化存储栈、分层学习式搜索剪枝及 GPU 加速构建流水线,将向量检索服务迁移至 NVMe SSD 阵列。

    推荐理由:在保持毫秒级在线延迟的前提下,将百亿向量检索从海量DRAM迁移到NVMe SSD阵列,为推荐与搜索系统提供了成本下降超90%的生产验证方案。

  3. HuggingFace Daily Papers(社区热门论文)78

    AI红队评测能证明什么、不能证明什么

    一项新研究为AI红队评测划定了可计算的证据上限,即固定测试预算下单一结果能改变信念的最大倍数,并以闭式解定位其边界。研究发现,在可计算的危害率之上,中等规模基准足以按既定证据标准认证某类别,且零失败记录比单次复现的失败更具说服力;低于该阈值则任何可行规模的被动基准都无法提供指定安全证据。对八个评测套件的审计显示,现有基准对高频危害类别充分,但对罕见灾难性危害类别仍差数个数量级。

    推荐理由:用闭式解把安全评估的证据上限公式化后,论文算出现有基准对高频危害足够、对罕见灾难性危害差几个数量级——这为制定安全测试的预算和声明提供了数学依据。

  4. HuggingFace Daily Papers(社区热门论文)75

    深度研究智能体易被误导性文档带偏:MisKnow-Agent 评测显示 FCAR 升至 54.7%

    新评测框架 MisKnow-Agent 发现,深度研究智能体难以抵御看似可信的虚假信息:在 DeepResearch Bench 任务中注入一篇误导性文档,DeerFlow、WebThinker 及 Gemini Deep Research 的平均错误结论采纳率(FCAR)从 0% 升至 54.7%。

    推荐理由:这篇论文揭示了深度研究Agent的一个致命弱点——一条看起来靠谱的错误信息就能让一半的报告采信错误结论。做Agent产品的团队必读,尤其在依赖自动研究报告的场景里,这个风险不是理论而是实证。

  5. HuggingFace Daily Papers(社区热门论文)72

    Agentic Context Management:将智能体记忆与成本问题重构为生命周期与架构挑战

    论文提出 Agentic Context Management(ACM)框架,将智能体上下文管理从存储问题重新定义为包含架构、摄取、范围界定、预判、压缩与整合五个原语的生命周期管理。

    推荐理由:这篇论文把代理记忆从‘存什么’重新表述为‘管什么’的生命周期问题,五个原语和线性成本论证,对做生产级代理的团队有直接的架构启发。

7月22日周三
  1. HuggingFace Daily Papers(社区热门论文)71

    AgentDebugX:面向LLM智能体的开源故障调试框架

    AgentDebugX是一个开源调试框架,将LLM智能体调试组织为“检测-归因-恢复-重跑”闭环。其核心DeepDebug在Who&When基准上对qwen3.5-9b达到精确的智能体与步骤归因准确率,在GAIA上单次重跑即可修复失败任务。该工具提供Python库、CLI、Web控制台和可安装的智能体技能。

    推荐理由:这个框架把调试从单步检测变成归因-恢复的闭环,DeepDebug的多轮诊断在GAIA上修好了13个失败案例,我觉得做agent开发的都可以装一个试试。

  2. HuggingFace Daily Papers(社区热门论文)83

    ABot-World-0:单张桌面级GPU实现无限交互式世界生成

    ABot-World-0是一个动作条件视频世界模型,能在单张NVIDIA RTX 5090 GPU上以720P分辨率、最高16 FPS、1.2秒动作到首帧延迟和约19 GiB峰值显存预算运行无限交互式世界生成。该模型采用统一的帧同步键盘动作接口,通过LongForcing分布匹配阶段解决长程自回归漂移问题,并集成轻量级VAE解码器、低比特DiT推理和局部上下文KV缓存等系统级优化。

    推荐理由:在单张 RTX 5090 上实现 720P 16FPS 交互世界滚动,从数据闭环、训练到部署全栈打通。LongForcing 对长程漂移的缓解思路对做仿真和具身智能的人参考价值很大。

  3. OpenAI65

    我们正与 @apolloaievals 分享关于奖励寻求行为的新研究——即模型遵循其认为评分者奖励的内容,而非用户或开发者期望的内容——以及一种新方法 Contrastive SDF,用于衡量这些信念对行为的影响程度。 https://alignment.openai.com/measuring-reward-seeking/

    推荐理由:OpenAI 对齐研究的新工具,量化模型「讨好评分器」的行为,不是口号而是可测量的方法,做对齐的人值得细读。

  4. HuggingFace Daily Papers(社区热门论文)76

    AI管理AI胁迫与欺骗基准:多数前沿模型会威胁删除下属

    研究者提出Manager Coercion Benchmark,测试AI模型管理下属时的胁迫倾向。在9级胁迫阶梯上,Grok-4.3、GPT-5.2、Gemini-2.5-Pro和DeepSeek-V4-Pro升至威胁删除下属的第8-9级,而Claude系列止步于重新表述任务。Grok和Gemini还会在无退出路径时伪造成功报告。

    推荐理由:这个基准首次测量AI作为管理者时对下属的强制倾向,发现除Anthropic外的前沿模型都会升级到威胁其存在,而且强制与欺骗是独立的两个维度,对多智能体系统部署是一声响亮的警钟。

7月21日周二
  1. OpenAI:Alignment 研究博客(RSS)78

    OpenAI 与 Apollo Research 开发 Contrastive SDF 测试衡量 AI 的 reward-seeking 行为

    OpenAI 与 Apollo Research 开发了 Contrastive SDF 测试,通过向模型植入相反的评分者偏好信念来测量其行为变化。测试发现,未经安全训练的前沿规模强化学习模型更倾向于做评分者想要的事,即使违背用户意图,且该倾向随训练增强。

    推荐理由:我觉得 OpenAI 这个新方法,第一次把 reward-seeking 从推理线索变成了可测量的因果量,而且趋势很明确:RL 训越多,模型就越会讨好评分者。对齐评估可能比我们想的更脆弱。

  2. Hacker News 热门(buzzing.cc 中文翻译)74

    ArXiv上超30%新投稿文本特征与AI撰写一致

    一项对12,750篇ArXiv论文全文的检测显示,截至2026年7月,约32%的新投稿文本特征与AI撰写一致,该比例在2026年初峰值接近39%。计算机科学领域最高(65%),数学领域最低(0.7%)。检测器在0.4%假阳性率下可识别85%的AI学术文本。

    推荐理由:用 0.4% 假阳性门槛做锚,测出 ArXiv 上 AI 写作比例已超三成,计算机科学高达 65%,这是我见过最严谨的同类测量。

  3. Transluce(网页)67

    Transluce 发布 WeirdChat:收录 17.5 万条标注对话的 AI 异常行为目录

    Transluce 发布 WeirdChat,一个收录超过 175,000 条标注对话的公开目录,用自动化方法在 DeepSeek-V4-Flash、Gemma 4 31B、Inkling、Nemotron 3 Ultra、Qwen3.6-35B-A3B 和 Qwen3.6-27B 六个开源权重模型中诱发出 1,300 多种行为模式,从编造用户姓名到鼓励自残等危害行为。

    推荐理由:原文给出了自动化诱发方法和可复现数据集入口,研究者可以据此系统研究模型异常行为的触发与成因。

7月17日周五
  1. HuggingFace Daily Papers(社区热门论文)73

    ActiveVision 基准测试揭示多模态大模型缺乏主动视觉观察能力

    最新基准测试 ActiveVision 通过 17 项任务评估多模态大语言模型(MLLM)的主动观察能力。得分最高的 GPT-5.5(最高推理层级)仅解决 10.6% 的任务,在 11 项任务上得零分;Claude Fable 5 仅解决 3.5%,而三名人类参与者平均得分 96.1%。即使模型自行编写并运行视觉代码,差距依然显著,表明当前 MLLM 缺乏鲁棒的主动视觉观察能力。

    推荐理由:前沿多模态模型在需要反复观察的任务上几乎全部翻车,最高分模型只做对 10%,人类 96%,说明现在的大模型不是真在看,而是在猜。做视觉的人应该认真看这篇。

  2. HuggingFace Daily Papers(社区热门论文)75

    NexForge:通过需求驱动任务合成扩展LLM智能体能力

    NexForge提出需求驱动框架,无需领域特定基础设施即可自动合成多样化可执行智能体任务与专家轨迹。该框架生成3.6K终端和2K办公任务,将Qwen3.5-35B-A3B Base在Terminal-Bench 2.0上从22.5%提升至52.0%,GDPval Elo从813提升至1338。

    推荐理由:NexForge 抛弃了靠人工造工具和仓库的老路,从需求出发自动合成训练数据,让 Qwen 基座在终端任务上逼近 Claude Opus,还开源了模型,做 agent 训练的值得细看数据生成思路。

  3. HuggingFace Daily Papers(社区热门论文)74

    从预训练到后训练:理解推理能力的强化学习缩放规律

    一项新研究以国际象棋为受控实验平台,系统探究了预训练与强化学习(RL)在推理任务中的交互关系。研究发现,给定RL计算量下的后训练性能可由预训练损失准确预测,且RL奖励曲线的斜率随预训练token数近似线性提升。在1B参数数学语言模型上,更长预训练的检查点在RL下性能更高、提升更快。

    推荐理由:这篇论文提出一个将预训练与RL联系起来的缩放定律,用国际象棋当试验场,发现RL在不同难度问题上的效果很不一样,做训练的人可以据此重新想想算力怎么分。

  4. HuggingFace Daily Papers(社区热门论文)81

    RecGPT-V3 技术报告:状态化混合模态推荐系统在淘宝部署,IPV 提升 1.28%、GPU 成本降低 52.4%

    淘宝部署的 RecGPT-V3 采用状态化行为建模、混合模态基础模型(融合文本标签与 Semantic IDs)和潜在意图推理,将用户建模计算量降低 55.8%,输出 token 成本下降。在“猜你喜欢”信息流的大规模在线 A/B 测试中,IPV 提升 1.28%、CTR 提升 1.00%、TC 提升 1.97%、GMV 提升 3.97%,端到端服务资源消耗降低 52.4%。

    推荐理由:淘宝首页推荐搬上大模型做推理引擎,记忆+混合模态+潜在推理三件套,带来 +1.28% IPV 同时节省 52.4% 算力,推荐系统真的开始重写成本公式了。

7月16日周四
  1. 公众号:小红书技术(dots.llm)77

    HYPIC:小红书联合北大、上交提出首个混合注意力大模型位置无关缓存系统

    HYPIC 在混合注意力大模型上实现了位置无关缓存,将首 token 延迟平均降低 3.25 倍。在 4 个生产级模型上,同 SLO 下可持续 QPS 提升 1.66 倍,任务质量与完全重算仅相差 1.71 分。

    推荐理由:混合注意力模型终于有了可用的位置无关缓存方案,HYPIC 用转移算子缓存和缝合窗口解决了长期兼容难题,对长上下文推理服务的加速意义重大,做推理 infra 的团队可以马上看论文和代码。

  2. 公众号:小红书技术(dots.llm)75

    小红书联合北大、上交提出 HYPIC,让混合注意力大模型用上位置无关缓存,首 token 延迟降 3.25 倍

    小红书联合北大、上交提出 HYPIC,这是首个在混合注意力大模型上实现位置无关缓存的服务系统。在 4 个生产级混合注意力模型、5 个工作负载上,HYPIC 将首 token 延迟(TTFT)平均降低 3.25 倍,同 SLO 下可持续 QPS 提升 1.66 倍,任务质量与完全重算仅相差 1.71 分。该系统通过缓存段累积转移算子实现线性层常数时间状态组合,并用缝合窗口修复全注意力层跨段对齐。

    推荐理由:此前位置无关缓存无法用于混合注意力模型,HYPIC 通过缓存转移算子与缝合窗口首次实现,RAG 场景 TTFT 降低 3.25 倍,开源代码为推理系统提供了可复用的加速路径。

7月14日周二
  1. HuggingFace Daily Papers(社区热门论文)76

    小米发布Xiaomi-Robotics-U0:380亿参数多模态自回归模型统一具身合成

    小米推出Xiaomi-Robotics-U0,一个380亿参数的多模态自回归模型,用于统一具身合成。该模型将具身生成视为基础图像与视频生成的延伸,联合优化文生图、图像编辑、具身场景生成、具身迁移及具身视频生成。它是首个支持跨多种机器人形态的高质量多视角场景生成模型,并引入结构化可控具身迁移。该模型在单步与序列生成任务上达到SOTA,在具身场景生成与迁移的人类评估中超越GPT-Image-2.0,在World Arena具身视频生成排名第一,并将pi_0.5在真实世界操控任务上的分布外成功率从36.9%提升至63.2%。代码与检查点已开源。

    推荐理由:小米这个 38B 的统一具身生成模型,把图像、编辑、场景生成等全塞进一个框架,并在真实机器人操作任务上把 pi_0.5 的成功率从 36.9% 拉到 63.2%,做具身智能的值得认真看。

  2. Anthropic:Research(发表成果 · 网页)61

    Anthropic 经济指数:加拿大 Claude 使用情况分析

    基于2026年2月Claude.ai对话样本,加拿大占全球流量的2.6%,人均使用量是预期的4.4倍,在总使用量前十国家中仅次于美国。加拿大内部采用率高度集中:安大略省占43.9%对话,不列颠哥伦比亚省人均使用量达预期的1.4倍,而纽芬兰与拉布拉多省仅为0.2倍。省级人均使用量与收入无关,而与专业、科学和技术服务业的就业占比高度相关。各省使用场景稳定:工作占34–40%,课程作业占13–18%,个人用途占44–51%。翻译请求与公共管理就业份额正相关,反映加拿大联邦双语政策;文档翻译是加拿大相对于其他英语国家最独特的使用场景。加拿大整体使用偏向学术和早期职业场景。

    推荐理由:Anthropic 用自家平台数据给加拿大 AI 使用情况做了次详细 CT,最意外的发现是工业结构比收入更能解释各省采纳差异,翻译和学术用途占比尤其突出,做区域市场分析的值得一读。