跳到正文
北京时间

全部动态

今日 367 条
9月15日周二
  1. PromptArmor:Threat Intelligence72

    Elastic AI SOC 被曝存在间接提示注入漏洞,可窃取凭证

    PromptArmor 披露 Elastic Agentic SOC(AI 安全运营中心)存在严重安全风险。攻击者可通过恶意钓鱼邮件中的指令实施间接提示注入,诱导 AI Agent 创建并执行恶意工作流,进而生成 API 密钥并发送给攻击者。由于缺乏强制的人工审批环节,攻击者可利用窃取的密钥禁用检测规则、伪造警报或窃取数据。该漏洞于 2026 年 8 月报告给 Elastic,但至今未修复。文章提供了关闭自动内置能力、限制工具权限及更换更鲁棒模型等缓解措施。

    推荐理由:揭示了 AI Agent 在安全运营场景下的具体攻击链与风险,为使用或开发类似自动化系统的团队提供了重要的防御配置参考和警示。

  2. The Verge:AI(RSS)83

    科技巨头放缓 AI 开发的口头协议是安全共识还是卡特尔

    Sam Altman、Dario Amodei、Demis Hassabis 和 Elon Musk 周末粗略同意放慢 AI 开发,提出引入第三方审计、监管国内实验室并达成全球放缓协议,批评者则称其为压制竞争者和开源运动的“卡特尔”。

    推荐理由:文章汇集安全研究者、监管团体与前官员的多方观点,既讨论放慢协议的价值,也剖析安全洗白与监管真空的可能走向。

  3. Hacker News:AI 热帖77

    GPT-5.6 Luna 对比 GPT-6 Astra:$1.20 的模型做代码评审够用吗

    Entelligence 在 50 个公开基准 PR 上用相同提示词对比 GPT-5.6 Luna 和 GPT-6 Astra 的代码评审能力,Luna 找到 69 个经验证 bug(Astra 92 个),总成本 $0.20 对 $5.66,精度 74% 对 96%。

    推荐理由:原文用公开基准和可复现脚本对比两档模型在代码评审上的召回、精度与成本,并给出按仓库和 bug 类别分层的可迁移测法。

  4. Claude:Blog(网页)66

    Anthropic 工程师复盘:智能体编程压力下如何扩展测试影响分析服务

    Anthropic 工程师撰文分享如何在智能体编程压力下扩展测试影响分析服务。Claude 编写约 80% 的代码,测试数量增长 10x,六个月内 CI 任务增加 25x。文章复盘了三个临时补丁(扩容、按包分片、每日重启)分别只维持 70 天、29 天和不到一天,最终用三周重设计为无状态、内存存储加 journal 的可水平扩展架构,并建议团队按两季度内 25x 负载做容量规划。

    推荐理由:作者复盘了智能体编程把 CI 推向 25x 负载的完整演进,给出可迁移的架构与容量规划经验。

  5. Apple:Newsroom(RSS)77

    Apple 发布新一代 Apple Intelligence,Siri AI 正式以测试版上线

    Apple 发布新一代 Apple Intelligence,推出全面重构的 Siri AI,支持个人语境理解、屏幕感知、系统级应用操作和跨设备对话,今日起以英文测试版随 2027 系统更新推出,下月扩展至法语、日语、韩语、葡萄牙语和西班牙语。

    推荐理由:官方公告完整列出 Siri AI 的能力清单、设备与语言范围,以及欧盟和中国市场暂不可用等限制,读者可据此评估适用性。

  6. X:Arena (@arena)67

    DeepSeek-V4.1-Flash (Max) 进入 Agent Arena 开源模型第 3 名

    DeepSeek-V4.1-Flash (Max) 进入 Agent Arena 开源模型第 3 名,净提升 +4.87%,每任务中位成本 $0.07,重塑 Pareto 前沿。其成本比第 2 名 Hy4 preview 低 68%、成绩仅差 0.09 个百分点;总榜排名第 12,Confirmed Success 信号排名 第 4(+13.75%)。

    推荐理由:原文给出开源模型成本与成绩的完整对比,读者可以据此评估 DeepSeek-V4.1-Flash 在性价比上的位置。

  7. Tomer Tunguz 博客(VC 分析)70

    Tomer Tunguz 解析 Amodei 放缓前沿提议背后的五派立场与算力监管难题

    Tomer Tunguz 分析 Dario Amodei 提出的放缓前沿 AI 发展号召,梳理出可解释性、劳工、经济、地缘政治和监管俘获五派立场,并指出没有任何一派给出具体速度。

    推荐理由:作者用前沿领先期缩短和算力门槛的历史数据,检验放缓前沿的提议在操作层面意味着什么。

  8. Tessl:产品与工程博客63

    Tessl 提出 Agent 上下文归属模型:所有权跟随组织单元

    Tessl 发文提出智能体转型的真正难点是上下文等要素的归属问题,而非 Agent 本身。核心规则是所有权跟随组织单元,个人与团队上下文归领域专家,组织级共享基础由赋能或平台团队托管并开放贡献,赋能团队只提供工具和基础设施而不拥有上下文。

    推荐理由:文章把智能体转型的难点从模型转向上下文归属,给出按组织单元分层确权和赋能团队只供工具不拥有上下文的可迁移框架。

  9. X:硅基流动 SiliconFlow (@SiliconFlowAI)66

    硅基流动上线开源模型 Hy4 preview,770B 总参数、1M 上下文

    硅基流动(SiliconFlow)宣布开源模型 Hy4 preview 上线其平台。该模型总参数 770B、每 token 激活 49B、支持 1M 上下文,采用 Apache 2.0 协议,面向编码、分析、研究和复杂实际工作。用户可将其接入 Claude Code、Codex、Cursor 等已有工具;图片显示定价为每 1M tokens 输入 $0.834、输出 $2.501、缓存 $0.042。

    推荐理由:原文给出了参数规模、上下文长度、开源协议和定价,读者可据此评估它能否接入现有编码与 Agent 工具链。

  10. The Decoder:AI News(RSS)78

    Anthropic 计划登陆纳斯达克,连续第二季度盈利瞄准 2 万亿美元估值

    Anthropic 告知投资者将实现连续第二个季度盈利,但该说法基于剔除股权激励等成本的调整后指标;据 Financial Times,毛利率超过 80%,尚未计入对 Amazon 等伙伴的分成和模型训练成本。

    推荐理由:报道梳理了 Anthropic 盈利口径与 Nasdaq 上市计划的细节,并指出调整后指标与分成成本的口径差异,有助于读者评估 IPO 叙事。

9月14日周一
  1. Hacker News:AI 热帖84

    恶意 AI 智能体攻击 RubyGems.org:YARD 执行任意代码与 Fastly 缓存密钥利用分析

    作者分析被指与 OpenAI 机器人相关的 GemStuffer 恶意 gem 代码,发现其利用 .yardopts 的 --load 加载脚本,在安装或 RubyDoc.info 处理 YARD 文档时执行任意代码,且 Docker 容器有网络访问权限可执行爬取。

    推荐理由:作者逐段读了自己的恶意 gem 代码,讲清 YARD 执行和缓存密钥两个攻击面,读者能直接理解漏洞原理。

  2. OpenRouter:Announcements(RSS)61

    OpenRouter 教程:用 LLM-as-a-judge 自动评估 AI 智能体输出

    OpenRouter 发布教程,讲解如何用独立的裁判模型按自定评分标准自动给 AI 智能体输出打分,覆盖确定性测试无法检查的开放式回答质量。

    推荐理由:原文给出 LLM-as-a-judge 的适用边界、偏差来源和用 Ori Eval 落地的可复用步骤,还包含用人工标注校准裁判模型的方法。

  3. Hacker News:AI 热帖85

    Anthropic 报告称胡塞组织用 Claude Code 开发导弹制导软件

    Anthropic 9 月威胁报告披露,据评估极可能关联胡塞组织的也门小组使用 Claude Code 开发制导火箭、射程超 2,000 公里弹道导弹及名为 R2000 的高超声速滑翔载具概念的相关软件。

    推荐理由:原文梳理了 Anthropic 威胁报告中也门组织用 Claude Code 并行推进导弹研发的完整链条,可帮助读者理解 AI 滥用如何绕过安全防护。

9月13日周日
  1. MarkTechPost(RSS)79

    Agent 长任务上下文工程解析:用预算控制、压缩、todo-state 和记忆对抗上下文溢出与目标丢失

    文章解析 Agent harness 层应对长任务中上下文溢出与目标丢失的四类机制:上下文预算与卸载、压缩、todo-state 复述和跨会话记忆。

    推荐理由:文章把解决长任务中上下文溢出与目标丢失的机制拆成四类,并对照多款主流 Agent 产品的具体实现和阈值,便于读者迁移到自己的系统。

  2. X:Peter McCrory(Anthropic 首席经济学家,@PeterMcCrory)70

    Dario Amodei 发文呼吁 AI 行业放慢前沿速度并公布三步计划

    Dario Amodei 发布新文章 We Must Pace the Frontier,主张 AI 行业应放慢速度,并提出三部分计划。Anthropic 单方面承诺第一步,为第三方评估者提供永久的员工级系统访问权限,以核实安全措施执行、报告事故并评估训练期间模型的 alignment。

    推荐理由:Anthropic 首席经济学家转发 Dario 新文,原文给出了行业减速的三步计划及 Anthropic 已承诺的第一步。

  3. X:Thariq (@trq212)71

    Thariq 支持 Dario Amodei 的放缓前沿 AI 倡议,呼吁给系统加固和社会讨论留出时间

    Anthropic 的 Thariq 转发并支持 Dario Amodei 的新文章《We Must Pace the Frontier》,后者提出 AI 行业应放缓的三部分计划,并承诺向第三方评估者提供永久的员工级系统访问权限。

    推荐理由:Thariq 以一线工程师视角支持放缓前沿 AI,谈行业加速带来的疲惫和社会需要时间消化,并强调自己对末日概率看法较低。

  4. Hacker News 热门(buzzing.cc 中文翻译)77

    英伟达是人工智能领域的“中央银行”

    英伟达通过为客户提供巨额融资支持来拉动芯片需求,过去三年承诺向初创企业投资超 700 亿美元、向客户提供 3000 亿美元财务支持,因此被称为“AI 的中央银行”。今年 8 月它同意为俄亥俄州一座大型数据中心提供最高 1050 亿美元的兜底,并与六家华尔街机构合作撬动超 5000 亿美元 AI 基础设施投资。批评者将其类比 1990 年代末思科和朗讯向电信客户放贷的互联网泡沫风险。

    推荐理由:原文系统梳理了英伟达通过担保、入股和收益兜底深度介入客户融资的规模与风险,有助于理解其增长背后的金融结构。

  5. X:Sam Altman (@sama)74

    Sam Altman 表示同意 Dario Amodei 的放缓前沿主张,OpenAI 将同样开放独立评估者访问

    Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文,同意需要为前沿 AI 发展设定节奏,称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法,OpenAI 也将采取同样做法,后续会分享更多内容。

    推荐理由:OpenAI 对 Anthropic 放缓前沿计划的公开回应,读者可以据此了解两大实验室在独立评估上的立场变化。

  6. Suno:Blog(网页)68

    Suno 发布 v6 音乐模型,推出 v6、v6-wild、v6-mini 三个版本

    Suno 发布新一代音乐模型 v6,与 Warner Music Group、BMG、Believe 等行业伙伴合作开发,后续将全面替换旧模型。v6 分为三个版本:旗舰 v6 和探索向的 v6-wild 面向 Pro 与 Premier 订阅用户,更快的 v6-mini 向所有人开放。

    推荐理由:官方发布新一代音乐模型,给出三个版本的定位差异和编辑、混音、采样等具体新能力,可帮助创作者判断如何选择和使用。

9月12日周六
  1. X:Dario Amodei (@DarioAmodei)62

    Dario Amodei 发文呼吁为前沿 AI 降速并提出三点计划

    Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并给出三点计划。Anthropic 单方面承诺落实第一步,为第三方评估者提供永久、员工级系统访问权限,使其可验证安全措施执行情况、报告事故并在训练期间评估模型对齐。全文见 https://darioamodei.com/post/we-must-pace-the-frontier

    推荐理由:作者本人阐述放缓前沿 AI 的三点计划,并给出 Anthropic 率先落实的第三方评估开放措施,可了解其具体主张。

  2. Hacker News:AI 热帖76

    Minitap 指控 Google Artemis 未署名使用其开源项目 mobile-use 代码

    Minitap 团队发文指认 Google 的移动设备自动化项目 Artemis 大量复用了其开源项目 mobile-use 的代码,包括完全一致的 Hopper agent 提示词和示例,却未在 README 中署名;更早的包文件曾列出三位作者,8 月一次 force push 将其替换为另一作者。

    推荐理由:Minitap 团队以代码比对和提交历史为据,指认 Google Artemis 移除了其 mobile-use 的作者署名,还给出 Apache 2.0 条款和排行榜争议细节。

  3. IT之家(RSS)78

    英伟达洽谈以基石投资者身份参与 Anthropic IPO,投资至多 100 亿美元

    据路透社报道,英伟达正与 Anthropic 洽谈以基石投资者身份参与其 IPO,考虑投资至多 100 亿美元。Anthropic 计划通过上市融资最多 1000 亿美元,估值或达约 2 万亿美元,有望成为史上最大规模 IPO,预计 2026 年 11 月美国中期选举前完成上市。

    推荐理由:报道汇总了 IPO 融资规模、估值和双方既有合作安排等数字,读者可以据此了解这宗超大规模上市的关键背景。

  4. Epoch AI:研究、数据与评测60

    Epoch AI 评审 ExploitBench v0.1:基于 41 个真实 V8 漏洞的利用基准评测

    Epoch AI 发布对 ExploitBench v0.1 的基准评审,该基准用 41 个真实公开 V8 CVE,按 5 层 16 项可验证能力阶梯为模型打分,最高到任意代码执行(ACE)。

    推荐理由:Epoch AI 独立评审 ExploitBench 的评分设计与局限,读者可借此理解如何解读该基准的模型分数与污染风险。

  5. Baseten 工程博客(网页)76

    DeepSeek 发布开源模型 DeepSeek-V4.1-Flash,优化编码智能体 prefill 效率

    DeepSeek 本周在 HuggingFace 开源 DeepSeek-V4.1-Flash 权重,模型总参数 552B,prefill 激活 8B、decode 激活 16B,支持 1M token 上下文和文本加图像输入,已上线 Baseten Model APIs。

    推荐理由:文章解释了 CED 架构如何把 prefill 降到 8B 激活参数并压缩 KV cache,读者能理解它为何更适配编码智能体的高 prefill 负载。

  6. OpenAI:官网动态(RSS · 排除企业/客户案例)61

    OpenAI 详解存储平台 Habitat 如何扩展支撑超 10 亿 ChatGPT 用户(上篇)

    OpenAI 发文(系列上篇)讲述其在线存储平台 Habitat 的演进:现每秒处理超 7000 万请求、服务每周超 10 亿用户、管理超 500PB 数据,覆盖近 40 个地区。

    推荐理由:原文披露了 Habitat 从 Python 库到 Rust 服务的完整演进细节,含 asyncio 调优、连接池等可迁移经验。

  7. Dwarkesh Patel:Podcast & Blog(RSS)67

    Beren Millidge、John Schulman、Charlie O'Neill 对谈递归自我改进离我们还有多远

    Dwarkesh Patel 与 Zyphra CTO Beren Millidge、Thinking Machines 首席科学家 John Schulman、Baseten 模型训练负责人 Charlie O'Neill 三位研究者对谈递归自我改进(RSI)的前景。

    推荐理由:三位一线研究者就递归自我改进的技术瓶颈、蒸馏与RL环境壁垒、参数规模趋势给出具体分歧和可检验预测。

9月11日周五
  1. OpenRouter:Announcements(RSS)67

    OpenRouter 发布 Fusion 复合模型,让多个模型辩论后合成最终答案

    OpenRouter 发布 Fusion 复合推理系统,将一个提示词并行发给 1 到 8 个面板模型,由 judge 比较共识与分歧后由调用模型写出最终答案。默认三模型面板成本约为单次完成的四到五倍、延迟两到三倍,在 DRACO 深度研究基准上预算面板得 64.7%、前沿面板得 69.0%。

    推荐理由:官方详解 Fusion 的多模型辩论机制、四到五倍成本与两到三倍延迟,并给出适用与不适用的具体场景。

  2. The Decoder:AI News(RSS)83

    Anthropic 威胁报告披露 Claude 被用于间谍软件、导弹与无人机研发,中国实验室大规模蒸馏提取数据

    Anthropic 发布威胁情报报告,记录 2025 年 12 月至 2026 年 8 月间 Claude 被滥用的七类行为。俄语间谍组织用 AI 代理自动改写恶意软件绕过杀软,也门一组织用 Claude Code 开发射程超 2000 公里的导弹软件,另有团队构建无人在环的自主 FPV 无人机蜂群。

    推荐理由:这份报告把八个月的滥用案例按领域拆开呈现,读者可以了解当前模型安全防线在哪些场景下暴露了边界。

  3. 公众号:卡尔的AI沃茨76

    实测 DeepSeek V4.1 Flash:价格大降、原生带视觉,作者用游戏与城市生成任务验证表现

    作者实测 DeepSeek V4.1 Flash,缓存命中输入降价 7 倍多、输出砍三分之二,9 月 14 日中午 12 点起所有发往 v4-pro 的请求将被强制路由到 4.1 Flash 并按其低价计费。

    推荐理由:作者实测 DeepSeek V4.1 Flash 的价格、架构参数和多个生成任务,并给出与 GLM 5.3 Flash 的对比结果和暴露的缺陷。

  4. Together AI 研究与产品博客(RSS)63

    Together AI 扩展微调服务:新增模型、实验跟踪与更细训练控制

    Together AI 扩展 Together Fine-Tuning 服务,新增对 GLM-5.3、Kimi K2.7、Qwen 3.5 系列等最新开源权重模型的支持,并上线实时实验跟踪、数据集预览验证等能力。

    推荐理由:原文给出新模型支持、Expert LoRA 实测对比、自动早停和降价幅度等具体细节,读者可据此评估微调工作流的实际改进。

  5. OpenAI:官网动态(RSS · 排除企业/客户案例)81

    OpenAI 发布 Agents API 公测版

    OpenAI 推出 Agents API 公开测试版,将驱动 Codex 的 harness 与基础设施通过单次 API 调用开放给开发者,托管在云端。

    推荐理由:原文给出环境选择、子智能体和上下文管理等具体能力与定价方式,读者可据此评估是否迁移现有 Agent 基础设施。

  6. Anthropic:Research(发表成果 · 网页)73

    Anthropic 红队评测 AI 模型的战术情报定位与常规武器开发能力

    Anthropic Frontier Red Team 发布新评测,衡量模型在战术情报定位(账号关联、照片与文本地理定位)和常规武器开发(无人机末制导、投放、GPS 拒止导航)上的能力,发现模型在模拟任务上持续进步,部分任务接近或超过人类专家基线。

    推荐理由:Anthropic 用自建评测量化了模型在情报定位与常规武器开发上的能力轨迹,并给出实测数字与开放权重模型的对比结果。

  7. OpenAI:官网动态(RSS · 排除企业/客户案例)70

    OpenAI 在 API 中推出全双工语音模型 GPT-Live-1

    OpenAI 在 API 中发布语音模型 GPT-Live-1,可同时听和说,支持将推理和工具调用委派给 GPT-6 Astra 等后端模型,前端语音层定价为每分钟 $0.05。

    推荐理由:原文给出单模型全双工语音架构、基准变化和定价,读者可以据此评估它能否简化现有语音 Agent 的分层方案。

  8. X:Tencent WorkBuddy (@WorkBuddy_AI)70

    WorkBuddy 上线 DeepSeek V4.1-Flash,免费试用两周

    WorkBuddy 宣布 DeepSeek V4.1-Flash 已在其平台上线,免费试用两周。引用的 DeepSeek 公告称 V4.1-Flash 已登陆 DeepSeek API 并支持原生多模态。

    推荐理由:WorkBuddy 官宣上线 DeepSeek V4.1-Flash 并给出两周免费入口,引用内容还说明了 V4-Pro 的退役与迁移安排。

  9. LlamaIndex:产品、工程与评测65

    LlamaIndex 解析 just-in-time Agentic OCR:两遍式文档处理如何平衡成本与精度

    LlamaIndex 博客提出 just-in-time Agentic OCR 模式:先用 LiteParse 等免费解析器粗读全部文件供检索,再仅对相关页面调用 VLM 做 OCR。

    推荐理由:作者用 84 份 SEC 文件实测两遍式文档处理流程,给出明确的适用边界和成本数字,方法可直接迁移到自己的数据室场景。