美军用AI选目标却误炸伊朗学校，Anthropic Claude嵌入Palantir系统首日建议约1000目标

对伊朗一所学校遭导弹袭击事件的调查，暴露出美军目标定位基础设施中的严重漏洞。AI 本应弥补这些漏洞。

一名情报分析员的一条被忽视的备注，以及彼此之间无法通信的系统：据《洛杉矶时报》报道，调查人员在追查伊朗一所学校遭导弹袭击事件时，发现了这两个核心失误。这起发生在2月下旬的袭击造成约120名儿童死亡。此次袭击发生在一场战争期间，据此前的报道，美军在这场战争中首次大规模使用 AI 进行目标筛选。Anthropic 的 Claude 模型被嵌入 Palantir 的 Maven Smart System，在第一天就建议了大约1000个目标。

在袭击发生数年前，一名分析员注意到伊朗东南部米纳布市一处地点的变化。美国此前将该建筑归类为伊朗海军军事设施。而到那时，它已经变成了一所小学。

一条无人看到的备注

据《洛杉矶时报》报道，这名分析员在2019年使用一款数字情报工具标记了这些变化。关键问题在于，该工具并未与美军用于制定打击目标的官方目标数据库相连。这一信息从未传达到指挥官手中。该建筑曾被多次审查，但没有人更新数据库。据《纽约时报》报道，所使用的图像资料已有七年之久。

据《洛杉矶时报》报道，至少有两个情报数据库从未与权威目标数据库连接。在叙利亚，2010年代中期的目标数据有时已是10年或20年前的旧数据。处于核心位置的是一个名为 MIDB 的数据库，建于1980年代，至今仍严重依赖人工输入。它本应由一个名为 MARS 的自动化系统取代，但这一过渡已落后计划数年。美国政府问责局早在2020年就曾指出该系统长期存在的缺陷。

这套老化的基础设施与AI在其他领域的发展速度形成了鲜明对比。《华尔街日报》的一篇报道称，最初几天的打击目标数量超过3000个，并警告称，对致命决策进行人工审查的监督机制资金不足。即便如此，美国调查人员当时就认为美军很可能对那起学校空袭负有责任，而《洛杉矶时报》的报道如今以具体的技术故障为这一结论提供了佐证。

AI 本应修复破损数据库无法解决的问题

据《洛杉矶时报》报道，一些目标定位专家希望，将数字系统互联并引入更多AI，能够减少今后的错误。与 Google Maps 等公共服务进行自动化交叉核对，可以为人工审查标记出异常情况。报道发布后，五角大楼正是朝着这个方向推进，公布了一项智能体 AI 计划。

负责监管 MIDB 和 MARS 的国防情报局在彭博社联系时，并未直接回应这些缺陷或延迟的过渡。一位发言人笼统地提到，指派的分析师开展了详尽的分析。

五角大楼自己的 AI 先驱发出警告

按照美国现行的目标打击准则，由军事指挥官决定是否优先打击某个目标。他们必须区分军事目标与民用目标。此外还有一个可选流程叫做目标审查，用于核查所依据情报的准确性。一位前高级情报官员对《洛杉矶时报》表示，在一场新战役的第一天实施打击时，指挥官若跳过这一步是不可想象的。中央司令部在对伊朗采取行动前审查了目标，但这一可选的审查流程是否启动，目前仍不清楚。

报告中最为尖锐的批评来自一个令人意外的信源。Jack Shanahan 是一位退役的空军三星上将，曾是 2018 年成立的联合人工智能中心的首任主任。在此之前，他领导了 AI 项目 Project Maven。这使他成为美国军方采用 AI 的架构师之一，而如今这支军队正依赖的恰恰就是 Maven 系统。当时，Shanahan 预测 AI 将在美中之间任何潜在冲突中扮演核心角色，并且在 20 年内，算法将彼此对抗。

Shanahan 对《洛杉矶时报》表示，一个司令部未能核实其情报的准确性是没有任何借口的。他将目标打击这一领域本身描述为一个垂死的职业方向，在军方专注于反恐的二十年里逐渐萎缩。他说，早在 2017 年，他就几乎找不到人来填补这些岗位。