AI的黑暗面 以色列在加萨用人工智能生成轰炸目标 | 苦劳网

以色列媒体揭露以色列军方运用人工智能（AI）技术来生成攻击名单并决定轰炸目标。人权与科技专家谴责以色列的这项做法，认为这可能构成战争罪，呼吁停止在战争中运用AI技术。

以色列杂志《+972》与希伯来语新闻网站「Local Call」 4月3日发布报导，以色列军方使用名为「薰衣草」（Lavender）的AI技术生成攻击对象名单，报导访问了6名以色列情报人员，根据他们的说法，「薰衣草」在加萨战争初期扮演重要角色，该系统能快速处理大批数据并辨认出潜在的初级情报人员。「薰衣草」生成的攻击目标名单包含了37,000名巴勒斯坦人，这些人被AI系统认定为是哈玛斯或者巴勒斯坦伊斯兰圣战运动（PIJ）的低级战士。

这篇报导并未说明训练「薰衣草」系统的数据源以及该系统如何生成名单。负责研发「薰衣草」的以色列军队情报部门「8200」部队，在战争初期调整了系统的算法与搜索参数，确认其「准确率」达90%后，经以色列军方批准在实战上运用。

换句话说，以色列军队在明知「薰衣草」系统错误率高达10%的情况下，就允许士兵根据AI所生成的名单进行轰炸。受访者表示，军方高层在攻击行动前，预先批准了可容许的「附加伤害值」，而随着战争持续，以色列为了攻击一名哈玛斯低级战士，可以接受15至20名平民被杀害，如果攻击目标是哈玛斯高级官员，甚至允许杀害100名平民。以色列情报人员的说法，不仅与以色列领导人与军方吹嘘的「精准打击」大相径庭，也被人权与国际法专家指出将构成战争罪行。

国际人道法要求军队攻击必须遵守「区分原则」与「比例原则」，即每次攻击只能针对战斗人员，并且评估攻击行动可能造成的平民伤亡。联合国人权与反恐问题特别报告员本・索尔（Ben Saul）表示，如果这篇报导内容属实，以色列在加萨发动「不成比例」的攻击将构成战争罪。

以色列军队不单只使用「薰衣草」这套AI系统，根据报导，以色列也使用另一套名为「爸爸在哪里？」（Where's Daddy）的人工智能程序，追踪暗杀名单中的巴勒斯坦男子，确认攻击对象晚上与家人在家的时间才发动攻击，并以空袭行动对哈玛斯低级战士投掷非导引炸弹，尽管这样的做法将摧毁整栋房屋，杀害里头所有的居民。受访者表示，以色列不想将昂贵的炸弹浪费在不重要的人身上，因此愿意接受导致屋内其他平民的「附加伤害」。

自去年（2023）10月7日起，以色列对加萨发动的战争已杀害33,000名巴勒斯坦人，根据联合国统计，在战争首月，就有1,340个家庭损失一名以上家庭成员、312个家庭失去超过10名以上家庭成员。以色列在过去6个月轰炸住宅区、袭击医院，并蓄意杀害救援人员，不仅引发舆论谴责，更在国际法院上被指控种族灭绝罪，这次被揭露在战争中使用AI技术再度引发各界哗然。

在过往案例中，以色列军方制定出类似的杀戮名单后，还需要真人确认目标并经法律顾问批准。在10月7日之后，人工智能数据库迅速生成目标，参与批准的人员只花费短短20秒时间查核后就决定是否允许轰炸，真人复查沦为橡皮图章。澳洲新南威尔斯大学人工智能专家托比・威尔士（Toby Walsh）认为，AI令战争规模扩大到可怕的地步，但是真人却很难对人工智能系统运行有意义的监督。

土耳其的安纳多卢通信社曾报导，以色列利用加萨作为「武器试验场」，测试其人工智能的杀人技术。以色列作为领先全球的监控与数字辨识技术出口国，在过去50年来，已向全球至少130个国家输出高科技监控产品，其间谍软件与数字辨识工具，许多是为了维持对约旦河西岸与东耶路撒冷的非法占领以及封锁加萨走廊而开发，包括著名的手机间谍软件「飞马」（Pegasus），美国与欧盟边境管理局（Frontex）也分别使用以色列开发的监视技术与无人机技术监控边境难民。《巴勒斯坦实验室：以色列如何将占领技术出口至世界》（The Palestine Laboratory: How Israel Exports the Technology of Occupation Around the World）一书的澳洲籍作者安东尼・洛文斯坦（Antony Loewenstein）表示，以色列正在向各国政府兜售「经历过实战检验」的技术，赚取沾有巴勒斯坦人民血迹的钱。以色列凭借非法占领过程中所研发与实验的技术，在2021年的军火销售额突破新高达113亿美元，是世界前十大军火输出国之一。