Maven Smart System(Palantirのアップグレード版Project Maven)は、戦争を危険なほど速く距離を置くため、典型的な軍事技術よりも恐ろしいと感じられます。 1. 超高速 — ドローン、衛星、ソーシャルデータを瞬時に融合し、数秒→分で目標を推定します。最近の作戦(イラン戦など)では、この速度のおかげで24時間で1,000個の目標を攻撃しました。 2. キルが増えればミスも増える — AIは1日に大量の攻撃を推奨します。エラー(民間人を脅威と誤認する)は急速に増えます。最近の事例では、学校へのストライキや、誤ったAIコールで数十人、数百人が死亡する少女たちが含まれます。 3. イエスと言わざるを得ない人間 — クリーンで自信に満ちたAIスクリーンは、「今すぐ攻撃」を切迫感と簡単さに感じさせます。人は(自動化バイアス)過剰に信頼しがちで、命が関わっているときにはあまり現実→確認しません。 4. ゲームのような感覚 — 美しいマップ+即時の提案が、遠隔で死を承認する感情の壁を下げる。 5. 少数の手に権力を — ある企業のAIは現在、米国やNATOなどのターゲット設定を形作っており、ハッキングや偏見、あるいは大規模に誤った場合に大きなリスク→存在しています。 これは超効率的な「推奨・キル」エンジンで、遅延を排除し、その遅延が戦争での災害を防ぐことが多いのです。 だからこそ批評家たちはこれを「サービスとしての殺人」やディストピアと呼ぶのです。