その空中戦が公平だとは、とても思えなかった。
戦闘機「F-16」が2機、岩だらけの砂漠の上空16,000フィート（約4,900メートル）の高度で敵のF-16と鉢合わせになったとしよう。互いに反対方向から接近したところで、突如としてこの2機のF-16が互いの距離を広げる。すると敵機は、追跡する相手を選ばざるをえない。
こうして追跡を逃れたF-16はただちに方向変換し、定石通りに敵の背後へと迫る。数秒後にはミサイルが発射され、敵機は応戦もできずに破壊される──。
この戦闘は、実はコンピューターのシミュレーションによって2021年2月に実施されたものだった。特筆すべきは、以下の点である。まず戦闘機は、3機とも人工知能（AI）のアルゴリズムによって制御されていた。このアルゴリズムは、空中戦での反応や操縦方法について、さまざまな手法を何千回も検証して最善の選択肢を探し出す最新鋭のAI技術が一部に使われている。
この3方向からの空中戦は、将来的に戦闘機を制御することになるAIの手法、さらにこの技術を展開する上での問題点も垣間見せてくれる。
AIが空中戦を一変
こうした技術の導入に、米国防総省は興味を示している。国防総省傘下の国防高等研究事業局（DARPA）は2020年3月、複数の戦闘機による空中戦で人間の能力を超えた制御が可能になるシステムを開発すべく、チームを招聘した。AIによって複数の戦闘機が群（スウォーム）で飛行できるようになり、空中戦を一変させるかもしれないのだ。
「注目すべきは、素早く敵を制圧する“スウォーム戦闘”とも呼ぶべき戦闘能力です」と、元空軍の戦闘機パイロットであるクリス・ジェンタイルは言う。彼は国防総省の「Air Combat Evolution（ACE）」と呼ばれる大会の技術開発を手がけている軍事技術企業EpiSciのプログラムマネジャーだ。
ジェンタイルによると、将来的に戦闘機のパイロットは、地域全体をスキャンするようAIに命じるだけで攻撃を済ませられるようになる。もしくは敵1機を制圧するようAIプログラムに命じ、パイロット自身はもう1機の敵に挑むことになるという。別の機のパイロットに「援護を頼む」と告げるのと、ほぼ同じ指示になるわけだ。
AIは、すでに空中シミュレーションでその才能を発揮している。DARPAは2020年、AI制御の単座戦闘機が人間のパイロットを簡単に制圧できることを実証した。このプログラムは、ヴィデオゲームやロボット工学でブレイクスルーを達成したAI技術を使って学習させたものである。
強化学習として知られているこの技術は、超人的なスキルで高度なボードゲームをプレイするといったタスクを機械に学習させることが可能だ。この学習プロセスには、ゲームのスコアなどのフィードバックに応じて自身の振る舞いをいっそう強化する包括的シミュレーションによるニューラルネットワークが含まれる。EpiSciもACE大会向けに強化学習を用いている。
2023年にも実機でのテストへ
とはいえ、最新のAI技術の導入がどれだけ実現可能であるのか、疑問も湧いてくる。パイロットたちは中身の見えないアルゴリズムを信頼し、命を預けなくてはならないのだ。
本来なら戦闘機の訓練生は何カ月もかけて正確な飛行手順を学び、ほかのパイロットとチームを組んで戦闘を訓練をする。何機もの戦闘金が高速で旋回するなか、わずかな誤差や通信ミスが大惨事をもたらすからだ。
米軍の幹部によると、殺傷能力のある武器を用いる決断をする際には、必ず人間が関与することになるという。「人間とAIがチームになることは確かでしょうね」と、このプログラムの責任者でDARPAのプログラムマネジャーのダン・ジェイヴァーセクは語る。
この発言の背景には、AIが失敗するリスクだけでなく、「法的、道徳的、倫理的な理由」が絡んでいる。それに、空中戦はめったに起きないもののよく知られている場面であることから、人間のパイロットと協力させることでAIを学習させられるともいう。2023年の後半にDARPAは、この時点で最も優れたアルゴリズムを用いて本物の戦闘機でテストをする計画だ。
米軍で加速するAIの導入
ところが、高速で飛行するジェット機で決断を下すスピードを考慮すると、いかなるAIシステムでも大半は自動化されることになるだろうと、元戦闘機パイロットで戦闘機の自動化を研究しているデューク大学教授のミッシー・カミングスは指摘する。彼女はシンプルな手書きコードで誘導できる戦闘機の空中戦に高度なAIが本当に必要なのか、疑問視している。
また、AIの導入を急ぐ国防総省にも懸念を示しているという。エラーが発生すれば、AI技術への信頼が揺らぐからだ。「国防総省が粗末なAI戦闘機を出動させればさせるほど、パイロットやシステム関係者の信頼を失っていくでしょうね」と、カミングスは言う。
いずれはAI制御の戦闘機が、自律的に任意の地域を調査するようなミッションの一部を担う可能性があるだろう。だが、いまのところEpiSciのアルゴリズムは、人間のパイロットと同じ手順に従って飛行部隊の一員として飛ぶよう学習している段階にある。こうしたなかジェンタイルは、AIの責任において空中衝突を避けるシミュレーション済みの試験飛行を進めている。
また、米軍によるAIの導入は加速の一途をたどっているようだ。国防総省は将来の戦闘においてAIが不可欠になると考えており、偵察や戦闘の後方支援や任務の計画まで、全面的にAI技術を用いたテストを実施している。
実際にAIは、航空機の一部に搭載され始めている。米空軍は20年12月、偵察機「U-2」にレーダーを制御するAIプログラムを搭載した。戦闘機を制御するほど難しくはないものの、地上のミサイルシステムを見逃した場合にU-2が攻撃される可能性があることから、パイロットの生死をかけた責任を負うことになる。
使われたアルゴリズムは、グーグルの親会社であるアルファベット傘下のDeepMind（ディープマインド）が開発したAIに着想を得ている。任務に不可欠な敵の地上ミサイルシステムを検知するレーダーの制御方法を、何千回ものシミュレーション済み任務で学習したという。
空軍次官補を2021年1月に辞任したウィル・ローパーによると、この実証実験は旧式の軍事ハードウェアに新しいコードを急速に導入する可能性を示したのだと言う。「AIを無効にするボタンをパイロットに与えなかったのは、『真の意味でAIが任務を制御している状態で運用に備えることが必要だ』と言いたかったからなのです」
もっともローパーは、システムが確実に正常に機能し、システム自体に脆弱性がないことが重要になるのだと言う。「AIに頼りすぎることを本当に心配しています」
軍事AIの本質
国防総省においては、すでにAIの信頼性に問題が起きているようだ。ジョージタウン大学のCenter for Security and Emerging Technologyが2021年2月に発表したレポートによると、信頼できるシステムを設計したAI関連の軍事企業はほとんどなかったという。
同センターのリサーチフェローのマルガリータ・コナエフによると、この問題について国防総省は自覚しているという。しかし、AIの信頼性は人によって意見が異なることから、問題は複雑なのだとコナエフは指摘する。
こうした問題の一部は、最新のAIアルゴリズムの手法が原因である。強化学習においてAIプログラムは明確なプログラミングに従うわけではなく、ときには予期せぬふるまいをするような学習をする。
EpiSciの創業者であるボー・リューによると、同社のアルゴリズムはAIを使用する軍の計画に沿って設計されており、人間のオペレーターが殺傷能力のある武器の展開に責任をもって主導権を握ることが、いつでも可能だと言う。また同社は、民間のドローンチームが共同で地図の作製や調査ができるソフトウェアプラットフォーム「Swarm Sense」を開発中だ。
リューによると、EpiSciのシステムは強化学習にのみ基づいているわけではなく、組み込みの手書きルールにも従っていると言う。「ニューラルネットワークは確実に多くの利点があり、得るところが多いものです。これについては疑う余地がありません。とはいえ、わたしが思うに当社の研究と価値の本質は、どこにこの技術を使うべきか、どこに使うべきではないかを見極めることなのです」
※『WIRED』による軍事関連の記事はこちら。
お知らせ：Thursday Editors Lounge 次回のThursday Editors Loungeは1月20日（木）に開催いたします。ゲストは古田秘馬（プロジェクトデザイナー／umari代表）。詳細はこちら。
TEXT BY WILL KNIGHT
TRANSLATION BY MASUMI HODGSON/TRANNET