1. BUSINESS INSIDER
2. 国際
3. 米陸軍が「AIサイバー戦」演習を実施。敵のAIは凄まじい速さで、システムの脆弱性を突いてきた

• アメリカ陸軍と民間企業は、敵のAIハッカーがサイバー空間でどのような攻撃を仕掛けてくるかを検証した。
• シミュレーション上の敵のAIは、波状攻撃を繰り返しながらシステムの脆弱性を突き、自律的に攻撃手法を見出していった。
• AIエージェントの役割や、民間企業から何を学べるかについては、まだ多くの課題が残されている。

その攻撃速度は、人間の敵をはるかに上回るものだった。

アメリカ陸軍がアジア太平洋地域で作戦を遂行するうえで、生命線となる通信・データネットワーク。そこにいま、まったく新しいタイプの脅威が探りを入れてきている。兵士を混乱させ、罠にかけようと企む「敵の人工知能（AI）」だ。

これは、アメリカのトップAI企業の協力のもと、陸軍幹部たちが新たな机上演習で目の当たりにした光景だ。彼らはいま、AIを活用したサイバー作戦が「現実の脅威」となる新たな時代を見据え、いかに効果的な防衛体制を築くべきか、その備えを進めている。

「効率化」に続く「AI活用型サイバー防衛」演習

今回の検証は、陸軍が戦闘のあらゆるレベルでAIの導入を推進していることを示す最新の事例だ。と同時に、将来の戦争が、もはや人間だけでは対処しきれないほどのスピードで展開し得るという脅威を、彼らが重く受け止めていることの現れでもある。

陸軍と複数のパートナー企業は4月最終週の初め、昨年9月の第1回に続き、第2回のAI机上演習を実施した。

第1回では、大手AI企業のCEO約15人が集まり、現実の課題に対する解決策を提案した。例えば、紛争中に通信・ネットワークが敵に遮断されてしまった状況で、AI機能の活用やサプライチェーン管理の迅速化、さらには民間人や軍人・軍属が本来の任務に専念できるよう、裏方の事務作業をAIに任せて効率化するといったものだ。

今回の演習は、陸軍における「AI活用型サイバー防衛」に特化して行われた。陸軍の首席サイバー顧問を務めるブランドン・ピュー（Brandon Pugh）氏が記者団に語ったところによると、「インド太平洋地域における危機と2027年9月という時期」を想定した仮想シナリオに基づき、「敵がAIを駆使し、単発の決定的なサイバー攻撃を仕掛けるのではなく、米陸軍の防衛態勢に絶えず適応しながら波状攻撃を繰り返す。しかも、それが防衛側の人間では到底対応しきれないほどのスピードで実行されるという前提」で進められたという。

ダン・ドリスコル（Dan Driscoll）陸軍長官をはじめとする陸軍幹部たちは以前から、ネットワークやデータ、ソフトウェアに対する敵の攻撃から組織を防衛することの重要性が高まっていると指摘してきた。彼らはそれを、物理的な資産や領土を守るのと同じくらい不可欠だと位置づけている。

陸軍も把握していなかった脆弱性が発覚

今回の演習には14社が参加し、グーグル（Google）、OpenAI、マイクロソフト（Microsoft）、アマゾン・ウェブ・サービス（Amazon Web Services）、パロアルト・ネットワークス（Palo Alto Networks）などの最高経営幹部（Cクラス）が代表として出席した。陸軍および米国防総省の高官も出席した。陸軍サイバーコマンド司令官のクリス・ユーバンク（Chris Eubank）中将は、この想定シナリオへの対応について、「焦点は、AIや最先端のAIモデル、そしてAIエージェントを活用していかに防衛力を高めるかという点だった」と語る。

さまざまなアイデアや解決策が提示されたなかで、繰り返し俎上に載ったのが、AIエージェントの能力を欺瞞戦術（偽情報を流して敵を撹乱する戦術）と組み合わせるというアプローチだった。具体的には、アメリカ軍のシステム内に侵入した敵をAIが検知・追跡し、その行動パターンを学習したうえで、敵が時間とリソースを無駄に費やすような障害に誘い込むという戦術だ。また、この演習によって、陸軍幹部が「これまで把握していなかった」と認めた陸軍のシステムの脆弱性も明らかになった。

シミュレーションで設定した敵のAIシステムは、陸軍の防衛網をリアルタイムで分析していた。何が人間の介入を誘発し、対応を遅らせるのかを観察し、攻撃するたびに学習を深めていたのだ。これは、将来起こり得る実際の紛争において、敵がAIを利用し、アメリカ軍の防衛態勢に絶えず適応しながら、波状的なサイバー攻撃を仕掛けてくる可能性があることを示している。

AIにどの程度の裁量を与えるべきか

この机上演習では、AIの活用における「リスクの許容」という問題も提起された。ユーバンク中将は「機械、つまりAIエージェントがリスクを引き受けることが許されるのはどの段階で、人間がリスクを引き受けるべきなのはどの段階なのか」と問いかけた。

サイバーセキュリティの領域において、AIが最も効果的に活用できる分野はどのような場面なのか。そして、AIエージェントが特定の機能を自律的に実行できる可能性はあるのだろうか。

AIを装備した敵と戦う将来の戦争では、意思決定のスピードが人間の処理能力を超えてしまうのではないかという懸念が広がっている。アメリカ軍当局者や専門家たちは、AIのより広範な役割や、特定の領域においてAIが自律的に行動できるのか、あるいはそうすべきなのかについて、議論を重ねてきた。現時点では、陸軍指導部は事務作業からコーディングに至るまで、さまざまな業務におけるAI活用を推奨しているが、すべての業務において人間が意思決定に関与することを義務づけている。

今回の机上演習を受け、陸軍はサイバーセキュリティにおけるAIの役割と、AIにどの程度の裁量を与えるべきかについて、さらに踏み込んだ検証を進める方針だ。

「もし我々が『人間の能力を補強するためにAIを活用する』ことを最終目標だと考えているなら、我々は大きく後れを取ることになる」とユーバンク中将は語った。「AIが単なる人間の補佐という段階から抜け出さなければならない。サイバー防衛の領域において、AIはどこまで自律的に行動できるのだろうか」。