ニュース速報

2030 未来への分岐点 (5)「AI戦争 果てなき恐怖」

NHK
2021年7月12日 午前11:43 公開

番組のエッセンスを5分の動画でお届けします

(2021年7月11日の放送内容を基にしています)

<AIと戦争 新たな脅威>

自動運転や物流、医療など、私たちの暮らしを大きく変え始めた「人工知能=AI」。

このAIが戦争に利用されることで、19世紀の「ダイナマイト」、20世紀の「核兵器」を凌駕する軍事革命が起きると言われています。

10年後の、2030年。

世界の大国は、相次いで、軍の中枢にAIを配備する計画を打ち出しています。

AIは、戦争に何をもたらすのか。

それは、人間の判断を介さず攻撃する「AI兵器」の果てなき恐怖。

さらに、AIは従来の戦争の概念をも根底から覆すと言われています。AIと軍事の危険な合体は、未来の戦争をどのように変えるのか。この先10年で、危機を回避する手立てはあるのか。

新たな戦争の脅威は、私たちのすぐそばに忍び寄っています。

<未来の戦争を知る 謎の男との出会い>

大学のゼミで訪れた、ある展示会。

「戦争とテクノロジー展」。そのときはまだ、戦争は遠い世界の話だと思っていた。

あの人に会うまではーー。

解説する教授「戦争の歴史は、兵器開発の歴史でもありました。飛行機や車、インターネットにGPS・・・。実は、これらの技術はすべて兵器に応用され、その中で発展してきました。今の便利な生活は、戦争と切り離せないんです」

ナナのスマートフォンに「おすすめの企業」の通知が・・・

ナナの友人「何、もう就活はじめてんの!?そのサイトどう?」

ナナ「便利、便利。AIが私の好みや性格に合わせて、おすすめの企業を紹介してくれるの」

ナナの友人「やっぱAIって頭いいんだね」

教授「次の場所に移動しますよー」

そこへ突然、現れた謎の男・・・

謎の男「お嬢さん。その便利なAIが、戦争を大きく変えることになる・・・」

ナナ「えっ・・・」

謎の男「AIを利用した戦争に、あなたも巻き込まれるかもしれないのです」

ナナ「AIの・・・戦争・・・?」

<“AI兵器”の衝撃 自律的に攻撃を判断>

「私が恐れているのは、AIが人間を凌駕して進化していくことです。それは、“人類の終わり”を意味することになる。『AI兵器』の開発は、禁止されるべきです」

3年前に亡くなった天才物理学者スティーブン・ホーキング、死の直前にある言葉を残していました。

「AI兵器は、あすのカラシニコフ銃になるだろう」

「カラシニコフ銃」とは、かつて、ロシアの軍需企業、カラシニコフが作った自動小銃「AK-47」。設計図が公開され、誰にでも扱いやすく、1丁、15ドルから入手できるため、世界中の紛争地やテロ組織に拡散。「小さな大量破壊兵器」と呼ばれています。

ホーキングは、このAK-47に例えて、AIの汎用性や技術拡散に警鐘を鳴らし続けたのです。

ホーキングの死から3年。いま世界は、その予言通りに進み始めています。

去年、ロシア国防省が開いた、世界最大級の軍事見本市。コロナ禍にも関わらず1500社が参加。国内外から多くの軍関係者が集まりました。自動で敵を識別し、自律的に攻撃を行う「AI兵器」は、いま各国が開発を急いでいます。

会場でひときわ注目を集めたのが、あのカラシニコフです。発表したのは、AIが自律的に自爆攻撃を仕掛ける、新型のドローン。旧日本軍の特攻機になぞらえた通称「カミカゼ」と呼ばれています。

価格は明らかにされていませんが、ピンポイントで攻撃ができる巡航ミサイルの100分の1以下とみられています。

<“自爆型ドローン” 照準の先には・・・>

「キラー・ロボット」と呼ばれるAI兵器は、すでに世界の紛争の主戦力になり始めています。

去年9月、アゼルバイジャンとアルメニアの間で勃発した係争地・ナゴルノカラバフをめぐる軍事衝突です。

戦場の主役となったのは、AIを搭載した自爆ドローンでした。少なくとも8種類・160機の軍事ドローンを海外から調達したアゼルバイジャン軍。AIは、アルメニア軍の戦車や大砲を見つけ出すとピンポイントに攻撃。戦車や軍事トラックなど450台以上破壊したと言われています。さらに、AIは塹壕に身をひそめる兵士や戦闘の準備を行っていた兵士を次々と攻撃。

野戦病院には、自爆ドローンの被害にあった人が次々と運び込まれていました。

アルメニア軍兵士「頭上には3機のドローンが旋回していました。私は塹壕の中に隠れていましたが、ドローンは中まで追いかけてきました」

アルメニア軍兵士「1000人いた私の部隊は、ほぼ全滅でした」

アルメニア軍の兵士たちには、自国の政府から警告が送られていたといいます。

アルメニア国防省動画「戦場にスマホを持ち込まない。利用を禁止する。AIはスマートフォンの通信を探知して位置を特定し、攻撃する」

自爆ドローンが敵の識別に利用していたのが、日常生活に欠かせなくなったスマートフォンでした。

自動ドローンの標的になり、足に大けがをおったアルメニア軍兵士「これまでに聞いたことがない攻撃でした。私たちは最も危険な自爆ドローンに対して、あまりにも無防備だったのです」

AIを搭載した自爆ドローンは、発射後、数時間にわたって上空を旋回。敵のレーダーやスマートフォンの通信電波を探知すると、AIが、位置情報や距離などを正確に割り出していたとみられています。

そして、標的が決まると・・・。

アルメニアの犠牲者は、2700人に上りました。

アゼルバイジャンのAIドローン戦略は、これまでの紛争の構図を一変させました。

長年、領地をめぐって、アルメニアとの対立を続けてきたアゼルバイジャン。これまで大国ロシアを後ろ盾とするアルメニアにより、係争地の実効的な支配を許してきました。この10年、アゼルバイジャンはアルメニアの3倍の国防費をかけ、最新の軍事ドローンを調達。そして、およそ30年ぶりに係争地の一部を奪還したのです。

<“AI兵器” 激化する覇権争い>

いまAI兵器は、世界の安全保障のバランスを不安定化させる要因にもなり始めています。

去年12月に行われたアゼルバイジャンの戦勝パレード。参加していたのは、トルコのエルドアン大統領です。

エルドアン大統領「トルコとアゼルバイジャンは成功へと走り続けることになる」

アゼルバイジャンに、AI搭載の軍事ドローンを提供したのは、トルコでした。10年以上前から国をあげて、先端技術への投資を続けてきたトルコ。AI搭載のドローンなど、軍事関連の輸出額は、この10年で3倍に拡大しています。提供先は、情勢が不安定な国を中心に、少なくとも6か国に上っています。

トルコ防衛産業庁イスマイル・デミル長官「これまでトルコの兵器開発に強みはありませんでした。自分たちで開発した戦闘機も潜水艦もありません。しかし、これからの本当の強さは未来のテクノロジーにこそあるのです。AIをいかに使いこなせるかで、世界のパワーバランスが決まる時代に入ったのです」

<大国の思惑 世界はどこへ・・・>

人間の判断を介さず、自律的に攻撃する「AI兵器」。大国が本格的な運用を開始する「2030年」が、大きなターニングポイントになります。

ロシアは、2030年までに地上戦を担えるロボット部隊の創設を発表。中国は、同じく2030年にAIの軍事利用で「世界の頂点に立つ」と宣言しました。

そして、世界一の軍事大国、アメリカ。これまでベールに包まれてきた最先端の部隊が、数か月の交渉の末、取材に応じました。フロリダ州にあるティンダル空軍基地。空軍のAI化を最先端で進める部隊の拠点です。数千時間の訓練が必要とされるパイロットの戦闘技術。ここでもAIは、人間を凌駕し始めています。

去年、エースパイロットとAIパイロットが初めて仮想空間で対戦しました。

「AIが非常に近い距離で銃撃。すばらしい運動能力です。AIにやられてしまいました!」

相手の動きを正確に予測することに加え、接近戦への恐れや重力の負荷を感じないAI。

エースパイロットを圧倒し、5回戦って一度も負けることはありませんでした。

2030年、アメリカ軍は一般兵士とAIパイロットの混成部隊を運用することを目指しています。

アメリカ空軍ジョーダン・クリス少佐「進化を続けなければ、次の戦争に勝つことができないでしょう。AIを活用して適切な判断を下すことで、兵士の命を救い、被害を軽減していく。AIはそれを可能にしてくれるのです」

アメリカ軍の近い将来のAI戦略を世界にPRする映像です。

統合参謀本部など軍中枢の判断にもAIを利用しようとしています。世界に展開するアメリカ軍の膨大なデータをAIがリアルタイムに処理。意思決定に必要な情報を瞬時に抽出させる計画です。

世界をまたにかけて活動する現代アーティストのスプツニ子!さん。先端技術が、人類の未来に何をもたらすのか、作品を通して考え続けてきました。

アメリカ空軍の元高官で去年までAI戦略の中枢にいた、ウィル・ローパー氏に問いました。

スプツニ子!「AIは、将来の戦争に何をもたらすと思いますか。特に今、中国とロシアもAI開発を加速化させていますよね」

ローパー氏「人間とAIが組んで将来の戦闘でベストなチームを作ることがアメリカのやり方です。AIは人間より早く判断を下し、はるかに短時間でデータを処理することができます。そこは大きな優位性です。一方で私が恐れているのは、AIの自律型兵器です。今や数千ドルで作れます。多くの国が持つことになれば、抑止力は大きく揺らぐでしょう」

国連の軍縮部門トップの中満泉事務次長は、これまでAI兵器を規制する明確なルールはなかったため、国際的な合意を急ぐべきだと主張しています。

スプツニ子!「次の10年というのは、一体、世界にとってどんな分岐点になり得ると?」

国連・中満氏「新たな軍拡競争が不安定要因を生み出す、その結果、いわゆる予測不可能な武力衝突が起こってしまう。これまで国際社会が発展させてきた紛争時のルールですね。きちっと再確認して、新しい技術を使ったいわゆる新しい戦争の在り方が仮に生まれたとしても、それをきちんと維持していけるのかという、その点でも分岐点になっていくのではないかなと思います」

<2030年の分岐点 戦争のルールが崩れていく>

その人は、戦争について、私に語り続けた・・・。

謎の男「なぜAIの戦争が恐ろしいのか、わかりますか?」

ナナ「ロボットが襲いかかってくるから・・・?」

謎の男「戦争のルールが、なし崩し的に守られなくなるからです」

ナナ「戦争のルール・・・??」

謎の男「こちらへ」

過去の戦争が並ぶ一本道。

謎の男「人類は何度も戦争を繰り返してきました。その度に、愚かな戦争を2度としないようルールを確立してきたんです」

ナナ「この戦争は・・・?」

謎の男「あらゆる非人道的な武器が使われた悲惨な戦争でした・・・。国家があらゆる力を動員した総力戦で、戦車や化学兵器などが使われました。その後、初めて戦争放棄を明記した国際条約を結び、防衛以外の目的で戦争はしないと、ルールを決めたのです」

謎の男「しかし、このわずか20年後、世界は再び地獄を見ました。人類は、第二次世界大戦を防げませんでした。そして、広島と長崎に世界で初めて、原爆が使われたのです。その教訓から国家を超えた『国際連合』を組織し、軍事力に制限をかけて、国際社会で監視していく体制を作ったのです」

謎の男「その後も、戦争がなくなる事はありませんでした」

ナナ「愚かな戦争はしないと決めたのに?」

謎の男「人類は、戦争を防ぐルールを作り続けました。戦争はしない、民間人は死なせない・・・なんとか戦争を抑止しようとしてきたんです」

ナナ「分岐点・・・」

謎の男「この先に起きる、AIを利用した戦争には、まだ明確なルールがありません。大国がAIを実戦配備するとされる2030年までに新たなルールを作れなければ・・・」

ナナ「一体、何が起きるの!?」

謎の男「戦争の概念をも変える事態すら起きてしまいます。日常の中に、知らぬ間に脅威の芽を植え付けていくのです」

私たちの日常の中に・・・

<“グレーゾーン戦争” 日常の裏側で>

2013年、ロシアの参謀総長、ワレリー・ゲラシモフが打ち出した新たな戦略が、世界に衝撃を与えました。「ゲラシモフ・ドクトリン」と呼ばれる戦略。それは、従来の戦争の概念を覆すものでした。

この中で、未来の戦争は、武力を用いた戦闘の役割が小さくなり、非軍事的手段によって相手国を弱体化させることが中心的戦略になると説いたのです。

その戦略の一端が垣間見られたとされるのが、2016年のアメリカ大統領選挙です。民主党のクリントン候補が不利になる情報戦にロシアが関与したのではとされているのです。

グラシモフ・ドクトリンより「戦争のルールは大きく変わった。政治的・戦略的目的を達成するための非軍事的手段の役割が増大し、その効果は兵器の威力をはるかに上回る場合もある」

大国同士の陸・海・空での武力衝突は、両国に大きな犠牲やコストを強いることになります。一方で、サイバー空間を介する攻撃が中心的役割を果たすのが、未来の戦争。従来の枠組みに入らない「グレーゾーン戦争」と呼ばれています。この戦争に大きな役割を果たすのが、AI。人間をはるかに凌駕するハッキング能力でサイバー攻撃を仕掛けることができるからです。

そして、従来の戦争のように武力を行使することなく、様々な手段で相手国の機能をマヒさせ、支配下に置くのです。

去年12月、アメリカの国防総省などが狙われた大規模なサイバー攻撃にも、AIが使用されたとみられています。盗まれたのは内部メールなどの政府の膨大な機密情報。被害は、財務省や国務省など30を超す機関に及びました。

さらに、5月にはアメリカの主要な石油パイプラインがサイバー攻撃によって稼働を停止。南部テキサス州からニューヨーク州に至る9千キロに及ぶ地域に影響が出ました。5日間にわたって供給が止まり、価格が高騰。市民は、混乱状態に陥りました。

バイデン大統領「ロシア政府が関わった証拠はないが、攻撃はロシアから行われており、彼らに責任がある」

一方、ロシアはアメリカの主張を真っ向から否定してきました。

プーチン大統領「政府としてはやったことはないし、やるつもりもない。ただ愛国者は正しいと思うことを勝手にやったかもしれない」

アメリカも、この「グレーゾーン戦争」に対応するために技術開発を加速させています。先月、バイデン大統領になって初めて開催された米ロ首脳会談でも、サイバー攻撃が大きな焦点になるなど、新たな火種になっています。

国連軍縮部門トップ・中満氏「国連のグテーレス事務総長が、もし仮に第三次世界大戦があるとすれば、それはサイバー攻撃から始まるんじゃないか、と発言しています。向こう5年、10年くらいで、一番私たちの国際関係、国際協力の中でも、重要な課題のひとつではないかと私たちは思っています」

<“グレーゾーン戦争” 社会の分断を加速>

「グレーゾーン戦争」では、相手国の社会の分断も重要な戦略とされ、デマ情報の拡散が攻撃手段になります。これを担うのも、AIです。

すでに、社会問題になり始めている「フェイク動画」。AIが自動で生成することも可能になり始めています。

AIが人間のインタビューに自律的に答えるこの動画。これを作ったのも、AIでした。

インタビュアー「人間とコミュニケーションを取りたいと思うのはなぜでしょうか?」

AI「人間は知的で魅力的な生き物だからです」

インタビュアー「ありがとうございます。世界を征服したいと思っていますか?」

AI「いや、世界を征服したいわけではない」

将来的には、AIが状況に応じた膨大なフェイク動画を瞬時に作成し、デマを拡散させることも可能になります。人間が一度方向性をプログラムしてしまうと、AIがグレーゾーン戦争を自律的に激化させていくのです。

<2050年 AI戦争の「ディストピア」>

謎の男「私も昔はね、正直戦争なんて、遠い国の話だと思っていました。でも、最悪のシナリオは起きてしまったんです。君たちはまだ間に合う。だからこそ、その現実を見てほしいのです」

謎の男「2050年。AIを駆使した戦争に負けた私の国です」

ナナ「あなたの国で戦争が・・・?」

謎の男「私たちの国は長年、隣国と民族的、領土的な対立を続け、外交による解決も行き詰まっていました。あれが攻撃だとは誰も気付けなかった・・・」

謎の男からスマートフォンの動画を見せられるナナ。

謎の男「これは、私の国の大統領です」

動画の補佐官「大統領、サイバー攻撃で物流機能が破綻しました。このままでは、国民全員が餓死してしまいます」

動画の大統領「貧困層は放っておけ。食料は富裕層に回せ」

ナナ「ひどい。でも、これのどこが攻撃なんですか?」

謎の男「実際には、こんな会話はされていなかったんです」

映像を巻き戻してみると・・・

動画の大統領「まずは、困っている貧困層に食料を回して下さい!」

ナナ「全然違う・・・」

謎の男「フェイク動画で国民の不安をあおる心理戦です。人間の能力を超えた敵のAIは、国民それぞれの性格や考えに合わせたフェイク動画を作って流したんです。敵の狙いは国民を混乱させ、お互いを疑心暗鬼にさせることでした」

謎の男「私たちはまんまと罠にかかったのです。攻撃は、国の要であるインフラにも行われました。電気、鉄道、金融システムなど、敵のAIは私たちの日常を奪っていきました」

ナナ「これが、未来の戦争・・・」

謎の男「その頃、AIが仕掛けたデマによる分断から国内は騒乱状態となり、多くの死者がでました。憎しみが1番の凶器になると、AIはプログラムされていたんです」

ナナ「同じ国の人同士なのに、誰も信じられなくなるなんて・・・」

謎の男「国を完全に手中に入れた敵は、国民を徹底的に、AIで監視しました。そして時に、利益に反するとされた人物には・・・」

謎の男「こんな未来に希望はありますか?」

ナナ「・・・」

謎の男「お嬢さん、あなたにはまだ未来がある。だから、覚えていてほしい。私が話したことを・・・」

<“ストップ・キラーロボット” 動き出した若者たち>

AIが人間の判断を超えて、自律的に攻撃を行う「AI兵器」。そして、AIが日常と戦争との境目を曖昧にしていく「グレーゾーン戦争」。最悪の未来を避けるために、私たちに何ができるのか。

AI兵器の規制を求めて、声をあげた若者たちがいます。「ストップ・キラーロボット」と名付けられたキャンペーンです。

現在、世界60か国の若者たちが、解決策を見い出すために、独自の対話を続けています。

イギリスの大学生・レイラさん「イギリスは、近い将来12万人の軍人のうち3万人をロボットにすると発表しました。戦争への敷居が下がってしまわないか心配です」

このキャンペーンでは、ある人物の行動を大切な教訓としています。

旧ソ連軍のスタニスラフ・ペトロフ。東西冷戦期、核戦争の危機を止めた元将校です。

1983年、ソ連のコンピューターがアメリカからの核攻撃を誤って検知。ただちに報復攻撃が指示されました。しかし、ペトロフはコンピューターの指示には従わず、自らの判断で攻撃の中止を決めました。

3年前に亡くなったペトロフは、当時の判断を振り返り、こんな言葉を残したのです。

ペトロフ氏「当時の判断は、極めて難しいものでした。でも、ボタンを押していたら、皆がこうして元気に生きていくことはできなくなる、それだけはわかりました。自分は、英雄でもなんでもない。ただ人としての判断をしただけです」

「人にしかできない判断とは何か」若者たちはそれぞれの政府に、AI兵器を規制するよう働きかけています。

<“AI兵器“ 規制 国際社会は・・・>

国際社会も新たなルール作りに向けて動き出しています。国連では125か国の政府代表や専門家が集まり、AI兵器を規制するための議論を続けています。

オーストラリア代表「人間の生死について、AIに意思決定を委ねることなどあってはなりません」

規制を求める声が相次ぐ一方で、開発を進める国は、法的な規制に反対しています。

アメリカ代表「早急な規制は、被害を最小限に抑えてくれるAIの今後の可能性を阻害しかねません」

これまでの議論で、「攻撃の判断は必ず人間が行うこと」や「開発や使用を巡っては国際人道法を守ること」などが盛り込まれた国際ルールについては合意に達しました。

しかし、実行力を高めるためには強い法的拘束力が必要だという声も少なくありません。

スプツニ子!「国によって、全くルールに対する考えとか姿勢って違うと思うんですよ。その溝を埋めていくためには、一体どういうことが今、求められていると思いますか?」

国連・中満氏「武力行使の決定に関して、実際にどのような形で人間がコントロールしていく責任を維持していくのか、法的な規則をつくっていくのか。もしくは、政治的な宣言、政治的なコミットメントをつくっていくのか。今までと性格が異なる兵器であるからといって、いま私たちが持っている法体系を弱体化させてしまうということは、決してあってはならないことだと国連としては考えています」

<“グレーゾーン戦争” 問われる人類の叡智>

一方、「グレーゾーン戦争」への対応は、ほとんど手がつけられていません。

本来、多くのAI技術は、暮らしの利便性を高めるために開発されています。民間利用と軍事利用の線引きは曖昧なのです。

グレーゾーン戦争において、デマの拡散に使われる「フェイク動画」の技術も、そのひとつです。

技術そのものに規制をかけることが難しい中、国連は技術を使う「国家の責任」を問うことで、グレーゾーン戦争と対峙しようとしています。

ハッカーが独自に攻撃した場合でも、その攻撃の責任を国家に課すルール作りを急いでいるのです。

国連・中満氏「これまでの軍縮の議論とはかなり毛色の変わった議論、そして、対応の仕方が必要になってくる。技術そのものを制限する、禁止するということではなくて、どんな技術ができてきたとしても、国家の責任ある行動というものはどういうものであるべきかと。当然、国家主体はしてはいけないことももちろん、自分たちの領土内でそのようなことを行うような非国家主体があった場合には、それをきちんと司法の中で追及していく」

人類はダイナマイトや核兵器など新たな技術が惨禍を招く度に、国際的なルールを作り、その責任を問おうとしてきました。

いま科学技術の進化は、人間が制御できない水準にまで達しようとしています。その不可逆な潮流の中で、「人としての判断」とは何なのか。問われているのは、叡智。人類の叡智なのです。

<未来の人類に誇れる 10年に>

この日常は、いつまでも続くと漠然と思っていた・・・。

私がみた、2030年にやってくる未来への分岐点。限界を迎える地球温暖化や食料を巡る危機。そして、急速に進化するテクノロジーの暴走・・・。私たちが先送りにしてきたリスクは、もう極限にまで膨らんでいる。

私たちは今、大切な10年を生きている。この青空のような未来を作るのは、私たちだ。

未来の人類に誇れる、10年に。