ニュース速報

【殺人ロボット】自律型AI兵器“LAWS” 開発状況と規制への動き

NHK
2021年8月26日 午後2:17 公開

AI技術を駆使し、自動で敵を攻撃するロボット兵器。人間の関与なしに自律的に人を殺傷する兵器は、LAWS(ローズ)と呼ばれ、出現を危ぶむ声が上がっています。

3月の国連の報告書でこのLAWSがリビアの内戦で初めて実戦に使われた疑いがあると指摘され、世界に衝撃を与えました。急速に進む自律型兵器の実用化に、歯止めをかけることができるのでしょうか。

(「キャッチ!世界のトップニュース」で7月12日に放送した内容です)

国連が報告した自律型致死兵器とは

今回の国連の報告書で言及された兵器とは、どのようなものでしょうか。

この耳慣れない言葉「LAWS」は、「自律型致死兵器システム」の略称です。戦闘の際、人工知能などを使い、人間の判断を介さずに、相手を殺傷する兵器のことを言います。国際的にこのLAWSの詳細な定義は合意されていませんが、AIを使った兵器の自動化は、各国で急速に進められています。

国連の報告書では、このLAWSの特徴を備えたドローン兵器が、リビアの内戦で実際に使われた疑いが示されました。「AIが人を殺す」という事態が現実味を帯びてきています。LAWSの開発の現状と規制への動きはどうなっているのか。拓殖大学 国際学部教授の佐藤丙午さんに聞きました。

リビアで自律型兵器使用か

トルコの軍事企業のウェブサイトで紹介されているドローン「KARGU」。KARGUは標的を発見すると、それに向かって急降下。至近距離で爆発し、飛び散った金属片で周囲にいる人たちを殺傷します。国連の報告書は、リビアで見つかったこのドローンに、AIが自律的に判断して攻撃するLAWSのシステムが組み込まれていた可能性を指摘しています。

佐藤丙午さん:報告書に「LAWS」の記載があったということは非常に大きな驚きだと思いますが、実際にKARGU-2が無人、もしくは自律モードで運用されていたかどうかは、はっきりと書かれていません。そこは国連の報告書でも曖昧にされています。いろいろな戦場において、兵器は使われることによって進化していきますので、アゼルバイジャンとアルメニアの戦いや、今回のリビア、そしてシリアにおいても、さまざまな局面で試されながら技術を開拓しているという様子がうかがえます。

自律型兵器の開発 ロシアが先行か

国際的な人権団体、ヒューマン・ライツ・ウォッチは自律型兵器の開発に特に力を入れている国として、中国、イスラエル、ロシア、韓国、イギリス、そしてアメリカの6か国を挙げています。

そのなかでも際立っているのが、ロシアです。ロシアの大手武器メーカーが製作した戦車は、AIがターゲットを識別し、敵と認識すると、瞬時に攻撃することが可能だということです。

佐藤丙午さん:ロシアが人工知能を使った開発では一番進んでいると思います。いわゆる装甲機動車と言われるものですが、荒れた土地を車で走り、上下動する状態の中で姿勢を定め、そこで目標選択を行い、相手を攻撃する実験を行ったというふうに言われています。ロシアは10年程前から、ICBM=大陸間弾道ミサイル用の施設を保護するために小型の戦車型の自動兵器を導入しています。人口が少なく、兵士を割くだけの余裕がそれほどない、しかし技術を持ち、広大な領土をきちんとカバーすることができないような国が、AIを活用した兵器開発を進めている傾向があると思います。

自律型兵器の規制 国連で議論

各国で開発が進められる一方、“殺人ロボット”が野放図に広がることへの警戒感も高まっています。2019年に国連で開かれた国際会議では、AI兵器の開発や使用は国際人道法にのっとって行われるべきだなどとする報告書がまとめられました。しかし、具体的な規制の内容や範囲を巡っては、各国で意見の対立が生まれていると言います。

佐藤丙午さん:第1回会合の時から軍人やシビリアンを含め、すべての人がこの問題は何らかの形で規制をしなければいけないということに合意がなされていました。国際人道法や人権法を無視し、それを踏みにじるような兵器開発は、人類や社会の発展に対する大きな挑戦だと思います。それが各国の共通認識です。どこについて何に規制を置くべきか、議論が分かれているのは事実です。例えば中国は開発について規制をするべきではないとしつつも、使用についての規制はもっと厳しくするべきだというような言い方をしたことがあります。何を規制対象にするかにおいて意見がまとまってないのが、一番大きな問題だと思います。

自律型兵器の規制 先進国に有利か

さらに、すでに高度なAI兵器を持つ国と、これから開発しようとしている国との間の対立も、議論を難しくしていると佐藤さんは指摘します。

佐藤丙午さん:先進国が先に規制を進めると、どうしてもAI兵器を持っている国と持っていない国の間に格差が生まれます。規制を早急に進めると、今後、技術開発をしようとする国にとって極めて不利になるため、“今はルールができない方が良い”と言っている国さえも存在します。

自律型兵器の規制 議論の行方は

進まない規制の議論。その一方で、顔認証や自動運転などの技術は、民間での利用も広がり、ものすごいスピードで進歩し続けています。

小林雄(「キャッチ!世界のトップニュース」キャスター):技術は日進月歩で進む中、規制は技術に追いつくことができるのでしょうか?

佐藤丙午さん:規制が技術に追いつくかは、多くの場合において「NO」だと思います。技術開発の方が進展します。各国の技術開発の方向性を見る限り、無人兵器や自動兵器を開発する方向に向かっていますので、時間が経つほど規制が十分になされていない状態で作り出される兵器、もしくは戦争が起こる可能性はあると思います。それは極めて憂慮すべきことだと思っています。

自律型兵器の規制 議論の焦点は

高橋彩(「キャッチ!世界のトップニュース」キャスター):技術の発展に規制はなかなか追いつけないということでしたが、AIを搭載したロボット兵器の出現は戦争の様相を大きく変えてしまいそうですね。

小林:そうですね。自律型のAI兵器の危険性としては、人が人を殺す罪悪感から解放されることで戦争のハードルが下がってしまうことや、コンピューターウイルスなどによって誤作動を起こすことなどが指摘されています。佐藤教授は、人間の判断が及ばないところで機械が人を殺すことの不気味さを人々は直感的に感じ取っていて、それが国際的な規制をしようという議論につながっていると話していました。

高橋:とはいえ、そのルール作りは、各国の思惑や事情もあって難航しているようですね。

小林:そうですね。規制の必要性では一致しながら具体的なルールを決められず、その間に兵器の方はどんどんと進化していくという状況になっているということでした。現在は軍事技術と民間で使われる技術の境界線がどんどんとあいまいになっています。顔認証や自動運転などのデータが民間でも大量に蓄積され、それが兵器の開発にも応用されていくという流れは、もはや止めることができません。人を殺す兵器が人間のコントロールを離れるということはあってはなりません。実効性のあるルールを一刻も早く作ることが必要だと思います。