2023年4月16日放送「広がるＡＩ＝人工知能」③規制・ルール作りは

NHK

2023年5月8日午後0:01 公開

進化を続けるＡＩ＝人工知能が、教育や経済、芸術まで、社会のあり方を大きく変える可能性があるなか、さまざまな懸念も指摘されました。最後に、規制やルール作りをどうすればいいのか、人間はＡＩとどう向き合えばいいのかを考えます。

●規制・ルール作りは

ＡＩとどう向き合うのか。各国では規制の動きも出てきています。

イタリアの当局は、膨大な個人データが法的根拠がないまま収集され、個人情報の保護に関する法律に違反している疑いがあるとして、ChatＧＰＴの使用を一時的に禁止すると先月発表しました。また、アメリカでは１月、画像生成ＡＩのサービスを提供する企業に対し、アーティストが自分の作品を許可なくＡＩの学習に使われ、似た作品を作られたと主張し、著作権の侵害にあたるものとして損害賠償などを求める訴訟に発展する事態も起きています。

（ルール作りは）

板津：ＡＩの進化に伴って、ルール作りは非常に大事なところに来ているかと思います。世界の流れを見ますと、アメリカの産業を中心にＡＩの開発が進んでいるわけですけれども、逆に欧州連合、ＥＵを中心に倫理のルール作りは進んでいると思っております。日本はこれからどのように、どういったモデルを使いながらやっていくのかということになるかと思うんですけれども、その際にすごく大事になると思っていることは、ＡＩが使っているデータというものがどういうデータなのか、どこから拾ってきたデータなのかということ。それから、どういった計算式・アルゴリズムを使ってそれを計算しているのかというところに注目をする必要があると思っています。ＡＩが何かとてもクリーンな、人間の形跡もない、手垢が付いてないような情報を流しているかのように見えるんですけれども、実際には手垢がたくさん付いているデータだし、手垢がたくさん付いている計算式・アルゴリズムだということを認識すべきではないかなと思っています。その時に本当に困るのが、データの中にもともと埋め込まれていない人たち、社会的なマイノリティーの人たちのデータをこれからどういうふうに扱っていくのかということかと思います。例えば病気の疾患、障害、あるいは性的マイノリティーの方の生活など、これまでのデータの中に入っていないデータというものを、これからどういうふうにアーカイブし、ちゃんと計算式の中に埋め込んでいくのかということが大事になると思っています。

井上：特にChatＧＰＴが出力してくるものというのは、世の中の最大公約数的な意見なんですよね。そうでないマイノリティーの意見、少数派の意見というものが、あんまり反映されていないということ。私もその点は問題かと思っていまして、教育の現場でも、これはあくまでも最大公約数的な考えであって、それを越えて皆さんがどう考えるかというところ、自分の頭で最大公約数的な意見を知った上で、どのように考えて自分なりの価値判断、あるいは答えを出すかというようなところが、特に教育の現場で問われてくるかと思います。

小川：画一化・排除というのがまさに問題だと思うんですけれども、例えば私たち、普通はどう考えるのかといった時に、みんなが同じような考え方になってしまう傾向が、特にこういうＡＩによって加速するような感じがするんですね。多少はもちろん違うかもしれないんですけれども。そんな中で、民主主義が色んな形で歪められていく。誰かが扇動することもあるかもしれませんし、排除をするということもあるかもしれません。だから、そういう意味で私はいま、倫理民主主義みたいなものが求められていると思うんですね。そういう言葉はありませんけれども。今の民主主義というのは、非常に危うい。フェイクニュースとかもすぐ拡散しますし、また数を取るためだったらネガティブキャンペーンも際限なくやりますね。そういったところに倫理を入れていくことによって、画一化・排除という問題が抑制されていくのではないかなと思います。

尾木：これは難しいなと思うんですけども、本当にマイノリティーの方のところが抜け落ちていく危険が非常に高いですから。だから、そこのところをどうしていくのかというのは、僕も難しいなと思いますけど。その問題と、やっぱり何歳から使っていいのかという段階ですよね。子どもたちの発達段階に応じて、どうするのか。そこら辺も僕なんかはすごく気になりますね。

松尾：どういったデータで（ＡＩが）学習して、どういうふうに最終的な調整をしているのかという透明性があまり無いんですね。そこはもう少しＡＩのアルゴリズム側の透明性を高めていくということも重要だと思います。もう一つ重要なのが、結局これOpenAI（ChatＧＰＴを開発したアメリカのベンチャー企業）が提供しているもので、先日サム・アルトマンCEOが日本に来られていまして、日本のデータを強化していくと、日本に研究開発拠点を置くということもおっしゃっていました。これはとてもグッドニュースだと思うんですけれども、やっぱり本質的にはわれわれ自身でこういったＡＩの技術を開発する力を持っていないと、中で何が起こっているのかっていうのが分かりませんし、そこに対して新しい未来をつくっていく力も持てないということなので、しっかりこういった技術の開発をし、産業をつくっていくということもわれわれ自身でやるということが必要なのではないかと思いますね。

（偽情報への懸念は）

板津：非常に大事なところかと思います。フェイクニュースみたいなものですとか、あるいはフェイクの情報が流れないようにするために、それを検知するような、そういうシステム作りも進んでいるというふうにうかがっております。またさらに、フェイクのもの、あるいは有害な情報から人々を守るために、どういった人々（のデータ）が逆に使われているのかという話もしなければならないと思っています。OpenAIの方では、ある程度人権が守られるような形で作られているんですけれども、それはちゃんと有害なデータをはじく作業をしたということなんですね。その作業をしたのは、もちろん機械でできる部分も多かったと思うんですが、同時に人間が最後の判断をしているというところもありまして、OpenAIに関してはケニアにいる労働者の人たちが労働をしたということがあります。グローバル経済の中でＡＩ産業をどのように見るのかということも大事な視点になってくるかと思います。

（芸術・文化活動は）

小川：これは法規制というのは難しいし、また色んな活動を逆に萎縮させてしまうことになると思っています。一人一人の人間が倫理の原則に帰りまして、他者を傷付けない限り私たちは自由を行使できるんだっていう。これは１９世紀１８世紀の政治思想の原点だと思うんですけれども、そこに立ち返ってルール作りをしていかないと、芸術文化の振興とそれから権利の保護というところのバランスが崩れていくのではないかなと思います。

尾木：今、アートの教育というのはものすごく重視されていて、海外の大学入試でもアートを重視しているわけですけども、日本ではSTEAM教育（Science＝科学、Technology＝技術、Engineering＝工学、Arts＝人文社会・芸術・デザイン、Mathematics＝数学の頭文字）というので、アートが入ってきているんですけども。本当にこのアートのところというのは、情動の部分、作品がどういうのができるかという作品論ではなくて、ピカソの『ゲルニカ』だったら、それを描きたいと思う情動のところ、そこを耕していこうということを重点にしているところなんですけども、そのアートのところは、どういうふうになっていくんでしょうね、これから。ChatＧＰＴが出してくれたものから学習していくという、そういう美術教育もあっていいでしょうし、何かワクワクしますよね。相当、変わってくると思います。

（軍事目的などへの利用は）

井上：かなりデリケートな問題ではあるとは思うんですが、日本のＡＩ研究者の人たちは、軍事利用すべきでないという考えの人がほとんどなんですよね。ただ、本当にそれでいいのだろうかという疑問も一方であるかもしれない。例えばある国から核ミサイルが同時に何発も発射されましたと。それを迎撃するのに、ＡＩを応用したシステムであれば迎撃できるけども、人間が手動でボタンを押しているのでは間に合いませんという可能性もある。国防ということを考えた時に、ＡＩを積極的に活用すべきではないかという意見はすごく悪い意見のように一見、見えるんですけども、本当にそうかというのをもっと議論すべきだと思っています。その一方で、積極的にＡＩを組み込んだロボットが自律的に人を殺傷するような兵器ということを考えた場合には、これは危険じゃないかという可能性もあるので、軍事一つ取っても、適応できる部分とできない部分があるかも分からないと考えます。

板津：技術によって、推定の確率の高さのところも考えなければならないと思っています。つまり、ＡＩを使う分野、使わない分野での仕分けが必要になってくるだろうと。例えば９５パーセントの推定の確率でよければ、販売とかでそれでよいということであれば、もちろんそれで構わないんですけれども、逆にエラー率の誤差では人権に侵害が及んでしまうような状況において、例えば入国管理ですとか、あるいは警察で使うとか、そういうような感じのことになってくると、かなりそこは慎重に進んでいかなければならないのではないかと思っています。

（国際的なルール作りは）

松尾：国際的な議論は、実は以前からずっとありまして、特に２０１５年ぐらいからＡＩのアシロマ会議というようなものが行われたり、その後も国際的な、かなりトップのレベルでＡＩに関してのルール作りをしていこうということがありました。その中で、軍事利用とか色んな権利の問題なんかも議論されてきたわけですね。ただ、今までのＡＩっていうのは、比較的そういった議論がされていても問題にならないレベルだったということですけれども、今回のChatＧＰＴのような議論というのは、本当に問題になり始めているということで、以前よりもかなりリアリティーを持った議論をやっていかないといけないし、ぜひ日本もそういった国際的な議論を先導していけるように、Ｇ７もありますし、そういった中で議論できていくといいなと思います。

今、ＡＩの開発を６か月停止すべきだという議論がされていますけれども、それも含めて進展が非常に速いですね。この技術の進展と共にルール作りをちゃんとやっていかないといけないんですけども、ルール作りの方が間に合ってないということで、そこをかなりスピード感を持ってやっていく必要があると思います。

●ＡＩとどう向き合うか

（私たちの社会がＡＩと向き合うために何が大切か）

板津：OpenAIの背後にも巨大ＩＴ企業がありますし、他にもデータを独占している巨大ＩＴ企業が数社で全部を握っているという状況かと思います。そういった寡占状態の中で、私たちが生活者・市民として、どういう自分の情報が蓄積されているのか、吸い上げられているのか、そしてそれがどういうふうに使われているのか、そしてまたそこから出てきた情報を私たちはどういうふうに精査するのかという、リテラシーの問題だと思います。市民として、他人事ではなくて自分事として考え始めるってことが非常に大事かと思っています。

小川：かつてドイツの哲学者ハイデッガーが言いましたけれども、技術というのはひとりでに発展していくんですね、一度生まれると。だから、私たちはそれを止められないわけです。私たちにできるのは、いかにそれと共存していくか。その時に必要なのは、今日何回か申し上げましたけれども、深くてぬくもりのある思考、人間ならではのそういった思考をいかに発揮できるかというところだと思うんですね。どんなシンプルなテクノロジーも、私たちの心が冷たければそれは人を傷付けるものになってしまうわけですから、ましてやこのChatＧＰＴ、今お話を聞いていると、ものすごい威力を持っていると。これは私たちがいかにぬくもりを持って、そして深く、ちょっと待てよと、こうではないんじゃないかという疑問符をつけながらやっていけるかにかかっていると思いますね。ちょっと手前味噌ですけど、やっぱりそのためには哲学が必要なんじゃないかと思っていて、今日ここに哲学の専門の私を呼んでいただいているということは、一つの希望かなと思いますね。

井上：下手すると、人類全体がアイデンティティークライシスに陥る可能性がなくもないと思っています。というのは、誰でもクリエイターになれるような時代になるんですけども、その一方で、今までクリエイターだった人たちが、それでは例えば食べていけないと。誰でもやれるんだったら、自分たちの特別な価値は無いというふうに考えてしまうかもしれない。そうした場合に、今までは労働というものが人生の中心軸にあって、労働こそが人間の本質であるという考えが世の中を覆っていたと思うんですけども、そこら辺の価値観を転換していかないといけないと思っています。私は「脱労働社会」という言い方をするんですけども、レイバリズム＝労働中心主義という言葉があるんですが、それを変えていって、労働はもちろん尊いんですけども、労働しなくても人間って生きているだけで素晴らしいじゃないかとか、生きているだけで尊いというような、そういう価値観に変化しないと、かなりしんどくなるかもしれないということですね。

尾木：やっぱりこれまではＩＱ的な力っていうのが求められていましたけれども、それはもうＡＩには敵わないわけですから任せておいて、ＡＩを使いこなせる人間力、小川先生の言い方だと倫理、そこのところの力だと思うんです。特に共感力というのは、これはもう本当に重要で、ＡＩがどんどん発達してくればしてくるほど、色んなところに共感できる能力、それから平和を追求する志というか、今の戦争をどうストップすればいいのかというようなこととか。それから、自然災害も大変ですよね。それから、コロナだいぶ収まってきましたけれども、こういう感染症についてはどういうふうに日本が動けばいいのかとか、そういう色んなことを、やっぱり人間力っていうような表現で言えば、力としてはぜひ必要だと思います。

松尾：ひとつは、総合知の時代になってきたということではないかと。きょうの議論も、このＡＩという理系の技術を通じて、教育とは何か、哲学とは何か、権利とは何かというところまで話が広がっている。これは人間の知能というのがある意味、アルゴリズムとして理解される部分が出来てきて、それとともに人間というのがどういうものかということを、もう一度総合的に理解できるような時代になってきたんだと思います。これは理系と文系が本当の意味で融合していくような時代になってきたのではないかと。もうひとつは、やっぱりこういった技術を、われわれ自身の手できちんと作っていきたいということですね。インターネットの時代は、日本はなかなか主役になれなかった。だから、ルール作り、社会がどうあるべきかの議論に加われなかったという面があると思います。でも、この人工知能は日本からもきちんと技術を開発して、色んなサービスを作り出して、産業を創り出して、ぜひ国際的な議論に積極的に入っていけるといいなと思います。

自分たちでこのＡＩの技術をどんどん使いながら、われわれ自身のことをよく考えて、仕事に関しても社会に関しても理解を広めていくということが、つきあっていく上でとても大事なんじゃないかなというふうに思います。