大臣の答弁の中から、人間中心の社会ということで、日本は広島ＡＩプロセスの中で取り組んで、非常に世界的にも大きな役割を果たしたと思っておりまして、そのことに関してはすごく評価をさせていただいております。
また、政府のＡＩ事業者ガイドラインを見ると、今、城内大臣がおっしゃったような人間中心のＡＩ社会原則が、五原則がうたわれているということなんですけれども、ＡＩが導き出す結果というのは、なぜその結果になっているのかブラックボックス化していて人間も分からない部分が多いということになっています。
ＡＩは、確かに、便利に使えて、業務を効率化して時間短縮につながるものなんですけれども、最終的な判断というものはやはり人間が行わなければならないだろうというふうに私は考えております。これは、人間中心のＡＩ社会ということとどこがどういうふうにリンクするのか、ちょっと私も、読んでみたんですけれども分からないんですけれども。
例えば人事評価。ＡＩがばあっと書類を見て人事評価をしていく、だけれども、最終的にはやはり人間が、対人間だから、人事評価の最終の結論というのは人間が出すべきだとか、最終面接、これもそうですけれども。こういったものは、最後はＡＩに任せるのではなくて、やはり人間が最後責任を負うべきだというふうに私は考えています。
これは軍事面にも言えることでして、やはりＡＩが発展してきて、ドローンの無人機なんかが今後も主力になってくるかもしれませんけれども、攻撃をするかしないか、どの地点に攻撃をするかというような、ここを守ってきたものをどういうふうに守るか、撃ち込まれてきたものを、どういうふうに守るかということは、最終的な判断はやはり人間が行うものであるというふうに思っております。
こういった考え方というのは、体系的に、この法体系の中でどのように反映をされているのか、お伺いします。
145
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
ＡＩが生み出す様々なリスクへの懸念があることは重々承知しておりますし、また、一昨日、市來委員にも答弁申し上げましたとおり、本年二月に公表いたしましたＡＩ戦略会議及びＡＩ制度研究会の中間取りまとめ、この内容を受けまして、顕在化している個別のリスク事案については、まずは既存の法令等にのっとり適正に対処されていくべきものと考えておりまして、そうした観点から、本法案では、御指摘のとおり罰則を設けておりません。
ただ、その上で、本法案に基づきまして、ＡＩの開発者、活用者が遵守すべき事項等を含む指針、これを整備し、ＡＩの研究開発、利用の透明性及び…
この発言のページ
146三三木圭恵(維新)
今の段階で、生成ＡＩに関して、各法、既存の法で対応していく、対応できている、対応していくんだということだと思うんですけれども、私が今、新聞記事なんかをいろいろ読んでおりますと、もう生成ＡＩというのは本当にすごい発展というか進化をしているなというところで、ちょっと御紹介をさせていただきますと、「賢いＡＩは手段を選ばず」というような記事が三月の三十日に日経の方に載っております。
ＡＩが必要な計算を省いて、サカナＡＩですね、日本の企業ですけれども、研究がネットで炎上した。どういったことかというと、ＡＩの開発や利用を効率化する技術を開発したとして十倍から百倍高…
この発言のページ
147城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
まさにＡＩの分野の技術の進歩というのは非常に速くて、我々が想像できないような、今御指摘があったようなＡＧＩ、ＡＳＩ、汎用人工知能や超ＡＩみたいなものができ、かつ、ＡＩ自身が人間をだますというか欺くというか、そういう状況ができているということを私も重々承知しておりますが、こういった状況だからこそ、人間中心の考え方にのっとって、人間中心の、要するに、ＡＩ中心で、ＡＩが人をだまして、どっちが主人か分からなくなるような状況ではなくて、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書において示してきたところでありまして、この考え方にのっとってしっか…
この発言のページ
- （上の発言）
148三三木圭恵(維新)
大臣の答弁の中から、人間中心の社会ということで、日本は広島ＡＩプロセスの中で取り組んで、非常に世界的にも大きな役割を果たしたと思っておりまして、そのことに関してはすごく評価をさせていただいております。
また、政府のＡＩ事業者ガイドラインを見ると、今、城内大臣がおっしゃったような人間中心のＡＩ社会原則が、五原則がうたわれているということなんですけれども、ＡＩが導き出す結果というのは、なぜその結果になっているのかブラックボックス化していて人間も分からない部分が多いということになっています。
ＡＩは、確かに、便利に使えて、業務を効率化して時間短縮につながるものなんですけれども、最終的な判断というものはやはり人間が行わなければならないだろうというふうに私は考えております。これは、人間中心のＡＩ社会ということとどこがどういうふうにリンクするのか、ちょっと私も、読んでみたんですけれども分からないんですけれども。
例えば人事評価。ＡＩがばあっと書類を見て人事評価をしていく、だけれども、最終的にはやはり人間が、対人間だから、人事評価の最終の結論というのは人間が出すべきだとか、最終面接、これもそうですけれども。こういったものは、最後はＡＩに任せるのではなくて、やはり人間が最後責任を負うべきだというふうに私は考えています。
これは軍事面にも言えることでして、やはりＡＩが発展してきて、ドローンの無人機なんかが今後も主力になってくるかもしれませんけれども、攻撃をするかしないか、どの地点に攻撃をするかというような、ここを守ってきたものをどういうふうに守るか、撃ち込まれてきたものを、どういうふうに守るかということは、最終的な判断はやはり人間が行うものであるというふうに思っております。
こういった考え方というのは、体系的に、この法体系の中でどのように反映をされているのか、お伺いします。
149渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
ありがとうございます。
私はＩＴの専門家なんですけれども、私の指導教官から教わるような話を今日はいただいておりまして、感激をしております。
ただいまの、定義に関わる問題かもしれませんけれども、広島ＡＩプロセスという国際的な規範の中で、あるいはＯＥＣＤ原則という世界で今使われております原則の中で、その人間中心という考え方がうたわれておりまして、私ども、この法案ができた暁には指針あるいは基本計画を作るわけですけれども、これは当然国際規範に即したものになりますので、人間中心という概念は一番冒頭に来るものというふうに考えております。
この発言のページ
150三三木圭恵(維新)
大変大きな視点のお答えだったと思うんです。
昨日の新聞に、東京都がＡＩを使って都民や事業者からの補助金の申請の手続を迅速化させる。また、東京都武蔵野市、こちらの方なんですけれども、保育所の選考に関わる事務を、申請書を基に施設を割り振るというのをＡＩが行う。これが百七・五時間から一時間に激減するという。業務効率化なんですね。
こういったことにＡＩを利用していくというのは非常に大切なことでありますし、業務の効率化にもつながることなので大変喜ばしいことかなと思うんですけれども、行政判断というのは公平性と説明責任というものがやはり求められると思いますので、そ…
この発言のページ
151城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。
例えば行政手続ですけれども、ＡＩに任せ切りにするんじゃなくて、やはりある程度は人間がチェックするとかということも大事でしょうし、実は、法体系の前に、既に各省でガイドラインというものを作っておりまして、そのガイドラインに従って適切に、今申しましたように、ＡＩ任せで、全部ＡＩの出力したものが正しいというふうにみなして行政手続をするとか、そういうことのないような形になっているというふうに私は理解しております。
この発言のページ