2025年5月20日・第217回国会 参議院 内閣委員会 第15号（外部サイト、新しいタブで開きます） の 192 番目の発言（外部サイト、新しいタブで開きます）（全 208 発言）
おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。
近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。
例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言っても信用する人はいないと思いますが、消費税は食料品だけゼロ％に一年間ぐらいするとかなんとか言えば、ああ、そういえば野党も言っていたからそういうことはやるのかなとか、信用する人はいると思うんですよ。
こういう動画が出てきたときに、じゃ、こういうＡＩ法に基づいてどのような具体的な対処を行うのかというのをちょっと教えてもらうと有り難いんですが。
189
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
先ほど述べましたとおり、ＡＩ戦略会議、ＡＩ制度研究会の中間とりまとめにおきましては、ＡＩがもたらし得るリスクの例のほかに、これに対応する主要法令等についても整理されているところであります。
現在顕在化しているリスクのうち、特に悪質な事案につきましては、現行法令に基づく措置によって対処することが可能と考えております。こうした法令に加えまして、ガイドライン等を適切に組み合わせることで、これまで顕在化するリスクに対応してきたものと承知しております。
190大島九州男(れいわ)
今までそういう対応をしてきたけれども、これからいろんな進化もしていくし、これがもっと広がっていくということで、こういうＡＩ法というものを作っていろんな部分に目を配りながら、リスクを排除していったり、またもっともっといいものにしていこうというふうにしようとしているんだろうなと思うんですが、この法案ができたことで、そういう諸問題への対応はどのように変わるという認識ですか。
191城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。 既に顕在化しているＡＩの諸問題につきましては、これまで関係省庁におきまして、それぞれの所掌範囲において、既存法令、そしてガイドライン等を先ほど申しましたように適切に組み合わせて対応してまいりましたが、他方で、昨今のＡＩの技術進展の状況等を踏まえますと、本法案においては、ＡＩ政策の司令塔機能強化を図るため、先ほど冒頭申しました内閣総理大臣を本部長とするＡＩ戦略本部の設置、これ第十九条にありますが、さらには政府が推進すべきＡＩ政策の基本的な方針を定めたＡＩ基本計画の策定、これは第十八条です、そして、ＡＩの適正性確保のための国際規範に即した指…
192大島九州男(れいわ)
おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。
近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。
例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言っても信用する人はいないと思いますが、消費税は食料品だけゼロ％に一年間ぐらいするとかなんとか言えば、ああ、そういえば野党も言っていたからそういうことはやるのかなとか、信用する人はいると思うんですよ。
こういう動画が出てきたときに、じゃ、こういうＡＩ法に基づいてどのような具体的な対処を行うのかというのをちょっと教えてもらうと有り難いんですが。
193城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
御指摘の事案も含めまして、具体的には、国民の権利又は利益を侵害するなどの重大な事故等が生じた場合には、関係省庁と連携し、本法案に基づく調査を行ってまいる考えです。
その上で、その調査の結果、被害の拡大防止のために必要があると認められる場合には、更にその指導、助言や国民への情報提供を行うことを想定しているほか、必要に応じて適正なＡＩの研究開発及び活用に向けてガイドライン等の整備や周知等を行うことが考えられます。
以上です。
194大島九州男(れいわ)
いやいや、何かそういう、問題が起こって、そのガイドラインを整備するとかいうんじゃなくて、例えば、ちょっと私の理解でいえば、そういうさっき言った具体的なフェイクと言われるものが流れたと。じゃ、そこに本部がどういう対応をするかというと、まさに本当に、そういう消費税を食料品だけゼロ％にするというようなことを財務省は本当に議論したのかとか、また、各関係省庁にその確認をしたと。そうしたら、そういう事実はないと。で、それを本部が確認をしたら、じゃ、本部長が、いや、国民にこういうデマな情報が拡散されたりするのはよくないと、だから早期にこれを否定しなきゃいけないと。じゃ…
195城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
済みません、要するに、個別具体的な事案についてはいろんなパターンが考えられますし、例えば、個別の既存法、名誉毀損とか、あるいはＡＩを詐欺に使った場合は詐欺罪とか、あるいは選挙について言えば選挙関連法の違反とか、いろいろあるかと思いますし、実際、また非常に日本社会に大きな影響を与えるような、今委員御指摘のような事案があった場合には、当然、内閣府がしっかり政府の立場で国民に向けて、もちろん戦略本部の本部長である内閣総理大臣の了解の下で周知徹底するなど、これはもういろんなパターンがあるかと思いますが、それは、それぞれ既存法、そしてこの新たな法律が、法案が通った…