済みません、要するに、個別具体的な事案についてはいろんなパターンが考えられますし、例えば、個別の既存法、名誉毀損とか、あるいはＡＩを詐欺に使った場合は詐欺罪とか、あるいは選挙について言えば選挙関連法の違反とか、いろいろあるかと思いますし、実際、また非常に日本社会に大きな影響を与えるような、今委員御指摘のような事案があった場合には、当然、内閣府がしっかり政府の立場で国民に向けて、もちろん戦略本部の本部長である内閣総理大臣の了解の下で周知徹底するなど、これはもういろんなパターンがあるかと思いますが、それは、それぞれ既存法、そしてこの新たな法律が、法案が通った暁には、こういったもの、いろんな仕組みを使いながら個別具体的に対処をしていくということになるかと思います。
城内実 (自由民主党)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
2025年5月20日・第217回国会 参議院 内閣委員会 第15号（外部サイト、新しいタブで開きます） の 195 番目の発言（外部サイト、新しいタブで開きます）（全 208 発言）
前後のやりとり
192
大島九州男(れいわ)おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。 近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。 例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言って…
193
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘の事案も含めまして、具体的には、国民の権利又は利益を侵害するなどの重大な事故等が生じた場合には、関係省庁と連携し、本法案に基づく調査を行ってまいる考えです。
その上で、その調査の結果、被害の拡大防止のために必要があると認められる場合には、更にその指導、助言や国民への情報提供を行うことを想定しているほか、必要に応じて適正なＡＩの研究開発及び活用に向けてガイドライン等の整備や周知等を行うことが考えられます。
以上です。
194
大島九州男(れいわ)いやいや、何かそういう、問題が起こって、そのガイドラインを整備するとかいうんじゃなくて、例えば、ちょっと私の理解でいえば、そういうさっき言った具体的なフェイクと言われるものが流れたと。じゃ、そこに本部がどういう対応をするかというと、まさに本当に、そういう消費税を食料品だけゼロ％にするというようなことを財務省は本当に議論したのかとか、また、各関係省庁にその確認をしたと。そうしたら、そういう事実はないと。で、それを本部が確認をしたら、じゃ、本部長が、いや、国民にこういうデマな情報が拡散されたりするのはよくないと、だから早期にこれを否定しなきゃいけないと。じゃ…
- （上の発言）
195
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）済みません、要するに、個別具体的な事案についてはいろんなパターンが考えられますし、例えば、個別の既存法、名誉毀損とか、あるいはＡＩを詐欺に使った場合は詐欺罪とか、あるいは選挙について言えば選挙関連法の違反とか、いろいろあるかと思いますし、実際、また非常に日本社会に大きな影響を与えるような、今委員御指摘のような事案があった場合には、当然、内閣府がしっかり政府の立場で国民に向けて、もちろん戦略本部の本部長である内閣総理大臣の了解の下で周知徹底するなど、これはもういろんなパターンがあるかと思いますが、それは、それぞれ既存法、そしてこの新たな法律が、法案が通った暁には、こういったもの、いろんな仕組みを使いながら個別具体的に対処をしていくということになるかと思います。
196
大島九州男(れいわ)先ほどの質問にもあったように、それぞれ今言う名誉毀損でとか詐欺罪でとかって、そういう刑法で、こっちでやれるやつはそれでやっているわけだから。 だから、ＡＩ法案ができて、内閣総理大臣を本部長にして、今言うような問題が起こったような場合、それぞれ刑法とか今までの対処でできるようなやつはそれでやるわけだから、それはそれでいいんですよ。だけど、わざわざ各国務大臣をそろえてやる本部が扱うのは、今言ったような、国民をだまかす、一斉にだまかす、それは個人の一人一人詐欺するような問題、そんな本部で扱っていたら大変なことですよ。だから、そんなことは想定していないでしょう…
大変重要な御指摘というか、本部を開くときの一つの形に対するアドバイスだというふうに受け止めております。 ただ、今申し上げたのは、個別の事案がまず出てこないと、どういうリスクがあるかというのはやっぱりどうしても事後的にしか分からない部分がありますから、そういうものについてはどうしても個別事案ごとに対処することになりますし、そのときに、一気に国民に対して全部アピールするのがいいのか、一部の関係者にだけ言った方がいいのかというのは、これは悪事を余り一気にアピールするとまた別の影響があったりするケースもありますので、そういうことも考えないといけないので、これは…
198
大島九州男(れいわ)いや、まさしくその本部の強力な権限を使うということは、この印籠が目に入らぬかみたいなやつをやるわけですから、そういうのはもうある程度想定をしておくというのは当然必要で、それこそ先般やったサイバーじゃないけど、事前にそういう無害化をしていこうと。 そういう、起こることを想定して起こらないようにしようとするような、片やそういうことをやっているわけですから、こういう部分でも当然同じような考え方に立てば、今言った想定してこういうような使われ方をしたときにはどうするとかいうのは、もう事前に常にシミュレーションしていって、ぱっと対応できるようにしていくというのが必…