そうしたことを知ることが、使う側にとってもリスクを知ることにもなりますし、それが浸透していくことになるというふうに思います。
それで、リスクでいえば、これ前回もちょっと言ったんだけど、ディープフェイク、ディープシークじゃなくディープフェイクの方ですね、ディープフェイクについてもちょっと聞きたいんですけど。
そのディープフェイクというのは、ＡＩの技術を使って真実とか本物であるかのように誤って表示するというか、いや、それを合成された画像や音声や動画コンテンツのことなんですけれども、その中でもディープフェイクというのはかなり悪意があるというか悪質性の高いもので、例えば、よく海外とかで問題になっているのがディープポルノというんでしょうか、個人の画像をポルノなどの性的な画像に合成させて拡散させたりだとかいうようなことがよく起きているわけですよね。それ以外にも、ディープフェイクというのは、例えば何だろう、岸田前総理の偽動画が拡散された、あれもディープフェイクになるし、あとは、去年の能登半島地震の際に東日本大震災の映像を流してそれを結び付ける形で、何というのか、危機、あれをあおったりするような、こういうのも一種のディープフェイクなんですけど。
こうしたディープフェイクの、何というのか、被害だとか犯罪も含めて、今実は国際的にも、ほかの国でもいろんなそういうような課題というのが出てきているんですが、じゃ、このディープフェイクの取締りというのはどこまで今できるのかというのはちょっと聞きたいというふうに、じゃ、どうぞお答えください。
41
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
アテンションエコノミーは知っておりましたけど、エコー何でしたっけ、済みません。（発言する者あり）エコーチェンバー、存じ上げておりませんでした。
この発言のページ
42
片山大介(維新)
そうなんです。だから、こういう言葉が、横文字でもあるということもあって、やっぱり我々にとってはなじみが薄いというのが、やっぱり認知度が下がっていって、それが活用にもつながっていっているというふうに思うんですね。
だから、こちらも、だから、年齢層だとか、あとは性別によってもかなりその認知度が違いますからね、だからそれに対応したやっぱりこれ取組をやっていかなきゃいけないと思うんですけれども、ここら辺はどのように対応していくおつもりか、あれば。
この発言のページ
43城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
今御答弁申し上げたとおり、今後このＡＩ法案が成立した暁には、総理大臣の強いリーダーシップの下にＡＩ戦略本部ができますし、その下で各国務大臣がその本部のメンバーとして関係省庁ともしっかり連携して、また片山委員が御指摘されたようなことも踏まえてしっかり対応していく考えであります。
この発言のページ
- （上の発言）
44片山大介(維新)
そうしたことを知ることが、使う側にとってもリスクを知ることにもなりますし、それが浸透していくことになるというふうに思います。
それで、リスクでいえば、これ前回もちょっと言ったんだけど、ディープフェイク、ディープシークじゃなくディープフェイクの方ですね、ディープフェイクについてもちょっと聞きたいんですけど。
そのディープフェイクというのは、ＡＩの技術を使って真実とか本物であるかのように誤って表示するというか、いや、それを合成された画像や音声や動画コンテンツのことなんですけれども、その中でもディープフェイクというのはかなり悪意があるというか悪質性の高いもので、例えば、よく海外とかで問題になっているのがディープポルノというんでしょうか、個人の画像をポルノなどの性的な画像に合成させて拡散させたりだとかいうようなことがよく起きているわけですよね。それ以外にも、ディープフェイクというのは、例えば何だろう、岸田前総理の偽動画が拡散された、あれもディープフェイクになるし、あとは、去年の能登半島地震の際に東日本大震災の映像を流してそれを結び付ける形で、何というのか、危機、あれをあおったりするような、こういうのも一種のディープフェイクなんですけど。
こうしたディープフェイクの、何というのか、被害だとか犯罪も含めて、今実は国際的にも、ほかの国でもいろんなそういうような課題というのが出てきているんですが、じゃ、このディープフェイクの取締りというのはどこまで今できるのかというのはちょっと聞きたいというふうに、じゃ、どうぞお答えください。
45城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
御指摘のとおり、例えば海外ではディープフェイク画像の流通等が規制されている国もございます。例えばＥＵでは、二〇二四年成立したＡＩ法において、ディープフェイク画像であることの開示義務、これが規定されているというふうに承知しております。
こうした海外の状況もしっかりと把握した上で、ＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめにおきましては、ディープフェイクを含めたＡＩがもたらし得るリスクに対するまずは基本的な考え方として、既存の法令が存在する領域においては、まずその枠組みを活用して対応すべきというふうになっております、されております。このため、我が国にお…
この発言のページ
46片山大介(維新)
要は、今大臣言われたのは、日本は、だから、ＡＩ法ができたとしても、ＡＩ法というのは別に罰則があるものではないから、基本的にそういうものを摘発とかするのに当たっては既存の法律を使うというのが日本の基本的な考えなんです。それが、その今言った児ポルノ法になる、名誉毀損罪になる、それからあと、去年成立した情報流通プラットフォーム対処法なんかも対象になるかもしれない。
ただ、海外では結構ディープポルノ、ディープフェイクを対象にした規制というのも強まってきていて、例えば、お隣の韓国では去年成立したのかな、法律ができたりだとか、アメリカも一部の州では法律ができたりだ…
この発言のページ
47城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
やはりＡＩの技術の変化はその予測することが、非常にスピードが速いので、現時点でその全てのリスクを予測することというのは極めて難しいというふうに認識しておりまして、ただ、繰り返しになりますけれども、ＡＩ法が成立した暁には、法に基づく、十六条にもありますが、情報収集や調査などによって様々な分野における実態や課題を個別具体的にしっかりと把握して、必要に応じて関係府省庁の連携の下、しっかり対応していくと、そういうことが想定されております。
この発言のページ