規制対象であると明確に御答弁をいただきました。
次の質疑にも関わってくることですが、規制対象であるから、請求でありますとか訴えを起こした場合、それは対応はできるということなんですが、やはり、膨大な情報の中で、日々本当に国民も忙しい中でそういったものに対応していけるかというところの実効性の疑問は残ります。
ディープフェイク対策についてです。
ＡＩが悪用されるディープフェイクの事例が、本当に近年大きな社会問題となっています。具体的には、ＡＩで合成された音声や動画を用いて有名人をかたった詐欺に悪用されたり、偽画像や偽動画を使った情報操作、そして世論の工作にも悪用されたりするといった事案が各国で相次いでいます。
また、例えば芸能人の顔に置き換えた性的動画のディープフェイクポルノ、芸能人だけじゃないんですけれども、国内外で確認をされまして、これについては、先日の内閣委員会で我が党の市來伴子議員も、本当にこれは大きな問題だということで議論をさせていただいたところでありますが、実在性などの定義、重要なやり取りがあったと思いますし、この件は、引き続いてしっかりと議論が必要だと思っています。被害者を生み出さない仕組みを、我々、党派を超えて議論を深めていかないといけないと思っております。
ディープフェイクポルノがもちろん言語道断なのは当然のことでありますが、そもそも、ＡＩ画像でありますとかＡＩ動画を自動的に検知をして、このサイトはＡＩを利用していますといった分かりやすい表示があってもいいのではないかと思います。
例えば、ＮＨＫのニュースでは、これまでに入っているニュースをＡＩによる自動音声でお伝えしますというアナウンスがあって、実際にＡＩ音声でニュースが読まれます。そのときには、テレビの画面に「ＡＩ自動音声でお伝えしています」という表示がありまして、これについては御覧になった方も多数いらっしゃると思います。
こういった、ＡＩを利用していますといった分かりやすい表示をＡＩ画像やＡＩ動画にも義務づけるべきではないでしょうか。お願いします。
40渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ＥＵのＧＤＰＲ二十二条におきましては、これは個人データに関する法令でございますけれども、専ら自動化された取扱いに基づいた意思決定の対象とされない権利というのが規定されているものと承知しております。ちょっと、やや難しいんですけれども、平易に申し上げると、コンピュータープログラム等が人の評価をしてしまうというか、それは避けるべきであるというようなことが規定されているということでございます。
一方、日本におきましても、コンピューターのプログラムのアルゴリズムが提案する内容が違法な行為を助長するような場合、不適切な場合には、既存の現行法…
この発言のページ
41
橋本慧悟(立憲)
御答弁をいただきました。既存の現行法とか各業法での規制を行う、それが今回、日本のＡＩ推進法においては大分キーになるというか、しっかり議論していくべきところかなと改めて感じました。
そうなると、個人情報についての質問に移らせていただきます。
ＡＩが収集する学習データの中には、特定の個人を識別できる個人情報がやはり含まれている場合があると思いますが、あらかじめ本人の同意が得られていない個人情報をＡＩが収集した場合は、個人情報保護法に違反するのではないかというような議論とか懸念もあると思います。
個人情報保護法第三十五条に基づき、本人から例えばＡＩ利用事…
この発言のページ
42佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
ＡＩを利用する事業者が個人情報データベース等を使っておりましたら、個人情報保護法の規制対象であります個人情報取扱事業者に該当いたします。そのため、法律に基づきまして、一定の要件、例えば、不正な取得、不適正な利用ということがございますと、個人は、事業者に対しまして、ＡＩの利用に際し使われている個人データから御自身の個人データの消去、利用停止を請求できる、そのような権利が設定されておりますので、それを御使用いただくことになろうかと思います。
この発言のページ
- （上の発言）
43橋本慧悟(立憲)
規制対象であると明確に御答弁をいただきました。
次の質疑にも関わってくることですが、規制対象であるから、請求でありますとか訴えを起こした場合、それは対応はできるということなんですが、やはり、膨大な情報の中で、日々本当に国民も忙しい中でそういったものに対応していけるかというところの実効性の疑問は残ります。
ディープフェイク対策についてです。
ＡＩが悪用されるディープフェイクの事例が、本当に近年大きな社会問題となっています。具体的には、ＡＩで合成された音声や動画を用いて有名人をかたった詐欺に悪用されたり、偽画像や偽動画を使った情報操作、そして世論の工作にも悪用されたりするといった事案が各国で相次いでいます。
また、例えば芸能人の顔に置き換えた性的動画のディープフェイクポルノ、芸能人だけじゃないんですけれども、国内外で確認をされまして、これについては、先日の内閣委員会で我が党の市來伴子議員も、本当にこれは大きな問題だということで議論をさせていただいたところでありますが、実在性などの定義、重要なやり取りがあったと思いますし、この件は、引き続いてしっかりと議論が必要だと思っています。被害者を生み出さない仕組みを、我々、党派を超えて議論を深めていかないといけないと思っております。
ディープフェイクポルノがもちろん言語道断なのは当然のことでありますが、そもそも、ＡＩ画像でありますとかＡＩ動画を自動的に検知をして、このサイトはＡＩを利用していますといった分かりやすい表示があってもいいのではないかと思います。
例えば、ＮＨＫのニュースでは、これまでに入っているニュースをＡＩによる自動音声でお伝えしますというアナウンスがあって、実際にＡＩ音声でニュースが読まれます。そのときには、テレビの画面に「ＡＩ自動音声でお伝えしています」という表示がありまして、これについては御覧になった方も多数いらっしゃると思います。
こういった、ＡＩを利用していますといった分かりやすい表示をＡＩ画像やＡＩ動画にも義務づけるべきではないでしょうか。お願いします。
44
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。
ウェブサイト上の情報などがＡＩを用いて生成されているか否かを検知するための技術や、ＡＩを用いているかどうかを表示すること自体、これは御指摘のとおり大変有用であると考えております。他方で、このような技術の導入やＡＩ利用の表示を義務づけることは、まだ開発途上の技術でもございます。
なお、本法案に基づき整備する指針において、例えば、ＡＩの利用の有無が分かりにくいために被害が生じそうな場合には、ＡＩの利用を行っていることの表示を行うことを奨励することなどについてもしっかり検討してまいりたいと考えますが、いずれにしましても、橋本慧悟委員の御…
この発言のページ
45橋本慧悟(立憲)
これからもしっかりと議論を進めていければなと思います。
続きまして、我々は政治家ですから、選挙におけるディープフェイク対策への実効性をどう確保するのかという観点でもお聞きしたいと思います。
昨年から特に、世界各国の選挙で生成ＡＩを用いた偽情報も拡散をされたという事例が確認されています。
例えば、アメリカでは、前々回の大統領選でバイデン氏を支持した人気歌手のテイラー・スウィフトさんが、トランプが勝ったというような横断幕、旗を掲げる、そんな画像が拡散される、偽動画が作成されたりとか、パキスタンとかインドネシアで、収監されている元大統領とか既に亡くなった…
この発言のページ
46城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。
選挙活動に関連するかどうかにかかわらず、内閣府といたしましては、ディープフェイクを含めた偽・誤情報についての対策を講じていくことは、橋本委員も御指摘のとおり、大変重要であり急務であると考えております。
具体的には、本案第十三条に基づきまして、国が国際的な規範の趣旨に即した指針、これを整備することとなっております。この国際的な規範の一つであります広島ＡＩプロセスの国際指針では、偽情報、誤情報に係る対策といたしまして、ＡＩが生成したコンテンツであることを識別できるよう、電子透かし等の技術を開発導入することなどが挙げられております。
…
この発言のページ