それでは、三つ目の違法コンテンツについて。
家族の声のディープフェイクを使ったオレオレ詐欺の被害に遭ったという問題についてどう対応できるのか、伺います。
おおたけりえ (立憲民主党)
2025年4月11日・第217回国会 衆議院 内閣委員会 第13号（外部サイト、新しいタブで開きます） の 63 番目の発言（外部サイト、新しいタブで開きます）（全 245 発言）
前後のやりとり
委員御指摘の事例について、政府としては、既存の法令、ガイドライン等も活用して対処していくということでありますけれども、御指摘の趣旨が、今回のＡＩ法案によって対応がどう変わるのかといった変化を尋ねているという理解の下、本法案によって変わると考えられる部分に絞って具体的にお答えをさせていただきます。 本法案に基づき、国は、国際規範に沿って指針を整備をいたしますが、その指針の中で、ＡＩ開発者による安全性向上について規定する予定であります。その中には、誤情報を減らすための取組も当然含まれると考えておりまして、具体的にどういう対策を行うかは事業者によって異なりま…
事前に予防、抑止、本当に大事だと思っております。
二つ目、ディープフェイク。
画面の端に日テレのロゴをつけて、あたかも日本テレビのニュース番組で首相が話しているかのようなディープフェイク画像が出て、その発信した情報が株価の暴落などの影響を及ぼしたという問題についてどう対応できるのか、伺います。
お答えいたします。 本法案に基づき国が整備する指針の中では、ＡＩ開発者による安全性向上について規定する予定です。その中には、偽情報を減らすための取組も含まれると考えておりまして、具体的な対策は事業者によって異なるとは思いますけれども、例えば、画像生成ＡＩに関して国家元首の偽動画などが容易に作成されないような工夫が考えられます。また、本法案では、研究開発の推進も基本的な施策として掲げておりまして、偽情報対策に関する技術開発などの技術面の取組も進めたいと考えています。 このような対策によって、委員御指摘のような事案を発生前に予防して、抑制することを考えて…
- （上の発言）
それでは、三つ目の違法コンテンツについて。
家族の声のディープフェイクを使ったオレオレ詐欺の被害に遭ったという問題についてどう対応できるのか、伺います。
お答えいたします。
本法案第十五条では、国が国民に対して、ＡＩに関する教育、学習の振興、広報活動を行うこととされています。また、既存法令やガイドラインで対応しつつ、本法案第十六条に規定された情報収集や、調査、指導、助言、情報提供といった取組を活用して、関係省庁と連携の上、適切に対処することが考えられると思っております。
このような取組により、合成音声を生成するＡＩを用いたオレオレ詐欺等のリスクに対応するとともに、国民に対して注意喚起を行い、犯罪を防止することが考えられます。
以上でございます。
次の、四つ目、有害コンテンツ。
先日、我が党の市來議員の質疑では、実在する児童での児童ポルノ画像を生成したら違法との答弁でございましたが、今日は、実在しない児童のデータでフェイク児童ポルノ画像を生成し、広く頒布し、社会に児童ポルノ画像があふれるなど、悪影響を与えた場合についての問題。これは現在、児童ポルノ法で処罰できず問題となっておりますが、どう対応できるのか、伺います。
お答えいたします。
本法律案に基づき国が整備する指針において、例えば、ＡＩ生成物であることを識別可能とするため、ＡＩ開発者が電子透かしの機能をＡＩに導入することが考えられます。また、全てのＡＩ関係者に対して法令遵守を徹底をして、既存法令の違反等の事案の防止を図ってまいりたいと存じます。