政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もちろん表現の自由やそういった問題ありますけれども、そこら辺はしっかりと議論をしながら、法改正というものが必要なのではないかなということは呼びかけさせていただきまして、政府にもしっかり検討もお願いをしたいというふうに思います。
現在、じゃ、どう対応するかということなわけですけれども、そうなると、なかなかこれを児童ポルノ法で処罰できないということになると、名誉毀損や肖像権の侵害といったことで削除を求めたり、刑事告訴あるいは民事的な損害賠償ということを求めるしかないということで、非常に手間も掛かりますし、そもそも本人が気付かないと気付かない間にその画像が広がってしまうというようなことがあるわけで、大人ですと、大人の問題でもありまして、これはリベンジポルノ法ということもありますけれども、こういった議員立法での手当てというものも必要だということは御指摘をさせていただきたいというふうに思います。
そして、この刑事告訴を速やかにできるようにというお話ししたいと思いますが、性的ディープフェイクを名誉毀損罪ということで対応すると、親告罪なので刑事告訴が必要です。実務上は、告訴状を出しますから、基本的には弁護士さんにお願いしなければいけないと。非常に高いハードルで、大人でも高いハードルですし、子供、お子さんでしたらなかなかお一人でやるというのは難しいというふうに思います。
刑事訴訟法上は、告訴は口頭、すなわち調書でも受理ができるということになっておりますので、告訴の口頭受理、これは警察さんだと思いますけれども、受けていただいていることは承知していますが、性的ディープフェイクの被害者の負担を軽減する運用を考えるということはないでしょうか。実は、このことはＳＮＳ上の誹謗中傷、デマについても同様だと思います。どれも加害者は極めて簡単に、加害者側は非常に簡単ですけれども、被害者の方は大変な苦労や心に傷を負うということで、啓発もやっていただきたいと思います。
被害者は児童生徒が多いですが、先ほど、繰り返しになりますが、加害者、高校生、中学生が加害者になる場合というのも多いので、こうした層への啓発というものもしっかりしていただきたいと思いますが、いかがですか。
50吉吉田雅之法務省大臣官房審議官
今御指摘ございましたように、ディープフェイクポルノには様々な形態のものがあろうかと存じます。
それらが実際に児童ポルノ禁止法上のこの児童ポルノに該当するかどうかということは、個別の事案ごとに証拠に基づいて判断されるということになりますので、お答えは差し控えさせていただきたいと存じます。
この発言のページ
51
石川大我(立憲)
そうなんですよね。ですから、国民感情とすれば、顔がその方で、そして何かその人と分かるようなほくろなりあざなりとか特徴があったとして、そして裸にされてしまっているというようなところを見たときに、そういうものが出回っている、当然、当事者の被害者の方というのは非常に傷つくわけです。深い傷を、心に傷を負うわけですよね。
そうしたときに、それが明らかにこれは偽物だというふうに分かるという時代はもう終わって、それが本物なのか、それともディープフェイクなのか、生成ＡＩによるものなのかというのはもう分からない時代に来ているんじゃないかなと思います。当然、その被害者の女…
この発言のページ
52吉吉田雅之法務省大臣官房審議官
一般論として申し上げますと、捜査機関においては、個別の事案ごとに、刑法や児童ポルノ禁止法といった関係法令の内容及び趣旨、それから先ほど申し上げたような判例を踏まえて、刑事事件として取り上げるべきものがあれば、法と証拠に基づいて適切に対処するものと承知しております。
他方で、児童ポルノ禁止法については、議員立法により制定されたものでございまして、その後も必要に応じて議員立法により改正が重ねられてきたという事情がございます。
法務省としては、こうした制定、改正経緯を踏まえた対応が必要となるものと考えております。
この発言のページ
- （上の発言）
53石川大我(立憲)
政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もちろん表現の自由やそういった問題ありますけれども、そこら辺はしっかりと議論をしながら、法改正というものが必要なのではないかなということは呼びかけさせていただきまして、政府にもしっかり検討もお願いをしたいというふうに思います。
現在、じゃ、どう対応するかということなわけですけれども、そうなると、なかなかこれを児童ポルノ法で処罰できないということになると、名誉毀損や肖像権の侵害といったことで削除を求めたり、刑事告訴あるいは民事的な損害賠償ということを求めるしかないということで、非常に手間も掛かりますし、そもそも本人が気付かないと気付かない間にその画像が広がってしまうというようなことがあるわけで、大人ですと、大人の問題でもありまして、これはリベンジポルノ法ということもありますけれども、こういった議員立法での手当てというものも必要だということは御指摘をさせていただきたいというふうに思います。
そして、この刑事告訴を速やかにできるようにというお話ししたいと思いますが、性的ディープフェイクを名誉毀損罪ということで対応すると、親告罪なので刑事告訴が必要です。実務上は、告訴状を出しますから、基本的には弁護士さんにお願いしなければいけないと。非常に高いハードルで、大人でも高いハードルですし、子供、お子さんでしたらなかなかお一人でやるというのは難しいというふうに思います。
刑事訴訟法上は、告訴は口頭、すなわち調書でも受理ができるということになっておりますので、告訴の口頭受理、これは警察さんだと思いますけれども、受けていただいていることは承知していますが、性的ディープフェイクの被害者の負担を軽減する運用を考えるということはないでしょうか。実は、このことはＳＮＳ上の誹謗中傷、デマについても同様だと思います。どれも加害者は極めて簡単に、加害者側は非常に簡単ですけれども、被害者の方は大変な苦労や心に傷を負うということで、啓発もやっていただきたいと思います。
被害者は児童生徒が多いですが、先ほど、繰り返しになりますが、加害者、高校生、中学生が加害者になる場合というのも多いので、こうした層への啓発というものもしっかりしていただきたいと思いますが、いかがですか。
54檜檜垣重臣警察庁生活安全局長
お答えいたします。
告訴などをする方があった場合には、直ちにその内容を聴取し、告訴権の有無、告訴期間、犯罪構成要件の充足の有無、処罰意思等の要件を確認するなどした上、可能な限り迅速に受理、不受理の判断を行うこととしております。
通例、子供が被害者となる事案につきましては、被害者である子供と保護者が同伴で警察に被害申告する場合が多く、その場合に児童、保護者等とも相談しながら対処するものではございますが、いずれにしましても、告訴などは必ずしも書面の提出を求めるものではなく、口頭でなされたとしましても要件を判断した上で受理することとされており、被害者等の立…
この発言のページ
55石川大我(立憲)
是非、この性的ディープフェイクの問題、警察さんとしては啓発というのは特にこれまではしていなかったということですので、是非警察の方からしっかりと、これいじめなんかにもつながる問題ですので、お願いしたいと思います。
ちょっと時間が迫ってまいりましたので二つの問題一つにしますけれども、性的ディープフェイクもそれ以外のディープフェイクも、あるいはＳＮＳ上のデマ、誹謗中傷も、加害者に責任を取らせて、また被害を回復しようとすると、非常に刑事的、民事的に大変です。相談を受け、削除依頼を行ってくれる民間団体ありますが、まだまだ追い付いていないという状況です。
性的デ…
この発言のページ
56
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
本法案におきましては、内閣総理大臣を本部長として全閣僚が構成員となりますＡＩ戦略本部を新たに設置するなど、ＡＩ政策の司令塔機能を強化することとなっております。加えまして、そのＡＩ戦略本部の事務局であります内閣府が、関係省庁と連携してＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとなっております。
また、本法案第十三条に基づき整備する指針におきましては、ＡＩ開発者に対し違法なディープフェイクなどの不適切な出力の抑制等に努めることを求めることについて検討しているところでございます。
なお、本法案が成立した暁には、…
この発言のページ