2026年5月25日・第221回国会 参議院 決算委員会 第4号（外部サイト、新しいタブで開きます） の 184 番目の発言（外部サイト、新しいタブで開きます）（全 249 発言）
総務省の取組や対応状況についてお伺いしましたが、今後は、子供や保護者による自己防衛や家庭での見守りに加えて、プラットフォーム事業者側の責任の在り方についてもより議論を深めていく必要があると考えます。
現行制度は、フィルタリングや家庭での見守りなど、保護者側の対応に依存する傾向が強い一方で、ＳＮＳや生成ＡＩを取り巻く環境は急速に変化しており、従来の対応のみでは十分に対応し切れない課題も生じていると考えます。
ＯＥＣＤにおけるオンラインリスク分類なども踏まえれば、事業者によるリスク評価や保護措置の義務付け、さらには行政による適切な監督も含めた制度整備が重要になってくるのではないでしょうか。先ほども申し上げましたが、例えば未成年者の性的画像などへの対処について、欧州では行政当局がプラットフォーム事業者に対して削除要請などを行える制度が整備されております。
そこで、我が国の現状について改めてお伺いいたします。
181
黄川田仁志(自民)内閣府特命担当大臣（沖縄及び北方対策・消費者及び食品安全・こども政策・少子化対策・若者活躍・男女共同参画・地方創生・アイヌ施策・共生・共助）
委員御指摘のとおり、ＳＮＳ等をきっかけとして子供が被害やトラブルに遭った際に、子供自身が適切な窓口に相談できることは大変重要であると認識しております。 そのような被害などに遭った子供自身が相談しやすい体制の整備については、関係省庁においてそれぞれ取り組まれております。例えば、文部科学省においては子供のＳＯＳの相談窓口、法務省においては法務局ＬＩＮＥじんけん相談などを設けていると承知をしております。 こども家庭庁としては、被害やトラブルに遭った子供がこうした相談窓口に確実かつ早期につながるよう、保護者向けのリーフレットなどを活用して、先ほど述べた相談窓…
ありがとうございます。ＬＩＮＥなどの身近なＡＩツールなども活用していただければと、御検討していただければと思います。 現在、日本の制度は、子供側に一定の自己防衛を求める側面がある一方、ＳＮＳや生成ＡＩを取り巻く環境が急速に変化する中で、プラットフォーム事業者側の対応の在り方についても議論が必要になっていると考えます。 海外では、プラットフォーム事業者に対してより実効性のある対応を求める動きも進んでおります。例えば欧州では、デジタルサービス法、ＤＳＡにより違法・有害コンテンツへの迅速な対応が義務化されるなど、子供を取り巻くオンラインリスクへの対応の強化…
お答えいたします。 こども家庭庁に設置されたワーキンググループにおいて昨年八月に取りまとめられました課題と論点の整理を踏まえまして、総務省では昨年九月から有識者会議を設置しまして、青少年のインターネット利用に関する検討を進めてまいりました。 同会議では、各事業者の取組状況や、既に大規模なプラットフォーム事業者に対し法令に基づくリスク評価と軽減措置の実施が義務付けられておりますＥＵ、英国、オーストラリアにおける法制度なども参考に御議論をいただきました。 先月の二十二日に開催しました同会議における論点整理案に係る議論では、プラットフォーム事業者に対し、…
総務省の取組や対応状況についてお伺いしましたが、今後は、子供や保護者による自己防衛や家庭での見守りに加えて、プラットフォーム事業者側の責任の在り方についてもより議論を深めていく必要があると考えます。
現行制度は、フィルタリングや家庭での見守りなど、保護者側の対応に依存する傾向が強い一方で、ＳＮＳや生成ＡＩを取り巻く環境は急速に変化しており、従来の対応のみでは十分に対応し切れない課題も生じていると考えます。
ＯＥＣＤにおけるオンラインリスク分類なども踏まえれば、事業者によるリスク評価や保護措置の義務付け、さらには行政による適切な監督も含めた制度整備が重要になってくるのではないでしょうか。先ほども申し上げましたが、例えば未成年者の性的画像などへの対処について、欧州では行政当局がプラットフォーム事業者に対して削除要請などを行える制度が整備されております。
そこで、我が国の現状について改めてお伺いいたします。
お答えいたします。 欧州のデジタルサービス法では、超大規模オンラインプラットフォーム事業者などの事業者が、性的画像等を含む違法コンテンツについてＥＵ各国の当局から違反の根拠法令を明らかにした上で対応するよう求められた場合、遅滞のない応答、通知を含む対応を行う義務があること等の手続を定めているものと承知しております。 我が国では、行政機関がプラットフォーム事業者に違法情報の削除等を求めるための包括的な手続を定める規定はないと認識しております。 その上で、個別の関係省庁における取組について総務省が網羅的にお答えすることは困難でございますが、個別の関係省…
最後に、生成ＡＩを悪用した新たな犯罪への対応について伺います。
海外では、ＡＩを悪用したディープフェイクによる性的画像生成や生成ＡＩを利用した児童誘引などが深刻な問題となっております。生成ＡＩの急速な普及に伴い、こうした手法が国境を越えて拡散する中、日本においても今後同様の問題が急速に顕在化する可能性があると考えます。
そこでまず法務省にお伺いいたします。
こうしたディープフェイクによる性的画像生成や生成ＡＩを利用した児童誘引行為などについて、現行法での対応状況についてお聞かせください。
お答えいたします。 犯罪の成否は捜査機関により収集された証拠に基づき個別に判断されるべき事柄でありまして、お尋ねの生成ＡＩやディープフェイク技術を悪用した性的画像生成や児童誘引等に関して、成立し得る犯罪を網羅的にお答えすることは困難でございます。 その上で、あくまで一般論として申し上げますと、例えば、いわゆる児童ポルノ禁止法二条三項各号に規定される児童ポルノを提供する目的等で児童ポルノを製造したと認められる場合には児童ポルノ製造罪が、ＳＮＳで金銭を要求する行為等につきましては人を恐喝して財物を交付させたと認められる場合には恐喝罪が、それぞれ成立し得る…