2025年11月28日・第219回国会 参議院 デジタル社会の形成及び人工知能の活用等に関する特別委員会 第3号（外部サイト、新しいタブで開きます） の 111 番目の発言（外部サイト、新しいタブで開きます）（全 132 発言）
ありがとうございます。
ＡＩ新法の国会審議では、まずディープフェイクポルノへの対応が論点となり、既存の刑法、関連法制で対処しつつ、ＡＩ新法十六条に基づく調査、指導で補填する方針が示されております。
しかし、今や問題は性被害だけではありません。ＡＩで作られた偽動画、偽音声が誰でも低コストで量産できる時代です。特に、選挙や安全保障の分野では、一度ばらまかれた偽映像が訂正より先に印象だけを残す、このこと自体が民主主義の土台を揺るがしかねません。各国ではＡＩで作られたものをＡＩで検知する試みが進んでいますが、技術的には決して万能ではなく、必ず取りこぼしも誤検知も起こり得ます。だからこそ、技術任せにはせず、プラットフォーム事業者の責任、ユーザー側のリテラシー、そして法制度の役割分担を早期に整理しておく必要があると思います。
そこでお伺いします。政治的ディープフェイク、偽動画について、表現の自由を確保、保障しつつ、プラットフォーム事業者にどこまで対応を求めるのかなど、制度対応のＡＩ基本計画や今後の指針にどう位置付けていくのか、教えてください。
お答えいたします。 まず、最初のお問合せでございますが、ＡＩへの民間の投資額を調べましたある調査によりますと、我が国のＡＩへの民間投資額は、二〇二四年で約九億ドルとされております。これは、同じ調査では、ＡＩの開発競争で先行しております中国に比べますと中国の十分の一程度、それからアメリカと比べますと百分の一程度しかないと。日本と経済規模が近いイギリスと比較しても五分の一、それから、韓国よりも少なく、韓国の七割程度という状況になってございまして、このＡＩへの民間投資が他国と比べて少ない状況であるというふうに認識をしてございます。 具体的にどのような投資規…
109岩本麻奈(参政)
ありがとうございました。 今日はあえて質問いたしませんが、今後は省庁を横断したいわゆるＤＸ決算書を毎年公開するなど、国民が暮らしの変化を検証する仕組みをつくっていくべきではないか、少なくとも、どこまで進んでどこが遅れているのかが一目で分かるＤＸ決算書とＫＰＩの公開が必要ではないのかと。以上はこれは意見として申し上げておきます。 続けます。 デジタル庁は、二〇二五年五月に、行政の進化と革新のための生成ＡＩの調達・利活用に係るガイドラインを策定し、行政で生成ＡＩ活用を進めつつ、リスク管理をセットで行う枠組みを示されております。 そこでお伺いします。行…
110
松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
ありがとうございます。 生成ＡＩの利活用については、先ほどからも、ほかの委員の方々からも御質問のあったところでございます。その機微情報や個人情報の漏えいや正確でない情報が出力されるハルシネーション、これは生成ＡＩ固有のリスクだということは先ほども申し上げました。十分それに注意しながら対応することが求められるんですけれども、本年五月に、デジタル庁は、生成ＡＩの調達・利活用に係るガイドラインを制定、策定したところです。 ここで何が一番大事かと申しますと、機密性二以上の情報や個人情報、すなわち対外秘にしなきゃいけない要秘密、要機密情報というものを取り扱って…
111岩本麻奈(参政)
ありがとうございます。
ＡＩ新法の国会審議では、まずディープフェイクポルノへの対応が論点となり、既存の刑法、関連法制で対処しつつ、ＡＩ新法十六条に基づく調査、指導で補填する方針が示されております。
しかし、今や問題は性被害だけではありません。ＡＩで作られた偽動画、偽音声が誰でも低コストで量産できる時代です。特に、選挙や安全保障の分野では、一度ばらまかれた偽映像が訂正より先に印象だけを残す、このこと自体が民主主義の土台を揺るがしかねません。各国ではＡＩで作られたものをＡＩで検知する試みが進んでいますが、技術的には決して万能ではなく、必ず取りこぼしも誤検知も起こり得ます。だからこそ、技術任せにはせず、プラットフォーム事業者の責任、ユーザー側のリテラシー、そして法制度の役割分担を早期に整理しておく必要があると思います。
そこでお伺いします。政治的ディープフェイク、偽動画について、表現の自由を確保、保障しつつ、プラットフォーム事業者にどこまで対応を求めるのかなど、制度対応のＡＩ基本計画や今後の指針にどう位置付けていくのか、教えてください。
112
小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
午前中も申し上げたところではあるんですが、このＡＩが活用されているか否かにかかわらず、こういった偽・誤情報の拡散とか制作というのは、誤ったものの流布というのは、これは不適切な行為であるというふうに認識しています。 ただ、やっぱりディープフェイクの制作や拡散がＡＩの進展によって容易に行われてしまうという状況に鑑み、年内策定の、年内目途の策定予定の基本計画においては、ＡＩがもたらすリスクに係る実態把握やそれに基づく必要な措置を講ずること、そしてＡＩの適正な利活用等につながる自主的な取組を促す指針の策定などについて盛り込むべく議論を進めています。 また、Ａ…
113岩本麻奈(参政)
特に、やはり政治や選挙に関する客観的で正確な情報の確保というのは、民主主義の根幹を成すものだと思われます。デジタル行政をつかさどる皆さんにとっても、優先度の高い大切な問題であるということを指摘しておきます。 最後に、これは質問ではなく問題提起として一言申し上げます。 私は、厚生労働委員会の議論を通じて強い危機感を持ちました。それは、統一電子カルテの重要性が国民も現場の医師も行政も十分に教育されていない、共有されていない、ここが本質的なボトルネックです。 さらに、医療の基礎データであるカルテが制度上たった五年で保存期間が終わる、つまり消えていくという…
れいわ新選組の奥田ふみよと申します。 私は、今回、参議院議員選挙で初めて国会議員になりました。それまでは、ピアノの講師をしていた普通のお母さんでした。私が国会議員になろうと思ったのは、どこの子供も笑って暮らしてほしいからです。どこの子供もひもじい思いをしない、親ガチャで苦しまない、そして、何よりも、再び政府の暴走により戦争という大量虐殺を起こさせない、子供たちを死なせたりしない、子供たちに殺し合いをさせない、みんなで笑って暮らし続けていける社会でありたい。そのために、私のような普通のお母さんが政治家にならぬといかぬと思い、今ここに立って大臣に質問させて…