2025年5月22日・第217回国会 衆議院 憲法審査会 第7号（外部サイト、新しいタブで開きます） の 10 番目の発言（外部サイト、新しいタブで開きます）（全 81 発言）
ありがとうございます。
平先生に対してお伺いいたします。
先生、今の陳述にも、また先生の著書の生成ＡＩと認知戦の中でも、生成ＡＩの問題について深く触れておられます。生成ＡＩが、大規模化、低コスト化、巧妙化、迅速化の四つの点について大変大きな影響を及ぼしているんだということで、そのインパクトは、情報の真贋、真偽の境界を非常に曖昧にして、その判別を大変困難にしています。そのことは、偽・誤情報を本物だと信じてしまうという現象に加えて、先生も触れられたとおり、本来本物なのに、実はそれが偽物だと誤認をさせる、いわゆるうそつきの分け前、ライアーズディビデンドを引き起こすというふうに先生も著書では指摘をされております。こうした、例えば戦争にまつわるディープフェイクの拡散や、あるいは、政府の意思決定や国民の意識に多大な影響を与えるＡＩです。
しかし、生成ＡＩ自体はもはや相当普及しておりまして、グーグルで何かを検索しても、これは生成ＡＩによる用語ですというふうに出てまいりますが、この生成ＡＩの悪影響を防止をする、防ぐことの方策について、御所見をお伺いいたします。
7
枝野幸男(立憲)
これより参考人に対する質疑を行います。
質疑の申出がありますので、順次これを許します。寺田稔さん。
8寺田稔(自民)
両先生におかれては、大変お忙しい中、当憲法審査会にお出ましを賜り、貴重な御意見を賜り、誠にありがとうございます。 それでは、限られた時間ですので、早速質疑の方を進めさせていただきます。 まず、鳥海先生にお伺いをさせていただきます。 先生は、今の意見陳述でも、ビジネスモデルとしてのアテンションエコノミーの問題点また影響について陳述をされました。事業者の経済的利益を最大化するアルゴリズムの構築によって、各ユーザーが自律的ではなく他律的に情報を摂取させられている、これは情報的健康を害するんだという御主張であり、まさしく私も賛同するものでございます。 し…
ありがとうございます。 アテンションエコノミーに対する、それに代わる新しいビジネスモデルというのを考えるというのは現状ではまだ少し見えていないところでありますので、直近で何かこれを全て解決するというのは難しいというふうに考えております。 ただ、先ほども申し上げて、御指摘もありましたとおり、非日常モードであるとか、今回はお話ししませんでしたけれども、例えば未成年者に対するモードであるとか、そういった対処すべき問題がある場面において何らかの規制をかけるということは可能ではないかと思いますので、そういった形で、単なるアテンションエコノミーではない形というの…
10寺田稔(自民)
ありがとうございます。
平先生に対してお伺いいたします。
先生、今の陳述にも、また先生の著書の生成ＡＩと認知戦の中でも、生成ＡＩの問題について深く触れておられます。生成ＡＩが、大規模化、低コスト化、巧妙化、迅速化の四つの点について大変大きな影響を及ぼしているんだということで、そのインパクトは、情報の真贋、真偽の境界を非常に曖昧にして、その判別を大変困難にしています。そのことは、偽・誤情報を本物だと信じてしまうという現象に加えて、先生も触れられたとおり、本来本物なのに、実はそれが偽物だと誤認をさせる、いわゆるうそつきの分け前、ライアーズディビデンドを引き起こすというふうに先生も著書では指摘をされております。こうした、例えば戦争にまつわるディープフェイクの拡散や、あるいは、政府の意思決定や国民の意識に多大な影響を与えるＡＩです。
しかし、生成ＡＩ自体はもはや相当普及しておりまして、グーグルで何かを検索しても、これは生成ＡＩによる用語ですというふうに出てまいりますが、この生成ＡＩの悪影響を防止をする、防ぐことの方策について、御所見をお伺いいたします。
ありがとうございます。 生成ＡＩのリスクとしては、先ほど説明の中でも触れましたけれども、従来、偽情報、誤情報というのは、労働集約型で、ローテーションを組んで人間が発信をするということが行われていましたけれども、それが生成ＡＩの利用によって、全体的に自動化をする、しかも非常に人間らしい形での文面、あるいは画像、自然な動画、こういったものになってくる。 これに対しては、人間の力でそれを判別する、見破るというのはなかなか限界もございますので、技術的な進展、開発の促進、そういったものを検知する、そこにもＡＩを使っていって検知を進めていくというようなことも重要…
12寺田稔(自民)
ありがとうございます。 それでは次に、かつてこの場でＦＩＪの楊井参考人にお越しをいただき、これはファクトチェック・イニシアティブというファクトチェック機関の方でございます。ファクトチェックの活性化が望ましいんだけれども、日本では人材あるいは資金が非常に不足をしていて、十分なファクトチェック体制あるいはファクトチェック機関の整備が進んでいないという問題点を指摘になられました。 ではどういうふうにすれば、日本で、ファクトチェック団体あるいは機関、またファクトチェック体制が整っていくようになるのでしょうか。もちろん政府の直接介入はしないという前提の下で。こ…
非常に難しい問題ではあると思いますけれども、やはり一つはビジネス化をきちんと行うということではないかと思います。
現在は、ファクトチェック団体というのは恐らく資金提供を受けて行っているのではないかと思いますけれども、一定のファクトチェックを行うことによってのビジネスというのが成り立つ、新聞社等が海外でやっているのは、そういったビジネスの中でファクトチェックを行うことが企業のインセンティブになっているということがあるために行っているんだと思いますけれども、そういったような形というのが取れることは一定必要ではないかなというふうに思います。