そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。
ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということで、差別や偏見というものがより強化されてしまうという問題があるということです。
このバイアスの確認、修正について、城内大臣はＡＩ開発者が必要な措置を講じるよう方針に盛り込むと答弁されていますが、そのバイアスにどうやって気付くかというところがまた問題だと思います。チェックする人の多様性を確保するですとか、違うＡＩで今度チェックをするというようなこともあるようです。相互検証、ピアレビューのようなこととか、工夫が必要だというふうにも思っております。
また、ＳＮＳなどについて、アテンションエコノミー、フィルターバブル、エコーチェンバーなどの問題が指摘をされています。特に、昨年来、選挙を含めて、その負の影響が急速に強まっていると思われます。偏りが増幅されて、信念が強化をされて、少数の人たちが過激化していきます。その極端な意見というものがマスコミで面白おかしく取り上げられると。あるいは、著名人や、あるときは我々国会議員がこういったものを拡散して、そういった情報にまた基づいて人々が行動して、現実社会に対して悪い影響をもたらすということは我々経験をしてきたところです。選挙や、あるいは女性支援団体たたきというのも今非常に問題になっていますが、そういった問題についても被害があります。
実はここにもＡＩが大きく関わっておりまして、ユーザーの抱く偏りにマッチした情報に触れやすくなってしまっていると。その反復で一定程度固まってしまうと、異なる意見、情報というものを目にしても受け付けなくなって信念を強めるということで、ＡＩのリスクというのは将来の問題ではなく現在の問題でもあるということだと思います。それが加速しているんではないかというふうに感じられますが、対策が必要だと考えますが、大臣のお考えをお示しください。
38
本田太郎(自民)防衛副大臣・内閣府副大臣
防衛省におきましては、装備品も含めてですけれども、一般行政事務から装備の技術、部隊の運用、広範多岐にわたる分野でＡＩの活用を推進していこうと考えているところでありまして、おっしゃったとおり、その平和国家である日本の憲法、これに反する、又は国際議論に反する形でのＡＩの活用を考えているわけではありません。
この発言のページ
39
石川大我(立憲)
先ほど、五十年後、百年後の方々が今日の議論を聞いたときに、あのときＡＩ使うというふうに言ったからこうなっちゃったんだになるのか、あるいは、あのときＡＩをしっかり使うというふうに方針を定めたからこのいい未来になったんだというふうになるのかはまだ分からないというふうに思うわけです。
そういった意味では、私たちの先人の知恵であるところの平和憲法や基本的人権の尊重など、憲法との整合性、そういったものをしっかりと、その場その場でしっかり判断をしていただき、しっかりと、憲法をこれ超えているんじゃないかというものがあるようであればしっかりと立ち止まるということ、ある…
この発言のページ
40
和田政宗(自民)
本田副大臣は退席なさって結構です。
この発言のページ
- （上の発言）
41石川大我(立憲)
そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。
ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということで、差別や偏見というものがより強化されてしまうという問題があるということです。
このバイアスの確認、修正について、城内大臣はＡＩ開発者が必要な措置を講じるよう方針に盛り込むと答弁されていますが、そのバイアスにどうやって気付くかというところがまた問題だと思います。チェックする人の多様性を確保するですとか、違うＡＩで今度チェックをするというようなこともあるようです。相互検証、ピアレビューのようなこととか、工夫が必要だというふうにも思っております。
また、ＳＮＳなどについて、アテンションエコノミー、フィルターバブル、エコーチェンバーなどの問題が指摘をされています。特に、昨年来、選挙を含めて、その負の影響が急速に強まっていると思われます。偏りが増幅されて、信念が強化をされて、少数の人たちが過激化していきます。その極端な意見というものがマスコミで面白おかしく取り上げられると。あるいは、著名人や、あるときは我々国会議員がこういったものを拡散して、そういった情報にまた基づいて人々が行動して、現実社会に対して悪い影響をもたらすということは我々経験をしてきたところです。選挙や、あるいは女性支援団体たたきというのも今非常に問題になっていますが、そういった問題についても被害があります。
実はここにもＡＩが大きく関わっておりまして、ユーザーの抱く偏りにマッチした情報に触れやすくなってしまっていると。その反復で一定程度固まってしまうと、異なる意見、情報というものを目にしても受け付けなくなって信念を強めるということで、ＡＩのリスクというのは将来の問題ではなく現在の問題でもあるということだと思います。それが加速しているんではないかというふうに感じられますが、対策が必要だと考えますが、大臣のお考えをお示しください。
42
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
今のいわゆるバイアスの話とか、アテンションエコノミーという御指摘ございましたけど、まず、本法案に基づきまして国が整備する指針では、このバイアスの問題も含めまして、ＡＩによる不適切な出力をできる限り抑制する工夫をＡＩ開発者等に求めていく考えであります。
また、ＡＩ開発者が講じる工夫としては、例えば、そもそもバイアスのあるデータを学習させない、そして、出力結果を評価するツールをしっかり開発して不公正なバイアスがないかしっかり点検すると、そして、ＡＩ同士を対話させ、ＡＩにＡＩをチェックさせると、様々な方法が想定されます。
その際、何がバイ…
この発言のページ
43石川大我(立憲)
是非よろしくお願いしたいと思います。
そのほかにも、対応策として、プロファイリングされた興味、関心というものや嗜好とは異なるものをあえて表示をさせるランダム性を入れるとか、選挙やパンデミック時などの特定の期間には行政とかマスコミ、研究機関などの信頼性の高い情報を上位に表示をさせるとか、そういったような様々な工夫あると思いますので、是非そういったところも御検討いただけるということで、確認ですが、大臣、よろしいですか。
この発言のページ
44城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
今後、戦略本部の下でしっかりとした対応をつくっていく考えでありますので、有識者の方々とも、あるいは関係省庁とも連携しながら、石川委員御指摘のことも踏まえて、しっかり対応していく考えであります。
この発言のページ