是非よろしくお願いしたいと思います。
そのほかにも、対応策として、プロファイリングされた興味、関心というものや嗜好とは異なるものをあえて表示をさせるランダム性を入れるとか、選挙やパンデミック時などの特定の期間には行政とかマスコミ、研究機関などの信頼性の高い情報を上位に表示をさせるとか、そういったような様々な工夫あると思いますので、是非そういったところも御検討いただけるということで、確認ですが、大臣、よろしいですか。
石川大我 (立憲民主党)
2025年5月20日・第217回国会 参議院 内閣委員会 第15号（外部サイト、新しいタブで開きます） の 43 番目の発言（外部サイト、新しいタブで開きます）（全 208 発言）
前後のやりとり
40
和田政宗(自民)本田副大臣は退席なさって結構です。
41
石川大我(立憲)そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。 ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということ…
42
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 今のいわゆるバイアスの話とか、アテンションエコノミーという御指摘ございましたけど、まず、本法案に基づきまして国が整備する指針では、このバイアスの問題も含めまして、ＡＩによる不適切な出力をできる限り抑制する工夫をＡＩ開発者等に求めていく考えであります。 また、ＡＩ開発者が講じる工夫としては、例えば、そもそもバイアスのあるデータを学習させない、そして、出力結果を評価するツールをしっかり開発して不公正なバイアスがないかしっかり点検すると、そして、ＡＩ同士を対話させ、ＡＩにＡＩをチェックさせると、様々な方法が想定されます。 その際、何がバイ…
- （上の発言）
43
石川大我(立憲)是非よろしくお願いしたいと思います。
そのほかにも、対応策として、プロファイリングされた興味、関心というものや嗜好とは異なるものをあえて表示をさせるランダム性を入れるとか、選挙やパンデミック時などの特定の期間には行政とかマスコミ、研究機関などの信頼性の高い情報を上位に表示をさせるとか、そういったような様々な工夫あると思いますので、是非そういったところも御検討いただけるということで、確認ですが、大臣、よろしいですか。
44
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）今後、戦略本部の下でしっかりとした対応をつくっていく考えでありますので、有識者の方々とも、あるいは関係省庁とも連携しながら、石川委員御指摘のことも踏まえて、しっかり対応していく考えであります。
45
石川大我(立憲)是非よろしくお願いしたいと思います。 次の問題です。 ＳＮＳ上のデマとか誹謗中傷の問題でこのＡＩが活用されてしまっているという例なんですけれども、例えばチャットＧＰＴに気に食わない相手の投稿についてのファクトチェックをさせるんだそうです。ファクトチェックするのはかぎ括弧付きのファクトチェックですけれども、気に食わない相手の投稿について、さもファクトチェックをしているようにＡＩに、チャットＧＰＴにさせるんですね。そうすると、その答え、チャットＧＰＴの答えにＳＮＳ上の流れているデマが反映されて、それで、そのファクトチェックを、忖度をするというか、空気を読…
46
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおりでありまして、ＡＩは二十四時間三百六十五日ずっと稼働し続けておりまして、そういった点から、寝ずに人間よりもまさに大量の偽情報を作り出すことも可能であるというふうに認識しております。 そのため、ＡＩやＳＮＳの利用者が、ＡＩやＳＮＳ上には常に偽情報が含まれていると、そういった認識を持つことが重要だというふうに思います。そして、分かりやすいコンテンツを作成して、全世代を対象にしっかりと広報を進めるなどの取組も必要だと考えております。 また、ＡＩの分野は技術変化が大変速く、かつ、委員から御指摘いただいた内容は、やはりその技術、倫理、法律、若者文…