2025年4月16日・第217回国会 衆議院 内閣委員会 第14号（外部サイト、新しいタブで開きます） の 182 番目の発言（外部サイト、新しいタブで開きます）（全 237 発言）
市村委員と御懸念は本当に共有しております。
御指摘のとおり、誤情報の生成、拡散への懸念に関して、例えば、ＡＩが生成したデータを別のＡＩが学習して、元のＡＩの誤り、偏り、差別的な表現とか、そういうものがどんどん増幅されてしまって、かえってＡＩの精度が低下する、信頼性がなくなる、そういったような研究結果も報告されております。
こうした中、あるデータがＡＩによって生成されたか否かを識別する研究開発も進められております。今後、あるデータがＡＩ生成物なのか否かに加えまして、ＡＩの学習に適した学習データなのか否かを判別できる技術が実用化されることも想定されますので、そういった技術も駆使しながら、そういう偽情報、誤情報が事実のように独り歩きをして拡散されることのないように、しっかり対応してまいりたいと思います。
179
市村浩一郎(維新)
ＡＩ法という中での不正な目的には入らないということだと思いますが、しかし、ＡＩ一般を取ってみると、そもそもインターネットも米軍のＤＡＲＰＡで、ＡＲＰＡネットというところから出てきたものが今のインターネットでありますし、ＡＩというのも、そもそもやはり軍事目的で開発されたものが民間転用されたということの歴史もあると私は存じておりますので、そもそも軍事目的で開発されたものだというところから考えますと、やはりこれが軍事目的に使われないということはないわけでありまして、しかし、そこを別途、このＡＩ法は最初ですから、これからいろいろな流れが出てくる中で、当然、ＡＩが…
180城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
御指摘のとおりでございまして、ＡＩの軍事利用については今申しましたように国際的な議論が別途なされておりますが、当然、人道と安全保障の視点を勘案したバランスの取れた議論を通じまして、最大の目標というか目的であります人間中心のＡＩ、人間中心の原則、これが維持され又は責任ある形での利用が促進されることが重要であることは言うまでもございません。
いずれにしましても、その国際的な議論を踏まえつつ、政府としても適切に対応してまいる考えであります。
181市村浩一郎(維新)
ありがとうございます。 これはよく言われるように、これからはＡＩ対ＡＩという時代になっていきます。そのＡＩがどういうＡＩであるのかということが大変重要になってくるわけでありまして、実はこれから二、三年で、これまで我々人類が生み出してきた情報量をＡＩが生み出す情報量が超えるということになるというふうに指摘される方がおられるんですね。 となると、その中には恐らく、先ほどからずっとフェイクの話が大変出ていますが、フェイクが多分に含まれる情報がいろいろ広がっていく。その情報を基に、その情報をデータにＡＩが取り込ませるようなことをしますと、もはやそれはフェイク…
182城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
市村委員と御懸念は本当に共有しております。
御指摘のとおり、誤情報の生成、拡散への懸念に関して、例えば、ＡＩが生成したデータを別のＡＩが学習して、元のＡＩの誤り、偏り、差別的な表現とか、そういうものがどんどん増幅されてしまって、かえってＡＩの精度が低下する、信頼性がなくなる、そういったような研究結果も報告されております。
こうした中、あるデータがＡＩによって生成されたか否かを識別する研究開発も進められております。今後、あるデータがＡＩ生成物なのか否かに加えまして、ＡＩの学習に適した学習データなのか否かを判別できる技術が実用化されることも想定されますので、そういった技術も駆使しながら、そういう偽情報、誤情報が事実のように独り歩きをして拡散されることのないように、しっかり対応してまいりたいと思います。
183市村浩一郎(維新)
先ほど参考人質疑でも、その点、話があったと思います。だから、結局、さっきＡＩ対ＡＩと言いましたが、まさにＡＩしかＡＩのうそは見抜けないという状況になるので。ということは、そのうそを見抜けるＡＩを作っていかなくちゃいけない。うそを見抜けるようなＡＩに、ある意味で、我々ＡＩを育てていかないかぬということになるわけであります。 先に、今の話に関連して、また、私は、ここで議論がいろいろあります、同じように、国産ＡＩ、これをしっかり作っていかなくちゃいけないというふうに思います。しかも、今までは例えば半導体とかチップの話がされていますが、やはり、私は、そういうも…
184城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
今、市村委員から、日本人の心、大和心を持ったＡＩ、国産ＡＩの開発というような御指摘がありまして、私も大変興味深く聞かせていただきました。 言うまでもなく、ＡＩは国民生活や経済社会に密接に関係しておりますので、やはり外国語ではなくて日本語で、日本の文化や商習慣等を正確に、情緒もできたら入れてほしいんですけれども、回答できるＡＩ、これは重要なものだというふうに私も認識しております。産業競争力や経済安全保障の観点からも同じく、国産ＡＩの開発、これは極めて望ましいと考えております。 残念ながら、海外製の大規模言語モデル、基盤モデルが中心となっている現状であり…
185市村浩一郎(維新)
ありがとうございます。 今、日本語の話がありました。日本語は確かにまだ、今、八十億ぐらいの世界人口の中で日本語を使っているのは一億二千万人ぐらいということで、この間、議論も、なかなか厳しいなということでありましたが。 実は生成ＡＩというのは今どうやってデータを処理しているかというと、我々が日本語で打ち込むと全部英語に変換されているらしいんですね。英語でいろいろな情報収集して、英語で解析して、その結果を日本語に直して出力しているということであります。これは日本語だけじゃなくて、世界言語が、本当は日本語が一番中心であってほしいと思いますが、残念ながら今英…