本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。
その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。
先ほど渡邊統括官もおっしゃっていましたけれども、火事のときにふだん訓練していないことはできないというふうにおっしゃっておりました。先ほどの質問では海外の事例でしたが、国内で悪意のあるＡＩが暴走してデマや扇動を行うような最悪のシナリオを想定をしています。もはや、もう人間が関与しなくても、ひょっとするとＡＩ同士がそういう認知戦を行う可能性すら指摘をされています。
今回、この法案は利活用の促進というのを主眼としていますが、一方で、参考人質疑でも、世界的には将来の強力なＡＩへの規制議論が進む一方で、日本では現に現実化している偽情報拡散への対応こそ喫緊の課題だとも示唆をされました。
直接ＡＩに指令しなくても、ある入力を基に、例えば、何でしょうかね、こういう考えを広めたいんだというのを基に認知戦を、国内でＡＩが世論操作を始めた場合に、政府としては現行法やこの法案でどのように対処をし得るのかということも考えておく必要があると思います。一旦そういうところに入ってしまうと、エコーチェンバーとかフィルターバブルという言葉もある中で、もう本当に洗脳されてしまう、ＳＮＳで洗脳することも可能だということです。
考え得る方法としては、こういうのがおかしいよねと、その発言を事業者が削除したら、それに対して例えばＡＩが、これは言論の自由の侵害だということを打ったら向こうがある意味尻込みするぞと、そういうことも考えられるという中で、いろんなことを考えていく必要があると思いますが、現時点で政府の見解はいかがでしょうか、お伺いします。
46
木戸口英司(立憲)
もう時間になりましたので、質問はもう終わりにいたします。
我が国の国民生活の向上と国民経済の発展という目的であります、ＡＩですね。アジャイルな視点で我が国のＡＩ戦略をリードしていっていただきたいと思います。
私からの質問はこれで終わります。
この発言のページ
47
奥村政佳(立憲)
立憲・社民・無所属の奥村政佳です。
改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。
先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。
〔委員長退席、理事磯崎仁彦君…
この発言のページ
48渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ただいま御指摘のございました件は、生成ＡＩを提供する非営利団体が、ロシアと中国とイランとイスラエルに関係する五つのグループがこの団体の生成ＡＩを利用して世論操作ですとかプロパガンダの活動を行っていたと、これ特定をいたしましてこの活動を阻止したというふうに、オープンＡＩですけどね、発表されているところでございます。二〇二四年の五月三十日ということでございます。
こういった事例がやはり増えていくということが大変懸念されると、それから巧妙化して多様化していくということがまず懸念材料の一つとしてはございます。
もう一つは、これ教訓とい…
この発言のページ
- （上の発言）
49奥村政佳(立憲)
本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。
その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。
先ほど渡邊統括官もおっしゃっていましたけれども、火事のときにふだん訓練していないことはできないというふうにおっしゃっておりました。先ほどの質問では海外の事例でしたが、国内で悪意のあるＡＩが暴走してデマや扇動を行うような最悪のシナリオを想定をしています。もはや、もう人間が関与しなくても、ひょっとするとＡＩ同士がそういう認知戦を行う可能性すら指摘をされています。
今回、この法案は利活用の促進というのを主眼としていますが、一方で、参考人質疑でも、世界的には将来の強力なＡＩへの規制議論が進む一方で、日本では現に現実化している偽情報拡散への対応こそ喫緊の課題だとも示唆をされました。
直接ＡＩに指令しなくても、ある入力を基に、例えば、何でしょうかね、こういう考えを広めたいんだというのを基に認知戦を、国内でＡＩが世論操作を始めた場合に、政府としては現行法やこの法案でどのように対処をし得るのかということも考えておく必要があると思います。一旦そういうところに入ってしまうと、エコーチェンバーとかフィルターバブルという言葉もある中で、もう本当に洗脳されてしまう、ＳＮＳで洗脳することも可能だということです。
考え得る方法としては、こういうのがおかしいよねと、その発言を事業者が削除したら、それに対して例えばＡＩが、これは言論の自由の侵害だということを打ったら向こうがある意味尻込みするぞと、そういうことも考えられるという中で、いろんなことを考えていく必要があると思いますが、現時点で政府の見解はいかがでしょうか、お伺いします。
50
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。
生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。
こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠であり…
この発言のページ
51奥村政佳(立憲)
想定をしていく、しっかりやっていくということは伺ったんですけれども、実際、ＳＮＳ上でこういう発言というか、ＡＩの場合は発信というんでしょうか、これを行うＡＩについて政府はどういう対応を検討しているのか、実際の場合というのをお伺いしたいと思います。
自動で不適切な出力をするＡＩ、最近は、ＡＩアカウントが人間に成り済ましたりとか、チャットボットというものが暴言を吐いて、海外では炎上するということもあります。悪意はＡＩにはないんですよね。ただ、おかしな学習をして、差別的な投稿やデモ情報というのをツイートするということがあると。ＡＩ自体には責任は問えないという…
この発言のページ
52渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
まず、今ＳＮＳ上で誹謗中傷をするような口論、まあＡＩなので口論と言うかどうかはちょっとあれなんですけど、そういうものが実際に行われていまして、ＡＩを使ってＳＮＳ上で誹謗中傷し合うというようなことがあります。ＳＮＳのメンバーがＡＩに限定されていて、ＡＩ同士でバトルしてそれを人間が観察するという、そういうようなＳＮＳもあるというふうに伺っています。
こういう事案に対してどのように対応していくかということなんですけど、大変難しい課題ではあるんですが、まずは、ネット上に流通している情報というのは、ＡＩで作られたもの、あるいは不適切なもの…
この発言のページ