お答え申し上げます。
まず、今ＳＮＳ上で誹謗中傷をするような口論、まあＡＩなので口論と言うかどうかはちょっとあれなんですけど、そういうものが実際に行われていまして、ＡＩを使ってＳＮＳ上で誹謗中傷し合うというようなことがあります。ＳＮＳのメンバーがＡＩに限定されていて、ＡＩ同士でバトルしてそれを人間が観察するという、そういうようなＳＮＳもあるというふうに伺っています。
こういう事案に対してどのように対応していくかということなんですけど、大変難しい課題ではあるんですが、まずは、ネット上に流通している情報というのは、ＡＩで作られたもの、あるいは不適切なものがたくさん流通しているということを、これを周知徹底すると、国民に対して広報していくということが重要なのではないかというふうに、これは非常に深刻な問題ですので、非常に重要ではないかというふうに思います。
そしてまた、この法案では、指針を整備して、その中で、開発者に対してできる限り不適切な出力をしないようにＡＩに工夫をしていただくというのがあるかなと思いますし、また、必要な調査を私どもがやって、事業者に対する指導ですとか国民に対する情報提供をしていきたいというふうに考えているところでございます。
そしてまた、責任の所在の御指摘もございましたけれども、これにつきましても、いろんなケースがあるので、多様なケースがあるので大変難しい検討ではあるんですけど、典型的なケースを選びながら、ＡＩが問題を起こしたときの責任の問題についても関係省庁と協力をしながら議論をしていきたいというふうに思います。
なお、最後に、私、ある国際会議のときに、実はＡＩの暴走問題を議論していたときに、最後、電源を切れば問題ないんじゃないかという言い方をしたんですけど、それはもう渡邊さん甘いよと言われまして、えっ、どういうことですかと言ったら、政府も使っている、金融機関も使っているＡＩを何かちょっと暴走したからといっていきなり電源を切るということになったら何が起こるか想像してみてくださいと言われて、なるほどと思ったわけですね。ですから、簡単に切っていいかというと、ほかの人も使っているかもしれないので、簡単に切っていいかというとそういう問題でもないですし、そもそも、政府がＡＩを多用するようになってくると、停電に対応して無停電で動くようにされている可能性があるんですね。
ですから、これからＡＩを導入していく方が、もしそういうことが起こったときにどうするのかと、電源を切るのか、あるいは部分的に何か止めることをするのか、そういうことをちゃんと考えた上でＡＩを導入していくということをしていかなきゃいけないというふうに考えております。
49
奥村政佳(立憲)
本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。
その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。
先ほど渡邊統括官もおっしゃっていましたけれども、火事のと…
この発言のページ
50
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。
生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。
こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠であり…
この発言のページ
51奥村政佳(立憲)
想定をしていく、しっかりやっていくということは伺ったんですけれども、実際、ＳＮＳ上でこういう発言というか、ＡＩの場合は発信というんでしょうか、これを行うＡＩについて政府はどういう対応を検討しているのか、実際の場合というのをお伺いしたいと思います。
自動で不適切な出力をするＡＩ、最近は、ＡＩアカウントが人間に成り済ましたりとか、チャットボットというものが暴言を吐いて、海外では炎上するということもあります。悪意はＡＩにはないんですよね。ただ、おかしな学習をして、差別的な投稿やデモ情報というのをツイートするということがあると。ＡＩ自体には責任は問えないという…
この発言のページ
- （上の発言）
52渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
まず、今ＳＮＳ上で誹謗中傷をするような口論、まあＡＩなので口論と言うかどうかはちょっとあれなんですけど、そういうものが実際に行われていまして、ＡＩを使ってＳＮＳ上で誹謗中傷し合うというようなことがあります。ＳＮＳのメンバーがＡＩに限定されていて、ＡＩ同士でバトルしてそれを人間が観察するという、そういうようなＳＮＳもあるというふうに伺っています。
こういう事案に対してどのように対応していくかということなんですけど、大変難しい課題ではあるんですが、まずは、ネット上に流通している情報というのは、ＡＩで作られたもの、あるいは不適切なものがたくさん流通しているということを、これを周知徹底すると、国民に対して広報していくということが重要なのではないかというふうに、これは非常に深刻な問題ですので、非常に重要ではないかというふうに思います。
そしてまた、この法案では、指針を整備して、その中で、開発者に対してできる限り不適切な出力をしないようにＡＩに工夫をしていただくというのがあるかなと思いますし、また、必要な調査を私どもがやって、事業者に対する指導ですとか国民に対する情報提供をしていきたいというふうに考えているところでございます。
そしてまた、責任の所在の御指摘もございましたけれども、これにつきましても、いろんなケースがあるので、多様なケースがあるので大変難しい検討ではあるんですけど、典型的なケースを選びながら、ＡＩが問題を起こしたときの責任の問題についても関係省庁と協力をしながら議論をしていきたいというふうに思います。
なお、最後に、私、ある国際会議のときに、実はＡＩの暴走問題を議論していたときに、最後、電源を切れば問題ないんじゃないかという言い方をしたんですけど、それはもう渡邊さん甘いよと言われまして、えっ、どういうことですかと言ったら、政府も使っている、金融機関も使っているＡＩを何かちょっと暴走したからといっていきなり電源を切るということになったら何が起こるか想像してみてくださいと言われて、なるほどと思ったわけですね。ですから、簡単に切っていいかというと、ほかの人も使っているかもしれないので、簡単に切っていいかというとそういう問題でもないですし、そもそも、政府がＡＩを多用するようになってくると、停電に対応して無停電で動くようにされている可能性があるんですね。
ですから、これからＡＩを導入していく方が、もしそういうことが起こったときにどうするのかと、電源を切るのか、あるいは部分的に何か止めることをするのか、そういうことをちゃんと考えた上でＡＩを導入していくということをしていかなきゃいけないというふうに考えております。
53奥村政佳(立憲)
今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。そういうところもしっかり私たち国会議員というのは考えていく、そして政府にも考えてほしい…
この発言のページ
54中中原裕彦文部科学省大臣官房文部科学戦略官
お答え申し上げます。
著作権法第三十条の四におけます享受を目的とした行為といいますのは、著作物の視聴等を通じて視聴者等の知的、精神的欲求を満たすという効用を得ることに向けられた行為でございまして、ＡＩ開発のような情報解析等は、通常そうした著作物に表現された思想又は感情の享受を目的としない非享受目的と解されるところでございます。
しかし、令和六年三月に取りまとめたＡＩと著作権に関する考え方におきましては、ＡＩの開発、学習段階において、学習データに含まれる著作物の創作的表現の全部又は一部を出力させることを目的とした追加的な学習を行う場合など、一定の場合に…
この発言のページ
55奥村政佳(立憲)
やっぱり、曖昧な線は曖昧なんですね。頻発にというのは、じゃ、どれぐらいかというのもありますし、目的とさせなくても結果的に出力をされた場合というのは、これはクリエーター側としては、いわゆる、何でしょう、言葉を選ばず言うと、あっ、パクられたというふうになるわけですよね。そういうところを本当に考えると、このＡＩの問題、そして学習というのは非常にセンシティブなところの線引きがあるのかなというふうに思います。
関連して、ちょっともう一点伺いたいと思います。
現行の法制度上は、先ほどもおっしゃられたように、データ分析目的であれば無断の利用が許容されるような立て付…
この発言のページ