今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。そういうところもしっかり私たち国会議員というのは考えていく、そして政府にも考えてほしいなというふうに思いました。
少し質問の内容を変えて、次は著作権の問題についてちょっとお話伺いたいと思います。
著作権法第三十条の四、享受を目的とする利用と享受を目的としない利用、つまり非享受目的の利用との線引きについてお尋ねをします。
御承知のとおり、現行法では、著作物から情報やデータを引き出すための利用であれば、非営利、有償、無償問わず、著作権者の許可をなく利用可能というふうになっています。要するに、学習ですね、学習で直接何か利益を生み出すものじゃない場合というのはいいよというふうになっているんですけれども、一方で、その利用が著作物そのものの鑑賞、享受が目的という場合は許されないということになっているんですけれども、この区別ってすごく難しいなと思うんですね。
生成ＡＩの学習の中において、現場からは、この線引きが分かりにくいという意味ではクリエーターからも声が上がっています。例えば、あるソースを学習していく中で、ある小説の一節をＡＩが読んで学習をするというのは、それだけだと非享受目的なんですけれども、その結果、ＡＩが原文と同じような文を結果的に吐き出すというようなら享受と変わらないのではないかといったような懸念でございます。大屋参考人も、アメリカの例を引きつつ、既存の著作物を学習に用いて、それで市場で競合するコンテンツを作るのは公正利用の範囲を超えるというふうに指摘をされました。
この日本の著作権法三十条の四において、享受目的か否かの判断、これはどのように定義をしているのか、ちょっと分かりやすい言葉で説明をしていただきたいと思います。ＡＩ開発者やクリエーターが安心できる明確な線引きというのが必要と思いますが、これを伺いたいと思います。
50
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。
生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。
こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠であり…
この発言のページ
51
奥村政佳(立憲)
想定をしていく、しっかりやっていくということは伺ったんですけれども、実際、ＳＮＳ上でこういう発言というか、ＡＩの場合は発信というんでしょうか、これを行うＡＩについて政府はどういう対応を検討しているのか、実際の場合というのをお伺いしたいと思います。
自動で不適切な出力をするＡＩ、最近は、ＡＩアカウントが人間に成り済ましたりとか、チャットボットというものが暴言を吐いて、海外では炎上するということもあります。悪意はＡＩにはないんですよね。ただ、おかしな学習をして、差別的な投稿やデモ情報というのをツイートするということがあると。ＡＩ自体には責任は問えないという…
この発言のページ
52渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
まず、今ＳＮＳ上で誹謗中傷をするような口論、まあＡＩなので口論と言うかどうかはちょっとあれなんですけど、そういうものが実際に行われていまして、ＡＩを使ってＳＮＳ上で誹謗中傷し合うというようなことがあります。ＳＮＳのメンバーがＡＩに限定されていて、ＡＩ同士でバトルしてそれを人間が観察するという、そういうようなＳＮＳもあるというふうに伺っています。
こういう事案に対してどのように対応していくかということなんですけど、大変難しい課題ではあるんですが、まずは、ネット上に流通している情報というのは、ＡＩで作られたもの、あるいは不適切なもの…
この発言のページ
- （上の発言）
53奥村政佳(立憲)
今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。そういうところもしっかり私たち国会議員というのは考えていく、そして政府にも考えてほしいなというふうに思いました。
少し質問の内容を変えて、次は著作権の問題についてちょっとお話伺いたいと思います。
著作権法第三十条の四、享受を目的とする利用と享受を目的としない利用、つまり非享受目的の利用との線引きについてお尋ねをします。
御承知のとおり、現行法では、著作物から情報やデータを引き出すための利用であれば、非営利、有償、無償問わず、著作権者の許可をなく利用可能というふうになっています。要するに、学習ですね、学習で直接何か利益を生み出すものじゃない場合というのはいいよというふうになっているんですけれども、一方で、その利用が著作物そのものの鑑賞、享受が目的という場合は許されないということになっているんですけれども、この区別ってすごく難しいなと思うんですね。
生成ＡＩの学習の中において、現場からは、この線引きが分かりにくいという意味ではクリエーターからも声が上がっています。例えば、あるソースを学習していく中で、ある小説の一節をＡＩが読んで学習をするというのは、それだけだと非享受目的なんですけれども、その結果、ＡＩが原文と同じような文を結果的に吐き出すというようなら享受と変わらないのではないかといったような懸念でございます。大屋参考人も、アメリカの例を引きつつ、既存の著作物を学習に用いて、それで市場で競合するコンテンツを作るのは公正利用の範囲を超えるというふうに指摘をされました。
この日本の著作権法三十条の四において、享受目的か否かの判断、これはどのように定義をしているのか、ちょっと分かりやすい言葉で説明をしていただきたいと思います。ＡＩ開発者やクリエーターが安心できる明確な線引きというのが必要と思いますが、これを伺いたいと思います。
54中中原裕彦文部科学省大臣官房文部科学戦略官
お答え申し上げます。
著作権法第三十条の四におけます享受を目的とした行為といいますのは、著作物の視聴等を通じて視聴者等の知的、精神的欲求を満たすという効用を得ることに向けられた行為でございまして、ＡＩ開発のような情報解析等は、通常そうした著作物に表現された思想又は感情の享受を目的としない非享受目的と解されるところでございます。
しかし、令和六年三月に取りまとめたＡＩと著作権に関する考え方におきましては、ＡＩの開発、学習段階において、学習データに含まれる著作物の創作的表現の全部又は一部を出力させることを目的とした追加的な学習を行う場合など、一定の場合に…
この発言のページ
55奥村政佳(立憲)
やっぱり、曖昧な線は曖昧なんですね。頻発にというのは、じゃ、どれぐらいかというのもありますし、目的とさせなくても結果的に出力をされた場合というのは、これはクリエーター側としては、いわゆる、何でしょう、言葉を選ばず言うと、あっ、パクられたというふうになるわけですよね。そういうところを本当に考えると、このＡＩの問題、そして学習というのは非常にセンシティブなところの線引きがあるのかなというふうに思います。
関連して、ちょっともう一点伺いたいと思います。
現行の法制度上は、先ほどもおっしゃられたように、データ分析目的であれば無断の利用が許容されるような立て付…
この発言のページ
56中中原裕彦文部科学省大臣官房文部科学戦略官
お答え申し上げます。
著作権法第三十条の四におきましては、著作権者の利益を不当に害することとなる場合には適用されないとされておりますところ、例えば、インターネット上のデータが情報解析に活用できる形で有償提供されている場合に、有償で利用することなくその創作的表現が認められる一定の情報のまとまりを情報解析目的で複製する行為、あるいは、その著作物の複製等を防止する技術的な措置が講じられている等、一定の事情から情報解析に活用できる形で将来販売される予定があることが推認されるような場合におきまして、この技術的な措置を回避して当該データベースの著作物の複製等をする…
この発言のページ