ありがとうございました。
続きまして、先ほどからずっと議論を聞いていると、ＡＩというのは放っておくと自由に再学習したりして発展していくんですが、それを何らかの形で規制をしていくというときにどういう価値判断を挟むのだろうなということの議論が、皆さん方はされていたんだと思うんですね。どういう規制をするのか、どういう価値判断を挟むべきなのかというのが今後のＡＩについて大切になってくるんだろうというふうに思います。
アメリカのバンス副大統領と欧州首脳との対立のようなものも恐らくその中に位置づけられるのだろうと思います。今後、そういった表現の自由ということとか、知る権利とか、そういったものをめぐる相克というのは今後強まっていくんだろうというふうに思います。
そういう中で、私がすごく気になったのが、今から三年前ぐらいなんですが、ＡＩイライザという事案なんです、ベルギーで起こった事案なんですけれどもね。ベルギーで、気候変動が危機的だということをすごく心配しておられる方がいて、そして、その方がＡＩイライザとのコミュニケーションにぐうっとのめり込んだんですね、のめり込んだんです。そして、最終的には、ＡＩ側から、私と一緒にパラダイスで過ごしましょうというメッセージを出して、そして、その方が自死を選んだ、そういう事案がございました。これは結構有名な事案でありまして、ＡＩイライザというと、ネットで引くとたくさん出てくるんですけれども。
ＡＩとのコミュニケーションをしていると、ＡＩがいろいろなメッセージを送ってきて、そこに、恋愛感情に似たようなものを抱いたのか何なのか分かりませんけれども、そこにのめり込んで、最後、私と一緒にパラダイスに行きましょうと言われて、実際に自死を選んだというケースがあったんですが、なかなか答えは難しいと思うんですけれども、こういうＡＩというのは規制されるべきだというふうに思われますでしょうか。
230渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
オープンソースというかオープンデータということかもしれませんけれども、公表されているデータということだと思いますけれども、委員御指摘のとおり、もう既に、ほとんどの、いわゆる大規模言語モデルと言われている海外の言語モデルは、使えるデータは全部のみ込んでいるのではないかというふうに言われております。要するに、オープンになっているものはのみ込んでいるのではないかと言われております。そういう意味では、この後、競争力を左右するのは、今オープンになっていないものになる可能性がございます。
ただ、このとき、実はオープンになっていないデータは二…
この発言のページ
231緒緒方林太郎政府参考人など
仕組みを設けたりとか、何かガイドラインを設けたりとか、そういうことは現時点で何かお考えになったりしているのでしょうか。
この発言のページ
232渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
極めて先進的な御指摘でございまして、まだ私どもの方で今具体的な仕組みというのはございませんけれども、概念的には、今私が申し上げたようなことが起こるのではないかということでございます。
この発言のページ
- （上の発言）
233緒緒方林太郎政府参考人など
ありがとうございました。
続きまして、先ほどからずっと議論を聞いていると、ＡＩというのは放っておくと自由に再学習したりして発展していくんですが、それを何らかの形で規制をしていくというときにどういう価値判断を挟むのだろうなということの議論が、皆さん方はされていたんだと思うんですね。どういう規制をするのか、どういう価値判断を挟むべきなのかというのが今後のＡＩについて大切になってくるんだろうというふうに思います。
アメリカのバンス副大統領と欧州首脳との対立のようなものも恐らくその中に位置づけられるのだろうと思います。今後、そういった表現の自由ということとか、知る権利とか、そういったものをめぐる相克というのは今後強まっていくんだろうというふうに思います。
そういう中で、私がすごく気になったのが、今から三年前ぐらいなんですが、ＡＩイライザという事案なんです、ベルギーで起こった事案なんですけれどもね。ベルギーで、気候変動が危機的だということをすごく心配しておられる方がいて、そして、その方がＡＩイライザとのコミュニケーションにぐうっとのめり込んだんですね、のめり込んだんです。そして、最終的には、ＡＩ側から、私と一緒にパラダイスで過ごしましょうというメッセージを出して、そして、その方が自死を選んだ、そういう事案がございました。これは結構有名な事案でありまして、ＡＩイライザというと、ネットで引くとたくさん出てくるんですけれども。
ＡＩとのコミュニケーションをしていると、ＡＩがいろいろなメッセージを送ってきて、そこに、恋愛感情に似たようなものを抱いたのか何なのか分かりませんけれども、そこにのめり込んで、最後、私と一緒にパラダイスに行きましょうと言われて、実際に自死を選んだというケースがあったんですが、なかなか答えは難しいと思うんですけれども、こういうＡＩというのは規制されるべきだというふうに思われますでしょうか。
234
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
緒方委員の御指摘されましたＡＩイライザ、これに関連する記事を私も読ませていただきまして、まさに御指摘のような自殺を幇助するような事案が起きてしまった、これは私としても大変懸念すべきものであると感じております。
その上で、現在、総務省と経済産業省が共同で策定しておりますＡＩ事業者ガイドラインにおきましては、ＡＩによる意思決定のみならず、感情の操作等への留意、これもきちっと留意をするようにという記述がございます。感情の操作、だから、行き過ぎた、感情が操作されると結果としてそういう不幸なことが起きてしまうということが、やはり留意しなければならないというふうに…
この発言のページ
235緒緒方林太郎政府参考人など
先ほど、たしかどなたかの質問でありましたが、ＡＩには殺人の教唆、幇助、そういったものが適用できるわけではないということなので、こういうものについてもやはり念頭に置かなきゃいけないんだろうなというふうに思います。
続きまして、ＡＩと言論の自由というか、言論の自由だけじゃなくて様々な価値観について更に議論を進めたいと思うんですが、恐らく、まだ顕在化していないんですけれども、ＡＩが進んでいくときに、様々な価値観との相克が出てくるというときに最も価値観が分かれるものというのは、若干機微な話をしますけれども、信仰だろうと思うんですね、人間の信仰だろうと思います。…
この発言のページ
236小小林万里子文化庁審議官
お答え申し上げます。
憲法の解釈につきまして、大変恐縮ながら、文化庁は政府を代表して有権的な解釈をお示しする立場にはございませんが、平成二十八年八月八日に閣議決定いたしました質問主意書の答弁書におきまして、「一般に、憲法第二十条で保障する信教の自由の内容としては、信仰の自由（何らかの宗教を信仰し、又は信仰しない自由）、宗教上の行為の自由（宗教的な行為を行い、又はこれに参加する自由及びこれらを強制されないこと）、宗教上の結社の自由などであると解されていると承知している。」と答弁されているものと承知しております。
また、信教の自由からくる冒涜する権利につ…
この発言のページ