まさに、御答弁をいただきまして、日本語のデータが少ないということだと思います。
生成ＡＩでは、大量のデータを学習させてモデルの規模を巨大化するほどその予測精度も向上することから、大規模言語モデル、ラージランゲージモデル、ＬＬＭと呼ばれたり、この開発が、モデルの大規模化を目指して熾烈な競争が繰り広げられていると認識をしております。
この言語モデルというのは、人間が話したり書いたりする言葉や文章を基に単語の出現確率をモデル化する技術だと認識しています。
具体的には、大量のテキストデータから学習をして、ある単語の後に続く単語がどのくらいの確率で出現するのかを予測するものです。例えば、私の職業は、というような文章の後に続く単語として、教師ですとかエンジニアですとか保育士ですというような、それは確率として高いなという判断が働き、ここにある机とか黒色とかスーツとかという言葉は可能性としては低いと判断していく、それで言語をモデル化していくものだと思います。こうして言語モデルは、単語の出現確率を統計的に分析することで人間の言語を理解して予測ができるようになると思います。
それで、生成ＡＩの基盤となる大規模言語モデルの開発では、やはりマイクロソフトやグーグルなど米国のビッグテック企業が先行している現状にありまして、我が国においても国産の大規模言語モデルの開発に向けた取組は進められていると思いますが、生成ＡＩを日本語で問題なく使えるようにするためには、高品質の日本語のウェブテキストというのを学習データとしてしっかりと収集をして、この構築に利活用できるようにしておく必要があると思います。
学習データに用いられる日本語のウェブテキストとしては、具体的にどのようなものを想定されていますでしょうか。
26
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
橋本慧悟委員にお答えいたします。
様々な分野で利用されております生成ＡＩにつきましては、外国産の生成ＡＩを基に開発するものもあれば、また、御指摘のようにゼロベースで国内企業が開発するものもある、両方あるということを認識しております。
生成ＡＩは、国民生活や経済社会に密接に関係するものでありまして、今後も様々な発展の可能性が見込まれる中、産業競争力や経済安全保障の観点も踏まえて、その開発形態は様々な選択を取れるようにしていくことが重要であるというふうに考えております。
政府といたしましては、我が国の民間企業及び研究機関による研究開発やそれを通じた人材…
この発言のページ
27
橋本慧悟(立憲)
御答弁をいただきました。
現状、外国産の生成ＡＩサービスがどうしても大きなシェアを占める現状なのですが、日本語をベースとした生成ＡＩを開発すること、先ほどの田中委員の質疑の中でも御答弁があって、日本語は難しいでありますとか、敬語があったりとか、なかなか難しいんだという話もありますが、この特有の課題、日本語をベースとした生成ＡＩを開発することに対する特有の課題を端的にお知らせください。
この発言のページ
28城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。
多くの生成ＡＩは英語や日本語での複数の言語に対応した開発が行われておりまして、言語の違いに起因する大きな技術的な課題はないものと認識しておりますが、他方で、日本語の場合は同音異義語が多いというような特徴もございます。他方、世界的に広く使われている英語と比較すると、やはり日本語のデータ量は圧倒的に少ないわけでございまして、ＡＩの学習がそういった面で難しい側面はございます。
このため、日本の生成ＡＩの開発に当たっては、こうした日本語の特性もしっかり踏まえて進めていくことが重要であるというふうに考えております。
この発言のページ
- （上の発言）
29橋本慧悟(立憲)
まさに、御答弁をいただきまして、日本語のデータが少ないということだと思います。
生成ＡＩでは、大量のデータを学習させてモデルの規模を巨大化するほどその予測精度も向上することから、大規模言語モデル、ラージランゲージモデル、ＬＬＭと呼ばれたり、この開発が、モデルの大規模化を目指して熾烈な競争が繰り広げられていると認識をしております。
この言語モデルというのは、人間が話したり書いたりする言葉や文章を基に単語の出現確率をモデル化する技術だと認識しています。
具体的には、大量のテキストデータから学習をして、ある単語の後に続く単語がどのくらいの確率で出現するのかを予測するものです。例えば、私の職業は、というような文章の後に続く単語として、教師ですとかエンジニアですとか保育士ですというような、それは確率として高いなという判断が働き、ここにある机とか黒色とかスーツとかという言葉は可能性としては低いと判断していく、それで言語をモデル化していくものだと思います。こうして言語モデルは、単語の出現確率を統計的に分析することで人間の言語を理解して予測ができるようになると思います。
それで、生成ＡＩの基盤となる大規模言語モデルの開発では、やはりマイクロソフトやグーグルなど米国のビッグテック企業が先行している現状にありまして、我が国においても国産の大規模言語モデルの開発に向けた取組は進められていると思いますが、生成ＡＩを日本語で問題なく使えるようにするためには、高品質の日本語のウェブテキストというのを学習データとしてしっかりと収集をして、この構築に利活用できるようにしておく必要があると思います。
学習データに用いられる日本語のウェブテキストとしては、具体的にどのようなものを想定されていますでしょうか。
30渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
ＡＩの学習用データにつきましてお答えを申し上げます。
委員御指摘のとおり、ＡＩの性能を定めるものは幾つかございます、データセンターとかアルゴリズムとかいろいろございますけれども、その中でもこの学習データというのは非常に重要なものでございます。
これは、例えば、日本語の学習データに関して申し上げますと、内容が正しいということも必要ですし、日本語としても正しい、文法も正しい、そういう必要性がございます。
一般的に、ＡＩにもいろいろなものがありますので、汎用の生成ＡＩに関してお答えを申し上げますと、基本的には、まず官公庁が出している、公的機関等のウェブサ…
この発言のページ
31橋本慧悟(立憲)
御答弁をいただきました。
官公庁のページでありますとか、この国会とかの、政府、行政の、ちょっとがちがちになり過ぎて、余りにもちょっとつまらないような生成ＡＩというか、データが収集されるんじゃないかなという懸念はちょっと感じますが。
先ほど御答弁の中でも触れていただいたウィキペディア、広く国民はこのウィキペディアというのを使ったことがあると思います。その中で、確かに比較的信頼できる大量の情報が集まっているとは思いますが、悪意のある者が書き込んだ偽情報というのも学習データとして用いられる可能性もあると思います。それを、生成ＡＩに偽の情報を出力させられると…
この発言のページ
32城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えいたします。
データポイズニングは、御指摘のとおり、悪意を持った攻撃者がＡＩの学習データに不正確又は有害なデータを組み込むことにより、ＡＩが誤った応答や偏った情報を生成するように誘導する攻撃手法であります。
過去には、利用者との会話データを基に自ら学習するチャットボットサービスにおいて、極端な主張を繰り返し学習、訓練されたことで差別的な出力を行うようになったという具体的な事案がございました。その際は、サービス事業者が利用者が入力したデータをＡＩの学習に利用しないといった対策を講じたというふうに承知しております。
なお、国立研究開発法人産業技術…
この発言のページ