そこで、今御答弁いただきましたが、議論の前提となるメカニズムを共有しておいた方がいいと思います。よく、平は何を言っているか分からないと言われるものですから、今日は資料を用意をしました。これは是非、閣僚の皆さん、あと委員の皆さん、見ていただきたいと思います。
これは本当によく、分かりやすくて、国立情報学研究所の佐藤一郎先生の資料を今日は持ってきました。まず、これを皆さん前提にしてこれから対策を立てなければいけないと思います。二〇一六年のケンブリッジ・アナリティカとかブレグジットというのはもう十年ぐらい前なんですよね。そこから生成ＡＩが出てきたので大分様相が変わっていますが、基本的にはこれです。
まず、三の一の資料ですね、フェーズ１。生成ＡＩを駆使して、テキストとかフェイク画像とか動画を大量に作ります。もう何でもできちゃいます、今。更に言うと、事前にその意図を持っている人たちが何をやるかというと、アカウントをいっぱい作るんです。そのアカウントは、投稿用のアカウントと、あおる、ブーストをかけるエンゲージメント用のアカウントを作ります。事前に準備をします。
ですから、それはもう人間ですらないんですよ、プログラムだから。わあっとアカウントがあって、人間のふりをしているけれども。この間、有名なアカウントが凍結されましたけれども、よく見たら人間じゃなかったという、これはよくある話ですね。これがフェーズ１です。
次、フェーズ２。その次に、こういった投稿用のアカウントに大量に投稿させるわけですね、しかも短時間に。短時間に投稿されると何が起きるかというと、その内容、コンテンツがバズっているとＳＮＳの側が認識するんですよ。ということがあります。
ちなみに、エンゲージメントが何だかよく分からないという人は、下の注を見てください。あと、アテンションが何だか分からないという人は、下の注を見てください。
フェーズ３を見ていただきたいと思います。投稿しましたね。大量に投稿すると、ああ、このコンテンツは今バズっているんだなと思ったら、今度はエンゲージメントを上げるということですから、いわゆるバズるブーストをかける。要は、いいねをつけたり、リツイートをつけたり。あと、今は生成ＡＩがあるので、リプライもちゃんと日本語で書いてくれるんですよ。そういうのを大量にやるわけですね。それを短時間のうちにやります。
その次に、フェーズ４ですかね。これで、この内容はバズっている、しかも、大量にエンゲージメントがつくから、いいねがつくし、リツイートされているからこれはバズっているんだというふうにＳＮＳのアルゴリズムが判断をしているので、何が起きるかというと、今回でいうと、政治に興味のない人にまでレコメンドが来るんですよ。これ、ありませんか、よくみんな、Ｘを見ていて。レコメンドが来ますよね。そういうレコメンドが来るというのがまずその次に起きます。
それで、最後の紙です、フェーズ５。レコメンドが来ると、今度は、最初の投稿のアカウント群とあおり用のアカウント群は意図を持ってやっている人がいるんですが、アルゴリズムがバズっていると認識をするので、一般のユーザーに広くレコメンドされて、それを見た人が、何だ、こんなことになっているのか、許せぬと。特にこれはプロパガンダの常道ですけれども、憤り、驚き、集団同調バイアスみたいなものを刺激をするようなものを出しますので、これで普通の人は、何だ、けしからぬといってまたリツイートしたり、コメントをつけたり、いいねを押したりするんですね。
特に問題なのは、ここで日本人の著名なアカウントが、何だこれは、けしからぬといって、そこでそれをリツイートするわけですよ。そうすると、普通の人は、何かいきなりレコメンドが来た、見たら随分いいねもついているし、リツイートもされている、世の中こういうふうになっているのかと。若しくは、それなりに信頼のある著名なアカウントがそれを再投稿することによって、更に拡散をする。さらに、これが厄介なのが、そこそこ金になるんですよね、バズらせると。
ということもあって、こういった著名なアカウントが、実は無自覚に、外国のナラティブ、外国がこうしよう、日本をああしてやろう、こうしてやろうというナラティブの実現に加担をさせられているということが起きてくる。
そして、最後、フェーズ６ですね。これは、ＳＮＳのプラットフォーマーが相互に作用するので、どこかのＳＮＳでバズると、例えばＸでバズったら、それがインスタに行ったりユーチューブに行ったりしてぐるぐる回っているので、しかも、ほかのＳＮＳにも工作をしていますから、全体的にぐるぐる回って、バズり始めて炎上するということであります。
さらに、先ほど申し上げましたが、外国において、ヨーロッパは多かったんです、ずっとこの工作は多かったんですが、実は、日本がしばらく守られていたのは、やはり日本語なんですよ。私も、何か標的型メール、随分昔にやられましたけれども、平の字の点々がハの字になった、日本では見たことのないフォントがついていたり、ああ、これはあの国だなとすぐ分かるわけですね。でも、今は、生成ＡＩが入ってきたのでフォントも完璧だし言葉も完璧だということで、残念ながら日本語のバリアは壊れてしまったということであります。
その上で、この間の参議院選挙では何が起きていたかということでありますが。これは政府じゃないです、民間のサイバーセキュリティー会社、あとはアナリスト、リサーチャー、アカデミア、私のところに来た人たちは、それぞれ独立しています。別に連携はしていません。
まず、一番最初に僕のところに来たのがサイバーセキュリティー会社であります。それはどういうレポートを上げてきたかというと、外国のナラティブを拡散するＳＮＳ上のエコシステムが存在していると。その国のナラティブというのは多岐にわたるんですが、ターゲットとする国や地域の内部で不信感を醸成すること、既存の社会的亀裂をあおり立て対象国の情勢を不安定化させること、キーワードでいうと反グローバル主義や排外主義がターゲットになりやすい。これはちょっと詳細には言いませんが、いわゆる外国の公的な報道のアカウントからニュースを名のるアカウントにつながって、そこから日本のインフルエンサーにつながっている、このインフルエンサーの何個かはそもそも人間じゃなかったということであります。
それで、別の、今度はアナリストが分析をした結果、特定の政党やその特定のスローガンに言及した投稿が選挙公示後に急拡大をし、まあ急拡大するのはよくあることなんですけれども、この拡大が通常のトレンドの拡大と異なり、人工的なトレンド形成の可能性があるという分析をアナリストがしています。
今度はアカデミア、これは国立大学ですが、これは一連です、調べているのは同じところです、対象は同じです。ＸのＡＰＩを利用して解析をした結果、リポスト数の推移に不自然な増加が認められたと。言い方はすごく謙虚ですけれども、工作されているということを言っています。
今度は別のアカデミアの分析では、これは有名な私立大学の先生ですが、激しく工作をしているタイムゾーン、時間帯が日本の時間帯じゃないんですよ、時差がある。その大学はよくこれを調べたと思いますけれども、活動時間に五、六時間の時差が認められていると。ということは、外国からやられているんですね。ちなみに、五、六時間というと、ウクライナのキーウが七時間です、その東です。だから、時差がある。
これも、今ＡＩの時代だから自動化されているんじゃないか、時差は関係ないだろうというけれども、そこまでいっていないんですよ、実は。ボットをやっているんだけれども、最後をコントロールしているのは人間なんですよ、今は。でも、これは多分ＡＩで自動化されて、この時差の分析も多分無意味になってくるというふうに思います。
また、これはかなり話題になりましたけれども、あるリサーチャーが、外国のナラティブを拡散するエコシステム、さっきのサイバーセキュリティー会社が指摘したのと同じグループ、集団というかクラスターですけれども、そういうアカウントを、不正なアクセスを誘引するアカウント群としてＸ社に削除を要請しました。そうしたら、Ｘ社が自社の規定に基づき対応し、いわゆる有力インフルエンサーを含む相当数のアカウントが削除されるという事象も発生をしています。結果として、ある政党のスローガンは、そこの何か伸び率が鈍化をしたという分析もあります。このようなことが今起きているわけであります。
さらに、添付資料の新聞の資料を見ていただきたいと思いますが、これは私が大臣をやっているときの所管じゃなくて単なる新聞情報になりますが、ＪＩＣＡ、結構やられていましたよね、解体運動とかデモとか金よこせとかいろいろやられていたと思いますが、これは新聞報道で、まずは日経新聞。「ロシア「国際協力」で日本に情報操作 途上国支援、ＳＮＳで批判あおる」ということであります。内容は見てのとおりです。今、私は一回もロシアと言っていませんけれども、新聞記事はそう言っていますね。これは新聞記事が言っているんですよ。というロシアの介入があったというふうになっています。
あと、もう一つ新聞記事があったと思いますが、これは読売新聞。「露、ＳＮＳで対日情報戦 ウクライナ支援巡り 批判投稿急増 今年一月以降」というような記事があるわけであります。
これは、かなりやはりやばい状況になっているのではないかというふうに思います。それで、私も一か月前まで閣僚でいたので、これを共有しようというふうに思っていましたが、このメカニズムを含め、今の現状は高市内閣でも是非共有をしていただきたいと思いますけれども、総理、いかがでしょうか。
97
枝野幸男(立憲)
この際、平将明さんから関連質疑の申出があります。齋藤さんの持ち時間の範囲内でこれを許します。平将明さん。
この発言のページ
98
平将明(自民)
自由民主党・無所属の会の平将明です。よろしくお願いいたします。
高市総理、就任おめでとうございます。本当に激務だと思いますので、体に十分気をつけていただければと思います。
今日は、外国勢力による影響工作や、サイバーセキュリティー、ＡＩについて質問させていただきたいと思います。
まず、戦争の主戦場が今サイバー空間になっていて、昔から人類は戦争をしているわけでありますが、陸と海でやっていたものが、飛行機が発明されて、まさに空、制空権を取った方が戦争は勝つというような世界から、今のロシアとウクライナの戦争においては、実際にロシア軍がウクライナの領土に入っ…
この発言のページ
99
高市早苗(自民)内閣総理大臣
表現の自由は、日本国と日本国民の間では保障された権利でございますが、仮に国民であるとすれば、これは公共の福祉によって一定の制限はかけられる。よって、先ほど能動的サイバー防御を可能にする法律の例も挙げられましたが、ああいった法律もできました。
やはり、外国勢力によって偽情報を拡散される、これが様々な国でも起きている。我が国においても安全保障上の脅威ですし、選挙の公正ですとか、あとは自由な報道といった民主主義の根幹を脅かすものですから、その対策は私は急務だと考えています。
これは石破内閣でございましたが、今年の九月から、内閣官房副長官の調整の下で、関係省…
この発言のページ
- （上の発言）
100平将明(自民)
そこで、今御答弁いただきましたが、議論の前提となるメカニズムを共有しておいた方がいいと思います。よく、平は何を言っているか分からないと言われるものですから、今日は資料を用意をしました。これは是非、閣僚の皆さん、あと委員の皆さん、見ていただきたいと思います。
これは本当によく、分かりやすくて、国立情報学研究所の佐藤一郎先生の資料を今日は持ってきました。まず、これを皆さん前提にしてこれから対策を立てなければいけないと思います。二〇一六年のケンブリッジ・アナリティカとかブレグジットというのはもう十年ぐらい前なんですよね。そこから生成ＡＩが出てきたので大分様相が変わっていますが、基本的にはこれです。
まず、三の一の資料ですね、フェーズ１。生成ＡＩを駆使して、テキストとかフェイク画像とか動画を大量に作ります。もう何でもできちゃいます、今。更に言うと、事前にその意図を持っている人たちが何をやるかというと、アカウントをいっぱい作るんです。そのアカウントは、投稿用のアカウントと、あおる、ブーストをかけるエンゲージメント用のアカウントを作ります。事前に準備をします。
ですから、それはもう人間ですらないんですよ、プログラムだから。わあっとアカウントがあって、人間のふりをしているけれども。この間、有名なアカウントが凍結されましたけれども、よく見たら人間じゃなかったという、これはよくある話ですね。これがフェーズ１です。
次、フェーズ２。その次に、こういった投稿用のアカウントに大量に投稿させるわけですね、しかも短時間に。短時間に投稿されると何が起きるかというと、その内容、コンテンツがバズっているとＳＮＳの側が認識するんですよ。ということがあります。
ちなみに、エンゲージメントが何だかよく分からないという人は、下の注を見てください。あと、アテンションが何だか分からないという人は、下の注を見てください。
フェーズ３を見ていただきたいと思います。投稿しましたね。大量に投稿すると、ああ、このコンテンツは今バズっているんだなと思ったら、今度はエンゲージメントを上げるということですから、いわゆるバズるブーストをかける。要は、いいねをつけたり、リツイートをつけたり。あと、今は生成ＡＩがあるので、リプライもちゃんと日本語で書いてくれるんですよ。そういうのを大量にやるわけですね。それを短時間のうちにやります。
その次に、フェーズ４ですかね。これで、この内容はバズっている、しかも、大量にエンゲージメントがつくから、いいねがつくし、リツイートされているからこれはバズっているんだというふうにＳＮＳのアルゴリズムが判断をしているので、何が起きるかというと、今回でいうと、政治に興味のない人にまでレコメンドが来るんですよ。これ、ありませんか、よくみんな、Ｘを見ていて。レコメンドが来ますよね。そういうレコメンドが来るというのがまずその次に起きます。
それで、最後の紙です、フェーズ５。レコメンドが来ると、今度は、最初の投稿のアカウント群とあおり用のアカウント群は意図を持ってやっている人がいるんですが、アルゴリズムがバズっていると認識をするので、一般のユーザーに広くレコメンドされて、それを見た人が、何だ、こんなことになっているのか、許せぬと。特にこれはプロパガンダの常道ですけれども、憤り、驚き、集団同調バイアスみたいなものを刺激をするようなものを出しますので、これで普通の人は、何だ、けしからぬといってまたリツイートしたり、コメントをつけたり、いいねを押したりするんですね。
特に問題なのは、ここで日本人の著名なアカウントが、何だこれは、けしからぬといって、そこでそれをリツイートするわけですよ。そうすると、普通の人は、何かいきなりレコメンドが来た、見たら随分いいねもついているし、リツイートもされている、世の中こういうふうになっているのかと。若しくは、それなりに信頼のある著名なアカウントがそれを再投稿することによって、更に拡散をする。さらに、これが厄介なのが、そこそこ金になるんですよね、バズらせると。
ということもあって、こういった著名なアカウントが、実は無自覚に、外国のナラティブ、外国がこうしよう、日本をああしてやろう、こうしてやろうというナラティブの実現に加担をさせられているということが起きてくる。
そして、最後、フェーズ６ですね。これは、ＳＮＳのプラットフォーマーが相互に作用するので、どこかのＳＮＳでバズると、例えばＸでバズったら、それがインスタに行ったりユーチューブに行ったりしてぐるぐる回っているので、しかも、ほかのＳＮＳにも工作をしていますから、全体的にぐるぐる回って、バズり始めて炎上するということであります。
さらに、先ほど申し上げましたが、外国において、ヨーロッパは多かったんです、ずっとこの工作は多かったんですが、実は、日本がしばらく守られていたのは、やはり日本語なんですよ。私も、何か標的型メール、随分昔にやられましたけれども、平の字の点々がハの字になった、日本では見たことのないフォントがついていたり、ああ、これはあの国だなとすぐ分かるわけですね。でも、今は、生成ＡＩが入ってきたのでフォントも完璧だし言葉も完璧だということで、残念ながら日本語のバリアは壊れてしまったということであります。
その上で、この間の参議院選挙では何が起きていたかということでありますが。これは政府じゃないです、民間のサイバーセキュリティー会社、あとはアナリスト、リサーチャー、アカデミア、私のところに来た人たちは、それぞれ独立しています。別に連携はしていません。
まず、一番最初に僕のところに来たのがサイバーセキュリティー会社であります。それはどういうレポートを上げてきたかというと、外国のナラティブを拡散するＳＮＳ上のエコシステムが存在していると。その国のナラティブというのは多岐にわたるんですが、ターゲットとする国や地域の内部で不信感を醸成すること、既存の社会的亀裂をあおり立て対象国の情勢を不安定化させること、キーワードでいうと反グローバル主義や排外主義がターゲットになりやすい。これはちょっと詳細には言いませんが、いわゆる外国の公的な報道のアカウントからニュースを名のるアカウントにつながって、そこから日本のインフルエンサーにつながっている、このインフルエンサーの何個かはそもそも人間じゃなかったということであります。
それで、別の、今度はアナリストが分析をした結果、特定の政党やその特定のスローガンに言及した投稿が選挙公示後に急拡大をし、まあ急拡大するのはよくあることなんですけれども、この拡大が通常のトレンドの拡大と異なり、人工的なトレンド形成の可能性があるという分析をアナリストがしています。
今度はアカデミア、これは国立大学ですが、これは一連です、調べているのは同じところです、対象は同じです。ＸのＡＰＩを利用して解析をした結果、リポスト数の推移に不自然な増加が認められたと。言い方はすごく謙虚ですけれども、工作されているということを言っています。
今度は別のアカデミアの分析では、これは有名な私立大学の先生ですが、激しく工作をしているタイムゾーン、時間帯が日本の時間帯じゃないんですよ、時差がある。その大学はよくこれを調べたと思いますけれども、活動時間に五、六時間の時差が認められていると。ということは、外国からやられているんですね。ちなみに、五、六時間というと、ウクライナのキーウが七時間です、その東です。だから、時差がある。
これも、今ＡＩの時代だから自動化されているんじゃないか、時差は関係ないだろうというけれども、そこまでいっていないんですよ、実は。ボットをやっているんだけれども、最後をコントロールしているのは人間なんですよ、今は。でも、これは多分ＡＩで自動化されて、この時差の分析も多分無意味になってくるというふうに思います。
また、これはかなり話題になりましたけれども、あるリサーチャーが、外国のナラティブを拡散するエコシステム、さっきのサイバーセキュリティー会社が指摘したのと同じグループ、集団というかクラスターですけれども、そういうアカウントを、不正なアクセスを誘引するアカウント群としてＸ社に削除を要請しました。そうしたら、Ｘ社が自社の規定に基づき対応し、いわゆる有力インフルエンサーを含む相当数のアカウントが削除されるという事象も発生をしています。結果として、ある政党のスローガンは、そこの何か伸び率が鈍化をしたという分析もあります。このようなことが今起きているわけであります。
さらに、添付資料の新聞の資料を見ていただきたいと思いますが、これは私が大臣をやっているときの所管じゃなくて単なる新聞情報になりますが、ＪＩＣＡ、結構やられていましたよね、解体運動とかデモとか金よこせとかいろいろやられていたと思いますが、これは新聞報道で、まずは日経新聞。「ロシア「国際協力」で日本に情報操作 途上国支援、ＳＮＳで批判あおる」ということであります。内容は見てのとおりです。今、私は一回もロシアと言っていませんけれども、新聞記事はそう言っていますね。これは新聞記事が言っているんですよ。というロシアの介入があったというふうになっています。
あと、もう一つ新聞記事があったと思いますが、これは読売新聞。「露、ＳＮＳで対日情報戦 ウクライナ支援巡り 批判投稿急増 今年一月以降」というような記事があるわけであります。
これは、かなりやはりやばい状況になっているのではないかというふうに思います。それで、私も一か月前まで閣僚でいたので、これを共有しようというふうに思っていましたが、このメカニズムを含め、今の現状は高市内閣でも是非共有をしていただきたいと思いますけれども、総理、いかがでしょうか。
101高市早苗(自民)内閣総理大臣
ありがとうございます。様々な事例を分かりやすく挙げていただきました。今この中継を御覧の皆様にもよく分かったと思います。そこは非常に大きな発信をしていただいたと思っております。
考えてみれば、二〇二一年秋の時点では、生成ＡＩというのはなかったですね。ＡＩはあったけれども生成ＡＩはまだなかった。それがもう今、生成ＡＩが普及しているという状況ですから、技術に政策が追いついていないというのが現状だと思います。
日本の政府機関としましても、できる限りの、技術の進展、技術の進展を悪用した犯罪に立ち向かっていけるようにしっかりと対応を進めてまいりたいし、これはやは…
この発言のページ
102平将明(自民)
総理、ありがとうございます。
そもそも、外国からの影響工作については、その主体がどこかと明確に証明するのは本当に難しいです。意図の存在を証明するのも難しいです。何でかというと、本気でやろうと思ったら、こっちがハッキングしなきゃ分からないんです。そうすると、日本のあらゆる法律にぶつかります。
多分、この間私が担当したサイバー対処能力強化法は、いわゆる第三者委員会の厳しい監視、監督の下、承認をもらって初めて悪さをするサーバーにアクセスできるというぐらい厳格にやっているんですが、日本は選挙とか民主主義を守る法律がないし、ハッキングができないので、特定はでき…
この発言のページ
103高市早苗(自民)内閣総理大臣
私自身も、国家情報局の創設や対日外国投資委員会の新設などを訴えてまいりました。
ただ、新しい組織をつくるということで様々な検討をしなければいけませんので、まずは木原官房長官の下で、しっかりと様々な関係省庁の声も聞き、専門家の声も聞きながら、そういった新しい組織をつくっていく。その中で、ただいまの御提案もしっかりと検討させていただきたいと思います。
木原官房長官の仕事を増やしますけれども、大切な案件ですので、心に留めて検討させていただきます。
この発言のページ