チームみらいの安野貴博でございます。
冒頭、ちょっと通告外となるのですが、本日、ＡＩ分野で大きな報道数点ございましたので、そちらについて一点、大臣にお伺いしたいと思います。今、ＡＩによって日本のサイバーセキュリティーの状況大きく変わってきておりまして、大変な危機感を持たなければならないのではないかというお話でございます。
今から八時間ほど前になりますが、本日、四月の十五日、オープンＡＩが防衛的なサイバーセキュリティー業務向けに調整を加えたＧＰＴ５・４サイバーというものを発表したと。これは、先週の四月七日にアンソロピック社がクロード・ミュトスと呼ばれるモデルを発表したものに抗する形であると言われております。
もう一つのニュースが、本日の報道でございましたのが、アメリカの財務省がこのアンソロピックのミュトスへのアクセスの要請をしたという、そういった発表もございました。
これらのチャットＧＰＴ５・４サイバーやクロード・ミュトスに共通する重要なポイントが二点ございます。一つ目は、サイバーセキュリティーにおける攻撃能力が物すごく高いということ。二つ目は、この攻撃能力が高過ぎるがゆえに一般公開をされなかったということでございます。
クロード・ミュトス、一般に使われておりますＯＳであるとかブラウザに対して攻撃をするテストをしたところ、今まで未公表だったシステムの穴が、これゼロデー脆弱性と呼ばれたりもしますけれども、こういったものが数千件発見されたという衝撃的な報告もございまして、これ、人間のセキュリティーの専門家の実力にＡＩが追い付いた、また追い越したのではないかというふうに言われております。
これ、数千件の未公表の穴を知っていると、もう破壊であるとか改ざんであるとか機密情報へのアクセスであるとか、そういった様々な攻撃ができてしまうわけですね。これを危惧して、アンソロピック社そしてオープンＡＩ社はこういったモデルのアクセスを一般には公開せずに、特定の企業、現状ですと例えばアンソロピック社はアメリカの金融業界、ＩＴ業界の特定少数の企業に対してのみこれを公開することになりました。
私は、こちらのニュースから考えるべきこと、二つあると思っております。
第一に、このようなモデル、ＡＩモデルを保有している、あるいはアクセスできる国家や企業とそうではない国家との間には、サイバーセキュリティーの能力には現在時点で相当の差があるという認識はすべきかなというところです。
第二に、このような高度なＡＩモデルによる攻撃が発生するまでの猶予ってどれぐらいあるのかという話なんですが、これは一刻を争うということでございます。別にアンソロピックだけがこのモデルつくれるわけではないと思います。今までの経緯見ていると、数か月、早くて数か月、遅くても一年以内にはほかの企業、あるいはアメリカ企業以外の企業もこういったモデル開発できる可能性がありまして、このようなＡＩを使った攻撃能力というのは早めに拡散していく可能性が、おそれがあると考えております。
こうした一刻を争う危機的状況の中で、例えばアメリカの財務省は、本日の報道でもありましたように、ミュトスへのアクセスを要請して、又はＦＲＢなんかも大手銀行幹部と緊急会合を開いて対応に動いているという現状がございます。
私は、アンソロピックを始めとした企業に対して、日本政府、もっと言えば大臣がリーダーシップを発揮しながら、すぐにでもアクセス権の確保やあるいは国内事業者とのコミュニケーション、どんどん進めていくべきなのではないかと思っております。
本日の内閣委員会でも、実は我が党の高山議員が質疑の中で木原官房長官にお伺いしたんですけれども、木原官房長官からは、ＡＩ分野では企業や研究機関との連携不可欠という御答弁もございました。
こちらは大臣にも是非お伺いしたいと思います。大臣も同様なお考えでしょうか、御所見をお伺いしたいです。
139
伊波洋一政府参考人など
自治体情報システムの標準化とガバメントクラウドの移行という国家プロジェクト的な大きな目標が、証拠に基づく政策立案、ＥＢＰＭの実現だったはずです。閣議決定までされた三割削減という数値目標が極めて薄弱な根拠に基づく試算だったということは、これは驚いております。
自治体システムの標準化とガバメントクラウド技術は、データ仕様の標準化を始めとする標準準拠システムの導入とガバメントクラウドへの移行、努力義務を進めるというものです。一方、二〇一六年の自治体クラウド導入というのは、複数の自治体が共通のシステムを一つのデータセンターで共同運用するというものなんですね。
…
この発言のページ
140楠楠正憲デジタル庁統括官
委員御指摘ありましたように、この自治体クラウドで取り組まれてこられた範囲というのと自治体システム標準化で現在取り組んでいる二十業務の範囲が異なる、これはあるだろうというふうに思います。
最初、二十業務に取り組んだ背景というのもございまして、法定されている事務の方がしっかりとデータをそろえやすいだろうとか、いろいろ考えてどこから着手するかというところを決めてきた経緯はあるんですけれども、標準準拠システム以外に関してもしっかりと基盤を共有化していかないと二重にコスト掛かっているところとか変わっていかないので、こういった実態もよく理解をして、各自治体の実情も…
この発言のページ
141伊波洋一政府参考人など
もう時間になりましたけれども、ちょうど二〇〇〇年から、二〇〇一年かな、韓国は電子政府へといって、もうそれが動いていたんですよ。実際、私のところは単独でやりましたからね。でも、それでも、協力を得た、できたんですよ。その共同というの、それやられたんです、各グループごとに。でも、そのメリットは共同運用だからなんですよ。今の宜野湾市は移っています。移って、費用が落ちているんですよね。でも、それだけの話じゃなくて、分散システム外に出すことで、出力帳票も含めて自治体の負荷が減るんですよ。負荷が減って無駄が減る、そういうところに自治体は注目しなきゃいけないと思うんです…
この発言のページ
- （上の発言）
142
安野貴博(みらい)
チームみらいの安野貴博でございます。
冒頭、ちょっと通告外となるのですが、本日、ＡＩ分野で大きな報道数点ございましたので、そちらについて一点、大臣にお伺いしたいと思います。今、ＡＩによって日本のサイバーセキュリティーの状況大きく変わってきておりまして、大変な危機感を持たなければならないのではないかというお話でございます。
今から八時間ほど前になりますが、本日、四月の十五日、オープンＡＩが防衛的なサイバーセキュリティー業務向けに調整を加えたＧＰＴ５・４サイバーというものを発表したと。これは、先週の四月七日にアンソロピック社がクロード・ミュトスと呼ばれるモデルを発表したものに抗する形であると言われております。
もう一つのニュースが、本日の報道でございましたのが、アメリカの財務省がこのアンソロピックのミュトスへのアクセスの要請をしたという、そういった発表もございました。
これらのチャットＧＰＴ５・４サイバーやクロード・ミュトスに共通する重要なポイントが二点ございます。一つ目は、サイバーセキュリティーにおける攻撃能力が物すごく高いということ。二つ目は、この攻撃能力が高過ぎるがゆえに一般公開をされなかったということでございます。
クロード・ミュトス、一般に使われておりますＯＳであるとかブラウザに対して攻撃をするテストをしたところ、今まで未公表だったシステムの穴が、これゼロデー脆弱性と呼ばれたりもしますけれども、こういったものが数千件発見されたという衝撃的な報告もございまして、これ、人間のセキュリティーの専門家の実力にＡＩが追い付いた、また追い越したのではないかというふうに言われております。
これ、数千件の未公表の穴を知っていると、もう破壊であるとか改ざんであるとか機密情報へのアクセスであるとか、そういった様々な攻撃ができてしまうわけですね。これを危惧して、アンソロピック社そしてオープンＡＩ社はこういったモデルのアクセスを一般には公開せずに、特定の企業、現状ですと例えばアンソロピック社はアメリカの金融業界、ＩＴ業界の特定少数の企業に対してのみこれを公開することになりました。
私は、こちらのニュースから考えるべきこと、二つあると思っております。
第一に、このようなモデル、ＡＩモデルを保有している、あるいはアクセスできる国家や企業とそうではない国家との間には、サイバーセキュリティーの能力には現在時点で相当の差があるという認識はすべきかなというところです。
第二に、このような高度なＡＩモデルによる攻撃が発生するまでの猶予ってどれぐらいあるのかという話なんですが、これは一刻を争うということでございます。別にアンソロピックだけがこのモデルつくれるわけではないと思います。今までの経緯見ていると、数か月、早くて数か月、遅くても一年以内にはほかの企業、あるいはアメリカ企業以外の企業もこういったモデル開発できる可能性がありまして、このようなＡＩを使った攻撃能力というのは早めに拡散していく可能性が、おそれがあると考えております。
こうした一刻を争う危機的状況の中で、例えばアメリカの財務省は、本日の報道でもありましたように、ミュトスへのアクセスを要請して、又はＦＲＢなんかも大手銀行幹部と緊急会合を開いて対応に動いているという現状がございます。
私は、アンソロピックを始めとした企業に対して、日本政府、もっと言えば大臣がリーダーシップを発揮しながら、すぐにでもアクセス権の確保やあるいは国内事業者とのコミュニケーション、どんどん進めていくべきなのではないかと思っております。
本日の内閣委員会でも、実は我が党の高山議員が質疑の中で木原官房長官にお伺いしたんですけれども、木原官房長官からは、ＡＩ分野では企業や研究機関との連携不可欠という御答弁もございました。
こちらは大臣にも是非お伺いしたいと思います。大臣も同様なお考えでしょうか、御所見をお伺いしたいです。
143
小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
危機の認識は共有しているところなんですけれども、多分、木原官房長官は国家安全保障の法案の中での答弁だったと思うので、そのときに官房長官としてお答えしたものを私が同様の認識ですというのはちょっと、所管外かなというのでなかなかお答えしづらいところでありますが、危機感は非常に共有しております。
この発言のページ
144安野貴博(みらい)
危機感を共有いただいているというところで、是非今後もリーダーシップを発揮いただければと期待をしております。
こちらは、国としてＡＩを保有していくということが非常に重要な話であるという中で、特に重要なプロジェクトとなってくるのが、本日御質問予定の経産省がやっているＡＩロボット・フィジカルＡＩを見据えたマルチモーダル基盤モデル開発事業でございます。
本プロジェクトは、フィジカルＡＩの実現に向けた国産ＡＩ基盤開発モデルの開発を目指すものでございます。報道によると、約五年間で一兆円の予算が計上されると承知しております。大規模な国家予算を投下する以上、プロジェ…
この発言のページ
145奥奥家敏和経済産業省大臣官房審議官
お答え申し上げます。
ソフトウェア関連ですと、例えば、過去、ソフトウェア開発支援システムの構築を目指した国家プロジェクトでシグマプロジェクト、御指摘のものあるわけですけれども、十分な成果が得られなかったという評価です。
一つは、ユーザーのニーズとちょっとマッチしていない部分があった。更に言うと、技術動向がＵＮＩＸをめぐってかなり変わっていた、そういった中で計画を見直さないでそのまま事業を継続してしまった。それがかなり大きい問題だったんじゃないかというふうに認識をしています。
一方で、御指摘をいただきました「富岳」プロジェクト、これ技術動向に応じた設…
この発言のページ