本日、このような機会をいただき、ありがとうございます。一橋大学の生貝直人と申します。
私は、研究者としては、こうしたＡＩを始めとするデジタル技術に関する法制度の在り方というものを、ＥＵですとか米国との比較を中心とした研究を行っているものでございまして、今回、松尾参考人が座長を務められるＡＩ制度研究会の委員も務めさせていただいたところでございます。
今回、本法案に関しまして、一つの大きなテーマである研究開発ですとか活用の促進に関しては、ほかの参考人からも御意見があるところかというふうに思いますので、私の方は、こちらの一枚紙を参考にいたしまして、特にリスク対応の観点から、この法案に関する私の意見というものと、そして幾つかの期待ということを、大きく三点に分けて申し上げさせていただきたいというふうに思います。
まず、本法案、第三章に規定されるＡＩ基本計画、そして第四章によって創設されるＡＩ戦略本部といった、まさに国の体制整備に関する規定を始めといたしまして、これは、ＡＩ関連技術の研究開発、活用の推進というものはもとよりであるのですけれども、やはり、複数領域に係るリスクへの府省横断的対応を我が国として可能とする基盤法制としての意義を有するものと考えております。
ＡＩの法制上、課題になるリスクといいますと、生成ＡＩの登場前は、国際的にも主として比較的そのリスクというものは特定して議論されてきたところだったというふうに思います。一つは、ＡＩを組み込んだ製品が間違った判断をする、暴走する、爆発する、そのような製品安全のリスクということ。それからもう一つは、ＡＩが個人に関する情報を分析して、プロファイリングして、時には人を差別的な取扱いをする自動的決定を行う。大きくはその二つが焦点を当てられており、それはこれからも重要でございます。
なのでございますけれども、二〇二二年のチャットＧＰＴ、そして生成ＡＩの本格的な普及というのは、法的側面からのＡＩの位置づけというものをかなり変容させたというふうに思っております。それはまさしく、人の代わりに情報を生成してくれるＡＩなわけでございます。そうした情報というのがこれから社会全体で流通する情報のおよそ大半を占めるようになるという予測は、決して大げさではないというふうに思います。
そうしましたときに、情報関連法制全体がこれまで考えてきたリスクというものをどのように新しく再構築していくのかということ。例えばディープフェイクへの対応というのはその典型であるというふうに思います。民事救済、刑事規制、そして知的財産権、消費者法制。そして、それらの生み出されたディープフェイクが流通する多くの場というのはソーシャルメディアを始めとするプラットフォームでございます、それとの規制との関係をどう考えるか。そして、選挙のときにどのような特別な対応が必要かというふうにいったようなことは、これらそれぞれ所管省庁もそして使う法律も違うわけでございますけれども、やはり調和した対応ということが何より重要になるわけでございます。
そして、もう一つ加えますと、やはり法制という観点から見てＡＩ分野というのは、技術そして運用の実態、アルゴリズムがどのように機能しているのか、あるいは生成ＡＩに関する安全性は実際にどのように技術的に試みられているのか、そのようなことを正確に継続的に把握し続けることに高いコストがかかります。
そのことに関して、今回のような総合的な体制整備というのが行われることによって、ＡＩセーフティ・インスティテュート等国内外機関の連携を含めまして、各法領域の運用と、そして今後の改正等の大前提となるインテリジェンス基盤の構築が行われていくということを非常に強く期待するところでございます。
御参考まで申し上げますと、ＥＵのＡＩ法制、ＡＩ政策を担当するＡＩオフィスというのは、それだけで百四十人のスタッフを抱えており、また、それに加えまして、少なくとも数十人の科学者が科学的見地からのそうした政策の立案と運用の助言を行っているというふうにいったチームを抱えている。このような体制整備を一つは大きく可能としてくれるだろう。
二つ目といたしまして、適正性確保のための指針の整備というのが今回の規範的な側面として大変重要かと思います。ことに加えて、恐らくはそれと少なからず連動する形で進められるであろう国による情報収集、調査、研究と指導、助言、情報提供等の規定。このことというのは、ＡＩ技術の進化がかつてない速度で進む中で、私がずっと専門にしてまいります官民の共同規制の考え方とも親和性の高い、柔軟性、機敏性の高いリスク対応のＰＤＣＡサイクルを構築する枠組みとしての機能、意義を有すると考えるところでございます。
この指針の中におきましては、広島ＡＩプロセス等、国際的な規範との整合性はもとよりでございますけれども、リスクベースの考え方を考慮しながら、複数法分野に係る共通の事項、例えば、やはり国際的にも透明性確保、ＡＩ生成コンテンツの判別性確保、学習データの概要の開示といったようなことは共通の事項として理解が進んできているところでございます。そして、既存法令で対応が十分にできないリスク、及び開発、運用を行う事業者自身がリスクの軽減とそして自らの評価ということをしっかり行っていただく、こうしたことをしっかり念頭に置いた指針というものが作成されることを私としては期待するところでございます。
そして、もう一つ、指針の作成、見直しプロセスと、及びその運用がしっかり事業者によっても遵守されているのかということをモニタリングするプロセス、この両面におきまして、消費者、市民社会、学界等の多様なステークホルダーの実効性ある参加というものを是非確保していただきたいというふうに思います。
これは、制度の実効性でありますとか、それに必要な知識集約というところもあるのでございますけれども、やはり、こういった実質的な我が国の制度というものを立法によってある種行政及び関係するステークホルダーに委ねる。その中で、しっかりとその制度に対する民主的正統性を確保していくというふうにいったような観点からも、こうした手法というものを是非重視していただきたいと思います。
最後に、三点目でございます。
今後数年間の中で様々リスクが生じてくる、それはイノベーションが期待どおりに進んでくれればこそ生じ得ることでございますけれども。その中で、恐らくは多数の個別法の改正でございますとか、ＡＩに対応するための。そして、本法案の附則二条に定められている本法案自体の検討、いわば見直しというふうにいったようなことが必要になる可能性というのは、これは恐らく高いというふうに思います。
そうしたときに、やはり、今回法律を作る、そしてそれを国民の安全、安心と技術革新を高い水準で両立させ続けていくためには、リスクが起こったときに初めて検討を開始して、そして三か月なり半年なりで結論を出すというプロセスだけではなく、やはり常日頃から、本当に望ましい、このＡＩに関わるより望ましい制度というものは果たして何であるのか。そして、それは個別の問題での対応ということはもとより、まさに今回のような、恐らくはこれまでの法制の中でも全く新しいガバナンスメカニズムの在り方、そういった全体の枠組みというものを継続的に検討を続ける必要があるというふうに思います。
是非、新設されるＡＩ戦略本部の中でも、制度の継続検討というふうにいったようなことを一つ念頭に置いていただきたいと期待するところでございます。
私からは以上でございます。御清聴ありがとうございました。（拍手）
1
大岡敏孝(自民)
これより会議を開きます。
内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
本日は、本案審査のため、参考人として、東京大学大学院工学系研究科 技術経営戦略学専攻／人工物工学研究センター 教授松尾豊君、一橋大学大学院法学研究科教授生貝直人君、一般社団法人ソフトウェア協会会長、さくらインターネット株式会社代表取締役社長田中邦裕君、一般財団法人ＧｏｖＴｅｃｈ東京アドバイザー安野貴博君、以上四名の方々から御意見を承ることにいたしております。
この際、参考人各位に一言御挨拶を申し上げます。
本日は、お忙しいところ内閣委員…
この発言のページ
2松松尾豊東京大学大学院工学系研究科 技術経営戦略学専攻／人工物工学研究センター 教授
東京大学の松尾と申します。
ＡＩ戦略会議において座長を務めさせていただいております。
本日は、本法案に関しまして、１、ＡＩの利活用及び開発力の強化、２、人材育成の重要性、３、イノベーションの促進とリスク対応の両立の三点について、意見を述べさせていただきます。
それに先立ちまして、今現在の日本を取り巻くＡＩの状況についてお話ししたいと思います。
二〇二二年十一月に出たチャットＧＰＴ以降、世界は生成ＡＩをめぐって大きく変化しています。オープンＡＩは次々と新しいサービスを出し、ＧＡＦＡＭと呼ばれるグーグルなどの米国企業は生成ＡＩに多額の投資をしています…
この発言のページ
3大岡敏孝(自民)
ありがとうございました。
次に、生貝参考人にお願いいたします。
この発言のページ
- （上の発言）
4生生貝直人一橋大学大学院法学研究科教授
本日、このような機会をいただき、ありがとうございます。一橋大学の生貝直人と申します。
私は、研究者としては、こうしたＡＩを始めとするデジタル技術に関する法制度の在り方というものを、ＥＵですとか米国との比較を中心とした研究を行っているものでございまして、今回、松尾参考人が座長を務められるＡＩ制度研究会の委員も務めさせていただいたところでございます。
今回、本法案に関しまして、一つの大きなテーマである研究開発ですとか活用の促進に関しては、ほかの参考人からも御意見があるところかというふうに思いますので、私の方は、こちらの一枚紙を参考にいたしまして、特にリスク対応の観点から、この法案に関する私の意見というものと、そして幾つかの期待ということを、大きく三点に分けて申し上げさせていただきたいというふうに思います。
まず、本法案、第三章に規定されるＡＩ基本計画、そして第四章によって創設されるＡＩ戦略本部といった、まさに国の体制整備に関する規定を始めといたしまして、これは、ＡＩ関連技術の研究開発、活用の推進というものはもとよりであるのですけれども、やはり、複数領域に係るリスクへの府省横断的対応を我が国として可能とする基盤法制としての意義を有するものと考えております。
ＡＩの法制上、課題になるリスクといいますと、生成ＡＩの登場前は、国際的にも主として比較的そのリスクというものは特定して議論されてきたところだったというふうに思います。一つは、ＡＩを組み込んだ製品が間違った判断をする、暴走する、爆発する、そのような製品安全のリスクということ。それからもう一つは、ＡＩが個人に関する情報を分析して、プロファイリングして、時には人を差別的な取扱いをする自動的決定を行う。大きくはその二つが焦点を当てられており、それはこれからも重要でございます。
なのでございますけれども、二〇二二年のチャットＧＰＴ、そして生成ＡＩの本格的な普及というのは、法的側面からのＡＩの位置づけというものをかなり変容させたというふうに思っております。それはまさしく、人の代わりに情報を生成してくれるＡＩなわけでございます。そうした情報というのがこれから社会全体で流通する情報のおよそ大半を占めるようになるという予測は、決して大げさではないというふうに思います。
そうしましたときに、情報関連法制全体がこれまで考えてきたリスクというものをどのように新しく再構築していくのかということ。例えばディープフェイクへの対応というのはその典型であるというふうに思います。民事救済、刑事規制、そして知的財産権、消費者法制。そして、それらの生み出されたディープフェイクが流通する多くの場というのはソーシャルメディアを始めとするプラットフォームでございます、それとの規制との関係をどう考えるか。そして、選挙のときにどのような特別な対応が必要かというふうにいったようなことは、これらそれぞれ所管省庁もそして使う法律も違うわけでございますけれども、やはり調和した対応ということが何より重要になるわけでございます。
そして、もう一つ加えますと、やはり法制という観点から見てＡＩ分野というのは、技術そして運用の実態、アルゴリズムがどのように機能しているのか、あるいは生成ＡＩに関する安全性は実際にどのように技術的に試みられているのか、そのようなことを正確に継続的に把握し続けることに高いコストがかかります。
そのことに関して、今回のような総合的な体制整備というのが行われることによって、ＡＩセーフティ・インスティテュート等国内外機関の連携を含めまして、各法領域の運用と、そして今後の改正等の大前提となるインテリジェンス基盤の構築が行われていくということを非常に強く期待するところでございます。
御参考まで申し上げますと、ＥＵのＡＩ法制、ＡＩ政策を担当するＡＩオフィスというのは、それだけで百四十人のスタッフを抱えており、また、それに加えまして、少なくとも数十人の科学者が科学的見地からのそうした政策の立案と運用の助言を行っているというふうにいったチームを抱えている。このような体制整備を一つは大きく可能としてくれるだろう。
二つ目といたしまして、適正性確保のための指針の整備というのが今回の規範的な側面として大変重要かと思います。ことに加えて、恐らくはそれと少なからず連動する形で進められるであろう国による情報収集、調査、研究と指導、助言、情報提供等の規定。このことというのは、ＡＩ技術の進化がかつてない速度で進む中で、私がずっと専門にしてまいります官民の共同規制の考え方とも親和性の高い、柔軟性、機敏性の高いリスク対応のＰＤＣＡサイクルを構築する枠組みとしての機能、意義を有すると考えるところでございます。
この指針の中におきましては、広島ＡＩプロセス等、国際的な規範との整合性はもとよりでございますけれども、リスクベースの考え方を考慮しながら、複数法分野に係る共通の事項、例えば、やはり国際的にも透明性確保、ＡＩ生成コンテンツの判別性確保、学習データの概要の開示といったようなことは共通の事項として理解が進んできているところでございます。そして、既存法令で対応が十分にできないリスク、及び開発、運用を行う事業者自身がリスクの軽減とそして自らの評価ということをしっかり行っていただく、こうしたことをしっかり念頭に置いた指針というものが作成されることを私としては期待するところでございます。
そして、もう一つ、指針の作成、見直しプロセスと、及びその運用がしっかり事業者によっても遵守されているのかということをモニタリングするプロセス、この両面におきまして、消費者、市民社会、学界等の多様なステークホルダーの実効性ある参加というものを是非確保していただきたいというふうに思います。
これは、制度の実効性でありますとか、それに必要な知識集約というところもあるのでございますけれども、やはり、こういった実質的な我が国の制度というものを立法によってある種行政及び関係するステークホルダーに委ねる。その中で、しっかりとその制度に対する民主的正統性を確保していくというふうにいったような観点からも、こうした手法というものを是非重視していただきたいと思います。
最後に、三点目でございます。
今後数年間の中で様々リスクが生じてくる、それはイノベーションが期待どおりに進んでくれればこそ生じ得ることでございますけれども。その中で、恐らくは多数の個別法の改正でございますとか、ＡＩに対応するための。そして、本法案の附則二条に定められている本法案自体の検討、いわば見直しというふうにいったようなことが必要になる可能性というのは、これは恐らく高いというふうに思います。
そうしたときに、やはり、今回法律を作る、そしてそれを国民の安全、安心と技術革新を高い水準で両立させ続けていくためには、リスクが起こったときに初めて検討を開始して、そして三か月なり半年なりで結論を出すというプロセスだけではなく、やはり常日頃から、本当に望ましい、このＡＩに関わるより望ましい制度というものは果たして何であるのか。そして、それは個別の問題での対応ということはもとより、まさに今回のような、恐らくはこれまでの法制の中でも全く新しいガバナンスメカニズムの在り方、そういった全体の枠組みというものを継続的に検討を続ける必要があるというふうに思います。
是非、新設されるＡＩ戦略本部の中でも、制度の継続検討というふうにいったようなことを一つ念頭に置いていただきたいと期待するところでございます。
私からは以上でございます。御清聴ありがとうございました。（拍手）
5大岡敏孝(自民)
ありがとうございました。
次に、田中参考人にお願いいたします。
この発言のページ
6田田中邦裕一般社団法人ソフトウェア協会会長／さくらインターネット株式会社代表取締役社長
ソフトウェア協会の代表をしております田中邦裕と申します。
本日は、このような機会をいただきましたことを改めて御礼申し上げます。
既に提出しております資料を基に説明をさせていただければと思っておりますので、どうぞよろしくお願いいたします。
私でございますが、二十九年前に京都の舞鶴高専に在学中、学生起業をしたさくらインターネットの代表者でございまして、二十年前に上場いたしました、いわゆるスタートアップの起業家でもございます。三年前からソフトウェア協会の会長を拝命しておるほか、本日御参加いただいている松尾参考人が座長をしておりますＡＩ戦略会議の構成員をさ…
この発言のページ
7大岡敏孝(自民)
ありがとうございました。
次に、安野参考人にお願いいたします。
この発言のページ