2025年5月27日・第217回国会 参議院 内閣委員会 第17号（外部サイト、新しいタブで開きます） の 34 番目の発言（外部サイト、新しいタブで開きます）（全 226 発言）
いろいろ利用していくということは分かりました。
次は、インシデント情報の収集ということについてお伺いをいたします。
本法案の第十六条では、不正な目的、不適切な方法によるＡＩの研究開発、活用に伴って国民の権利利益の侵害が生じた事案等について、国が調査等を行い、指導、助言、情報提供等の措置を講じる規定が盛り込まれていると承知しております。
この点について、Ｇ７広島ＡＩプロセスの国際行動規範では、産業界、政府、市民社会、学界を含む高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組むことが示されております。
本法案の制度設計のベースとなった有識者会議の中間とりまとめ案に対するパブリックコメントでは、ＡＩの利用に起因するインシデント発生時の報告窓口を一本化する等、事業者側の業務が煩雑にならない制度整備とこれらに対応できる体制づくりを望むとの意見も寄せられておりますけれども、法案に基づき、政府は具体的にどのような方法、体制により情報収集を行う考えか、またこうした意見にどのように対応するのか、お伺いをいたします。
31
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
ＡＩの導入に関するリスクは、その導入によって、仕方によってもまた千差万別であります。このため、それぞれの事業者におきまして、リスクを特定して多面的に評価し、事故時の対応等を含むＡＩガバナンスポリシーを自ら策定、実施していただくことがまずは重要と考えております。本法案第十三条に基づきまして整備するこの指針には、こうした考え方をしっかりと盛り込むことを検討しております。 その上で、木戸口委員御指摘の指針やガイドラインをしっかり遵守する事業者にインセンティブをもたらす手法、これについては、例えば、充実したＡＩガバナンスポリシーを自ら策定、実施している事業者に…
32木戸口英司(立憲)
しっかりと取り組んでいっても、結果としていろいろ、ＡＩの成長過程でいろんなことがあってということで、なかなかそのインセンティブを与えるということも、これもまた技術的に難しい部分はあると思うんですけれども、やはりその努力ということを評価していくということを、その上で、政府側もまたリテラシーが高まってくるということもあると思いますので、これはお互いに事業者とやり取りをしながらこのことを考えていくということも必要なんではないかと、そう思います。 そして、規制サンドボックスに係る検討についてお伺いいたしますけれども、ＥＵのＡＩ法は、先ほど述べた規制に加えて、隔…
33城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
お答えします。 本法案は、技術の変化が大変速いＡＩについて、イノベーションの促進とリスクの対応の両立を図るため、包括的な規制を設けるのではなく、イノベーションを阻害する過剰な規制を避けつつ、リスク対応のために必要な措置を講じていくという柔軟な仕組みを採用したものであるということはこれまで何度も述べたところでございます。 なお、規制や制度について、時代やその技術進歩に応じて不断に見直し、イノベーションを生み出す環境を整備することは重要と認識しておりまして、ＡＩ関連事業については、既存のサンドボックス制度を活用すること自体は可能であると認識しております。…
34木戸口英司(立憲)
いろいろ利用していくということは分かりました。
次は、インシデント情報の収集ということについてお伺いをいたします。
本法案の第十六条では、不正な目的、不適切な方法によるＡＩの研究開発、活用に伴って国民の権利利益の侵害が生じた事案等について、国が調査等を行い、指導、助言、情報提供等の措置を講じる規定が盛り込まれていると承知しております。
この点について、Ｇ７広島ＡＩプロセスの国際行動規範では、産業界、政府、市民社会、学界を含む高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組むことが示されております。
本法案の制度設計のベースとなった有識者会議の中間とりまとめ案に対するパブリックコメントでは、ＡＩの利用に起因するインシデント発生時の報告窓口を一本化する等、事業者側の業務が煩雑にならない制度整備とこれらに対応できる体制づくりを望むとの意見も寄せられておりますけれども、法案に基づき、政府は具体的にどのような方法、体制により情報収集を行う考えか、またこうした意見にどのように対応するのか、お伺いをいたします。
お答え申し上げます。 まず、一つの事業者に対して、例えば産業政策の観点ですとか安全保障の観点とか、いろんな観点から調査が行ってしまうというケースは当然想定されるところであります。 今回も、ＡＩ、非常に多くの省庁に関係するものですから、一つの事業者に対して複数の事業者からＡＩに関する調査がばらばらと来るということですと、大変答えにくいということにもなりますし、不必要な負担を掛けてしまうことになるかもしれませんので、まずは、この調査をしていくのに際して関係省庁と連携をしながら、ＡＩ戦略本部の下でしっかり連携をしながら、非常に簡潔明瞭で、不必要な手間を掛け…
36木戸口英司(立憲)
広範多岐にわたる問題に直面するんだと思います。各省庁にまたがるいろんな業者、業界もありますし、ただこれを、政府が縦割りのままでこれを受けるということでは本当に事業者としては迷惑でありますので、やはりしっかりと一本化を図りながら、各省庁との問題であればそれぞれが対応する、しっかりそれを割り振るという作業が政府には求められると思いますが、これは強く求めたいと思います。 その上で、広島ＡＩプロセスの国際行動規範では、生成ＡＩの高度なＡＩシステムを開発する組織に対し、システムの導入後に第三者やユーザーが問題や脆弱性を発見し報告することを促進することの検討が奨励…
お答え申し上げます。 ただいま御指摘の点につきましては、国が整備する指針の中で、その製品とかサービスを市場に出した後もインシデント情報をモニタリングして、見付けたときにはその報告をしてくださいと、そういったことをＡＩ会社に対して求めていきたいというふうに思っているところであります。 一般的には、多くの方が使っているＡＩでございますので、不適切な事例があったときには、基本的には、その事業者さんはやっぱり評価を気にされると思いますので、評判に対してちゃんと対応するということであろうというふうに思いますけれども、真摯に対応していただけるというふうに思います…