御指摘のとおり、ＥＵのＡＩ法では、ＡＩのリスクに基づきまして、四つのランク、許容できないリスクが一番上ですが、ハイリスク、次に、三番目が限定的なリスク、四番目が最小限のリスクというふうに、四つのランクに分けられて、リスクに応じた遵守事項を定めております。
その上で、ＥＵと日本の現行制度を比較すると、罰則の有無等の強度は異なるものの、実は共通部分はあるものと認識しております。例えば、ＥＵが禁止する市民の権利を脅かすＡＩは、日本においても刑法あるいは個人情報保護法等によりしっかりと規制をされているわけでございます。また、ＥＵが適合性評価を義務づけております重要インフラ等に関するＡＩは、日本においても個別の、先ほども冒頭でも述べましたけれども、薬機法とか、あるいは自動車関連の法案もありますけれども、そういった個別の業法等の下で必要に応じて基準適合義務等が課されております。
いずれにしましても、国によって法体系とかあるいは歴史や文化が異なるため、各国それぞれの制度というのは異なっておりまして、我が国においては、こうした現行の制度に加えまして、本法案によって、これまで以上に柔軟かつ適切に、より適切にリスクへの対応を行うとともに、より安全、安心なＡＩの開発を進めていくことができる、そのように認識しております。
97
馬淵澄夫(立憲)
いわゆるアメリカ型のデジタル放任主義でもなければ、デジタル立憲主義でもない。第三の道、我が国固有の道を歩もうという、かなり苦労した部分があったということだと、そう理解をします。
その上で、令和六年五月の、ＡＩ制度に関する考え方、戦略チーム。ここで、我が国の在り方というのが端的に示されています。
これを拝見しますと、政府が出したこの中には、ＡＩ事業者ガイドラインでは、ＡＩがもたらす社会的リスクの低減を図るとともに、ＡＩのイノベーションと活用を促進していくための関係者による自主的な取組を促した非拘束的なソフトローによって目的達成に導くゴールベースの考え方…
この発言のページ
98
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
ＡＩの研究開発及び活用が諸外国に比べて後れを取っている中で、ＡＩのイノベーション促進とリスクの対応の両面を図るためには、やはりリスク対応に関して、過剰な規制は回避しつつ、必要な対策を講じる必要がある。先ほど述べたように、こういう認識に立っております。
これを踏まえまして、我が国におきましては、これまでも既存の法令、そしてガイドライン等のソフトロー、これを適切に組み合わせて様々なリスクに対応してまいりましたが、本法案が成立した後においても、事業者の自主性を尊重するという考え方には変わりはございません。
その上で、本法案においては、ＡＩ開発者、利用者が遵…
この発言のページ
99馬淵澄夫(立憲)
イノベーションを阻害するということを多分一番に心配されたんだろうなというのは、これは私が推測するところです。
しかし一方で、やはりＡＩによる様々な影響というのは相当大きいものがある。先ほど来申し上げてきたＥＵのＡＩ法、これはなかなか厳しくチェックをしていますね。先ほど橋本議員も質問でされました。橋本議員は、ＥＵにおけるリスクベースアプローチ、これについて検討されましたかという質問でありましたが、検討したか否かということについては、検討されたという御答弁をいただいていましたが、採用しなかったわけですよね、最終的には。
ＥＵの場合は、厳しい制裁も加わって…
この発言のページ
- （上の発言）
100城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
御指摘のとおり、ＥＵのＡＩ法では、ＡＩのリスクに基づきまして、四つのランク、許容できないリスクが一番上ですが、ハイリスク、次に、三番目が限定的なリスク、四番目が最小限のリスクというふうに、四つのランクに分けられて、リスクに応じた遵守事項を定めております。
その上で、ＥＵと日本の現行制度を比較すると、罰則の有無等の強度は異なるものの、実は共通部分はあるものと認識しております。例えば、ＥＵが禁止する市民の権利を脅かすＡＩは、日本においても刑法あるいは個人情報保護法等によりしっかりと規制をされているわけでございます。また、ＥＵが適合性評価を義務づけております重要インフラ等に関するＡＩは、日本においても個別の、先ほども冒頭でも述べましたけれども、薬機法とか、あるいは自動車関連の法案もありますけれども、そういった個別の業法等の下で必要に応じて基準適合義務等が課されております。
いずれにしましても、国によって法体系とかあるいは歴史や文化が異なるため、各国それぞれの制度というのは異なっておりまして、我が国においては、こうした現行の制度に加えまして、本法案によって、これまで以上に柔軟かつ適切に、より適切にリスクへの対応を行うとともに、より安全、安心なＡＩの開発を進めていくことができる、そのように認識しております。
101馬淵澄夫(立憲)
既存法によるということを繰り返しおっしゃっているんですが、本当にそれで十分な対応ができるのかということが気になるわけであります。
そして、先ほど来、質疑者の中でも繰り返しあった、ＡＩというのは本当に進捗が、進歩が著しいですから、予想もできないような、予測できないような事態も発生し得るということであります。
既存法での対応が十分であるか否かということについては、全く想定できない部分もあるとは思うんですが、その部分が、附則の二条で書かれているように、将来予見できないような事態が起きた場合には、速やかに対応するべく、まあ、法的措置になるんでしょう。附則の二…
この発言のページ
102城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
ＡＩは技術変化が大変速くて、現在では顕在化していないリスクが法律の施行後に顕在化する場合、これも想定され得るわけであります。こうした場合において、法制上の措置の在り方を含めて必要な検討を行い、その結果に基づき所要の措置を行うことができるよう、附則の第二条を置くこととしたものでございます。
今後とも、関連する国際的動向とか、あるいは社会経済情勢の変化を含め、法律の施行状況を継続的に注視して、将来的には、その時々の状況を踏まえて適切な対応をしていくということはあり得るというふうに考えております。
この発言のページ
103馬淵澄夫(立憲)
附則の二条は、そのような実害が発生したときに発動されるんだろうなとは思うんですが、しかし一方で、人権侵害や民主主義のプロセスを毀損するような、これは実害が起きてからでは遅いんですよね。その意味で、我が国のＡＩ法が民主主義のプロセスやあるいは憲法上の価値をどう担保していくのかということについて、少しお尋ねをしたいと思います。
先ほど選挙についてのお話はありましたが、これは城内大臣、我が党の梅谷議員の質問にもお答えをいただいておりました。
例えば選挙での誤情報、様々な、実際にはアメリカの大統領選挙なんかでも盛んに流された。先ほど来、この質疑の中でも出てき…
この発言のページ