2025年5月22日・第217回国会 参議院 内閣委員会 第16号（外部サイト、新しいタブで開きます） の 37 番目の発言（外部サイト、新しいタブで開きます）（全 116 発言）
ありがとうございます。
おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。
これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。
ただ、この技術の方向性は、私自身の評価としては余り明るくなく、それよりは監査ＡＩのような、おっしゃったような、その結論がなぜ出たのかを監査する別のＡＩと組み合わせるであるとか、あるいは、それぞれ別の作り方をした三系統のＡＩを同時に走らせて多数決で決めるというような仕組みを考えていかないのではいけないのではないかというような構想は、これは理論レベルというか、議論のレベルとしては現れてきているというところであります。
以上です。
ありがとうございます。 我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。 そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない…
御質問ありがとうございます。
今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。
以上です。
36
石垣のりこ(立憲)
度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。 今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。 一方で、これまでの議論を振り返っ…
ありがとうございます。
おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。
これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。
ただ、この技術の方向性は、私自身の評価としては余り明るくなく、それよりは監査ＡＩのような、おっしゃったような、その結論がなぜ出たのかを監査する別のＡＩと組み合わせるであるとか、あるいは、それぞれ別の作り方をした三系統のＡＩを同時に走らせて多数決で決めるというような仕組みを考えていかないのではいけないのではないかというような構想は、これは理論レベルというか、議論のレベルとしては現れてきているというところであります。
以上です。
ありがとうございます。 こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。 これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩の…
39石垣のりこ(立憲)
ありがとうございます。 大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。 たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。 先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこう…
ありがとうございます。お答えいたします。 ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしま…