御質問ありがとうございます。
今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。
以上です。
市川類一橋大学イノベーション研究センター特任教授／東京科学大学データサイエンス・ＡＩ全学教育機構特任教授
2025年5月22日・第217回国会 参議院 内閣委員会 第16号（外部サイト、新しいタブで開きます） の 35 番目の発言（外部サイト、新しいタブで開きます）（全 116 発言）
前後のやりとり
ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術…
ありがとうございます。 イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。 今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉…
ありがとうございます。 我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。 そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない…
- （上の発言）
御質問ありがとうございます。
今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。
以上です。
36
石垣のりこ(立憲)度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。 今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。 一方で、これまでの議論を振り返っ…
ありがとうございます。 おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。 これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。 ただ、この技術の方向性は、私自身の評価としては余り明…
ありがとうございます。 こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。 これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩の…