2025年5月22日・第217回国会 参議院 内閣委員会 第16号（外部サイト、新しいタブで開きます） の 14 番目の発言（外部サイト、新しいタブで開きます）（全 116 発言）
お答えいたします。
おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。
これら、現場に近い側からガバナンスを利かせていき、それが全く効果がないとか、あるいは、そもそもそういうことを考えない企業という不届きな存在が出てこないように国の方できちんとグリップする必要があると。逆に言うと、そういうことをきちんとやれる優良企業に対して国が余りその行動を制約すべきではないというふうに考えているので、法律の在り方もそのように設計すべきだというふうに考えているということでございます。
以上です。
11
山本啓介(自民)
ありがとうございました。 それぞれの参考人におかれましては、本日の出席はもとより、これまで、お話を伺えば、長年にわたってこの分野で政府又はそれぞれのお立場で大変な御尽力をいただいておることがうかがい知れました。改めて心からの敬意を表したいと思います。 その上で質問をしていくのは、この法律案の中身について今参考人の方々からお話を伺ったことを質疑していくわけですけれども、非常にちょっと興味の湧く話ばかりだったので、法案を離れて興味本位で聞いてしまわないように何とか戒めていきたいんですが、ただ、時間は限られておりますので、ちょっと大変失礼な物言いですけれど…
御質問ありがとうございます。 直近のリスク、ＡＩに係るリスクという御質問ですが、これはやはり多様なものがあります。 ＡＩのリスクというときに、私はいつも考えているんですけど、ＡＩを使って、いろんな分野で使われるんですけれども、ＡＩだけのリスクではなかったりするかなというふうに思っています。 その前提でお話をすると、世界的には、今、先ほど言った①のところですね、先端的なＡＩというのが今後、将来怖いんじゃないか、そのために規制をしなきゃいけないというのがやはり世界的には大きな課題です。 一方で、現実でも、今後、怖いというよりもリスクが生じているという…
13山本啓介(自民)
ありがとうございます。 そういったリスクについても、しばらくするともう過去の考え方になってしまう可能性もあるというところも先ほどの説明で十分分かったんですけれども、基本的にやはり人間が開発して考えていくものでありますので、人間が取り得る対応というのは、これを一つの技術として取り続ける以上はさほど大きな脅威にならないのかなと。しかしながら、しかしながら、やはり物理的なものにつながったり、あと、オートマチックに判断を行う、そういったものを作ったならば、恐らく脅威になっていくのかなというふうなことは感じました。 今回の法律の中身というのは、日本のＡＩ開発、…
お答えいたします。
おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。
これら、現場に近い側からガバナンスを利かせていき、それが全く効果がないとか、あるいは、そもそもそういうことを考えない企業という不届きな存在が出てこないように国の方できちんとグリップする必要があると。逆に言うと、そういうことをきちんとやれる優良企業に対して国が余りその行動を制約すべきではないというふうに考えているので、法律の在り方もそのように設計すべきだというふうに考えているということでございます。
以上です。
15山本啓介(自民)
ありがとうございます。 そうする場合、ややもすると少しビジネス先行になっていく、経済的なものがうまくいけば国の発展に資するというところが先行し過ぎると、こういう国民生活や国の安全保障に関係する事柄については少し結果と異なるものになってしまいがちかなと。 先ほど少しアメリカと日本の状況についてお話しいただいたときに、我が国においてはなかなか、巨大ＩＴ企業というのはほとんどアメリカのもの又は海外のものが多くありますと。それらをビジネスのテーブルで議論すると、撤退されたり打切りをされたりというふうな、アメリカ側の判断というものに委ねなきゃいけないところが、…
お答えいたします。 まず、そのとおりだと思っております。 そして、まず巨大ＩＴ企業には、やはり一億二千万人がいる巨大市場としての日本というものに真面目に向き合うインセンティブはあるはずであります。また、我々が彼らのサービスを安心して使えば使うほど彼ら自身がもうかるという、共存共栄の関係が本来はあるはずであります。それを我々も信じているし、だから我々に誠実に向き合っていただきたいというメッセージを発することがまず重要なんだと思っております。 ただ、安全保障についてはちょっとそのような共存共栄の関係とは違う側面が出てこようかと思いますので、それについて…
17山本啓介(自民)
ありがとうございます。 そういった取組を世界に発信していくにおいても、今回この法律の中に定められている、内閣総理大臣を本部長として全閣僚を構成員として置いているＡＩ戦略本部の位置付けであるというふうに私も理解しています。 ただ、安全保障の観点と経済的なビジネスの世界とを、それらをおいても、やはりこのＡＩの技術というのは我々の生活や物事の考え方を大きく変化させる。先ほど少し市川さんのときも話しましたけれども、物理的な行動や自動的な判断をＡＩに委ねなければ、人類に対する影響はさほどないだろうというふうに私は思っているんですけれども、ただ、そのＡＩの判断が…