参議院 内閣委員会 第16号
2025年5月22日・116 発言・国会会議録で会議の全文を見る（外部サイト、新しいタブで開きます）
発言の全文
令和七年五月二十二日（木曜日） 午後一時開会 ───────────── 委員の異動 五月二十一日 辞任 補欠選任 奥村 政佳君 三上 えり君 河野 義博君 窪田 哲也君 ───────────── 出席者は左のとおり。 委員長 和田 政宗君 理 事 磯崎 仁彦君 酒井 庸行君 山本 啓介君 木戸口英司君 竹谷とし子君 委 員 青木 一彦君 石井 浩郎君 今井絵理子君 太田 房江君 友納 理緒君 山谷えり子君 石垣のりこ君 石川 大我君 鬼木 誠君 三…
1
和田政宗(自民)ただいまから内閣委員会を開会いたします。
委員の異動について御報告いたします。
昨日までに、河野義博君及び奥村政佳君が委員を辞任され、その補欠として窪田哲也君及び三上えりさんが選任されました。
─────────────
2
和田政宗(自民)人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。 本日は、本案の審査のため、四名の参考人から御意見を伺います。 御出席いただいている参考人は、独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長村上明子さん、一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査・日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル永沼美保さん、慶應義塾大学法学部法律学科教授大屋雄裕君及び一橋大学イノベーション研究センター特任教授・東京科学大学データサイエンス・ＡＩ全学教育機構特任教授市川類君でございま…
ありがとうございます。 ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。 では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。 まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。 私は、先ほど申し上げましたＡＩセーフティ・インスティテュートの所長をしております。そして、民間の立場もございまして、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフ・データ・オフ…
4
和田政宗(自民)ありがとうございました。
次に、永沼参考人にお願いをいたします。永沼参考人。
ありがとうございます。 経団連のデジタルエコノミー推進委員会で国際戦略ワーキンググループというのがございまして、そちらの主査を務めております永沼でございます。本日はよろしくお願いいたします。 経団連として本日意見を述べさせていただきますが、同時に、私は、日本企業である日本電気株式会社においてＣＤＯ Ｏｆｆｉｃｅというものが今年から新設されておりまして、このＣＤＯはチーフ・デジタル・オフィサーでございます、このデジタルに関する内容に関して、弊社のＣＤＯ、これは当然、役員級の、副社長級の者が入っているところで、やはりこれから議題になってまいりますこのＡＩ…
6
和田政宗(自民)ありがとうございました。
次に、大屋参考人にお願いいたします。大屋参考人。
慶應義塾大学の大屋と申します。本日はこのような機会を与えていただきまして、誠にありがとうございます。 以下、審議の対象となっている人工知能関連技術の研究開発及び活用の推進に関する法律案に対する若干の意見を述べさせていただきます。 まず初めに、私自身について若干の御説明をすることをお許しください。御紹介いただいたとおり、私は法学部法律学科に所属する教員ですが、実定法学を専門にしている者ではなく、基礎法学に属する法哲学という分野を専攻しております。これは、憲法や民法といった特定の実定法を前提にして、その解釈について議論するのではなく、そもそも法とは何か、…
8
和田政宗(自民)ありがとうございました。
次に、市川参考人にお願いいたします。市川参考人。
御紹介ありがとうございます。一橋大学、東京科学大学で特任教授をしております市川と申します。 まず、参考人としてお招きいただきまして非常に光栄に存じます。 私は元々は、長らく霞が関で役人をやっておりまして、役所の中でもずっと長らく技術とかイノベーション政策に取り組んでおりました。その中では、デジタルとかＡＩ技術もその際にもやっておりました。その関心が高じて、今では大学でイノベーションとかＡＩ政策に係る教育研究に取り組んでいると、こういう立場でおります。 私のそのイノベーション政策の関心といいますと、どういった研究開発をやるかというよりは、むしろ、社会…
10
和田政宗(自民)ありがとうございました。
以上で参考人の御意見の陳述は終わりました。
これより参考人に対する質疑を行います。
なお、質疑及び答弁は着席のままで結構でございます。
質疑のある方は順次御発言願います。
11
山本啓介(自民)ありがとうございました。 それぞれの参考人におかれましては、本日の出席はもとより、これまで、お話を伺えば、長年にわたってこの分野で政府又はそれぞれのお立場で大変な御尽力をいただいておることがうかがい知れました。改めて心からの敬意を表したいと思います。 その上で質問をしていくのは、この法律案の中身について今参考人の方々からお話を伺ったことを質疑していくわけですけれども、非常にちょっと興味の湧く話ばかりだったので、法案を離れて興味本位で聞いてしまわないように何とか戒めていきたいんですが、ただ、時間は限られておりますので、ちょっと大変失礼な物言いですけれど…
御質問ありがとうございます。 直近のリスク、ＡＩに係るリスクという御質問ですが、これはやはり多様なものがあります。 ＡＩのリスクというときに、私はいつも考えているんですけど、ＡＩを使って、いろんな分野で使われるんですけれども、ＡＩだけのリスクではなかったりするかなというふうに思っています。 その前提でお話をすると、世界的には、今、先ほど言った①のところですね、先端的なＡＩというのが今後、将来怖いんじゃないか、そのために規制をしなきゃいけないというのがやはり世界的には大きな課題です。 一方で、現実でも、今後、怖いというよりもリスクが生じているという…
13
山本啓介(自民)ありがとうございます。 そういったリスクについても、しばらくするともう過去の考え方になってしまう可能性もあるというところも先ほどの説明で十分分かったんですけれども、基本的にやはり人間が開発して考えていくものでありますので、人間が取り得る対応というのは、これを一つの技術として取り続ける以上はさほど大きな脅威にならないのかなと。しかしながら、しかしながら、やはり物理的なものにつながったり、あと、オートマチックに判断を行う、そういったものを作ったならば、恐らく脅威になっていくのかなというふうなことは感じました。 今回の法律の中身というのは、日本のＡＩ開発、…
お答えいたします。 おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。 これら、現場に近い側からガバナンスを利かせていき、それが全く効…
15
山本啓介(自民)ありがとうございます。 そうする場合、ややもすると少しビジネス先行になっていく、経済的なものがうまくいけば国の発展に資するというところが先行し過ぎると、こういう国民生活や国の安全保障に関係する事柄については少し結果と異なるものになってしまいがちかなと。 先ほど少しアメリカと日本の状況についてお話しいただいたときに、我が国においてはなかなか、巨大ＩＴ企業というのはほとんどアメリカのもの又は海外のものが多くありますと。それらをビジネスのテーブルで議論すると、撤退されたり打切りをされたりというふうな、アメリカ側の判断というものに委ねなきゃいけないところが、…
お答えいたします。 まず、そのとおりだと思っております。 そして、まず巨大ＩＴ企業には、やはり一億二千万人がいる巨大市場としての日本というものに真面目に向き合うインセンティブはあるはずであります。また、我々が彼らのサービスを安心して使えば使うほど彼ら自身がもうかるという、共存共栄の関係が本来はあるはずであります。それを我々も信じているし、だから我々に誠実に向き合っていただきたいというメッセージを発することがまず重要なんだと思っております。 ただ、安全保障についてはちょっとそのような共存共栄の関係とは違う側面が出てこようかと思いますので、それについて…
17
山本啓介(自民)ありがとうございます。 そういった取組を世界に発信していくにおいても、今回この法律の中に定められている、内閣総理大臣を本部長として全閣僚を構成員として置いているＡＩ戦略本部の位置付けであるというふうに私も理解しています。 ただ、安全保障の観点と経済的なビジネスの世界とを、それらをおいても、やはりこのＡＩの技術というのは我々の生活や物事の考え方を大きく変化させる。先ほど少し市川さんのときも話しましたけれども、物理的な行動や自動的な判断をＡＩに委ねなければ、人類に対する影響はさほどないだろうというふうに私は思っているんですけれども、ただ、そのＡＩの判断が…
第一に、これまでその努力はしてきましたし、それなりの成果は上がっているというふうに認識しております。第二に、それはできるかできないかというより、やらねばならぬことだというふうに私自身は認識をしておるということでございます。
19
山本啓介(自民)ありがとうございます。 その上で、やらねばならぬの、まあ経団連の代表でといったらおかしいでしょうけれども、経団連の代表でお見えいただきました永沼参考人にお尋ねしたいんですけれども、健全な競争能力というのは維持しながら、開発、提供、利用というこの三つを今後やっぱり進めていかなきゃいけない。しっかりとした取組があるからこそ、そしてそこに安全保障の観点も入れながら、さらにはしっかりとした人材を確保しているからこそ国際的な信用というのも高まっていくんだと思います。 国内においてこういった取組が確立していく先に国際社会においてのルールメーキングのリーダーともな…
ありがとうございます。お答えをいたします。 今おっしゃったとおりでございまして、やはり民間も我々の、まあガバナンスというところが、今回ＡＩのガバナンスという言葉、いろいろ各所で出てきておりますが、やはり自主的に我々が自分たちを律していく、その中の共通のガイドラインというか、するべき指針といったようなものにやっぱり従っていく、その中で、それに準拠した形で、我々は基本的にルールを社内の中にも、組織の中にもルールを持って運用するというところがまず必要になってくるというのが、最初の前半部分のところに私の方でも賛同する点でございます。 それからもう一つ、御質問…
21
山本啓介(自民)ＡＩに関してもそうでありますし、デジタルの技術もそうでありますけれども、もうそんなに新しいものではなくて、長い年月掛けて各国が取り組んでいて、民間においては、非常に大きな巨大ＩＴ企業などにおいては、もう更なるデータの更新というか、どんどん技術の更新が行われていくわけですけれども、そういう取組の中においても、なおかつ今日御出席の参考人の方々は、こういったルールについてはまだこれからなんだと、日本の取組についてはまだリーダーとしてもやっていけるんだと、これからこの世界観においてはしっかりとしたルールメーキングをやっていく必要性があると。そこにおいてのビジネス…
ありがとうございます。 こちらについては、特にルールメークというところの観点でのお話もあったと思うんですけれども、ルールの形成は幾つかのレイヤーがあるというふうに捉えております。 非常に我々と同じ方向を向く方々との議論であったり、それから民間同士の話であったり、あるいはもっとハイレイヤーな話、例えば国際連合であったりとかそういったようなところでも、いろんなフレームワークとかそういったようなところがやはり議論をされていく中で、やはり、我々民間も含めてでございますが、何が基本的に譲れないものであるかと、ここだけは、この部分というところは担保されなければな…
23
山本啓介(自民)時間がなくなってまいりました。 最後に満を持して、満を持しているのはこっちなんですけども、村上参考人にお尋ねしたいと思いますけど、説明というか、お話の最後の辺りにダイバーシティーという言い方があったですかね。やはりこれは、この世界観においてはまだまだ常識がないということであれば、間違った常識がそこで確立されたならば、人類というのは物理的なものを介さなくてもやはり影響を受けるんだと私も思います。多くの論文を発出している大学のものが検索に引っかかりやすいように、そういう世界観ではあるんだと思います。 そういったことを踏まえて、このガードレールとなるものを…
お答えいたします。 今、ダイバーシティーというところ、今回の御説明の中では、女性の母数を増やす中での女性の拡大というところで取り上げさせていただきましたが、女性というのはダイバーシティーの一部でしかないというふうに考えています。 ＡＩの開発というのは、二〇一〇年代に開発者が三十代の白人男性しかいないということが非常に問題になっていました。参考人のどなたかが例に出されていた黒人の差別的なＡＩのシステムができたというところも、そういったことが原因で起きています。 そういったそのＡＩとしてつくられたものがリスクがあるかどうかというのは多様な見方がありまし…
25
山本啓介(自民)何か箱庭みたいなものを作っていくような世界観を持っていたんですけれども、やはり人間がつくるというもの、人間が駄目なものはＡＩでも駄目だというところは譲れないし、私ども日本人というのは非常に謙虚な国民性もあります。それこそが世界でやはりルールメーキングしていくにふさわしい立ち位置かなというふうに感じました。
ありがとうございました。終わります。
26
石垣のりこ(立憲)立憲民主・社民・無所属会派の石垣のりこと申します。 本日は、四人の参考人の皆様、それぞれのお立場から貴重な御意見、誠にありがとうございました。 今回の法案、そして、昨今、このＡＩを取り巻く様々な話題、ニュースなどを見聞きしておりまして、私、ロボットを研究することは人間を深く知ることだという、このアンドロイドサイエンス、ロボット研究者の一人者の方がおっしゃっていた言葉を思い出すんですけれども、このＡＩ開発においても、ニューロンの数理モデルですよね、脳神経系を基にしてということもありまして、これ基本は、このヒューマンアンドロイドサイエンスにも通じるという…
ありがとうございます。 これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いなのかなというふうに思っています。 ちょっと御質問の趣旨とは違うかもしれないんですけど、ＡＩができないことというより、人間がＡＩに対しての感情の障…
ありがとうございます。 私も技術の会社におりまして、ほとんどの者が技術の開発者であったりエンジニアの方々でありますので、彼らはいろいろとやりたいというところもあるし、あるかと思いますが。 ＡＩにはなかなか取って代われないような職業とか、そういった話は昨今いろいろなところであると思うんですけれども、今日のお話のところで一つ、恐らくここはないだろう、人間の関与は絶対に必要になるのは、やはり先ほどから出ているルールメークの部分でございます。 ここの部分というのは、やはり交渉事があると同時に、これは官でも民でもどんなレベルでもそうだと思いますが、我々はコロ…
お答えいたします。 ＡＩというのは、特定の評価基準を前提としたときに、それをより効率的に実現する機械だというふうに言えようかと思います。したがって、あらかじめ評価基準が定まっているチェスや囲碁、将棋といったゲームでは、これは人類の大方をとっくに追い越してしまったということになるわけです。 ところで、例えば現代アートというのはそういうものではなくて、むしろ新たな評価基準を提案する、そういう営みであります。あるいは、法解釈、私の専門領域について申し上げますと、例えばこれまでの判例があるのでそれに沿って判断するという比較的機械化できそうな部分も当然あるわけ…
御質問ありがとうございます。これまでの皆様の、参考人とほぼ同じような答えになってくるとは思いますが。 やはりＡＩというのは、基本的には、工学的に見ると、目標を与えてそれに対して回答する話です。その中で、こういうふうにしたらこういう感情を返せとか、こういうふうに怒っている顔をしろとか、目標を入れれば何でもできるんですけれど、それが本当の感情かという話と、先ほど、例えば最適化をする際に何を最適化するかという目標を入れなきゃいけないんですけど、やはり人間の感覚でいうと、今までどおりの平均値の答えを出してくださいとやれば出るんですけど、これがやっぱりいいよなと…
31
石垣のりこ(立憲)四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。 それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。 市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかとい…
ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術…
ありがとうございます。 イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。 今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉…
ありがとうございます。 我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。 そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない…
御質問ありがとうございます。
今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。
以上です。
36
石垣のりこ(立憲)度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。 今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。 一方で、これまでの議論を振り返っ…
ありがとうございます。 おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。 これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。 ただ、この技術の方向性は、私自身の評価としては余り明…
ありがとうございます。 こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。 これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩の…
39
石垣のりこ(立憲)ありがとうございます。 大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。 たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。 先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこう…
ありがとうございます。お答えいたします。 ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしま…
41
石垣のりこ(立憲)ありがとうございます。
それぞれの参考人の皆さんから非常に貴重なお話を伺うことができました。
ＡＩに使われるのではなく、あくまで人間中心で、私たちがＡＩを活用して、より私たちのこの暮らしのクオリティーを上げていくということに資するものでなければならないというふうに私も感じますので、今日いただいたお話を参考に、人間疎外にならないＡＩ技術の推進、この立法府としてどのように取り組んでいけるか、お話を参考に取り組んでいきたいと思います。
ありがとうございました。
42
竹谷とし子(公明)公明党の竹谷とし子でございます。 四人の先生のお話を伺いまして、大変勉強になりましたし、また興味深い点が多々ありました。ありがとうございます。 まず、村上参考人に伺いたいと思います。 日本がイノベーション進まなかった理由として、前例踏襲、保守的な日本企業、まさにそうだなということを思いましたけれども、ＡＩの安全性を担保すれば利活用とイノベーションはできるだろうと、本当にそうだなということも思いました。 国及び自治体、行政側でも活用していこうということでこの法案の中でうたわれておりますけれども、自治体、私、東京なんですけれども、東京の各自治体でも、…
ありがとうございます。 御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。 〔委員長退席、理事磯崎仁彦君着席〕 私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導し…
44
竹谷とし子(公明)ありがとうございます。 続きまして、大屋先生に伺いたいと思います。 〔理事磯崎仁彦君退席、委員長着席〕 法哲学ということで、大変興味深く聞かせていただきました。事前に配付を、提供をいただきました先生の論文ですね、「ＡＩによる危機、ＡＩをめぐる危機」ということで、こちらももう十分そしゃくできているか分からないんですけれども、非常に深い洞察をお示しいただきました。 この中にプロファイリングの問題ということで御紹介をいただいております。信用情報も具体の例に挙げていってくださっておりますけれども、本当にＡＩによるものじゃなくても、この信用機関というかの信…
お答えいたします。ありがとうございます。 まず、例えば信用情報につきましても、これまでに存在してきた金融機関は、例えば事故情報を基に信用を計算しておりますし、それについては情報開示のシステムがございまして、本人がひょっとしておかしいのではと思ったら確認をすることができる、あるいは訂正の申立てができるということになっております。しかし、ＡＩの発展によって、そのような統制を受けていない業者あるいは業態というものが生まれてくる。それを一つのリスクとして考えていかなければいけないというふうに考えておるということが第一であります。 もう一つは、ＡＩというのはそ…
46
竹谷とし子(公明)ありがとうございます。 ＡＩは便利なんですけれども、間違えることもあるし、いろんな問題があるというふうにも思っています。 ある人が、国会質疑にＡＩ使う人をどう思いますかとＡＩのある製品に聞いたら、そういう国会質問に使っちゃうというのは、何というんでしょうか、ばかにして、笑っちゃうねという感じで言っていたということを言われまして、ああそうなんだなと、それぐらいのつもりで使いこなしていくというのが人間には、人間中心のＡＩなんじゃないかなというふうに感じたところでございます。ありがとうございます。 次に、永沼参考人に伺いたいと思います。 この制度運用に…
ありがとうございます。 開発者、それから提供者、また利用者といったところがＡＩのところには、事業のところには出てくると思うんですけれども、まず、引渡しをして、それぞれの、まずタスク部分のところで何をするかというところもありますけれども、それぞれに、この間のところがどのように線引きがされるのかというところがＡＩのときにはもう少し明確になっていく必要もございます。 ここのところで申し上げているこの責任分担の明確化というところは、今、具体的にしてここのところをこう変えてというところではないんですけれども、今あるこの三者、特にここのところでは開発者、提供者と…
48
竹谷とし子(公明)ありがとうございます。
また、③番目の国際的整合性の確保というところで、ＡＩの国際ルール形成への関与を強化すべきということで御提案いただいております。
本当にこれとても大事なことだというふうに思いますけれども、こちらどのような方法が考えられるか、また、それをいかに政府として後押しをしていくことができるかということについてもお考えを伺えればと思います。
ありがとうございます。 国際的な整合性というところとルール形成というところ、ここは、実は本日の四名の参考人のところで皆共通の部分であったと思いますが、まず、基本的にルール形成は幾つかのレイヤーがやはり出てくるというところがございます。 その一つの例として広島ＡＩプロセスというところが今回はよく出てきていると思いますし、私のところで国際の標準化と、少し技術のレイヤーに落としたところでもありますし、また、本当に全世界で促進をしていくような大きなその枠組みの話といったような部分があるんですけれども、やはり、その全てとは言いませんけれども、そういう場に日本の…
50
竹谷とし子(公明)ありがとうございます。
続きまして、市川参考人に伺いたいと思います。
先ほども中高年者へのリテラシー教育ということでお伺いを大屋先生にもさせていただきましたけれども、市川先生の資料の最後のところでも、やっぱり中高齢者への積極的リスキリングということで明示をしていただいておりまして、これどういうふうにやればいいかということについて御意見を是非伺いたいというふうに思います。
御質問ありがとうございます。 書いてみたものの、なかなか難しい課題ではあるなと、こういうふうに思っています。 やはり、ただ、全体的に申し上げますと、やはり今、もう若手をＡＩ人材、教育していくだけではなくて、日本国民全体としてこのＡＩの時代をやっていく、をつくっていく、社会をつくっていく際には、もちろん強制はしないんですけれども、ＡＩを使うと、もっといい生活、それは子供たち等も含めていい生活が送れるよという雰囲気づくりをまずしていくという、こういうことが重要かなというふうに思います。 その中で、やはり今でいうと、オンラインでの、オンデマンドとか、そう…
52
竹谷とし子(公明)陰謀論が結構ネット上であるんですけれども、一説によると、中高年の方ほど陰謀論にはまりやすいというような御指摘もありまして、ＡＩを使って、この陰謀論にはまっている人から、もうちょっと視野を広げていただけるような、そういうこともやると一石二鳥なのかなというふうにも思っているところでありますけれども、非常にこの中高齢者の方々に知っていただくというのが、経営者も、二代目と初代と今すごく考え方がいろんな面で違っていて、やっぱり初代の御高齢の方々にいろんな新しいことを知っていただいて、共通の言語ができるとまたイノベーションも進んでいくと思うので、非常にここは大事なと…
ありがとうございます。 ＡＩ人材だけではなくて、ＡＩの利用人材におけるダイバーシティーというところでございますけれども、これは、私からの個人的な意見としては、やはり業務で今ＡＩを使うということと、あと、普通の市民生活でＡＩを使うということ、両方今進んでいます。 正直、ちょっと、私は日本の企業におりますけれども、企業よりも皆さん生活で使われている方が進んでいるというところになります。そうなると、生活者としては、実は女性と男性は余り差分なく、あるいはいろいろなものに興味を持つという観点では、もしかしたら女性の方が積極的に使っている可能性もあるなと思います…
54
竹谷とし子(公明)ありがとうございます。
終わります。
55
柴田巧(維新)日本維新の会の柴田巧です。 今日は参考人の方々にはお忙しい中御出席いただき、また、それぞれのお立場から貴重な御意見を頂戴しましたこと、感謝を申し上げたいと思います。これからの法案審査にまた生かしていきたいと思っております。 四人目になると、お聞きしたいこと、かなりもう言われているところがあるので、重なる部分もあるかもしれませんし、重ねて詳しくお聞きをしたいというところがあるかも、出るかもしれませんが、よろしくお願いをします。 まず最初に、村上参考人にお聞きをいたします。 今日、お配りいただいたこの資料の中にもございますが、最後の方に、国としてのＡ…
ありがとうございます。お答えいたします。 まず、その人材、一般的に男女関係なくＡＩ人材をどう増やしていくのかというところでございます。一見矛盾しているように思われるんですけれども、理系、文系という考え方があるのは世界的に見ても日本だけなんですね。理系的、サイエンスといったときに、いろいろな学問を勉強した上で自分の強みというものに、その工学であるとか理学というものを専攻するといったものが大学の勉強のところでは一般的になっています。 ＡＩというのは、技術的なことももちろんそうなんですけれども、本当に深い、深層学習の数学のレイヤーよりも少し上の部分というの…
57
柴田巧(維新)ありがとうございました。私は典型的な私学文系だったので、大変今刺激を受けたというか、ちょっと人生後悔をしたりしましたが、ありがとうございました。 次に、続いて村上参考人にお聞きをしますけれども、今回のこのＡＩ法案の中には、国としてのＡＩの戦略を明確化するために人工知能戦略本部というのをつくるということになって、これへの期待を示していらっしゃったかと思いますが、私は、本当に大丈夫なのかなとちょっと心配をしているというか、懸念をしていまして、この前の委員会でも大臣にもお尋ねをした経緯があるんですけれども、今もたくさん科学技術関係では何とか戦略本部というのは…
ありがとうございます。 私は、ＡＩセーフティ・インスティテュートの所長としてこの戦略本部に対して非常に期待もしておりますし、一方で、おっしゃられたような不安というものも感じているところでございます。 ＡＩは、全てを理解しようと思うと、私のような技術者出身でも全ての技術というものを今理解しているかというと、私は残念ながら、それはお答えとしては違うというふうにお答えせざるを得ません。これ、世界広しといえど、全てのＡＩの技術を網羅して理解している方というのはいらっしゃいません。 一方で、技術を理解しないとＡＩの施策がつくれないかというと、私はそれは違うと…
59
柴田巧(維新)ありがとうございました。 続いて、永沼参考人にお聞きをしたいと思います。 永沼参考人も先ほどのお話の中で、高度なＡＩ人材育成を推進をというお話をされました。まさにそのとおりだと思っていますが、改めて言うまでもありませんが、この前も日経新聞に、一月二十八日ですかね、出ておりましたけど、ＡＩのトップ研究者が集まる国際学会で採択された論文が、アメリカ、中国に続いて、アジアからシンガポールと韓国が上位に行くと。日本はどんどん下がっていくという中でありまして、それぞれシンガポールも韓国もいろんな設備を設けたり力を入れているわけで、やはり高度な人材を育成するため…
ありがとうございます。 こちらについては、日本の現状を申し上げますと、やはり優秀な方は、まあ条件その他もあると思いますけれども、やはり進んだことをやりたい方は進んだことをやらせてくれるところに行きますし、やはりその雇用の条件というところが出てきますので、それが我々民間だけで解決できるかというところの現状もございます。 ですから、今おっしゃっていただいたような形で何らかの施策を打っていただくと同時に、我々、やはり少し、日本の中でこういう人材をどういうふうに育成できるかという、そういうところを官民で考える必要はあると思っております。条件良くすれば来てくれ…
61
柴田巧(維新)ありがとうございました。 続いて、永沼参考人にまたお聞きをしますが、先ほどのお話の中でも、過度な規制の回避ということを指摘をされました。過度な規制はやはり回避されてしかるべきだと思っていますけれども、今回のこの法案ではその規制というものに特に今のところあれですけれども、これはある意味、これは片山、隣の議員も本会議で触れていましたけど、ＥＵなどに比べて緩くすることで日本に多くのＡＩの研究開発を呼び込みたいという考えがあるのではないかなと思ったりもするわけですけど、ただ、これ緩めた場合に、厳しいＥＵに準拠したＡＩは引き続き海外で研究開発が行われていくと、で…
ありがとうございます。 私ども、先ほどこちらについての見解は述べさせていただいておりますが、緩めたという見解では実はございませんで、経団連として、こちらの方の参考資料の方に入っているんですけれども、多くの方からの意見として、メンバーのところで、やはり規制が今ないわけではないと。つまり、我々は、現行の規制があって、そこはＡＩであろうが人であろうが何であろうがというところでの一定の閾値があると。その中で、今回このＡＩのリスクというところに対して、国として司令塔ができて、そこのところに民間のところが報告をしていく、あるいは官民連携をするというような一つの体裁…
63
柴田巧(維新)ありがとうございました。 もう一点、ちょっとお聞きを、経済界代表ということもおありかと思いますので。 このＡＩの研究成果の社会実装をやっぱり効果的に促進していくというのは非常に重要なことだと思っていまして、そのためには、社会へ橋渡しする仕組みが大事なんだろうと思います。 そのためには、この産学連携の共同研究であったり技術移転の促進であったり、あるいはスタートアップ企業の創業支援などがこれから重要になるものと思いますが、特にこういうものがあればその社会実装が進んでいくんじゃないか、効果的に進むんじゃないかというものがあれば、教えていただければと思いま…
ありがとうございます。 ここがまさにずっと何度も繰り返しておりますイノベーションとリスク対応のバランスというところなので、逆に日本のアプローチは、やらないでというベースがあって、そこのやってはいけない、やれるところの中でどうするというアプローチに今なっているわけではなくて、逆に、やってはいけないことというのがあって、それから、これから先にやるべきではないであろうということも出てくるとは思いますけど、そこの余地の中でイノベーションを促進をしていくというのが一つ大きな考え方でありますので、考え方のベースのところはやはりそこだと思っています。 その上での官…
65
柴田巧(維新)ありがとうございました。
次に、大屋参考人にお聞きをします。
今日いただいた資料、というか前に、事前に事務局からもらった資料の中に、この法案は次世代を育てる視点がないと、達していないということをおっしゃっていまして、具体的にこの研究者、組織を国主導で支援しなければならないということを指摘をされていますが、ちょっと時間が余りないので大変申し訳ありませんが、特にこれをやるべきだと、足りないというところがあれば、教えていただきたいと思います。
ありがとうございます。 法案に書かなくてもいいといえばそのとおりなのですが、要するに、人工知能関連技術の開発あるいはその研究に積極的に予算を付けるであるとか、そのような教育部門の増設に対する支援を行うであるとか、あるいは、それこそ例えば永沼参考人もおっしゃいましたけれども、研究者の待遇には現状額面では少なくともアメリカと日本の間に大きな格差があるわけで、それを事業者の自助努力でカバーできるかと言われると、限界があると。そこを例えば国が支援するといったこともあり得べきスキームだとは思うところですね。そこには法案としては踏み込んでいない。もちろん、これらは…
67
柴田巧(維新)ありがとうございました。
最後に、市川参考人にお聞きをしたいと思います。
先ほど戦略本部のこと、村上参考人にもお聞きをしましたが、やはり今の、これまでどおりだったら目的は達せられないと思っていまして、このＡＩの戦略本部はどうあるべきか。併せて大事なのは、事務局体制が極めて、ここにも書かれていますが、極めて大事で、この事務局体制をどう充実させていくか、これが一つ肝になるのではないかと思いますが、先ほどお触れになった部分もありますが、教えていただければと思います。
私も、役人経験者として言うと、やはりこういった戦略本部においては、ちゃんとその専門的能力を持った、かつ、その役人としてやるべき業務のやり方を知っている人材が常時いるということが非常に重要かなというふうに思っております。 その際には、やはりまず、今、ＡＩ関係、ちょっとこういうことを言うとあれかもしれないですけど、政府全体でＡＩ関係が分かる人材というのが、やはり総務省、経産省プラスアルファのちょっとの人材の中しかいないよなというふうなところをまずは抜本的に変えていく。今後、政府でＡＩを取り組むという話でいうと、全ての省庁がもう今後ＡＩを使うわけですから、そ…
69
柴田巧(維新)時間が来ましたので、終わります。
四人の参考人の皆さん、ありがとうございました。
70
竹詰仁(国民)国民民主党・新緑風会の竹詰仁と申します。 今日は、参考人の四人の皆様、ありがとうございます。 初めに、村上参考人と永沼参考人に同じ質問をさせていただきます。 事前にいただいた資料にもあって、今日の御発言にも、村上参考人の御発言にもあったんですけれども、今の一番のリスクは、様々なリスクを恐れる余りＡＩを使わないことだ、ＡＩを使わないということがリスクであるという御発言の中で、今日、お二人は民間出身というか、今もお勤めの方なので、このＡＩを使う使わないでどれほど実際に差が、企業としてあるいは業界として差が生じているのか、あるいは生じるのかということで、…
ありがとうございます。 私の民間としての立場としてこちらお答えさせていただきたいと思います。 私は保険会社でＡＩの促進をしておりますけれども、ＡＩに限らず、技術を使った効率化というものは本当に、一〇％、二〇％ではなくて、五〇％、八〇％といった大きな効率化につながることがございます。その一つのビジネスプロセスを何かＡＩに置き換えるのではなくて、もうＡＩの時代に合わせたビジネスプロセスにする。それで、これは私の会社の例ではございませんけれども、五〇％以上の、財務会計に資するような、そういう効果を出すということがその技術力によってできる時代になってきていま…
ありがとうございます。 同じ質問ですので、私も民間の人間でございまして、経団連としての、ユーザーも含み、開発、提供、ユーザーも含むというところでもあり、私自身がその全てに相当する企業というところから来ておるところからで、デジタルトランスフォーメーション、それからＡＩの利活用という今の時代にあって、これからのモデルと、ビジネスのモデルというところは大きく変換をします。ここのところで、効率化に限らないわけです、雇用の形態も変わり、いろんなところがある中で、やはりここの中で、今、そこのところをやはり乗らないというところになってきたときの影響というのが出るとい…
73
竹詰仁(国民)ありがとうございます。
続いて、永沼参考人と大屋参考人に質問させていただきます。
永沼参考人に事前にいただいた資料の中で、あとは今日の御発言の中にもあったんですけれども、日本独自の強みを生かせる国際指針というのが必要だということなんですが、ちょっとここをもう少し御説明していただきたいのは、その日本の強みを生かせる国際指針という一方で、逆に日本の強みが生かせられないような国際ルールが作られるということはどういったことなのかということを、お二人の御見解をいただきたいと思います。
ありがとうございます。 今日、私の方から何度もお話をさせていただきました国際のルール形成の場への日本の参画というところだと思います。 皆様お手持ちの資料では二十七ページの二の国際的な相互運用性や国際的な指針の準拠のところの部分だと思いますが、日本の強みって何かというと、今日ずっとお話があるように、極端に走っていなくて、もうハードでもなく、でもソフトソフトもないですし、中間のところというところで現行法があり、このＡＩに対しての体制がありと、そこの中でイノベーションとリスクを両立をさせると。かつ、民間側が柔軟にアジャイルに再生をし、自らを律するという体制…
お答えいたします。 国際的な比較調査をいたしましても、日本人というのは、ヨーロッパであるとかアメリカと比べてＡＩに対する警戒感が低いということが示されております。したがって、適切な使い方をちゃんと提案していく限りにおいて、社会がそれを受け入れ、利活用が進むということが期待できます。もちろん、先ほど来問題になっている中高年の教育機会をどう提供していくかという課題はあるわけですけれども、きちんと働きかければ応えてくださるだろうという状況がある。したがって、それを生かして柔軟な効率化が進められるようなガバナンスルールができれば、それは我々にとって有利だろうと…
76
竹詰仁(国民)ありがとうございました。 続いて、市川参考人にお尋ねいたします。 先ほど、ＡＩの戦略本部のこともあったんですけれども、市川参考人の事前にいただいた資料の中に、この後のことだと思うんですけど、国と民間企業、市民団体などを組み込んだアジャイルガバナンス体制の整備、民間での取組を推進するには産業界、学界、市民団体などを含め重層的な意見交換、意思決定を行う体制が必要ですというふうに御示唆いただいているんですけれども、書いてある言葉は理解できるんですけれども、じゃ、具体的にどうするのかなと。例えば、産業界、学界、市民団体を含めというと、それを一堂に会する会議な…
御質問ありがとうございます。 やはり、ＡＩの分野に関しましては非常に、先ほどから村上参考人からもありましたように、いろんな多様な人が集まってやはり意思決定をしていかないと、その価値を決定する部分がございますので、必要だという話になっております。 その中の、もちろん狭い意味でいうと日本でやっているような審議会プロセスもある意味でのマルチステークホルダープロセスなわけですが、その以外にも、やはり、例えばヨーロッパの動きを見ていると、例えば専門家を単にいわゆる学識経験者として検討会の委員に入るだけではなくて、専門家、たしかＡＩだと千人くらいの規模のＡＩの専…
78
竹詰仁(国民)ありがとうございました。 大屋参考人にお尋ねいたします。 先ほど国際指針のガバナンスのことも教えていただいたんですけれども、この生成ＡＩのときに出る一つの意見として、学習されたくない権利、自分はそのデータを出したくない、あるいは何でそんなデータが無断で使われちゃったのかということで、その学習されたくない権利、あるいは自分は嫌だと言ったのに使われてしまった後の補償とか救済とか、そのことはこの法案にはどんぴしゃの言葉は書いていないんですけれども、大屋参考人が考える学習されたくない権利、あるいはされてしまった場合の補償とか救済についてどのようにお考えなのか…
お答えいたします。 まず一つに、学習されない権利を一般的に認めるべきではないと考えます。それは、例えば我々が物を書きます。それは世間の方々からはいろんな御意見があり、御批判を頂戴する、あるいは長大な反論論文を書かれるというようなことはありますが、それを受けて立つことが言論をする者の責任であるというふうに考えております。表現をするということは、それを見られるということは当然含意されているはずだと思うわけですね。したがって、一般的に、それが他者に利用されない権利みたいなものを考えることは困難であると思うわけです。 ただし、一つは、先ほど意見を申し上げた際…
80
竹詰仁(国民)ありがとうございました。 今、大屋参考人からいただいた中でのちょっと関連することを今度は村上参考人と永沼参考人にお聞きしたいんですけれども、官民の連携というのは、私、お互いの補完的な役割で、そんなにけんかする仲じゃないのかなと思うんですけれども、民民という連携というのが本当にあるのかな、この世界にあるのかなと。 逆に、でも、ないと、生成ＡＩというのは、恐らくたくさんのデータが、基になるデータとか情報がたくさんあった方がきっといいだろうなというのは思うんですけれども、そうすると、ちょっと私も、永沼参考人の会社じゃないんですが、別のＩＴ会社の話、ちょっと…
ありがとうございます。 私からは、政府の組織の立場とそれから民間の立場と、両方の立場からお答えさせていただければと思います。 まず、民間での、その民間同士といったときに、今ＧＡＦＡの例出されましたけれども、まず一般的に、ＡＩが加速して自分たちの提供しているものが使われるために協力をし合うということが今のＡＩの会社同士でも起こっていることです。 例えば何があるかというと、ラージ・ランゲージ・モデルという言語モデル、ＡＩのモデルを安全にするために協力して、何がそのＡＩのリスクなのかということを会社の垣根を越えて模索するということはしています。これは、個…
ありがとうございます。 今、村上参考人からもお話がありましたのでちょっと手短にはなりますが、情報共有というのは非常にやはり線引きというものが必要であるということは事実でありますが、やはり個社では、個社で一生懸命やっても業界全体の底上げにならないですとか、やはりその全体を底上げするためにはどうするか。その中で、例えばフレームワークみたいなものがあるといいとか、それからあと、ばらばらな定義みたいなものをみんなで少し考えましょうと、そういったような業界横断の取組というのは、これは通常どおりありますし、そこの部分のところはあってよろしいかと思います。 また、…
83
竹詰仁(国民)参考人の皆様、今日はありがとうございました。
以上で終わります。
84
井上哲士(共産)日本共産党の井上哲士です。 今日は、四人の参考人の皆さん、本当にありがとうございます。 まず、全体に関わって、ＡＩへの国民意識の問題で四人の参考人にそれぞれお聞きしたいんですが、先ほど大屋参考人からはヨーロッパの方が警戒心が強いというお話がありました。市川参考人の事前の資料を見ますと、例えば日本の映画やアニメでは、ＡＩ、ロボット、鉄腕アトムのように友情の対象として描かれているということも言われておるんですけど、一方で、先ほど来出ていますように、世論調査、政府が公表したこの意識調査でいいますと、日本の国民は、現在の規制や、規則や法律でＡＩを安全に利用で…
お答えいたします。 海外と日本と比べるとＡＩに対する障壁が少ないというのは、私も肌感覚ではございますけれども、感じております。やはり、ＡＩの暴走であるとか人権侵害ということを考えるのは、日本の方よりも海外の方の方が多いという印象でございます。 一方で、その安全に使えるのが、安全だというふうに考えているのが一〇％台、規制が必要だと考えているのが七割を超えているというこの現状でございますけれども、こちらは、やはりまずその安心と安全という言葉の定義をこちらで再定義させていただければと思うんですね。安全であるということと安心できるということには少しギャップが…
ありがとうございます。 企業というか、経済界の立場からちょっとお伝えいたします。 政府の役割、それから日本としての安全、安心の考え方というのがあると同時に、今、世界的な一つの流れとしまして、先ほど来から申し上げているガバナンスというものがございます。特に企業、我々のようにサービスを提供するなりの企業ですね、開発者もそうですけれども、その企業は、やはり我々が何を考えていて、皆様に安全な製品、あるいは安心して使っていただけるためにどのような努力をしているか、またどのような仕組みでそれを運用しているのかといったことをきちんと説明をしなさいというのが非常に一…
お答えいたします。 村上参考人がおっしゃった安全と安心の違いということを前提として、二点ほど考えられようかと思います。 一つは、ある種のバイアスがやはり報道から生じるであろうと。つまり、システムというのは異常動作が起きたときだけ報道されますので、かつての体感治安の問題と同じでございます。 事件が起きると報道される、そのために、犯罪は周りで増えているというふうに思う方はそれなりに市民の中で多いわけですが、実は犯罪は統計としては減り続けているわけですよね。このような形で、やはり、詳しくない方ほど、技術的な実情というのを余り理解しないままに不安感が高じて…
御質問ありがとうございます。 先ほども説明した話とこれまでの参考人と重なる部分ございますけれども、やはりまず、海外、特に欧米の方々と、これはＡＩガバナンスとか政策の議論とかに関わっている方たちと話をしてみると、欧米の方で、特に市民団体の方も含めて、やはりＡＩが今後人類を破滅させるのではないか的な発想を持っているのが、日本ではほとんど議論されないんですけど、海外、もちろんニュースとか見ていただいたら分かりますが、海外ではその議論が真面目にされています。そのために、非常に怖いよな、したがってＡＩを規制しなければいけないという話があると思います。 一方、日…
89
井上哲士(共産)指紋認証なんかも含めて今ある問題と、一方で、先ほど来ありますように、非常にデジタル、このＡＩ技術の発展が非常に急速だと。アジャイルで対応するというお話も出たわけですけども、一方で、被害が起きてからでは遅いという議論もあるわけですよね。 例えば、日本の今の個人情報保護法は個人の権利利益の保護を目的とするということで、日弁連などは、非常にこれが余りにも漠としている、もう少しきちっと規定をして、そして、このいわゆる予防的な観点も含めて権利保護の強化やリスクに応じた規制を行って、まあ適切な規制を行うということが必要だという議論があるんですが、これは大屋参考人と…
ありがとうございます。 個人情報保護の世界で申し上げますと、やはり明確な悪用を意図している事業者とか個人がおるということを前提に我々は法規制を考えていかなければいけない、いわゆる名簿屋問題などがそれに当たると思っております。 他方で、ＡＩ技術についていいますと、例えば人類を滅ぼす結果を生み出すようなＡＩを開発しようとする事業者というのがどこにいるかと考えると、余りいなさそうなんですね。先ほど申し上げましたが、やはり基本的には、事業者は、我々が喜んでその事業者の提供するサービスを使ってお金を落としてくれることが大好きなのであって、そのようなウィン・ウィ…
御質問ありがとうございます。 私は個人情報保護法そのものの専門家ではございませんが、やはり技術とこういった権利関係に係る制度という意味でいうと、やはり技術が変わってくるとその制度の在り方も変わってくるのかなと、こういうふうに思っています。 プライバシーに係る議論というのは元々、昔はなくて、一八〇〇年代後半になって新聞とか書籍とかいう技術が出てきたときに、それに対してプライバシーというのが守らなきゃいけないんじゃないかということで、まずは新聞関係の規制として始まり、その後、一九六〇年代ぐらいに、日本でいうと、いわゆるプライバシーのあの有名な判決、ちょっ…
92
井上哲士(共産)ありがとうございます。
国民のいろんな不安の一つに、ＡＩによる人事採用や評価でいわゆるこのブラックボックスやバイアスの問題ということがいろいろ出ております。
先日、私、この問題質問しますと、政府の答弁では、新たな指針で、生成ＡＩが格差、差別を助長するような出力をしないような措置をＡＩ開発者が講じることについて盛り込むことを検討していると、こういうお話で、一般的なお話だったんですけど、そういうものを出力しないようなことをＡＩ開発者が講じるというのは、具体的にどういうことになるのか。これ、村上参考人と永沼参考人、それぞれお願いします。
お答えいたします。 まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。 それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のとこ…
ありがとうございます。 ここは、今お話にありましたように、各社のちょっと戦略というか、その中の内部の話になるところがありますが、一般的な話として考えたときに、各社の中ではやはりそのデータの扱いのところについては、以前の御質問のときにも申し上げましたが、ルールというものをやはり設けております、私どもの中でも。 そのときに、各社の中でその入力データに関して、出力データに関して、その扱いに関してというところのやはりルールにのっとった形でどうしていくかというところが戦略になってくると思いますけれども、そういったところで実はどのくらいのことがやはり決められてい…
95
井上哲士(共産)今の問題も含めて、大体政府はこの間、基本的には既存法とガイドラインを組み合わせて対応と、こういうことなんですが、結局その事業者任せになってしまうんじゃないかという、こういうおそれもあるわけなんですが、ヨーロッパなどでやっているような、いわゆる第三者のチェック体制というのも必要ではないかと思うんですが、これ、村上参考人と大屋参考人、それぞれお願いします。
ありがとうございます。
今、既存法とガイドラインでしっかりと見ていくといったところは、まさにこの法案での指針なんですけれども、例えば人事採用であるとか、そういった人の選別にあるようなものというものに関して一定のガイドラインを設けたときに、そのガイドラインに従っているかどうか、あるいはガイドラインに従っていることを透明性高くしているかどうかということは、何らかの外に分かる形で示すということで対応ができるのではないかなというふうに思っております。
以上です。
ありがとうございます。 各事業者には、基本的には適切な人材を採用したいというインセンティブがあると思います。なので、不合理な差別については競争環境の中で淘汰されていくということが期待できようかと思います。 他方で、ダイバーシティー・アンド・インクルージョンが最も適切な例だと思いますけれども、過去の経緯で例えば男女間に効率の差が生じてしまっているけれども、それは本来不当なのであるというケースがあり得ようかと思います。そのような場合には、逆にＡＩを利用することによって効率的な採用が行われた結果、既存の差別が拡大再生産されるということになりかねないというの…
98
井上哲士(共産)どうもありがとうございました。
時間ですので、終わります。
99
大島九州男(れいわ)れいわ新選組、大島九州男でございます。四人の参考人の皆さん、ありがとうございます。 早速ですが、二点、四人の皆さんにお聞きをしますが、基本理念の中の五に、国際的協調の下に推進することを旨として、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすと。いや、できるのかこれはという素朴な疑問に対してどうお答えになるかということ。 それともう一つは、国の責務を決めるのは、それは当然だろうと。で、ここでまた、国民の責務で、ちゃんと何か国がやることと地方公共団体がやることに協力しなさいと、まあ、従えというふうには書いてないけれ…
まず、一点目の国際協力に対してできるのかというのは、恐らく本日参加している四人の参考人が皆心配しているところというふうに思っております。 私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。同じ人が結構代わる代わる闘っているというところで、ほかの国を見ますとかなり層が厚くなっています。なので、これはもう急務として、その国際的な議論ができる人材というのを育成しなきゃいけない。これは官民両方ですね。民間から、私のように民間から出て協力をする人だけではなくて、官の中にもそういった人材をきちんと育成することは急務だ…
ありがとうございます。 国際協力のところにつきまして、ルールメークというところで本日何度も私の方から申し上げておりますので繰り返しはあれなんですけど、この国際人材ですね。 ＡＩも顕著でございますが、実はここに関しては課題がありまして、やはり民間、私も実はそういった場所に実際に出ておる人間でございます。民間のところ、それから官の方で一緒に連携をしてやっていかなければいけないところ、それから研究分野のところ、いろんな分野のところでとにかく、人数というところもありますし、リソースの人数もありますし、リーダーみたいな方、この主導していく方というものをやっぱり…
二点お答えいたします。 一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。 このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きそ…
御質問ありがとうございます。今までの参考人とほぼ同じ答えになるかと思いますが。 まず、国際協力において主導的なという意味でいうと、やはり日本の戦略は、アメリカのようにデファクト取れるわけでなく、ＥＵみたいにＥＵ・ＡＩ法でブリュッセル効果で世界を支配する、ルールを作るというのもできないので、積極的に国際協力を通じて標準化を進めようとしてきたというのが事実だと思います。その成果がＯＥＣＤのＡＩ原則であり、広島ＡＩプロセス、これは非常に評価が高いですし、今、ＡＩＳＩの国際ネットワーク、村上さんが出ているやつも含めて、積極的に進めているという意味では非常に主導…
104
大島九州男(れいわ)私の認識としては、今、それぞれ参考人、一つ一つの知能ですよね。その知能というのは、今までの経験とか今まで自分がインプットした知識とかそういうところから出てくるわけですよね。 当然、コンピューターもＡＩも、そういうふうに与えられたものでインプットされたやつからアウトプットしていくという。だから、もっとちょっと分かりやすく言うと、働く側の人の声だけをずっと入れていたらこれは労働者の考え方、経営者の声だけずっと入れたらその経営者の考え方、で、これが議論し合うと労使交渉になるみたいなね。でも、要は、その一つのコンピューターの中にそれこそ労働者の声とそして個々の…
ＡＩは機械ですので、例えば一定のデータを学習させて、そうですね、解答例を十個出してみよとか、違うパターンでバラエティーを持たせて百個作ってみろと言われたら作ると思います。
問題は、その中でどれが最も良いとか、相対的に良いという評価をＡＩはなし得ないということで、なので、まさに生成ＡＩとはそういうものなわけですが、作るだけ作らせるというところまではＡＩでいいものが出せる、あるいは少なくともやれることはやれる、それを評価するところがまだ人間にしかできていないというのがお答えになろうかと思います。
106
大島九州男(れいわ)よくＳＦの世界じゃないけども、我々、今回サイバー法案もやりましたと。 じゃ、当然このＡＩ、コンピューターですから、いろんな外から攻撃を受けて、意図せぬそういう脳に変換されていると。我々人間でも、例えば、我々は政党人ですから政党で決まっていることを当然言うと思っていたら、突然何か女系天皇がどうだとかいうようなことを言ったみたいなね、いうような、えっ、何これというような、おかしいんじゃないの、壊れたのみたいなね、いう部分を、これを修復をしていって直していきながらみたいなこともあるんでしょうけど、実際、そういう意図せぬことをやられるというようなことも当然ある…
コンピューター自体は、あるいはＡＩというプログラム自体は、その書かれたとおりにしか動きません。
問題は、我々人間がこう動いてほしいなという思いをプログラムという形で記述するわけですが、そこがパーフェクトではないということですね。つまり、いわゆるバグという問題が起きて、それはコンピューターの誤動作だというふうに我々はつい表現してしまうのですが、プログラムは正常に動作しているんです。人間の表現が間違えたのですね。そのような問題はＡＩについても常に起こり得ます。
108
大島九州男(れいわ)済みません、何かちょっと我々も素人であれなんですけど、ブラックボックス化っておっしゃったですよね、先ほど。何でそれが出たか分からないというような、だから、自分たちはこういうふうな意図でインプットしたんだけど、こういう答えが出てくるというのはちょっと理解に苦しむなというのは、勝手にその人工知能がそこで何か違う思考というか違うものを取り入れてやっていると、そういう認識でいいんですかね、そのブラックボックスというのは。大屋さん。
基本的にはそのようなことでいいと思います。 囲碁の場合のＡＩがまさにそうだったのですが、ルールを与えているわけですね。こういうルールで勝ち負けを判定しますよと。それはＡＩにトライアル・アンド・エラーを自動的に何度も何度もやらせたわけであります。そうすると、これまでの人間のいわゆる定石では発見されていない手法というのが発見されたというようなことがございました。この場合は、基準を与えていて、基準に対して最適化しなさいよという人間の意図は伝わっているわけですね。ただ、それはきっとこういう動作になるであろうなという我々の予想とは違う結果が出ていたわけであります…
110
大島九州男(れいわ)引き続きあれなんですが、ＡＩを使って今軍事目的でドローンで飛ばして攻撃していると、当然そのプログラムはこの目標に向かって行きなさいといって出すわけですけど、それを何らかの形で違う方向へ持っていくということもできるわけですよね。じゃ、それがブラックボックス化されて、今言うように勝手に、インプットは、我が国のために、平和を守るために君たちは頑張るんだぞというインプットであったと、ところが、それが何か違う意図せぬ国のところに例えば飛んでいったと。でも、それはＡＩからすると、いやいや、自分たちの国を守るためにそこを攻撃したんだみたいなことも起こり得るという、そう…
二つの事案があろうかと思います。 一つは、おっしゃった例の一つは、サイバー攻撃があったようなケースで、本来学習させたもの、あるいは利活用者が意図していたのとは違う目的が勝手に注入されたと、こういう形でのアタックを受けることによってシステムが乗っ取られる危険というのは当然ございます。これについては、したがって、結果をちゃんと検証して、ドローンの場合であれば、多分違った方向に行ったのが目に見えますので、その時点でシステムをシャットダウンして、安全回復、安全確保措置を講じるみたいなことが要請されることになります。 それとは別に、先ほどのバグと同じなのですが…
112
大島九州男(れいわ)ということは、まとめますと、生命を危険に冒すような機械というかそういうものにＡＩを今使ってやっていくというのは時期尚早であるし、安全性がまだ確保されていないので、それは慎重というよりはやめた方がいいですよという、そういう認識でいいですか。
安全確保措置が十分に講じられていれば大丈夫だし、そうでなければいけないというのがお答えになろうかと思います。 一例として申し上げますと、医療に用いられるＡＩ診断ですね、診断機器にＡＩを組み込んだ場合に、それがちゃんと動作しているし期待どおりだよなということは常に医師が点検して、その上でないと実際の医療行為につながらないようになっております。 このような形で、能力のある人がちゃんと監査した上でということであれば生命のようなものについても利用可能だと思いますし、何かインターネット上でいきなりＡＩ病気診断システムが動き始めるというような事態は避けた方がよろ…
114
大島九州男(れいわ)どうもありがとうございました。
115
和田政宗(自民)以上をもちまして参考人に対する質疑は終了いたしました。
参考人の皆様に一言御礼を申し上げます。
参考人の皆様には、長時間にわたり貴重な御意見をお述べいただきまして、誠にありがとうございました。委員会を代表いたしまして厚く御礼を申し上げます。（拍手）
本日はこれにて散会いたします。
午後四時二十一分散会
顔写真の出典（Wikimedia Commons、8件）
- 和田政宗: Masamune Wada 20130328.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 山本啓介: Keisuke Yamamoto 2023-10-21.jpg（外部サイト、新しいタブで開きます）、Noukei314、CC BY-SA 4.0
- 石垣のりこ: Noriko ishigaki1.jpg（外部サイト、新しいタブで開きます）、HarD MaNas、CC BY-SA 4.0
- 竹谷とし子: Toshikotakeya.jpg（外部サイト、新しいタブで開きます）、KPM001、CC BY-SA 3.0
- 柴田巧: Takumi Shibata cropped 1 20260917takaichinaikaku02.jpg（外部サイト、新しいタブで開きます）、Japan 内閣官房内閣広報室、CC BY 4.0
- 竹詰仁: Hitoshi Takezume 20241127.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 井上哲士: Satoshi Inous 2025-01-05(2).jpg（外部サイト、新しいタブで開きます）、Noukei314、CC BY 4.0
- 大島九州男: 20181025 參議院議員大島九州男拜會陳總領事 (cropped).jpg（外部サイト、新しいタブで開きます）、台北駐日經濟文化代表處、Attribution