参議院 内閣委員会 第15号
2025年5月20日・208 発言・国会会議録で会議の全文を見る（外部サイト、新しいタブで開きます）
この会議で多く話された要求
- スマホやSNSの子どもへの悪影響を規制してほしい1人 / 1発言
- 治安を良くしてほしい1人 / 1発言
発言の全文
令和七年五月二十日（火曜日） 午前十時開会 ───────────── 出席者は左のとおり。 委員長 和田 政宗君 理 事 磯崎 仁彦君 酒井 庸行君 山本 啓介君 木戸口英司君 竹谷とし子君 委 員 青木 一彦君 石井 浩郎君 今井絵理子君 太田 房江君 友納 理緒君 山谷えり子君 石垣のりこ君 石川 大我君 奥村 政佳君 鬼木 誠君 河野 義博君 片山 大介君 柴田 巧君 竹詰 仁君 井上 哲士君 大島九州男君 国務大臣 国務大臣 （内閣府特命担 当大臣（科学技 術…
1
和田政宗(自民)ただいまから内閣委員会を開会いたします。
政府参考人の出席要求に関する件についてお諮りいたします。
人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、本日の委員会に、理事会協議のとおり、内閣府男女共同参画局長岡田恵子君外十七名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。
〔「異議なし」と呼ぶ者あり〕
2
和田政宗(自民)御異議ないと認め、さよう決定いたします。
─────────────
3
和田政宗(自民)人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
政府から趣旨説明を聴取いたします。城内内閣府特命担当大臣。
4
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案につきまして、提案理由及びその内容の概要を御説明いたします。 人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近年、人工知能関連技術をめぐる国際的な競争が激化する中、我が国において、人工知能関連技術の研究開発を行う能力を保持するとともに、関連産業の国際競争力を向上させるための取組が不可欠となってお…
5
和田政宗(自民)以上で趣旨説明の聴取は終わりました。
これより質疑に入ります。
質疑のある方は順次御発言願います。
6
山谷えり子(自民)自由民主党、山谷えり子でございます。 質問の時間をいただき、感謝いたします。 人工知能関連技術の研究開発及び活用の推進に関する法律案、日本初のＡＩ関連法、推進法案であります。 今、社会の様々な場でＡＩの利用が急速に進んでいます。しかし、日本は、ＡＩの分野で世界的に後れを取っている。ＡＩへの投資、開発を進め、国民の生活水準の向上や経済の健全な発展に資するよう、さらに、世界にも貢献していく国としたいものです。 イノベーションの推進とリスク管理のバランスを取ったこの法案は世界のモデルになり得るということですが、改めて、本法案の提出の目的、効果、必要性に…
7
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 ＡＩは、我が国の経済社会の発展に必要となる基盤技術であるとともに、安全保障の観点からも不可欠な技術であります。一方で、ＡＩがもたらす様々なリスクも懸念されており、多くの国民がＡＩに対して不安を感じているとともに、我が国のＡＩの研究開発と活用は他の主要国と比べて低迷している状況であります。このような状況を克服していくためには、柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なＡＩの開発を進めることで国民の皆様のＡＩに対する不安を払拭し、ＡＩの研究開発と活用を強力に進めていくことが重要と考えております。 こうしたＡＩにつきまして…
8
山谷えり子(自民)本日はＡＩ関連法についての審議ですので、チャットＧＰＴをいろいろ活用してみたいと考えています。 まず、城内大臣のこの意気込みはいかがですかとチャットＧＰＴに聞きましたところ、強い意欲を示していますとあって、何月何日にこういう記者会見をやったというのがずらっと書かれておりまして、そして、法案に対して積極的な姿勢を示し、日本がＡＩ技術の分野で世界をリードするための取組を進めていますというふうに結ばれています。 また、国会質疑において三十分でどういう質問をしたらいいですかというのも聞いてみました。そうしましたら、非常に細かくて、一番、総論に対して五分、二番…
9
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）感想を申し上げますと、ＡＩは、ある程度の出力によって、必ずしも全部ディープフェイクではなくて、適切な客観的事実に基づく情報を出力し提供してくれている反面、やはりそれが全てが全部正しいとは限りませんし、誤情報、偽情報も時々混入するやに伺って、認識しておりますので、そういった点からは、やはり、最終的には人間が、人間中心のＡＩということをうたっておりますので、人間がしっかりとチェックする、しないとその分リスクの対応に追われることになるのではないかと思いますが。 ただ、他方で、数年前に比べて、出力する、出てくる情報の精度はかなり上がって、どうしてこんなことまで…
10
山谷えり子(自民)成立すれば、基本理念の下、ＡＩ戦略本部が基本計画を策定し、施策を進めていくわけですけれども、この基本計画の考え方、作成へのプロセス、スケジュール、御説明いただけますでしょうか。
11
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 委員御指摘のＡＩ基本計画は、各府省庁によるＡＩの研究開発から活用に至るまでの幅広い施策を政府として一体的かつ横断的に進めるために策定するものであります。 具体的には、本法案に定める基本理念や基本的施策を踏まえまして、ＡＩの研究開発、活用の推進に関する施策の基本的方針や、その基本的方針の下で政府が総合的かつ計画的に講ずべき施策等について定めることとしております。 また、その策定に当たりましては、全ての閣僚から成るＡＩ戦略本部での議論に加えまして、有識者の御意見を伺うなどのプロセスを丁寧に進めていきたいと考えております。 他方で、ＡＩ…
12
山谷えり子(自民)ありがとうございます。スピード感を持って、そして関係省庁の連携、よろしくお願いいたします。 発展が見込まれるＡＩ活用の分野についてチャットＧＰＴでまた聞いてみたんですね。そうしましたら、八分野挙げられていまして、一、医療、バイオヘルス、二、製造業、三、農業、漁業、四、教育、五、交通、モビリティー、六、金融、七、創作、エンタメ、メディア、八、行政、公共サービスと書いてありまして、それぞれにまた細かく書いてございます。 例えば、医療、バイオヘルスだと画像診断、ロボット手術など、そして交通、モビリティーですと自動運転車、それから金融などではクレジットスコア…
13
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ＡＩの利活用によって生じる損害に対する責任の考え方を救済や補償の在り方を含めて明確化させていくことは、ＡＩの開発や利活用を促進していく上で非常に重要な視点だと考えております。 こうした観点から、個別の分野につきましては、例えば自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等につきましては産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されているものと認識しております。 今後、司令塔たるＡＩ戦略本部の下で、自動運転車以外の様々な分野についても、ＡＩの利活用によって生じる損害に対する責任の捉え方、考え方を明確化させるべ…
14
山谷えり子(自民)本当に驚きの進化とどう向き合っていくか、速い、速く進展をするＡＩでございます。今見えているリスクだけがリスクではない、情報収集と対応、臨機応変の素早さが求められていくというふうに思っております。 続きまして、教育についてお伺いしたいと思います。 個別最適化学習の支援ということが言われているところですけれども、基本計画に教育をどう位置付けていくのか。多くの学生生徒がＡＩを使っている状況でございます。 今回質問するに当たって、ちょっと中学生たちにヒアリングをしてみたんですね。使っているかと聞きますと、多くの中学生が使っているよって。例えば最近どんなこと…
お答えいたします。 生成ＡＩを始めとする様々なデジタル技術が急速に普及する中、デジタル化の負の側面等の顕在化も指摘されており、それらに適切に対応していくことが重要であると考えております。 現在、中央教育審議会におきまして、生成ＡＩを始めデジタル技術が飛躍的に発展する中で、デジタル化による負の側面も踏まえ、情報活用能力の抜本的向上を図る方策について、情報モラルやメディアリテラシーなどの育成強化も含め、具体的な検討を行っているところです。 例えば、フィルターバブルなどのデジタル化社会の負の側面に対し情報モラルの育成など、情報技術を適切に扱うことができる…
16
山谷えり子(自民)教育のデジタル化は、今、先進的に進めた諸国で見直しの動きが進んでいます。 城内大臣も先日、四月十一日の衆議院の内閣委員会で、脳科学的にも、デジタルよりも紙で調べたり調査した方が脳科学の分野で記憶に定着しやすいということが既に証明されておりますとも答弁されておりますので、教育の場でのデジタル教育やＡＩの利活用についてはしっかりした、いろいろ複合的な視点から考えながら検討をしていただきたいというふうに思っております。 さて、ＡＩ学習用の言語のデータベース、コーパスの整備についてでございます。 ＡＩは英語の大規模言語モデルが軸となっていると言ってもいい現…
お答え申し上げます。 文化庁におきましては、国立国語研究所が過去に整備しました現代日本語書き言葉均衡コーパスにつきまして、令和六年度から五年計画で直近二十年分の約一億語分のデータを追加しまして、言語コーパスの充実を図る事業というのを実施させていただいてございます。 この事業は、現代日本語の書き言葉の縮図となりますよう、統計的手法によりまして対象を選択し、品詞名、用法、修飾関係、意味などの情報を付与したデータベースを作成するものでございます。これらのデータは、信頼度が高く、大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニング…
18
山谷えり子(自民)着実な実施をお願いしたいと思います。
基本理念として掲げるのが、人間中心のＡＩなんですけれども、ちょっと抽象的過ぎて何を意味しているのかよく分からない部分がありますので、具体的に説明をお願いします。
人間中心についてお答えをいたします。 この概念は、二〇一九年の三月に、内閣府の方で人間中心のＡＩ社会原則というのを作りまして、これが、一つこれ日本の中で割とメジャーになったきっかけだと思うんですけれども、そこで言われていることを申し上げますと、ＡＩが基本的人権を侵さないとか、あるいはＡＩは人間の能力を拡張するのに役立つとか、あるいはＡＩをどう利用するかは人間が決めるとか、あるいは情報弱者をつくらないと、こういったことが人間中心の概念になっておりますが、これ具体的な例を二つほど御説明をしたいというふうに思います。 一つは、この人権を例に取って御説明しま…
20
山谷えり子(自民)ありがとうございます。大分具体的に説明をしていただきまして、ありがとうございます。 また、チャットＧＰＴに人間中心のＡＩについて聞いたんですね。五点明示されておりまして、一が倫理性の重視、プライバシーの尊重、公平性、透明性、説明責任、差別やバイアスを防ぐ設計が求められる。二番、人間の福祉の促進。三番、人間の関与と制御の維持、意思決定において人間の最終判断を尊重する、例えば自動運転でも緊急停止ボタンが人にある、完全な自律よりも協働を目指す。四番、透明性と説明可能性、ＡＩの判断や行動が理解できるように説明されること、利用者や関係者がＡＩの仕組みや限界を知る…
最近のＡＩは、先ほどちょっと御紹介がありましたけれども、出典、この回答の出典はここですというのを表示するようなＡＩが結構メジャーになりつつありまして、そういうことによって、信頼できる情報かどうかを改めて人間がもう一度確認をするということができるようになっています。こういう技術を私どもとしては広報していきたい、広報活動をしっかりやっていきたいというのもございますし、分かりやすいコンテンツを作ってリテラシー教育に貢献をしていきたいというふうに思っています。 ただ、一つ私どもの悩みは、ＡＩ技術とか倫理問題に詳しい方というのは、詳しいので、すごく難しく、難しい…
22
山谷えり子(自民)続きまして、海外の悪質な事業者への対応についてお聞きいたします。
協力責務があるといっても、これ、悪質な事業者に対しては大丈夫かなと思うんですが、いかがでしょうか。
私どもの法案が成立いたしますと、不正な目的あるいは不適切な利用によって被害が生じた場合には国としてしっかり調査をするということになると思いますけれども、これ、当然、その事業者が外国籍事業者、日本に法人を持たない、あるいは事業所を持たない場合であっても調査をしていきたいというふうに思います。仮に友好国ではない国の企業が問題を起こした場合には、なかなか難しい問題がございますけれども、可能な限りの手段を尽くして調査等を実施してまいりたいというふうに考えております。 また、なかなかその調査で正確なことが分からなかったとしても、こういう懸念があるものがはやり始め…
24
山谷えり子(自民)実効性を高めていくように、不断の見直し、努力をお願いしたいというふうに思います。 続きまして、日本のマーケットだけでは狭うございます。日本は東南アジアとのつながりも強くて、衆議院の参考人の意見聴取で、東京大学大学院工学系研究科人工物工学研究センター松尾豊教授などは、例えば東南アジアの諸言語をつなぐ大規模言語モデル、ラージ・ランゲージ・モデル、ＬＬＭができればビジネスも増える、日本がイニシアチブを取っていくべきではないかと述べられておりますけれども、民間の取組の支援、日本の強みを生かす勝ち筋を求めていくことについては、政府はどう考え、取り組んでいかれます…
お答え申し上げます。 国内の事業者により開発されたＡＩを海外に展開していくことは、若い技術者などの活躍の場を広げるとともに、我が国の産業競争力の強化の観点からも重要であるというふうに認識しています。 御指摘のとおり、特に東南アジアは有望な市場と認識しております。経済産業省では、これまで、マレーシア工科大学やバンドン工科大学における日本のトップＡＩ専門家によるＡＩ人材育成プログラムの実施、また、アジアのＩＴサービス関連業界団体の全体会合、こちらにおいて日本のトップＡＩスタートアップを紹介し、協業を提案すると。さらに、グローバルサウス補助金を活用しまして…
26
山谷えり子(自民)力強く未来を切り開いていただきたいと思います。 生産年齢人口減少の中に、ＡＩ技術が経済に対する貢献というのは大きいと思います。しかし、リスクも不安も大きいわけでありまして、二〇二五年二月四日の内閣府のＡＩ戦略会議発表の中間とりまとめの中の意識調査では、ＡＩには規制が必要が七七％、悪用や犯罪に対して法的対策の強化の必要が六六％と出まして、既存法で対応できない場合、速やかに法的措置も考えていく必要があると考えます。 ＡＩの活用戦略を確かなものとしていくために、既存法令、ソフトロー、ガイドラインでの対応、関係省庁の連携、ますます重要でありますが、最後に、城…
27
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）まず、この本法案、ＡＩのイノベーションの促進とリスクの対応、これ両立を図るということでありまして、やはり我が国が目指すべきは、世界で最もＡＩを開発、活用しやすい国となることを目指すことであって、そういう意味でこれは非常に重要な法案であり、しっかり丁寧に審議を進めていく考えであります。 まずは、本委員会においてこの法案をお認めいただけるよう、その趣旨はもちろんのこと、実施する取組内容についてもまずはやはり御理解いただけるよう尽くしていきたいというふうに思います。 その上で、この本法案が成立した暁には、研究開発の推進、人材育成等、本法案に規定された施策等…
28
山谷えり子(自民)司令塔をしっかりし、よろしくお願いいたします。
ありがとうございました。
29
石川大我(立憲)おはようございます。立憲民主・社民・無所属の石川大我でございます。 私のこれからの質問は、チャットＧＰＴなど生成ＡＩは使っていないということをまず初めに申し上げたいというふうに思っております。人力で作らせていただきました。 ＡＩ新法ですけれども、このＡＩというものがこれからの我々の社会をより良い方向に導いてくれるのか、それとも悪い方向に導いてしまうのかというのは、なかなか分からないところがあるというふうに思います。 もちろん、私はこのチャットＧＰＴなど使って、そして生成ＡＩを使って、ＡＩというものがより良い日本の国、そして世界というものをつくってい…
30
本田太郎(自民)防衛副大臣・内閣府副大臣お答えいたします。
現在、科学技術が急速に進展する中、ＡＩはその有用性から、諸外国においては民生分野に加え安全保障分野における活用が進んでいます。
防衛省も、防衛力の抜本的強化に当たり、ＡＩを積極的に活用することとしています。具体的には、防衛省においては、一般行政事務から装備技術、部隊運用まで、広範多岐にわたる分野でＡＩを活用していくこととしています。
なお、我が国は一貫して憲法の基本原理である平和主義の理念の下で防衛政策の推進に努めてまいりました。これからも、ＡＩの活用においてもこのやり方は変わることはございません。
31
石川大我(立憲)法文の三条を見ますと、基本理念で、安全保障の観点からも重要な技術であることに鑑み、人工知能関連技術の研究開発を行う能力を保持するとともに、人工知能関連技術に関する産業の国際競争力を向上させることを旨として行うというふうに書いてあります。
ＡＩに関連する防衛産業についても積極的に購入などを含めて検討されるのか、また日本企業がＡＩに関する防衛産業の一翼を担うということを期待をしているのかということをお答えください。
32
本田太郎(自民)防衛副大臣・内閣府副大臣ＡＩを含む科学技術の急速な発展が安全保障の在り方を根本的に変化をさせ、従来の戦闘様相が大きく変化する中におきまして、我が国にとって新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題となっております。 このような認識の下、防衛省では、ＡＩ等の先端技術を取り扱う企業、中でもスタートアップ企業との連携を重視しておりまして、具体的な施策といたしましては、経済産業省の支援を得て、防衛産業へのスタートアップ活用に向けた合同推進会等において防衛省・自衛隊とスタートアップのマッチングを推進すること、また、早期装備化事業のための取組においては、自衛隊…
33
石川大我(立憲)今お伺いして、かなり前のめりなのではないかなというふうに不安に思います。
令和六年七月のこの防衛省作成の防衛省ＡＩ活用推進基本指針について副大臣からも御説明がありましたけれども、新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題であるですとか、人員の効率的な活用など、ＡＩの意義をも強調しまして、これ、ＡＩを軍事利用を際限なくすることの危険性というのは非常にあるんじゃないかというふうに思っております。
平和国家日本として許されない一線というのはこれどういうふうに捉えておるんでしょうか。
34
本田太郎(自民)防衛副大臣・内閣府副大臣防衛省は、意思決定の迅速化や情報収集・分析能力の向上などの効果を狙いとして、各種の分野においてＡＩの活用を重点的に推進することとし、様々な事業を進めているところであります。 そして、この際、昨年七月に策定した防衛省ＡＩ活用推進基本方針においても、ＡＩが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると記載されているとおり、ＡＩ活用推進に当たっては人間中心の考え方の下で進めることが不可欠であると認識しています。 防衛省といたしましては、ＡＩ事業者ガイドラインも参考としつつ、人間の関与に係る議論を含め、政府内、国際…
35
石川大我(立憲)昨日の防衛省さんとの打合せの中でも、国際規約を守るとか、あと、先ほどからお話しになっている人間中心の考え方というようなお話が出ているんですが、ここから先はもうやれないと、平和国家としてここはやらないんだというようなお話は最後まで出ませんでした。
例えば、ＡＩが独自に判断をして相手を攻撃するような自律型のそういった防衛装備品というんですかね、そういったものは、これはさすがに駄目だと、そういうようなことはあるんでしょうか。
近年、急速な技術の発展を背景にしまして、ＡＩの軍事的な利用に関する議論が活発化しております。我が国としましても、関連する議論及び国際的なルール作りに積極的かつ建設的に参加してきたところでございます。
我が国としては、国際人道法の原則は、新興技術を活用するものを含めましてあらゆる兵器に適用されるべきであるとの立場でございます。防衛省・自衛隊においても、当然のことながら、国際法や国内法により使用が認められていない装備品の研究開発を行うことはございません。
37
石川大我(立憲)まあある意味それは当たり前のことで、この指針を見ますと、最後のところにはこう書いてあります。我々は今、ＡＩの活用により効率的で将来を自らつくり出す組織となるのか、後れを取って非効率で旧態依然の組織となるのかの分岐点であると、どちらを選び取るかは今後の我々の努力に懸かっているというふうに書いてあって、ＡＩを活用することが効率的で、将来を自らつくり出す組織ですばらしいんだと、後れを取ると非効率で旧態依然の組織となるというふうに、これ果たして、ＡＩというものを、行け行けどんどんで、バスに乗り遅れるなと言わんばかりに活用することがいいのかということをしっかりやっ…
38
本田太郎(自民)防衛副大臣・内閣府副大臣防衛省におきましては、装備品も含めてですけれども、一般行政事務から装備の技術、部隊の運用、広範多岐にわたる分野でＡＩの活用を推進していこうと考えているところでありまして、おっしゃったとおり、その平和国家である日本の憲法、これに反する、又は国際議論に反する形でのＡＩの活用を考えているわけではありません。
39
石川大我(立憲)先ほど、五十年後、百年後の方々が今日の議論を聞いたときに、あのときＡＩ使うというふうに言ったからこうなっちゃったんだになるのか、あるいは、あのときＡＩをしっかり使うというふうに方針を定めたからこのいい未来になったんだというふうになるのかはまだ分からないというふうに思うわけです。 そういった意味では、私たちの先人の知恵であるところの平和憲法や基本的人権の尊重など、憲法との整合性、そういったものをしっかりと、その場その場でしっかり判断をしていただき、しっかりと、憲法をこれ超えているんじゃないかというものがあるようであればしっかりと立ち止まるということ、ある…
40
和田政宗(自民)本田副大臣は退席なさって結構です。
41
石川大我(立憲)そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。 ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということ…
42
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 今のいわゆるバイアスの話とか、アテンションエコノミーという御指摘ございましたけど、まず、本法案に基づきまして国が整備する指針では、このバイアスの問題も含めまして、ＡＩによる不適切な出力をできる限り抑制する工夫をＡＩ開発者等に求めていく考えであります。 また、ＡＩ開発者が講じる工夫としては、例えば、そもそもバイアスのあるデータを学習させない、そして、出力結果を評価するツールをしっかり開発して不公正なバイアスがないかしっかり点検すると、そして、ＡＩ同士を対話させ、ＡＩにＡＩをチェックさせると、様々な方法が想定されます。 その際、何がバイ…
43
石川大我(立憲)是非よろしくお願いしたいと思います。
そのほかにも、対応策として、プロファイリングされた興味、関心というものや嗜好とは異なるものをあえて表示をさせるランダム性を入れるとか、選挙やパンデミック時などの特定の期間には行政とかマスコミ、研究機関などの信頼性の高い情報を上位に表示をさせるとか、そういったような様々な工夫あると思いますので、是非そういったところも御検討いただけるということで、確認ですが、大臣、よろしいですか。
44
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）今後、戦略本部の下でしっかりとした対応をつくっていく考えでありますので、有識者の方々とも、あるいは関係省庁とも連携しながら、石川委員御指摘のことも踏まえて、しっかり対応していく考えであります。
45
石川大我(立憲)是非よろしくお願いしたいと思います。 次の問題です。 ＳＮＳ上のデマとか誹謗中傷の問題でこのＡＩが活用されてしまっているという例なんですけれども、例えばチャットＧＰＴに気に食わない相手の投稿についてのファクトチェックをさせるんだそうです。ファクトチェックするのはかぎ括弧付きのファクトチェックですけれども、気に食わない相手の投稿について、さもファクトチェックをしているようにＡＩに、チャットＧＰＴにさせるんですね。そうすると、その答え、チャットＧＰＴの答えにＳＮＳ上の流れているデマが反映されて、それで、そのファクトチェックを、忖度をするというか、空気を読…
46
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおりでありまして、ＡＩは二十四時間三百六十五日ずっと稼働し続けておりまして、そういった点から、寝ずに人間よりもまさに大量の偽情報を作り出すことも可能であるというふうに認識しております。 そのため、ＡＩやＳＮＳの利用者が、ＡＩやＳＮＳ上には常に偽情報が含まれていると、そういった認識を持つことが重要だというふうに思います。そして、分かりやすいコンテンツを作成して、全世代を対象にしっかりと広報を進めるなどの取組も必要だと考えております。 また、ＡＩの分野は技術変化が大変速く、かつ、委員から御指摘いただいた内容は、やはりその技術、倫理、法律、若者文…
47
石川大我(立憲)是非よろしくお願いしたいと思います。 話題を変えて、性的ディープフェイクについてお聞かせ願いたいというふうに思います。 衆議院の審議でも論点というふうになりました性的ディープフェイクについて伺います。まず法務省に伺いたいと思いますけれども、四月九日の衆議院内閣委員会では、このディープフェイクというのは、例えば顔を実在するお子さんの顔、そして体は生成ＡＩで作ったもので、それを拡散されてしまうと、そういった問題ですけれども、その内閣委員会、衆議院では、問題となっているその児童の姿態を、姿態というのが、実在する児童の姿態だと言える、姿態というのは姿という字…
いわゆる児童ポルノ禁止法上の児童ポルノは、犯罪構成要件の一部を成すものでございます。そのため、ある画像等を記録したものが児童ポルノに該当するか否かは犯罪の成否に関わる事柄でございまして、収集された証拠に基づいて個別に判断されるべき事柄であることから、お答えは差し控えさせていただきたいと存じますが、あくまで一般論として申し上げますと、児童ポルノ禁止法二条三項の児童ポルノについては最高裁判所の決定において次のように判示されております。 すなわち、写真、電磁的記録に係る記録媒体その他のものであって、二条三項各号に掲げる、同項というふうに判示ではなされています…
49
石川大我(立憲)最高裁の決定が一例しかないということで、キーワードとなるのが、実在する児童の姿態と評価できるかというのがポイントで、実在しない児童の姿態というものがわいせつ部分というと、わいせつ等と評価される部分というところに当たると非常にこれ難しいんじゃないかということで、例えば腕のところに特徴的なほくろとかあざみたいなものがあって、それは夏になると半袖とかタンクトップとか着ますから普通にクラスメートなんかも分かるというような状況で、その顔と腕が本物で、胸とかそういう局部の部分がディープフェイクであるというようなとき、こういった場合は、これも分からないということなんで…
今御指摘ございましたように、ディープフェイクポルノには様々な形態のものがあろうかと存じます。
それらが実際に児童ポルノ禁止法上のこの児童ポルノに該当するかどうかということは、個別の事案ごとに証拠に基づいて判断されるということになりますので、お答えは差し控えさせていただきたいと存じます。
51
石川大我(立憲)そうなんですよね。ですから、国民感情とすれば、顔がその方で、そして何かその人と分かるようなほくろなりあざなりとか特徴があったとして、そして裸にされてしまっているというようなところを見たときに、そういうものが出回っている、当然、当事者の被害者の方というのは非常に傷つくわけです。深い傷を、心に傷を負うわけですよね。 そうしたときに、それが明らかにこれは偽物だというふうに分かるという時代はもう終わって、それが本物なのか、それともディープフェイクなのか、生成ＡＩによるものなのかというのはもう分からない時代に来ているんじゃないかなと思います。当然、その被害者の女…
一般論として申し上げますと、捜査機関においては、個別の事案ごとに、刑法や児童ポルノ禁止法といった関係法令の内容及び趣旨、それから先ほど申し上げたような判例を踏まえて、刑事事件として取り上げるべきものがあれば、法と証拠に基づいて適切に対処するものと承知しております。
他方で、児童ポルノ禁止法については、議員立法により制定されたものでございまして、その後も必要に応じて議員立法により改正が重ねられてきたという事情がございます。
法務省としては、こうした制定、改正経緯を踏まえた対応が必要となるものと考えております。
53
石川大我(立憲)政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もち…
お答えいたします。 告訴などをする方があった場合には、直ちにその内容を聴取し、告訴権の有無、告訴期間、犯罪構成要件の充足の有無、処罰意思等の要件を確認するなどした上、可能な限り迅速に受理、不受理の判断を行うこととしております。 通例、子供が被害者となる事案につきましては、被害者である子供と保護者が同伴で警察に被害申告する場合が多く、その場合に児童、保護者等とも相談しながら対処するものではございますが、いずれにしましても、告訴などは必ずしも書面の提出を求めるものではなく、口頭でなされたとしましても要件を判断した上で受理することとされており、被害者等の立…
55
石川大我(立憲)是非、この性的ディープフェイクの問題、警察さんとしては啓発というのは特にこれまではしていなかったということですので、是非警察の方からしっかりと、これいじめなんかにもつながる問題ですので、お願いしたいと思います。 ちょっと時間が迫ってまいりましたので二つの問題一つにしますけれども、性的ディープフェイクもそれ以外のディープフェイクも、あるいはＳＮＳ上のデマ、誹謗中傷も、加害者に責任を取らせて、また被害を回復しようとすると、非常に刑事的、民事的に大変です。相談を受け、削除依頼を行ってくれる民間団体ありますが、まだまだ追い付いていないという状況です。 性的デ…
56
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 本法案におきましては、内閣総理大臣を本部長として全閣僚が構成員となりますＡＩ戦略本部を新たに設置するなど、ＡＩ政策の司令塔機能を強化することとなっております。加えまして、そのＡＩ戦略本部の事務局であります内閣府が、関係省庁と連携してＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとなっております。 また、本法案第十三条に基づき整備する指針におきましては、ＡＩ開発者に対し違法なディープフェイクなどの不適切な出力の抑制等に努めることを求めることについて検討しているところでございます。 なお、本法案が成立した暁には、…
57
石川大我(立憲)時間になってしまいましたので、最後の質問、内閣府男女共同参画局長にお越しいただきまして、第六次男女共同参画基本計画の中でしっかり、こうしたデジタル性暴力という認識を持って、是非項目設けていただいて、しっかり検討してこの手当てをしていただきたいと、手当てをしていただきたいということをお願いを申し上げて、終わりたいと思います。
ありがとうございました。
58
鬼木誠(立憲)立憲民主・社民・無所属の鬼木誠でございます。 引き続いて、ＡＩ関連につきまして質問させていただきたいと思いますが、私自身は、気付かないうちに利用していることはあっても、自主的にＡＩを活用したことがないという人間でございます。国民の皆さん、多くの皆さんがＡＩに対する不安を抱いていらっしゃるというふうな統計資料も見させていただきましたけれども、まさに私も同じようにＡＩに対して不安を抱いている。個人的に利用したことがない、そして多くの、不安を抱いている、恐らく今の日本の国民の皆さんの多くの感情と同じような心情や受け止めを持ってこのＡＩ技術というのを受け止めて…
お答えいたします。 委員御指摘のとおり、現在、個人情報保護法の附則に基づく三年ごと見直しを進めておりますので、御指摘の観点に限らず様々な、場合によっては方向転換も含め、予断を持たずに検討を進めているわけでございまして、本件につきましてもその一つでございます。 六月には、昨年六月には中間整理を公表いたしまして、意見募集も行いまして、いわゆるパブコメでございますけれども、その後も制度の基本的な在り方に関わる様々な論点を議論いたしまして、広く意見を聴取しながら検討を進めているところでございます。 その中の一つでございますけれども、個人データなどの取扱いに…
60
鬼木誠(立憲)長々と答弁いただきましたけれども、よく分からないところもありました。 個人情報保護委員会として、この間いろんな御努力いただいてきたと思うんですね。その御努力は、やっぱり個人の権利侵害につながるようなことがあってはならないというようなことが根本にあった、その立ち位置の中で進められてきたというふうに思うんです。 〔委員長退席、理事磯崎仁彦君着席〕 それが今回の制度的課題に対する考え方の中では、先ほど言いましたように、大きな方針転換と私には受け止められた、踏み込もうとしていると。それは、ＡＩ技術をみんなで推進していくためにはやむを得ないんだというふうに読…
61
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）鬼木委員への御質問にお答えしますが、ＡＩの開発、利用と個人情報保護法との関係につきましては、これまでに、生成ＡＩサービスの利用に際しての個人情報の取扱いに関する注意点等を取りまとめた生成ＡＩサービスの利用に関する注意喚起等の公表や、個別の生成ＡＩサービスに関して留意すべき点についての情報提供などを行っているところであります。 また、先ほど個人情報保護委員会からもお答えがありましたが、個人情報保護法のいわゆる三年ごとの見直しに向けた検討において、要配慮個人情報の取扱いも含めた議論が行われているというふうに伺っております。 いずれにしましても、本法案に基…
62
鬼木誠(立憲)是非しっかり御対応いただきますことをお願い申し上げたいと思います。
個人情報保護委員会に対する質問もこれまででございますので、御配慮いただきたいと思います。
63
磯崎仁彦(自民)個人情報保護委員会佐脇事務局長は退席されて結構でございます。
64
鬼木誠(立憲)それでは、質問の順番、元に戻らさせていただきまして、一問目に入らさせていただきたいと思いますが、本会議で我が党の杉尾委員からも国民の責務ということについての質問をいたしました。第八条に定められているところでございます。 これ、やっぱり僕も同じように思っているんですね。ＡＩがいかに時代を画する技術だとしても、例えば人類共通の普遍的な価値であるとか人類共通の理念であるとかということに対して、広く国民に対して学習をしなさい、理解をしなさい、関心を深めなさいということについてはよく分かる。ただ、ＡＩという技術に対して、国民の皆さん、理解を深めなさい、関心を深め…
65
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 現在のＡＩは間違った情報や意図しない情報を出力することも多々ありまして、それを知らずに活用しますと、被害者になってしまうことや、場合によっては意図せずして加害者になってしまうおそれもございます。このため、国民の皆様がＡＩを適切に活用し、便益を享受するためには、やはりどうしてもＡＩに対する正しい理解と関心を深めていただくことがどうしてもこれ不可欠ということでありまして、そういった認識の下で、法案第八条の国民の責務を規定したものであります。 また、国や地方公共団体が推進いたしますＡＩ活用を促進するための施策が十分な効果を得るためにも、国民…
66
鬼木誠(立憲)繰り返しになりますけれども、生成ＡＩを個人として使用しているのが日本では九％、そして七七％の方がＡＩには規制が必要だというふうにお考えになっている。そういう国民の皆さんに対して責務としてこのことを課すわけですから、私は責務とする必要はないし、国民の努力で十分だというふうに思いますけれども、その修正ができないというのなら、やっぱり今お答えになったことに加えて、国民の皆さんがしっかり理解できるような言葉で語りかける必要があるというふうに思いますし、負の側面も含めてしっかり訴えていただく必要があるのではないかということを提起しておきたいというふうに思います。 …
お答えいたします。 文部科学省では、情報モラルを含む情報活用能力を学習の基盤となる資質、能力として位置付け、各学校段階を通じてその育成に取り組んでいるところです。 また、昨年十二月に改訂した初等中等教育段階における生成ＡＩの利活用に関するガイドラインにおいては、情報には自他の権利があることを考えさせる学習活動や、情報には誤ったものや危険なものがあることを考えさせる学習活動など、発達段階に応じて児童生徒の情報モラルを育成する学習活動を強化することを求めているところです。 さらに、現在、中央教育審議会において、生成ＡＩを始めデジタル技術が飛躍的に発展す…
68
鬼木誠(立憲)しっかりと検討していただきたいというふうに思いますので、どうぞよろしくお願い申し上げます。
文科省に対する質問はこの一問でございますので、委員長、お取り計らいをお願いします。
69
和田政宗(自民)文部科学省日向審議官におかれましては、退席なさって結構です。
70
鬼木誠(立憲)それでは、今度は、四条の国の責務についてお尋ねをいたします。 四条二項には、行政事務の効率化及び高度化を図るために国の行政機関における人工知能関連技術の積極的な活用を進めるというふうなことが書いてある。 国家公務員、いわゆる官庁をめぐる人材不足の問題や人材確保の難しさというような観点で捉えると、このような行政事務の効率化というのは必要だろうというふうに私は思いますし、そのことが政府の方針として掲げられることについては理解をするものではございます。 ただ、懸念しているのは、定員との関係です。ＡＩ導入によって効率化ができる、効率化できたから人減らしてい…
71
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）国家公務員の定員管理等を所管する大臣では私ないので、あくまでも一般論として申し上げますが、言うまでもなく、ＡＩは生産性の向上や労働力不足の解消など社会課題の解決に資する技術でありまして、政府でＡＩを導入した場合には、行政事務の質が向上することにより、高度な行政サービスの提供が可能となるほか、職員の皆さんの働き方改善が実現すると考えております。 ＡＩの導入に関しましては、単に効率化を目的とするのではなく、ＡＩによる業務の高度化をしっかりと進めていくという観点が重要であることから、私自身も鬼木委員と同じく、単純にその定員削減やコストカット等に直結するもので…
72
鬼木誠(立憲)ありがとうございました。明確な御答弁をいただきまして、本当にありがとうございます。
業務量に応じた適正な人員配置というのは、この間、国家公務員、いわゆる官庁においても、引き続き追求、推進するべき課題として掲げられたというふうに思います。
是非このＡＩの導入に当たって、効率をするあるいは省力効果が生じるということが仮に起こったとしたら、そのことは、申し上げましたように、業務量等に応じた適正な人員配置の達成に向けた契機とすべきというふうに考えますけれども、いま一度その点についてのお考え、お聞かせをいただければと思います。
73
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）先ほど申しましたとおり、ＡＩの導入におきましては、単に効率化を目的とするのではなくて、ＡＩによる業務の高度化をしっかりと進めていくことが重要だというふうに認識しております。
そして、ＡＩを導入して業務が効率したことのみをもって直ちに人員配置の見直しをつなげるのではなくて、ＡＩの導入による行政事務の高度化等を進めながら、人事配置については、やはり計画的、かつ将来の趨勢を見据えつつ、関係各所において適時適切に行っていくことが必要と考えております。
74
鬼木誠(立憲)ありがとうございました。どうぞよろしくお願い申し上げます。 次に、地方公共団体の責務についてお尋ねをいたします。 第五条に規定をされています。この五条の条文を読むと、デジタル社会形成基本法とか科学技術・イノベーション基本法とか、いわゆる先行する法律とほぼ同様の条文ではないかなというふうに理解をしているところでございます。 地方公共団体は、基本理念にのっとり、人工知能関連技術の研究開発及び活用の推進に関し、国との適切な役割分担の下、地方公共団体が実施すべき施策として、その地方公共団体の区域の特性を生かした自主的な施策を策定をし、及び実施する責務を有す…
75
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 ＡＩの活用は、人間が携わるあらゆる活動に及ぶものでありまして、やはり、地方公共団体を含めた様々な関係者に影響が生じるものであります。また、地方では、その実情は様々でありますが、人口減少に伴う労働力不足等に悩む地域が多いなど、地域の課題の解決にＡＩが大きく貢献することが期待されております。 こうした背景やＡＩに期待される役割の重要性を踏まえまして、地方公共団体に対して、国との適切な役割分担の下、条文にも書いてありますように、区域の特性を生かした自主的な施策を策定し実施することについて、責務として規定しているところでございます。 いずれ…
76
鬼木誠(立憲)自治体を追い立てるようなことがないようにということだけお願いをしておきたいというふうに思います。 地域の特性を生かしたというところについても実は質問したかったんですけれども、もう時間が余りなくなってきて、一つ確認をさせてください。 地方公共団体の責務のところには、国の責務のところには、先ほど御報告をしたというか説明をしたというか、お知らせをした、行政事務の効率化及び高度化を図るため、積極的に活用しますという文言が国の責務にあるんですけれども、これ、地方公共団体の責務にはこの文言がございません。つまり、行政事務の効率化については地方公共団体の責務とはさ…
77
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）委員御指摘のこの規定につきましては、国が率先して行うべきものとして、第四条においては国の責務と規定しているところであります。 もちろん、ＡＩの活用によって地方公共団体における行政事務の改善や高度化も可能になると考えておりますことから、労働力不足の解消やサービスの品質向上につながっていくことが大きく期待されると、これについては既に述べたとおりでありますが。その際、それぞれの地域の特性や直面する課題など、やはり実情はそれぞれの自治体で異なりますから、政府としては、地方公共団体に対して一律にＡＩの活用を求めるのではなくて、地方公共団体の自主性や創意工夫に配慮…
78
鬼木誠(立憲)どうもありがとうございました。 済みません、今日、総務省にも来ていただいていて、ちょっと時間がなくなったので、申し訳ないですけれども、四ポツの③、④飛ばさせていただいて、総務省にお尋ねをしたいというふうに思います。 総務省がガイドブックというのを作っていらっしゃるんですね、自治体におけるＡＩ活用・導入ガイドブック。これ、よくできているなというふうに思うんですけれども、よくできているなというふうに思う一方で、こんな便利なツールを何で使わないんですか、よそではもうこんなに使っていますよ、今検討しないと乗り遅れますよというふうに書かれているように見えるんで…
お答えを申し上げます。
総務省が開催していました自治体戦略二〇四〇構想研究会の平成三十年の第二次報告において、ＡＩ等が処理できる事務作業は全てＡＩ等によって自動処理するスマート自治体へ転換する必要がある旨が提示されております。
このようなことを踏まえ、総務省として、自治体におけるＡＩ活用・導入ガイドブックにおいて、更に多くの自治体でＡＩの導入が進められていくことが期待されるといった自治体へのＡＩ導入の期待に係る記述をしておるものでございます。
80
鬼木誠(立憲)時間が来ましたので、もう多くは申し上げませんけれども、強制につながってはならないということ、これだけはしっかり訴えさせていただきたいと思いますので、総務省にも受け止めていただきたいと思います。
質問を終わります。
81
竹谷とし子(公明)公明党の竹谷とし子でございます。 この法律の必要性について、内閣府ウェブサイトにあります法律案の概要を見ますと、日本のＡＩ開発、活用が遅れているということで示されております。二〇二三年のＡＩへの民間の投資額は世界の中で十二位。また、生成ＡＩを利用している個人では、中国五六％、米国四六％、日本は九％。また、生成ＡＩを業務で利用している企業が、米国八五％、中国八四％、日本は四七％というふうに示されております。 一方で、多くの国民がＡＩに対して不安を感じているということが示されています。現在の規則や法律でＡＩを安全に利用できると思うと考えている人が、米国は…
82
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）竹谷委員の御質問にお答えします。 現在の急速な進展を遂げておりますＡＩは、様々な分野での生産性あるいは利便性を飛躍的に向上させるとともに、労働力不足の解消など様々な課題の解決や国民生活の向上に貢献していくことが期待されております。 また、令和六年版情報通信白書で紹介されております分析によりますと、世界のＡＩ市場規模は二〇二一年に九百六十億ドル規模だったものが加速度的に成長し、二〇三〇年には一・八兆ドル規模にまで達すると想定されており、我が国経済にとっても大きなインパクトを及ぼすものと考えております。 こうしたことから、本法案におきましては、基本理念…
83
竹谷とし子(公明)法律を作って、しっかり活用にも、またリスク対策にも取り組んでいくということが重要であるというふうに思っております。
次に、法の第四条に関して伺いたいと思います。
国の行政機関における人工知能関連技術の積極的な活用を進めるとしていますけれども、どのような業務や分野を想定していますでしょうか。活用によってどのような効果が出ると想定をされていますでしょうか。そして、それは国民にどのような利益があるでしょうか。ＡＩは様々ありますが、どのようなＡＩを活用することを想定しているか、デジタル庁に伺いたいと思います。
お答えいたします。 政府におきましてＡＩを活用する業務分野でございますけれども、例えば、文章の要約あるいは翻訳、それから企画のアイデア出しといったような一般的な事務で活用が始まっております。さらに、今後は、パブリックコメントで寄せられた御意見の整理等、新たな使い方も想定されているところでございます。 それで、ＡＩの活用による効果でございますけれども、行政の生産性の向上でございますとか職員の業務負担の軽減といったようなことが期待できると考えておりまして、より質の高い行政サービスを提供するという観点からＡＩの活用を促進していきたいと考えておるところでござ…
85
竹谷とし子(公明)ありがとうございます。 政府が国民サービスの向上に取り組めるように、余計な業務はＡＩにやってもらって、大事な人間の判断業務であるとか人と接することが必要な業務とか、本当に必要なところに人を割けるようにするという業務の効率を行うということも大事だと思いますし、やはり一番大事なのが、このリスクの軽減であるとか、また安全に安心して使えるようにするとか、そうしたことをしっかり示していくということも大変重要なことであるというふうに思っております。 次に、地方公共団体におけるＡＩの研究開発と活用推進に関して伺いたいというふうに思います。 今日の読売新聞でも、Ａ…
お答えいたします。 国と地方公共団体の役割分担としては、政府は大局的な見地から我が国全体の方針を基本計画で示すこととしており、地方公共団体においては、国が定める方針等を参照しつつ、各地域の特性を踏まえた自主的な施策を策定をし、実施をすることとしております。 特に、地方では人口減少に伴う労働力不足などに直面する地域が多く、地域における様々な課題解決にＡＩを活用することが期待されているところです。このような背景を踏まえまして、地方公共団体に対し、国との適切な役割分担の下、区域の特性を生かした自主的な施策の策定、実施の責務を規定している次第です。 また、…
87
竹谷とし子(公明)ありがとうございます。 今日の読売新聞の記事では、具体的な先行事例が紹介をされております。 保育園入所の選考でＡＩを取り入れている、四月の選考の事務は従来の百七・五時間から一時間にまで短縮をされて、その結果、保護者への結果通知も二週間以上早まった、また、実証実験では従来の手作業による選考結果と一〇〇％一致した、そういう効果も紹介をされております。 また、ＡＩを搭載した街頭の防犯カメラで顔の識別ができる実証実験ということも紹介をされていて、子供の行方不明事案などへの迅速な対応をするのが狙いということで、こうしたことも大変重要だと思います。 一方で、…
お答え申し上げます。 ＡＩの活用を含め、自治体におけるＤＸの推進のためには、これを担う人材の確保、また育成が大変重要だというふうに認識をしております。このため、総務省では、自治体における人材育成、確保の指針を出させていただいておりまして、その中で、デジタル人材の育成、確保に関する留意点、これを盛り込ませていただいております。 そういった形で各自治体に取組を進めていただいているわけではございますが、例えば人材不足の状況の一例といたしましては、いわゆる一人情シス問題、こういったものがあります。総務省の調査では、人口五万人以下の市町村のうち、これ一千二百ほ…
89
竹谷とし子(公明)ありがとうございます。 ＡＩを含むＤＸの人材というのが官民でまだまだ不足しているというふうに思います。今御紹介をしていただいたように、人材のシェアリングということも特にＩＴの分野では進んできているというふうに思います。かつてはそういうことはなかったと思うんですけれども、このＩＴの進展に伴って働き方についても柔軟性を持って対応をしてきているなというふうに感じるところでございますけれども、地方自治体、特に小さな、今、一人情シス問題、一人あるいはゼロという、そういう問題について、総務省としても認識をして、対応しているお取組についても御答弁をいただいたところで…
お答えいたします。 ＡＩを社会に実装し、国民生活の向上と国民経済の発展につなげていくためには、研究開発と実社会との間をつなぐ活用事業者の役割が非常に重要であることを踏まえまして、活用事業者の責務として、国や地方公共団体が実施をする施策に協力しなければならない旨を明示的に求めることとした次第です。 この責務規定は、個別具体的な義務を課したり具体的な法的拘束力を直接的に持つものではなく、事業者の努力義務を定めるものでありまして、違反した場合の罰則等は設けられておりません。法令上に努力義務を明記することで、国や地方公共団体が行う施策の協力などに事業者が責任…
91
竹谷とし子(公明)事業者の自由な活動が制約されるようなことはないという御答弁でございました。
次に、第八条関係について伺います。
先ほども質問がございました。国民の責務が定められているということでございます。この理由を御説明いただきたいと思います。責務を果たすことによって国民にどのような利益がありますでしょうか。城内担当大臣に伺いたいと思います。
92
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）この第八条、国民の責務につきましては、先ほど鬼木先生からも御質問がございましたが、今後、誰もがＡＩの利用者になり得る中で、国民の皆様にＡＩに対する正しい理解と関心を深めていただくとともに、ＡＩを適切に活用していただくことが極めて重要であることから、法案第八条に国民の責務を規定しているものであります。 例えば、ＡＩが間違った情報や意図しない情報を出力した場合には、それを知らずに利用することで国民の皆様が意図せずして被害者や加害者になってしまう可能性がありますが、第八条の責務を果たしていただくことでそれを未然に防止する効果も見込まれると考えております。 …
93
竹谷とし子(公明)続きまして、この法律を作るに当たって、他国の取組というものも調査し参考にされてきたことというふうに思います。
ほかの国ではどのようにこのＡＩの活用とか、またリスク対策、取り組んでおられますでしょうか。また、この法律に最も近い施策を取っている国はありますでしょうか。また、どのような効果があるか、伺いたいと思います。城内担当大臣の答弁を求めます。
94
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 各国におけますＡＩの法制上の取組は、それぞれの法体系、あるいは社会的、歴史的背景に応じて様々でありますが、世界的にＡＩのこの制度整備が進んでいる状況にございます。 例えば、例を挙げますと、ＥＵでは、人間の安全や基本的権利の保護等の観点から新たに法律を制定し、包括的な規制を導入しておりますが、一方で、米国におきましては、安全保障リスクに対応しつつも、基本的には事業者の自主的取組を踏まえた上で既存法令の活用を図っているものと承知しております。 こうした中、我が国では、国際整合性を保ちながら、イノベーション促進とリスク対応を両立するという…
95
竹谷とし子(公明)冒頭、法律の必要性のところで引用させていただきましたが、現在の規制や法律でＡＩを安全に利用できると思うという国民が日本では非常に低いということがありますので、この法案において、ＡＩに対する国民の不安を軽減する、政府における司令塔機能の強化を行うということについては、大変重要なことであるというふうに思っております。 続きまして、内閣府に伺いたいと思います。 ＡＩの開発、こちら投資額が世界の中で十二位ということで、一位の米国に比べると二桁違うということでございますけれども、このＡＩ開発に関して、日本におけるこれまでの取組について反省があれば御説明をいただ…
政府はこれまで、ＡＩの研究開発を加速するために、研究者やスタートアップ等が利用できる計算資源であるとか、ＡＩ学習用のデータの整備、提供などの取組を進めてまいりました。これらの取組により、日本企業が開発するＡＩの性能は確実に向上していると認識をしております。 しかしながら、ＡＩの研究開発に資金や人材が迅速に集まってこなかったことであるとか、あるいは英語等に比べて日本語データが少なく、ＡＩの学習が難しいことなどにより、我が国のＡＩ開発は後れを取ってきたと認識をしております。 このため、我が国の研究開発力の更なる向上に向けて、これらの課題を踏まえまして、関…
97
竹谷とし子(公明)ＡＩに限らず、ＩＴ技術全般について日本の国際競争力、低下しているというふうに認識をしております。
改めまして、日本の国際競争力の現状、また過去と比較をして国際競争力がどの程度低下をしているか、お示しいただきたいと思います。また、低下しているその原因をどのように分析をしているか、ＩＴ技術について国際競争力を高めるためにどのように取り組んできたか、そして、成果が出ていれば顕著なものをお示しいただきたいと思います。内閣府に伺います。
お答えいたします。 ＩＴ技術に関する国際競争力を三十年間を通して評価しているもの等は見当たらないものの、確認できる範囲では、世界経済フォーラム、ワールド・エコノミック・フォーラムのＩＣＴ競争力ランキングによれば、日本の順位を、約二十年前の二〇〇四年、二十年前の二〇〇四年に八位まで一旦上昇した後に、その後しばらく十五位から二十位前後のところを推移をしておりまして、データが残っております最後の二〇一五年には十位となっております。また、別の指標でありますけど、ＩＭＤ、国際経営開発研究所のデジタル競争力ランキングによれば、二〇一三年には二十位でありましたけれど…
99
竹谷とし子(公明)様々ありますが、人材育成の取組、非常に重要であるというふうに思っております。 私も、このＩＴとかＡＩの分野というのは女性が男性と同じように活躍できる分野であるというふうに思っておりまして、女性のデジタル人材育成というものを政策として推進をしてきているところでございます。 ＩＴ全般になりますけれども、まだ女性の割合が二割ぐらいということでございますが、政府のリスキリング、職業訓練等の中でも、ＩＴについて学びやすい環境づくりというものも進めていただいているところでございますし、地方自治体が取り組めるような女性活躍推進交付金の中でも、ＩＴに地域の女性が触れ…
お答えいたします。 ＡＩの研究開発について世界的に競争が激化する中、研究人材の確保も激化をしております。国内外の研究者に我が国での研究の実施に魅力を感じてもらうことは重要でありまして、これまでも各研究開発機関や企業がそれぞれの立場から取り組んでいるところであります。 具体的には、例えばでありますけれども、大学において学生や研究者を相互に派遣、交流する国際的なプログラムを整備しているほか、企業が社内でコミュニケーションを取る際に使用する言語を英語にしたり、さらには海外からの研究者を招聘するなど、様々なバックグラウンドを有する者が共同できる、共同で実施が…
101
竹谷とし子(公明)よろしくお願いいたします。
次に、安全とか不安を軽減する、またリスク、そういった面からの質問をさせていただきたいと思います。
まず、現下のネット上の偽情報、誤情報、誹謗中傷への問題認識と対策について総務省に伺いたいと思います。
お答えいたします。 ＳＮＳ等のネット上の偽・誤情報や誹謗中傷は、短時間で広範に流通、拡散し、国民生活や社会経済活動に重大な影響を及ぼし得る深刻な課題であると認識しております。ＳＮＳを健全に利用できる環境の確保に向けて、総務省では、制度的な対応、リテラシー向上、対策技術の研究開発等の総合的な対策を進めています。 制度的な対応については、本年四月一日に施行された情報流通プラットフォーム対処法について、同法の規律対象である大規模なプラットフォーム事業者として、先月、四月三十日、ＳＮＳを運営する主要な五事業者を指定したところです。同法の運用に適切に取り組んで…
103
竹谷とし子(公明)ネット上の偽・誤情報、誹謗中傷の問題について、今後ＡＩが進展することによって更に問題が大きくなる可能性、そしてその対策について内閣府から御説明いただきたいと思います。
お答えいたします。 ＡＩ技術は変化が非常に速く、現時点で全てのリスクを予測することは難しいのでありますけれども、インターネット上で偽・誤情報や誹謗中傷等が増加する可能性は否定できないと考えております。 そうした中、技術的な対応としては、例えば、ＡＩが生成することを、ＡＩが生成したことを示す識別情報をコンテンツに埋め込みます電子透かしであるとか、不適切な出力を抑止をしますガードレールに係る技術などによる対応が考えられるところであります。 また、既存法やガイドライン等による迅速かつ柔軟なリスクへの対応に加えまして、ＡＩ法案が成立した暁には、法に基づく情…
105
竹谷とし子(公明)次に、法務省に伺いたいと思います。
インターネット上に個人の誹謗中傷等の人権侵害情報が残る問題についての政府の対策を御説明ください。
お答えいたします。 誹謗中傷等の人権侵害は決して許されるものではなく、それがインターネット上の情報により行われた場合には、情報へのアクセスが容易であるほか、情報が容易に拡散して完全に消去することが困難になる傾向があり、深刻な被害を招きかねないものと認識しております。 法務省の人権擁護機関では、インターネット上の誹謗中傷等の情報が人権侵害に当たるとして相談を受けた場合には、相談者の意向に応じ削除依頼の方法を助言するほか、違法性の有無を判断した上でプロバイダー等に対して情報の削除要請をするなどの対応を行っております。 今後も、インターネット上の人権侵害…
107
竹谷とし子(公明)しっかり対応していただきたいと思います。
最後に、文科省に伺いたいと思います。
ＡＩも大事ですけれども、ＡＩを使いこなせる人間になるための教育が非常に重要であるというふうに思っております。
先日、珠算やそろばんのお話をちょっと懇談をさせていただいたことがございますが、このそろばんというのが一般知能が高まるらしいというふうに言われているところでございます。
学校教育における珠算を学ぶ意義をどのように認識されているか、また、早い段階から学習できる可能性について今学習指導要領ではどのようになっているか、文科省に伺いたいと思います。
お答えいたします。 そろばんは古くから我が国で用いられている計算の道具であり、全ての桁の数を具体物で表現するものであるため、児童が整数や小数の位の概念の理解を確かなものにすることにつながると考えております。 これらの意義を踏まえ、現行の学習指導要領では、小学校三、四年生において、そろばんによる整数や小数の表し方や、足し算や引き算の方法を学習することとしております。 文部科学省としては、小学校二年生までに算数科の基礎となる筆算による計算方法を確実に定着させた上で、三年生からそろばんを学ぶことが算数の指導上有効であると考えておりますが、現在も各学校の判…
109
竹谷とし子(公明)時間ですので終わります。ありがとうございました。
110
和田政宗(自民)午後一時十五分に再開することとし、休憩いたします。
午後零時十六分休憩
─────・─────
午後一時十五分開会
111
和田政宗(自民)ただいまから内閣委員会を再開いたします。
休憩前に引き続き、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。
質疑のある方は順次御発言願います。
112
柴田巧(維新)日本維新の会の柴田巧です。よろしくお願いをいたします。 さて、この法案は、先般、今横にいらっしゃいますが、片山議員からもあったように、この変化の激しいＡＩ技術のガバナンスに我が国として初めて取り組むＡＩ法案だというふうに理解をしております。 この法案の成立を機に、遅れてきたこのＡＩの研究開発などが進んでいくことを期待をするものではありますが、そのためには、先ほどから午前中もいろいろ議論がありましたが、やはり国民の中にはＡＩに対する不安感というのはまだ色濃くあるものと思っています。したがって、これをどう払拭をしていくかというのが大きな課題だというふうに…
113
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）柴田委員の御質問にお答えします。 生成ＡＩに代表されますように、ＡＩの技術は短期間で急速に進展いたしておりまして、過去には想像し得なかった活用の広がりを見せております。 そして、環境変化の中でも、我が国が平成三十一年、二〇一九年に策定いたしました人間中心のＡＩ社会原則、この考え方は我が国、そして世界のＡＩ政策の推進におきまして一定の役割を果たしてきたと認識しており、今後もその重要性は揺るがないものと考えております。 現在、我が国におきましては、委員御指摘のとおり、ＡＩの研究開発や活用が他の主要国と比較しますと十分に進んでいない状況にありますが、これ…
114
柴田巧(維新)ありがとうございました。 今大臣がおっしゃった人間中心の原則というか、これを踏まえるならば、今も答弁の中にありましたが、やはりそのためにこの不安を払拭、どうこの法律によって、法案によって払拭をしていくかということが大事だと思いますので、順次お聞きをしたいと思いますが、まずは透明性の確保であります。 このＡＩの研究開発から社会実装に至るまでの過程の中では、改めて言うまでもありませんが、様々な関係者が関与することになるわけですけれども、その関係者間でＡＩの適正な利用について情報が開示されていなければ、どのようなリスクが生じるおそれがあるのか把握することが…
115
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）柴田委員御指摘の本法案第三条第四項に掲げますＡＩ関連技術の研究開発及び活用の過程の透明性を確保、これするための具体的な施策といたしましては、まずは法案第十三条に基づきます国が整備する指針、これを通じた施策を想定しております。 例えば、この指針の中で、ＡＩの使用説明書やリスクに関する情報等の開示を奨励することなどを現在検討しているところであります。また、その出力された情報がＡＩを用いて生成されたものであることを示す電子透かしの導入や、あるいは個人情報の学習や入出力を制御する装置の導入といった技術的対応の推進を図ることについても、透明性を確保するための施策…
116
柴田巧(維新)この透明性と並んで大事なのは適正性ということだと思っていまして、その適正性の確保のための指針についてお聞きをしたいと思いますが、この本法案の第十三条に基づいて、国は、ＡＩ関連技術の開発、活用について、適正性の確保のための国際規範に即した指針の整備を行うこととされていますが、当該指針について想定される主な内容や策定に向けたプロセス、スケジュールについて確認をさせていただければと思っていますが、どのように実効性を確保していくのかと。 また、事業者向けには既にこのＡＩ事業者のガイドラインが策定されているわけですけれども、同じような指針が新たに整備をされても、…
117
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 想定される主な指針の内容といたしましては、本法案第十三条では、国際的な規範の趣旨に即した指針、これを整備する旨規定されているところであります。この国際的な規範に含まれる広島ＡＩプロセスの国際指針に即する形で、国、地方公共団体、研究開発機関、活用事業者、そして国民を含む全てのＡＩ関係者における適正性確保のための基本的な考え方を指針において示していくことを想定しているものであります。 また、御質問のありました指針の策定に向けたプロセス、スケジュールですが、この本法案が成立した暁には、有識者の皆様方の意見もしっかりと伺いまして、ＡＩ戦略本部…
118
柴田巧(維新)ややもすれば、今までガイドラインがあって、さらにまた指針ができてということで、現場からするとというか事業者からすると、それぞれ対応する非常にこの負担感というのは出てくる可能性も多分にあると思いますので、それはそうならないように是非気を付けていただきたいと思います。 大事なのは、そのガイドラインなり指針なりの利便性を向上させていくことだということだと思っていますが、そういう観点から次にお聞きをしますけれども、本年二月に総務省が公表したＡＩ事業者ガイドラインに関する事業者アンケート・ヒアリングの結果によりますと、このＡＩ事業者ガイドラインを活用したことがあ…
お答えいたします。
ＡＩ事業者ガイドラインにつきましては、事業者へのアンケート結果のほか、多様な関係者の御意見や最新の技術動向などを踏まえて検討を行い、本年三月に一・一版として更新をしています。その際、例えば民間企業や地方公共団体における具体的な事例を追加することなどにより、事業者による理解促進のための改善を図っております。
総務省では、経済産業省と連携し、関係する事業者において一層活用されるよう、状況の変化などに柔軟に対応するリビングドキュメントとして、今後とも本ガイドラインの改善を適切に行ってまいります。
指針でございますけれども、御指摘のとおり、利便性を高めることで、その実効性といいますか、それをよりちゃんと使っていただくということはできるというふうに思っていまして、非常に重要な御指摘だというふうに思っています。 例えばということでお話ししますと、今御指摘ございました、関係省庁がガイドラインとかこのＡＩに関連する文書というのはかなり出しておりまして、それがどういうものかというその全体像ですね、それとこの法律に基づき作る指針とのこの関係性とか全体像を分かりやすく示すということが大事かなと思っていまして、併せて申し上げますと、先ほどの、指針がちょっと厚くて…
121
柴田巧(維新)いずれにしても、本当に事業者側にとってこの利便性の向上が図られるようにいろいろ工夫をしていただいて、また、今手直しをされたとしても、これから始めるとしても、いろんな状況をしっかりチェックしながら、よりいいものになるように努力をしていただきたいと思います。 次に、このＡＩのリスクを軽減するための研究についてお聞きをしたいと思いますが、本法案では、国がＡＩ関連技術の研究開発の推進に関する施策を講じることが、これ第十一条ですが、定められるとともに、研究開発機関や事業者に対しては、国等が実施する施策に協力することが規定をされております、第六条、第七条であります…
122
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 Ｇ７広島ＡＩプロセス国際行動規範の考え方に沿ってどのような施策を講じるのかという御質問もございましたが、この本法案におきましては、ＡＩの研究開発及び活用の適正性の確保を図る観点から、言うまでもなく、国際的な規範の趣旨に即した指針を整備することとしております。 この国際的な規範には、柴田委員御指摘の、冒頭申しましたＧ７広島ＡＩプロセス、これに基づく国際行動規範であります高度なＡＩシステムを開発する組織向けの広島プロセス国際行動規範、これを含んでおります。リスクを軽減するための研究の重要性を含めまして、当該国際行動規範に示されている考え方…
123
柴田巧(維新)しっかり進めていただきたいと思いますが、次に、国による調査研究等の規定の適用の場面についてお尋ねをします。 本法案の第十六条では、国が不正な目的又は不適切な方法によるＡＩの関連技術の開発、活用に伴って国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討などの調査研究、調査及び研究を行うことが規定をされているところです。 このいわゆる中間とりまとめでは、既存の個別の法令が存在する領域においては、ＡＩが各領域で様々な用途で利用され始めており、権利利益の保護の必要性が生じる場面もＡＩの用途に応じて異なることから、まずは当該法令の枠組みを活用しつ…
十六条の調査研究につきましてお答えを申し上げます。 御指摘のとおり、まず、既存の法令でその調査研究をしたりいろんな対応が可能ではございますので、まずそれはしっかりやっていただくということだと思います。 その上で、なかなかちょっと誰がどの法律で対応したらいいのか分からないとか、もう予測不可能な事態がやっぱりＡＩは起きてくると思います。そういったときに、この法案で国がしっかり調査をするということが明記されていることによって、私ども調査ができるというふうに思っております。 それで、既存法令では対応できない、でも、不正な目的あるいは不適切な活用方法で国民の…
125
柴田巧(維新)分かりました。
次に、被害事例の収集、共有を目的としたプラットフォームについてお尋ねをします。
ＡＩ制度研究会で行われたヒアリングでは、ＮＴＴから、被害事例の収集、共有を目的としたデジタルプラットフォームの整備について要望が出されたというふうに承知をしています。
この被害情報の迅速な共有というのは、同様の被害の拡大防止であったりこの原因究明等に極めて有効なものと思いますが、より安心してＡＩを活用できる環境整備にもそれはつながるものと考えますが、こうした取組をこれからやっていくという考えはおありなのかどうなのか、内閣府にお聞きをします。
御指摘の点は、その発生した被害、あるいはインシデントと言ったらいいんですかね、こういった情報を関係者が共有することが非常に重要だということでございまして、そのためのデジタルプラットフォームといいますか、ある種のサイトといいますか、ウェブサイトというか、そういうものを作って共有していくということが重要だと思います。 その際、先ほどの議論とも絡むんですけれども、余り詳細に書き過ぎるとちょっと読みにくいみたいなこともありますので、いろんな方が読みやすいように、すごく大きな事例を分かりやすく書いたり、プロの方が読んでも多少満足できるように詳しく書いたり、いろん…
127
柴田巧(維新)やはり、いろんな被害の迅速なこの共有であったりですね、それがやっぱりこの拡大防止や原因を究明する上で非常に有効なものだと思いますので、その具体的な、どういうふうにやっていくかというのはよく、制度設計というかしていただきたいというふうに思って、改めて求めておきたいと思います。 次に、この事業者名等の公表を行う際の手続の在り方についてお聞きをしたいと思っておりますが、この本法案の第十六条では、調査、研究の結果に基づき、指導、助言、情報提供等の必要な措置を講ずるものとされており、政府はこの必要な措置には事業者名等の公表が含まれていると答弁をしているというふう…
お答え申し上げます。 まず、事業者名等を公表することについては、公表した場合としない場合のデメリット、メリットといいますか、今御指摘ありましたように、公表してしまうと愉快犯みたいな人が、あるいは模倣犯みたいな人が出てきて、その悪質なものを使ってしまうとかいう可能性もあります。 また、余り言いたくない話ではあるんですけど、結局、公表したところで、また別の事業者に名前を変えて次の日から同じことをやったりとかそういうこともありますので、むしろ、その個別の事業者名を公表するというよりは、似たような事象といいますか、そういう現象について調査をして公表するという…
129
柴田巧(維新)とにかく悪質なものをやめさせ止める、被害を最小限に抑えていく、そして、今おっしゃったように、良いものは良い、成功事例とか好事例を広げていけるというようなことを考えていく必要があるんだろうと思いますが、これから、具体的なやり方はこれからお決めになるんでしょうけど、そこら辺しっかり念頭にやっていただきたいと思います。 次に、行政における活用についてお尋ねをしますが、この本法案の第四条は、国の責務として、国は、行政事務の効率化及び高度化を図るため、国の行政機関における人工知能関連技術の積極的な活用を進めるものとしております。 そして、中間とりまとめでも、国…
お答え申し上げます。
行政で利用する場合は、内部で利用する、内部業務の効率化とか高度化のために利用するというのもあれば、外部サービス、住民との関係ですとか事業者との関係でＡＩを使っていくという両方の可能性があると思います。
そういう中で、例えば給付金の支給の判断をＡＩがやるとか、あるいは何らかの認可とか、そういった判断をそのＡＩがやるということになりますと、これはもし間違いがあったときとかには非常に大きな影響ございますので、こういったものが今のこの重大な影響を及ぼしかねないものという例の一つかというふうに思います。
131
柴田巧(維新)では、それを踏まえて次にお聞きをしますが、先ほど午前中も取り上げられていましたが、補助金の交付であったり保育所の選考に係る事務など、地方公共団体を含め、行政ではもう既にＡＩの活用が進んでいるわけです。 ただ、先ほども触れましたように、ＡＩのこの判断過程というのは非常にブラックボックスというか不透明なわけですね。どのようなデータを用いたのかとか、あるいは出力結果が公平性を欠いていないかなど、このＡＩを利用した際には特に説明責任を果たすことがこれ必須になってくると思っています。 また、このＡＩを利用した行政の判断に疑義があった場合や誤った判断がなされた場…
御指摘のとおり、行政においてＡＩを積極的に使う場合、やはり透明性とか説明責任というのはしっかり果たしていく必要があるというふうに考えています。 一つ申し上げますと、デジタル庁が今作っているガイドラインがございまして、行政の進化と革新のための生成ＡＩの調達・利活用に係るガイドラインというものでございます。これ、本年五月に、目途にその策定予定と聞いておりますけれども、この中では、出力結果に基づいて行われた判断、要するに最終的には人間が判断するということなんですけど、その出力結果に基づいて行われた判断も説明責任の対象の中に含まれるんだと、そこに留意をしましょ…
133
柴田巧(維新)そのＡＩを活用することによって行政の効率化が、生産性が上がっていくということは間違いないと思われますが、今私も取り上げたように、いろんな懸念点もあるのも事実で、これをどう克服していくか、そして住民の皆さんがしっかりやっぱり納得できるようなものに、そういった制度設計をきちっとやっぱり今から準備をしておいていただきたいと思います。 次に、このＡＩの戦略本部について聞きます。 本法案の第十九条に基づいて、内閣総理大臣を本部長として全ての閣僚で構成されるＡＩの戦略本部が新設をされることになります。今回これができると、本当にたくさんの本部があるわけですが、科学…
134
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）委員御指摘のとおり、ＡＩの技術はその進化と活用が極めて急速に進展しておりまして、やはり機動的な政策対応が重要となることはまさに委員御指摘のとおりだと思います。 したがいまして、本法案に基づき設置されるＡＩ戦略本部につきましては、必要性が生じた場面において適時適切に本部会合を開催するとともに、ＡＩ戦略本部の下には有識者会議を設置する予定もございますし、また、もう既に関係省庁会議もございますので、こうした会議体も活用しながら機動的な対応を行うこととなっております。 ＡＩ戦略本部の事務局である内閣府がやはり旗振り役となりまして、我が国のＡＩ関連施策が一層強…
135
柴田巧(維新)ややもすると、この本部をつくりました、指針を作りました、で、それが目的になってしまって、大事なのは、いざというときに機動的にこの政策決定ができるか、対応できるか、対処できるかということだと思うんですね。形ばかりではなくて、やっぱり実のあるものに、本当に実効性のあるものにしていくという、このことは十分気を付けてやっていただきたいものだと思います。 この司令塔機能の強化に向けては、このＡＩ戦略本部を支える事務局の体制整備がこれ重要になるというふうに思います。本部の事務は内閣府において処理すると規定をしていますが、それでは、これまでＡＩ政策を担ってきた科学技…
136
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。
我が国全体のＡＩ政策に関する司令塔となりますＡＩ戦略本部の事務は、内閣府科学技術・イノベーション推進事務局が所掌する科学技術の振興等に関する事務と互いに密接に関連するため、引き続き同事務局が担当することとしております。
なお、ＡＩ政策の司令塔機能を十分に発揮するためにはやはり事務局の体制強化が極めて重要であると考えておりますので、関係省庁とも連携しながら、外部の専門人材の活用なども含めて、しっかりと推進体制の確保を図ってまいりたいと考えております。
137
柴田巧(維新)やはり、その事務局体制が非常に肝になると思います。ここをしっかりやっぱりなるかどうかがポイントだと思いますので、人選含め、体制の在り方含め、しっかりやっていただきたいと思います。 それで、これが最後の質問になるかもしれませんが、この本法案の第十八条では、ＡＩ戦略本部での検討を踏まえてＡＩ基本計画を策定することを規定をしています。本法案では計画の策定時期や変更時期については規定はされていないわけですけれども、知的財産基本法では知的財産推進計画について、知的財産戦略本部は、少なくとも毎年度一回、同計画に検討を加え、必要があるときは、認めるときはこれを変更し…
138
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ＡＩは、先ほども申し上げているとおり、技術の進展が速い分野でありますので、法案の施行後、現時点では予測できないリスクが発生し、又は顕在化する可能性がございます。 本法案に基づき策定するＡＩ基本計画については、そうしたＡＩの技術進展の動向を見ながらその時々の状況に応じて臨機応変に見直していくことが重要だと考えておりまして、今般の法案においては、基本計画の見直しの時期についてはそうした観点から具体的な規定を設けていないということであります。 また、ＡＩ基本計画の見直しに係る検討につきましては、関連する国際的な動向や社会経済情勢の変化を含めまして、法律の施…
139
柴田巧(維新)時間が来たのでこれで終わりますが、残りは来週やらせていただきたいと思いますので、どうぞよろしくお願いします。済みません。
140
竹詰仁(国民)国民民主党・新緑風会の竹詰仁です。 これまでの質問と重複するところがありますので、そこはあらかじめ御了承いただきたいと思います。 最近のニュースでちょっと私の関心を引いたことが、ニュースがございました。五月の五日に、チャットＧＰＴを手掛けるアメリカのオープンＡＩというところが、去年発表した、営利企業が事業を主導するとした組織再編をやるというのを去年発表したんですね。その営利企業を主導する組織再編、そのことについて、非営利組織が今後も経営主体となるというふうに発表したんです。すなわち、撤回をしたということです。営利企業が中心になるということではなくて、…
141
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）チャットＧＰＴという、オープンＡＩというですね、個別の企業の経営上の判断についてこの場でコメントすることについては差し控えたいと思いますが、その上で、一般論として申し上げますと、世界中の多くのユーザーを対象とする企業においては、営利目的だけではなく社会的貢献などの観点も踏まえて事業が行われることを強く期待しているものでありますし、また、竹詰委員御指摘のとおり、安全対策が後回しとなることはあってはならないと考えております。
142
竹詰仁(国民)このオープンＡＩに限らず生成ＡＩは、大手のＩＴ企業あるいはスタートアップと言われる民間企業が手掛けることが中心となっていると認識しているんですけれども、この営利目的とする民間企業が生成ＡＩを手掛けることは安全上のリスクが生じ得るのかという点で、政府の見解を聞きたいと思います。
お答え申し上げます。 いわゆるネットワークビジネスにおいて起こる現象でございますけれども、一般的には非常に技術的にブラックボックスになりやすい、そういうものを扱っているデジタルプラットフォーマーと言われている人たちなので、一般の人のチェックが入りにくいという説もあるんですけど、逆に多くの利用者がそれを利用して、日々使っているので、何かおかしいことがあればそれは発覚しやすいという面もあれば、また一回そういうことが起こりますと使われなくなってしまうということで、事業者側もリスクを感じていますので、利用者の多いＩＴシステムといいますかＡＩも含めて、民間企業が…
144
竹詰仁(国民)ちょっとまた後ほど似たような質問をするんですけど、私非常に関心が、興味深かったのは、このＡＩを我が国の産業の発展につなげていくんだとするならば、やはり民間企業にそれを担ってもらうということが当然必要になってくると思うんですね。ですけど、このオープンＡＩは営利目的とするという組織改編をやっぱりやめますと言ったことは何かとても興味深くて、でも、民間企業というのは普通営利を追求するのが民間企業ですので、その民間企業に頑張っていただくことが日本のＡＩの進展にもなるけれども、でも、余り営利を追求し過ぎると実は肝腎なリスクが脅かされる可能性もあるというような、私、そ…
お答え申し上げます。 二〇一〇年代にＡＩの技術がだんだん進化して国際的にも利用されるようになってきて、ちょうど二〇一六年に、Ｇ７の、高松ですね、香川・高松情報通信大臣会合がございまして、そのときに、その当時の高市総務大臣がこのＡＩに関して何らかの原則が必要なんではないかということを表明されたと。ある意味、これが一つの出発点だったんではないかというふうに思います。 その後、二〇一七年に、総務省の方で、ＡＩ開発者が研究開発等の際に留意する指針、原則としてＡＩ開発原則という今御指摘のものを作りまして、その解説文書としてＡＩ開発ガイドラインというのもできまし…
146
竹詰仁(国民)今、最後の方に、世界のルールをむしろ先進的に作ってきたんではないかということで、ちょっとその続きなんですけれども、ＯＥＣＤが二〇一九年に人工知能に関する理事会勧告というのを出しております。その時点では、このグローバルスタンダードが日本の提案をベースに作成されたということでございましたけれども、この二〇一九年のＯＥＣＤの理事会勧告は日本の提案がベースとなっているというふうに考えてよいのか、そしてこの概要についても併せて御説明いただきたいと思います。
お答え申し上げます。 ＯＥＣＤのデジタル経済政策委員会におきましては、二〇一六年のＧ７香川・高松情報通信大臣会合をきっかけにＡＩに関する原則の検討、策定に着手をし、二〇一九年五月に委員御指摘のＯＥＣＤ理事会勧告として取りまとめを行いました。 この理事会勧告でございますけれども、ＡＩに関する初めての多国間合意であり、ＡＩの責任ある管理、運用、法の支配と人権の尊重、透明性、安全性の確保、アカウンタビリティーの責務など、人間中心の考え方に基づく指針として策定されております。 日本政府としましては、ＯＥＣＤデジタル経済政策委員会において、先ほどの答弁でも言…
148
竹詰仁(国民)御説明ありがとうございました。 私は、今の御説明もそうだったんですけど、こういった二〇一〇年代からの背景を見ると、私はむしろ、ルール作りはとても早く作ろうとしていて、とても慎重に作ってきたんじゃないかと思っているんですね。でも一方で、何というんでしょう、慎重であるがゆえに開発が遅れていったということもあるんじゃないかと思っていて、むしろ丁寧にやってきた、でもその開発というかそれは遅れて、利用の方も遅れているというような状況が今の状況なんじゃないかなと思って、いろんなものを、資料を読んだり、今の御答弁も聞いてそういうふうに思っているんです。 この人間中…
149
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）竹詰委員御指摘の人間中心の考え方につきましては、例を挙げますと、例えば、我が国とＥＵが共に策定に関わっておりますＯＥＣＤの人工知能に関する理事会勧告、いわゆるＯＥＣＤ・ＡＩ原則なんですけれども、これとか、あるいは広島ＡＩプロセスの国際行動規範などにおいても示されているところでありまして、こうした考え方は、御指摘のとおり、我が国とＥＵ双方において共有されているものと認識しております。 今後、ＡＩ戦略本部の下で策定いたしますＡＩ基本計画や国が整備するＡＩの適正性を確保するための指針におきましても、この人間中心の考え方をしっかり示していくことを予定しておりま…
150
竹詰仁(国民)大臣、御見解教えていただきましたけれども、ちょっともう一回、繰り返すところあるんですけれども、この二〇一九年のこのときの動きが第一ラウンドだとすれば、先ほど御説明もいただいたんですけど、広島、Ｇ７の広島があって、広島ＡＩプロセスというのが今度始まっていって、それが第二ラウンドというふうに呼ばれたりしていて、それのじゃ何が違うかというと、やはり生成ＡＩというのが二〇二二年にチャットＧＰＴを始め出てきて、そこから私、このルール変更というか少しモードが変わったというか、そういうふうになったのではないかと思っております。 この広島ＡＩプロセスということを実行す…
お答え申し上げます。
二〇二二年末にチャットＧＰＴが一般向けに公開されたことを踏まえ、二〇二三年五月に我が国が議長国となって開催されたＧ７サミットにおいて、生成ＡＩの機会と課題を早急に把握する必要性が認識され、我が国の主導により広島ＡＩプロセスが創設されました。
広島ＡＩプロセスは、生成ＡＩによる新たな機会と課題に対応し、安心、安全で信頼できるＡＩを実現するための国際的なルールの検討を行うものでございます。我が国は、このルール作りを引き続き主導していきたいと考えております。
152
竹詰仁(国民)ちょっともう一度なんですけど、ＡＩそれから生成ＡＩ、今は生成ＡＩということになって、このＡＩから生成ＡＩが登場したことで、それまでの原則やルールを変えざるを得なくなった、その理由について内閣府から御説明いただきたいと思います。
お答え申し上げます。
生成ＡＩは非常に高性能なものですから、例えば偽情報も非常に巧妙で本物かどうか見分けが付かないとか、そういうものが出てきたということで、これは従来のその原則に加えて、やはりもう少し細かなルールといいますかガイドラインが必要だろうということで、国際的にもそういう議論になっていったというふうに考えております。
そういう意味で、今までの原則がなくなったということではなくて、今までの原則に加えて、新しいそのルールが加わっているというふうに理解しております。
154
竹詰仁(国民)御説明ありがとうございました。 次に、今度はＡＩの産業政策という意味でちょっとまた、先ほど民間企業の話したんですけれども、産業政策についてお伺いしたいんですけれども。 このＡＩの開発を促進し、社会の中で人々がＡＩから便益を受けられるようにすること、さらにはそうしたＡＩの開発や利用を産業として支援し、日本経済の成長を促すこと、それらもまたこのＡＩに関する重要な政策課題だと思っているんですが、ちょっとこれ大臣にお尋ねしますけれども、このＡＩの開発は我が国の経済成長の牽引役となる要素とお考えになっているのか、そして、この法律自体が我が国のＡＩの開発の促進に…
155
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）基本的に竹詰委員と同じ考えでありまして、ＡＩは、その研究開発、活用の方法によってはリスクが生じる一方で、生産性の向上、人手不足の解消などが図られることで我が国の経済成長や国民生活の発展に直結するものと考えております。 このため、安全、安心なＡＩの研究開発を適正に進めていくことが非常に重要であり、本法案では、第十一条でＡＩ技術の基礎研究から実用化のための研究開発に至るまでの一貫した研究開発の推進、第十二条におきましてはＡＩの開発に必要となるデータセンターやデータセット等の整備、共用、第十三条におきましてはＡＩの研究開発及び活用の適正性の確保のための指針の…
156
竹詰仁(国民)我が国は、そのＡＩということに対するいろんなルールは、私は、結構早めに、早めに作ってきたと。一方で、今となってはＡＩの開発がむしろ後れを取っている、あるいは利用する人も余り多くないということなんですけれども、ここで、そのＡＩの、生成ＡＩの開発においてアメリカの巨大ＩＴ企業というのが出てきているんですけど、そこと我が国における開発とでどこに大きな開発の差が生じてしまったとお考えになっているのか、内閣府から御説明いただきたいと思います。
お答え申し上げます。 人によってちょっと解釈は違うかもしれませんけれども、私どもの解釈を申し上げますと、まずアメリカのビッグテックと日本の企業を比べた場合、大きな資金が集まってくるそのスピード感、資金とか人が集まってくるそのスピード感というのがやはり違うかなと。もちろんその規模も違うんですけれども、そういったところがありまして、その影響も大きいと思いますけれども、データセンター等の、クラウド等の大きなこのコンピューターインフラ、あるいはそのエンジニアの数とか、そういうものは確保しにくかったのかなと思います。 また、もう一つちょっと残念なのは、やはり日…
158
竹詰仁(国民)私、本会議でも、ＧＥＮＩＡＣ、ことについて質問させていただいたんですけど、ちょっと重複する質問で大変恐縮なんですけれども、経産省とＮＥＤＯが一緒になってこのＧＥＮＩＡＣというのを進めているんですけれども、このＧＥＮＩＡＣがうまくいっているかどうかというのは私必ずしも承知していないんですけれども、このＧＥＮＩＡＣについての課題というか、あるいは政府としてどのように取り組んでいくのか、改めて経産省に伺いたいと思います。
お答え申し上げます。 まず、計算資源の確保、データの不足、グローバル競争力の強化、そして産業との連携と、こういったところがまさに日本のＡＩ開発環境の課題ということでございまして、これに、この課題を乗り越えていくための取組がＧＥＮＩＡＣということになります。 まず、計算資源の確保につきましては、ＧＥＮＩＡＣを昨年立ち上げた当初の最大の課題でありましたが、現在は、海外のクラウド事業者の協力なども得て、開発者が希望する計算資源は確保しています。さらに、他の施策と組み合わせて、他の施策によりまして国内の事業者を支援して計算資源の拡充を進めていると、こういう状…
160
竹詰仁(国民)先ほど大臣の御答弁の中にデータセンターという言葉が出てきたので、ちょっとそのデータセンターについてお伺いさせていただきたいと思います。 私も、少し前なんですけど、千葉県の印西市というところにデータセンターが集積されているんですけれども、何というんでしょう、イメージとすると、本当に、再開発した土地に戸建てとかマンションとかが並んでいるようなイメージで、データセンターが道路の脇にずうっと並んで、データセンターの、ちょっと言葉が、適切な言葉じゃなかったらあれなんですけど、無機質なんですよね、窓とかも要らないから。むしろ窓は不要ですよね。そういう冷暖房、ごめん…
お答え申し上げます。 データセンターは、委員御指摘のとおり、生成ＡＩなどがあらゆる分野で活用されるようになる中、質、量共に確保していくことが、産業競争力の強化のみならず、経済安全保障の観点などからも重要だというふうに認識しています。 こうした認識の下、これまで、大規模自然災害への備えの観点も踏まえまして、地方へのデータセンターの整備でありますとか、ＡＩ開発に不可欠な計算資源の整備に対する支援を通じて、事業者によるデータセンターに向けた投資を後押ししてきています。 今後、ＡＩの普及を考えますと、それを支える計算資源の整備には多額の投資が必要になるだろ…
162
竹詰仁(国民)御回答ありがとうございました。
私もいろいろ伺っているんですけど、データセンターの場合は、十年後にあればいいですじゃないじゃないですか。多分、もう十年後では多分古くなっていて、もうあしたにでも欲しいという感じなんですよね。
ですから、今いろいろ、るるおっしゃっていただいたこともスピード感持ってやらないと、十年後にデータセンターが造れますよといっても、多分そのときにはもう時代が変わっちゃっているかもしれないので、その点もしっかり官民の意見交換を通じて進めていただければと思います。
時間となりましたので、質問を終わります。ありがとうございました。
163
井上哲士(共産)日本共産党の井上哲士です。 本会議の質疑の際に、ＡＩの発展や普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を求めました。今日は、その中でも自己情報コントロール権の保護の必要について更にお聞きいたします。 二〇〇六年の大阪高裁の判決でも、自己情報コントロール権は、憲法上保障されているプライバシーの権利の重要な一内容となっているとしております。ところが、本会議で個人情報保護法への明記を求めたところ、担当大臣は、自己情報コントロール権については、その内容、範囲及び法的性格に関し様々な見解があり、明確な概念として確立しているものではないと答弁をさ…
164
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）井上委員の御質問にお答えしますが、いわゆるその自己情報コントロール権につきましては、御指摘のような高裁判決が存在したとは承知しておりますけれども、その上告審である最高裁判決はこれを認めたものではなく、自己情報コントロール権につきましては、その内容や範囲あるいは法的性格に関して様々な見解があり、明確な概念として確立しているものではないと承知しておりまして、その旨本会議でも御答弁申し上げたとおりであります。 したがいまして、自己情報コントロール権を国民が有しているかどうかにつきましては、司法判断としてもいまだ結論が出ていない発展途上の概念でありますので、本…
165
井上哲士(共産)この判決、最高裁判決は、これについてあえて触れていないということでありまして、否定されたものでもないんですね。 この判決は、憲法第十三条のプライバシーの権利の保障を実効的なものにするためには、自己のプライバシーに属する情報の取扱い方を自分自身で決定するということが極めて重要になっているということを指摘をして、今日の社会にあって、自己のプライバシー情報の取扱いについて自己決定する利益、自己情報コントロール権は、憲法上保障されているプライバシーの権利の重要な一内容になっていると、こういうふうに明確に示したわけですね。 これからもう二十年たっております。む…
お答えいたします。 委員御指摘のように、昨年十月に私ども、充実に向けた視点を公表してございまして、そこにおきましては四つのリスクを挙げてございますが、個人情報保護法におきましては、その目的といたしまして、個人の権利利益を保護することということが規定されていることも踏まえまして、個人の権利利益の侵害をもたらし得るリスクとして具体的に例示したものでございます。 これら全てが委員がおっしゃる自己情報コントロール権の問題ではないかという御指摘でございますけれども、先ほど城内大臣からもありましたとおり、この自己情報コントロール権につきましては、その内容、範囲、…
167
井上哲士(共産)四つのリスクの例えばもう一つは、本人が秘匿しておきたい自身の情報について、一旦事業者に提供すると、自身が認識できない利用がなされる可能性が排除できず、不安を覚える状況になるリスク、これなどまさに自己情報のコントロールが乱されていると、侵されているということだと思うんですよね。現実には、やっぱりそれを保護することが現実にやっぱり求められていると思うんですよ。 日本弁護士連合会は、今年三月に個人情報保護法改正に向けた意見書を発表しておりますが、その中で、この法律は、この個人情報の有用性に配慮しつつ、個人の権利利益を保護することを目的とすると規定しているけれ…
お答えいたします。 御指摘のとおり、個人情報保護法の目的規定には個人の権利利益の保護というふうに書いてございますが、私ども、いわゆる三年ごと見直しの中で、まさに具体的にどのようなリスクをどういう手段で保護、対処していくかということをひもとく上で、あえて四つの具体的なリスクの例を挙げながら、現行の制度が足りているか足りていないのかという具体的な議論を進めているつもりでございます。 現に、この個人の権利利益を守るためには、個人情報保護法におきましては、本人の関与の重要性に鑑み、開示、訂正、利用停止などの請求を可能とする諸規定がございますし、委員会におきま…
169
井上哲士(共産)こういう問題に関するリスクというのは、これまで予想しなかったものも含めてこれからたくさん出てくるわけですよね。その度に、これをどうするかというときに、やっぱり土台になるこの考え、具体的な法益、これは明確にしておくことが必要だと思うんですよ。 日弁連はそのことを指摘をして、今のこの個人の権利利益では、これでは不明確だということで指摘をしているわけで、重ねて、やっぱりしっかりこれを確立をしていく、明記をすることが必要だということを強く求めておきたいと思います。 その上で、具体的にお聞きしますけれども、現行の個人情報保護法は、個人情報の目的外利用、要配慮個…
お答えいたします。 現行法におきましては、委員御理解のとおり、本人の同意の取得というものはとても重要なものとして元々位置付けてございまして、同意の取得に当たりましても、事業の性質及び個人情報の取扱状況に応じまして、本人が同意に係る判断を行うために必要と考えられる合理的かつ適切な方法によって同意の取得をしないといけないというふうになってございます。また、同法では、個人情報の不適正な利用、あるいは不正取得を禁じる規定を設けてございます。 委員御指摘のように本人の同意が事実上強制されるような場合などにつきましては、本人の同意に係る今のような規律でございます…
171
井上哲士(共産)いや、広範囲にやられているんですよ。ちっとも適切に対応されていないんですね。 例えば、通販サイトでは登録しないと商品購入できません。入会するにはインターネットサイトの閲覧履歴とか購入履歴などの個人データなどを、ＡＩを利用したプロファイル分析とか、分析結果の第三者提供への同意が求められるという場合もあるわけですよね。入会してサービスを利用した時点で本人同意をしたことになると、こういうやり方も行われておりまして、いずれも事実上の強制になっています。相当広範囲に行われているんですね。 二〇一八年に施行されたＥＵの一般データ保護規則、ＧＤＰＲは、事業者に適正…
お答え申し上げます。 現在、三年ごと見直しということで、様々な観点から法律、制度の見直しを行ってございます。 例えば、昨年六月にその中間整理を公表いたしましたけれども、個人情報取扱事業者の提供する商品、サービスなどが本人にとって他の事業者による代替が困難な場合など、自らの個人情報を提供するか否かについて自律的な意思を選択することが実質的に難しいという場合をどうするかというのも論点にして議論してございました。 個人情報取扱事業者と本人の関係に照らしまして、当然認められるべき利用目的の達成に必要な範囲を超えて個人情報を取得、利用することなどに対しまして…
173
井上哲士(共産)継続的な検討はいいんですけど、やっぱり現に起きているわけですから、速やかに私はやってほしいと思うんですね。 それで、ちょっと城内大臣に追加してお聞きしますけど、今議論をしてきましたように様々な問題があります。大臣、今日の午前中の質疑でもこの間の本会議でも、この法案について、イノベーション促進とリスク対応の両立を図るために、いわゆる規制法ではない形の法律として世界のモデルになり得るものだということを繰り返し答弁をされております。 しかし、先ほど紹介したこのＥＵのＧＤＰＲ、個人情報を保護する規則では、その前文で、全ての者が自己に関する個人データ保護の権利…
済みません、通告ございませんでしたので、ちょっと私の方からお答えさせていただきます。 ちょっと細かくお答えしますと、確かにＡＩ法案、ＡＩ法という面で比べますと、日本のＡＩ法には罰則規定がないということがございます。しかし、法体系ということで比較をしますと、ＥＵが言っているその四つのランクに分けて、一番厳しいものは禁止、次は基準適合義務とか、こういう考え方ですけれども、日本も当然、刑法とか個人情報保護法に抵触するものは規制が掛かっているわけですし、それから医療機器とかであればその認証というのがありまして、そういう意味では、やっぱりリスクの高いものについて…
175
井上哲士(共産)罰則、罰金があるというのは細かい問題ではないと私は思いますよ。この間も紹介した、今日も出されました国民の様々な不安について言っても、やはり応えるものに現状ではなっていないということを指摘しておかなければなりません。 その上で、大臣にこのＡＩのリスクに対する対応についてお聞きしますが、このＡＩには、判断の根拠や過程がブラックボックスになる問題や、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうと、こういうバイアスの問題があります。今日も幾つか指摘をされました。 これが就職試験とか人事評価、人間の評価、選別に活用さ…
176
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 ＡＩをめぐる問題の中には、機械学習モデルについて透明性が欠如、すなわちブラックボックスとなっていて内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性があることや、あるいは偏ったデータを学習に使用することでＡＩが下す判断も偏ってしまうと、すなわちバイアスが掛かってしまう可能性があることなどがあると認識しております。 このブラックボックスに起因する問題としては、例えばＡＩが不適切な判断や誤った判断をした場合に、なぜそのような判断が行われたのかが説明できないと、責任の所在が不明確になったり、再発防止を図ることが困難とな…
177
井上哲士(共産)今様々なことを挙げられましたけど、今年三月に時事通信が行った主要企業百社の調査によれば、約三割の企業で採用活動にＡＩが導入をされています。既にボーナスなどの人事評価にＡＩを使っている企業もあるわけで、更に普及が進めばリストラツールに使われるんじゃないかという指摘もあるわけですね。 今、様々、るるリスクについてお話がありましたが、では、この日本での従業員の採用や人事評価システムの安全性、実際に使われている、この安全性がどのように確保されているのか、それから、そういう企業がきちっとガイドライン等を守っているということを誰が確認をしているのか、どのようにチェ…
お答え申し上げます。 ＡＩを利用しているか否かにかかわらず、雇用等の場面でそのＡＩを使って、それが偏見、差別を含んでいるというのは、これは良くないことでございまして、厚労省のガイドライン等でこういった点については一定の考え方というのは示されているところであります。 また、総務省と経産省、先ほども御答弁ありましたけれども、作っているＡＩ事業者ガイドラインにつきましては、事業者がＡＩを使う場合に、これ当然そういった人事評価とかそういうものも含むというふうに考えておりますけれども、そういうところで使う場合にバイアスとかそういった問題にも配慮をしなきゃいけな…
179
井上哲士(共産)まあいろいろ言われて、結局業者任せなんですよね、指針ちゃんとやりなさいよと。
先ほど紹介したＥＵのＡＩ規制は、ＡＩのリスクに応じて四段階に分類して法規制をするわけですが、雇用や人事選考などでＡＩを利用することはハイリスク利用のカテゴリーに位置付けられて、第三者機関による適合性審査を義務付けて安全性を確保するということがやられてきております。
日本でもこの第三者機関などによる外部からのチェックということが必要だと思いますけれども、いかがでしょうか。
180
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 雇用や人事採用、選考の在り方につきまして、我が国におきましては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等におきまして一定の考え方が示されているところであります。また、ＡＩ事業者ガイドラインにおきましても、ＡＩの活用に当たりましては事業者が留意すべき事項等を示しているところであります。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおいて性別を理由とする差別が禁止されているなど、既存法による一定の取組も存在しております。 御指摘のＥＵのＡＩ法では、確かに最上位から二段階目となるハイリスクなＡＩシステムに…
181
井上哲士(共産)指針の整備とか言われますが、やはりきちっとそれが守られているかということをチェックをしなければ、これは実効性ができないわけでありまして、第三者のチェック体制を整えることが必要だと繰り返し求めたいと思うんですが、同時に、それにとどまらず法規制そのものを強める必要があると思います。 今年四月の大手法律事務所のニュースレターによりますと、米国では、連邦政府が業界自主規制の促進や非拘束的ガイドラインの発行といったアプローチを優先してきた一方で、州レベルですね、州レベルではＡＩ関連法案の提出が急増し、ＡＩに関わる事業者に実質的な義務を課す規制法案が顕著に増加して…
182
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）先ほども申し上げたとおりですが、国によりまして歴史や文化の背景が異なりますことから、各国の制度や法体系、様々であると考えております。 我が国について言いますと、安全性の審査については各種業法、いわゆるプロファイリングについては個人情報保護法といった既存法によりまして規制の対象となる場合があるものと承知しております。 これに加えまして、本法案第十三条に基づき整備する新たな指針におきましては、ＡＩの研究開発、利用の透明性の確保を図っていくこととされております。この指針におきまして、生成ＡＩが格差、差別を助長するような出力をしないための措置をＡＩ開発者が講…
183
井上哲士(共産)繰り返しになりますが、業者任せではなくて、ＡＩの発展や普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を図るということを一体で行うことが必要だということを強く求めまして、終わります。
184
大島九州男(れいわ)れいわ新選組、大島九州男でございます。 大臣、ちょっと通告していないんですけど、非常に基本的なことなのでお答えいただければというふうに思うんですが。 人工知能戦略本部ですね。この本部、ここに書いてあるのは、人工知能戦略本部長というのは総理ですと。副本部長に内閣官房長官及び人工知能戦略担当大臣と。内閣総理大臣の命を受けて、人工知能関連技術の研究開発及び活用の総合的かつ計画的な推進に関し内閣総理大臣を助けることをその職務とする国務大臣。これ、じゃ、新たにそういう大臣を任命するという理解ですよね。 それで、そういう人がいて、そして、そこにまた本部員という…
185
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）この戦略本部の本部長は内閣総理大臣でありまして、本当に総理大臣という高い立場で司令塔機能を発揮させ、本部員は国務大臣でありますけれども、やはりＡＩというのは非常にもう幅が広い分野でございますので、各大臣が責任感を持って対応していくということで本部員に各国務大臣がそれぞれなるということでありますが、他方で、政令に基づきまして有識者会議も設置する予定でございますし、既に関係省庁会議、これ局長級でありますが、既に立ち上がっておりまして、そういった有識者会議あるいは関係省庁会議も活用しながら、何かこう縦割りで各省の大臣が集まって何かということも必要なときは必要な…
186
大島九州男(れいわ)年に一回や二回でなくて適宜というのは、何か問題あったときに、まあそれが二年に一回なのか一年に一回なのか、必要に応じてと。 何が言いたかったかというと、レクに来た人にも言ったんですけど、何でも本部つくると、それこそ内閣総理大臣が本部長で、それで、全部内閣委員会で全部集めて、内閣内閣って言って、本当に大臣はどの本部長を自分がやっているかとかって総理大臣は分からないんじゃない、どれだけやっているのと言ったら、いや、それは総理大臣分かっていると思いますよと言うけど、俺が総理大臣だったら多分分からないなという会話をするぐらい、我々も内閣委員会でいると、何かあると…
187
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）大島委員にお答えしますが。
委員御指摘のＡＩがもたらし得る問題については様々なものが考えられるところでありますが、例えば本年二月にＡＩ戦略会議及びＡＩ制度研究会が策定いたしました中間とりまとめ、これがあるんですけれども、この中間とりまとめにおきましては、例えばＡＩによる偽サイトや合成音声が詐欺等に使用される犯罪の巧妙化、また、偽情報、誤情報の作成にＡＩが使用され、拡散されることにより情報が操作されるといったリスク、さらにはサイバー攻撃等にＡＩが使用される安全保障上のリスク、これらが指摘されているというふうに認識しております。
188
大島九州男(れいわ)いろんな問題があると。そういった問題にどういうふうに対応していくのかと、今またどう対処しているのかというのがあったら教えてください。
189
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）先ほど述べましたとおり、ＡＩ戦略会議、ＡＩ制度研究会の中間とりまとめにおきましては、ＡＩがもたらし得るリスクの例のほかに、これに対応する主要法令等についても整理されているところであります。
現在顕在化しているリスクのうち、特に悪質な事案につきましては、現行法令に基づく措置によって対処することが可能と考えております。こうした法令に加えまして、ガイドライン等を適切に組み合わせることで、これまで顕在化するリスクに対応してきたものと承知しております。
190
大島九州男(れいわ)今までそういう対応をしてきたけれども、これからいろんな進化もしていくし、これがもっと広がっていくということで、こういうＡＩ法というものを作っていろんな部分に目を配りながら、リスクを排除していったり、またもっともっといいものにしていこうというふうにしようとしているんだろうなと思うんですが、この法案ができたことで、そういう諸問題への対応はどのように変わるという認識ですか。
191
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 既に顕在化しているＡＩの諸問題につきましては、これまで関係省庁におきまして、それぞれの所掌範囲において、既存法令、そしてガイドライン等を先ほど申しましたように適切に組み合わせて対応してまいりましたが、他方で、昨今のＡＩの技術進展の状況等を踏まえますと、本法案においては、ＡＩ政策の司令塔機能強化を図るため、先ほど冒頭申しました内閣総理大臣を本部長とするＡＩ戦略本部の設置、これ第十九条にありますが、さらには政府が推進すべきＡＩ政策の基本的な方針を定めたＡＩ基本計画の策定、これは第十八条です、そして、ＡＩの適正性確保のための国際規範に即した指…
192
大島九州男(れいわ)おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。 近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。 例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言って…
193
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘の事案も含めまして、具体的には、国民の権利又は利益を侵害するなどの重大な事故等が生じた場合には、関係省庁と連携し、本法案に基づく調査を行ってまいる考えです。
その上で、その調査の結果、被害の拡大防止のために必要があると認められる場合には、更にその指導、助言や国民への情報提供を行うことを想定しているほか、必要に応じて適正なＡＩの研究開発及び活用に向けてガイドライン等の整備や周知等を行うことが考えられます。
以上です。
194
大島九州男(れいわ)いやいや、何かそういう、問題が起こって、そのガイドラインを整備するとかいうんじゃなくて、例えば、ちょっと私の理解でいえば、そういうさっき言った具体的なフェイクと言われるものが流れたと。じゃ、そこに本部がどういう対応をするかというと、まさに本当に、そういう消費税を食料品だけゼロ％にするというようなことを財務省は本当に議論したのかとか、また、各関係省庁にその確認をしたと。そうしたら、そういう事実はないと。で、それを本部が確認をしたら、じゃ、本部長が、いや、国民にこういうデマな情報が拡散されたりするのはよくないと、だから早期にこれを否定しなきゃいけないと。じゃ…
195
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）済みません、要するに、個別具体的な事案についてはいろんなパターンが考えられますし、例えば、個別の既存法、名誉毀損とか、あるいはＡＩを詐欺に使った場合は詐欺罪とか、あるいは選挙について言えば選挙関連法の違反とか、いろいろあるかと思いますし、実際、また非常に日本社会に大きな影響を与えるような、今委員御指摘のような事案があった場合には、当然、内閣府がしっかり政府の立場で国民に向けて、もちろん戦略本部の本部長である内閣総理大臣の了解の下で周知徹底するなど、これはもういろんなパターンがあるかと思いますが、それは、それぞれ既存法、そしてこの新たな法律が、法案が通った…
196
大島九州男(れいわ)先ほどの質問にもあったように、それぞれ今言う名誉毀損でとか詐欺罪でとかって、そういう刑法で、こっちでやれるやつはそれでやっているわけだから。 だから、ＡＩ法案ができて、内閣総理大臣を本部長にして、今言うような問題が起こったような場合、それぞれ刑法とか今までの対処でできるようなやつはそれでやるわけだから、それはそれでいいんですよ。だけど、わざわざ各国務大臣をそろえてやる本部が扱うのは、今言ったような、国民をだまかす、一斉にだまかす、それは個人の一人一人詐欺するような問題、そんな本部で扱っていたら大変なことですよ。だから、そんなことは想定していないでしょう…
大変重要な御指摘というか、本部を開くときの一つの形に対するアドバイスだというふうに受け止めております。 ただ、今申し上げたのは、個別の事案がまず出てこないと、どういうリスクがあるかというのはやっぱりどうしても事後的にしか分からない部分がありますから、そういうものについてはどうしても個別事案ごとに対処することになりますし、そのときに、一気に国民に対して全部アピールするのがいいのか、一部の関係者にだけ言った方がいいのかというのは、これは悪事を余り一気にアピールするとまた別の影響があったりするケースもありますので、そういうことも考えないといけないので、これは…
198
大島九州男(れいわ)いや、まさしくその本部の強力な権限を使うということは、この印籠が目に入らぬかみたいなやつをやるわけですから、そういうのはもうある程度想定をしておくというのは当然必要で、それこそ先般やったサイバーじゃないけど、事前にそういう無害化をしていこうと。 そういう、起こることを想定して起こらないようにしようとするような、片やそういうことをやっているわけですから、こういう部分でも当然同じような考え方に立てば、今言った想定してこういうような使われ方をしたときにはどうするとかいうのは、もう事前に常にシミュレーションしていって、ぱっと対応できるようにしていくというのが必…
199
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 ＡＩを活用しやすい環境として、例えばＡＩに係る人材あるいはお金の資本、これが集まりやすいことや、ルールが明確であることなどにより、事業者にとりまして事業の予見性が高いことなどが挙げられると思います。 また、ＡＩを活用しやすい環境といたしましては、例えばＡＩを活用するに当たって留意すべき事項等を利用者に分かりやすい形で提供するなどによって、ＡＩ活用のハードルが低くなることなどが挙げられると考えております。 これらの環境の実現に向けまして、本法案に基づきまして国が指針を整備し、事業者に求める取組内容を明確に示すことにより、事業者による自…
200
大島九州男(れいわ)今大臣がおっしゃった教育の関係の、今日も文科省にもおいでいただいていますが、初等中等教育における生成ＡＩの利用に関するガイドラインというのはどういうものかというのと、高等教育段階における取組として今おっしゃった数理、データサイエンス、ＡＩ教育プログラムの認定制度というのはどういうものか教えてください。
生成ＡＩの利活用に関するガイドラインについてお答えをいたします。 御指摘のガイドラインは、教職員や教育委員会等の学校教育関係者を主たる読み手として、学校現場における生成ＡＩの利活用を実現するための参考資料となるよう、昨年十二月に策定、公表したものとなっております。 本ガイドラインでは、基本的な考え方として、学校現場における人間中心の利活用と生成ＡＩの存在を踏まえた情報活用能力の育成強化という二点を示しており、その基本的な考え方に基づき、児童生徒が学習活動で利活用する場面、教職員が校務で利活用する場面など、主体や場面に応じて押さえておくべきポイントなど…
お尋ねの大学等におけます数理・データサイエンス・ＡＩ教育プログラム認定制度についてお答え申し上げます。 これは、令和元年に策定されましたＡＩ戦略二〇一九に基づきまして、文系、理系を問わず全ての大学、高専生がデータサイエンスやＡＩ活用に関するまずリテラシーを高めていただくために、文部科学省を中心に行っているものでございます。 まず初めに、数理、データサイエンス、ＡＩに関する体系的なモデルカリキュラムというのを策定いたしまして、このモデルカリキュラムの下で、必要なデータの扱い方ですとかデータの取扱いの留意点、活用状況、その他そういったカリキュラムを踏まえ…
203
大島九州男(れいわ)ちょっと時間になりましたので、総務省等また残余の質問については後日に譲りたいと思いますので、よろしくお願いします。
以上です。
204
和田政宗(自民)本日の質疑はこの程度にとどめます。
─────────────
205
和田政宗(自民)参考人の出席要求に関する件についてお諮りいたします。
人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、来る二十二日午後一時に参考人の出席を求め、その意見を聴取することに御異議ございませんか。
〔「異議なし」と呼ぶ者あり〕
206
和田政宗(自民)御異議ないと認めます。
なお、その人選等につきましては、これを委員長に御一任願いたいと存じますが、御異議ございませんか。
〔「異議なし」と呼ぶ者あり〕
207
和田政宗(自民)御異議ないと認め、さよう決定いたします。
本日はこれにて散会いたします。
午後三時六分散会
顔写真の出典（Wikimedia Commons、12件）
- 和田政宗: Masamune Wada 20130328.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 城内実: Minoru Kiuchi 20241001.jpg（外部サイト、新しいタブで開きます）、Cabinet Office、CC BY 4.0
- 山谷えり子: Japanese Diet Member Eriko Yamatani in Washington, D.C. on 5 May 2023 - (cropped).jpg（外部サイト、新しいタブで開きます）、U.S. Department of State、Public domain
- 石川大我: Taiga Ishikawa 2024-6-30.jpg（外部サイト、新しいタブで開きます）、Noukei314、CC BY-SA 4.0
- 本田太郎: Taro Honda 202411.jpg（外部サイト、新しいタブで開きます）、防衛省、CC BY 4.0
- 鬼木誠: Makoto Oniki (2024) (cropped).jpg（外部サイト、新しいタブで開きます）、Chairman of the Joint Chiefs of Staff、CC BY 2.0
- 磯崎仁彦: 20211004 Isozaki Yoshihiko.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 竹谷とし子: Toshikotakeya.jpg（外部サイト、新しいタブで開きます）、KPM001、CC BY-SA 3.0
- 柴田巧: Takumi Shibata cropped 1 20260917takaichinaikaku02.jpg（外部サイト、新しいタブで開きます）、Japan 内閣官房内閣広報室、CC BY 4.0
- 竹詰仁: Hitoshi Takezume 20241127.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 井上哲士: Satoshi Inous 2025-01-05(2).jpg（外部サイト、新しいタブで開きます）、Noukei314、CC BY 4.0
- 大島九州男: 20181025 參議院議員大島九州男拜會陳總領事 (cropped).jpg（外部サイト、新しいタブで開きます）、台北駐日經濟文化代表處、Attribution