衆議院 内閣委員会 第13号
2025年4月11日・245 発言・国会会議録で会議の全文を見る（外部サイト、新しいタブで開きます）
この会議で多く話された要求
- 中小企業への支援を増やしてほしい1人 / 1発言
- 介護職員の給料を上げてほしい1人 / 1発言
発言の全文
令和七年四月十一日（金曜日） 午前九時開議 出席委員 委員長 大岡 敏孝君 理事 黄川田仁志君 理事 國場幸之助君 理事 西銘恒三郎君 理事 今井 雅人君 理事 本庄 知史君 理事 山岸 一生君 理事 市村浩一郎君 理事 田中 健君 石橋林太郎君 石原 宏高君 井野 俊郎君 江渡 聡徳君 英利アルフィヤ君 大空 幸星君 尾崎 正直君 岸 信千世君 栗原 渉君 田中 良生君 西野 太亮君 平井 卓也君 平沼正二郎君 広瀬 建君 宮下 一郎君 森下 千里君 山際大志郎君 …
1
大岡敏孝(自民)これより会議を開きます。
内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
この際、参考人出頭要求に関する件についてお諮りいたします。
本案審査のため、来る十六日水曜日午前九時、参考人の出席を求め、意見を聴取することとし、その人選等につきましては、委員長に御一任願いたいと存じますが、御異議ありませんか。
〔「異議なし」と呼ぶ者あり〕
2
大岡敏孝(自民)御異議なしと認めます。よって、そのように決しました。
引き続き、お諮りいたします。
本案審査のため、本日、政府参考人として、お手元に配付いたしておりますとおり、内閣府科学技術・イノベーション推進事務局統括官渡邊昇治君外十一名の出席を求め、説明を聴取いたしたいと存じますが、御異議ありませんか。
〔「異議なし」と呼ぶ者あり〕
3
大岡敏孝(自民)御異議なしと認めます。よって、そのように決しました。
―――――――――――――
4
大岡敏孝(自民)これより質疑に入ります。
質疑の申出がありますので、順次これを許します。田中良生君。
5
田中良生(自民)皆さん、おはようございます。自民党の田中良生です。 今日は、当内閣委員会において、城内大臣の初の法案質疑に立たせていただきます。光栄に存じます。城内大臣は外交にも精通しておりますので、トランプ関税に関してもお聞きしたいところでありますが、今日は法案質疑ということですので、このＡＩ推進法について、大局的見地から御議論をいただければと思います。よろしくお願いいたします。 さて、ＡＩ推進法でありますが、まずは、ＡＩとは何か。ＡＩとは、人間と同じ知的作業をする機械を工学的に実現する技術と言えるものであります。世界経済ですとか人間社会を大きく変容させる力を持ち…
6
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）田中良生委員の御質問にお答えしたいと思います。 言うまでもなく、ＡＩは我が国の経済社会の発展に必要となる基盤技術であるとともに、安全保障の観点からも不可欠な技術であります。 一方で、ＡＩがもたらす様々なリスクも懸念されておりまして、多くの国民の皆様がＡＩに対して不安を感じていらっしゃるとともに、我が国のＡＩの研究開発と活用は、他の先進国と比べてやはり低迷している状況にございます。 こうした状況を克服していくためには、柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なＡＩの開発を進めることで国民の皆様のＡＩに対する不安をしっかり払拭し、ＡＩの研…
7
田中良生(自民)ありがとうございます。 ＡＩの恩恵を最大限に引き出しつつ、リスクに備える枠組みを構築することが重要であるということだろうと思います。日本経済の持続的な成長と国際的なＡＩガバナンスへの貢献、これを両立させていかなければならないということだろうと思います。 今回提出されましたこのＡＩ推進法案でありますが、ＡＩ時代を見据えた国内体制の整備であると同時に、やはり国際社会における先導的なモデルケースとしていかなくてはならないと考えるところであります。 日本政府は、世界に先駆けて、人間中心のＡＩ社会原則を打ち出しました。一昨年のＧ７広島サミットでは、生成ＡＩを…
日本がこれまで国際的に果たしてきた役割についてお答え申し上げます。 我が国は、二〇一六年に、Ｇ７情報通信大臣会合におきまして、ＡＩ研究開発の原則の素案を提案いたしまして、その後、二〇一九年に、人間中心のＡＩ社会原則を公表したところでございます。これは、同じ年にＯＥＣＤで採択されました、国際的なＡＩガバナンスに関する基本的な原則であります、ＡＩに関するＯＥＣＤ原則に大きな影響を与えたと認識をしております。 また、二〇二三年になりますけれども、我が国が議長国となって開催されたＧ７におきまして、ＡＩ関係者に向けた国際規範であります広島ＡＩプロセスを日本が主…
9
田中良生(自民)ありがとうございます。
次に、諸外国との差異についてお伺いさせていただきたいと思います。
このＡＩガバナンスをめぐっては、各国がそれぞれ異なるアプローチを模索しています。各国の対応は様々でありますけれども、その根底にある課題、これは共通をしていると思います。すなわち、ＡＩの持つ恩恵を最大化しつつ、リスクを抑制するためにどのようなルール形成が最適かという点であろうと思います。
そこで、お伺いします。
主要諸外国と我が国との法制度の比較、特性についてお伺いさせていただきたいと思います。
諸外国のＡＩに関する制度と我が国の制度の比較につきましてお答えを申し上げます。 近年、世界各国においてＡＩ法制度に関する対応は進んでいるというふうに認識をしておりますけれども、例えば、ＥＵにおきましては、人間の安全ですとか基本的な権利の保護という観点から、新たに法律を制定いたしまして、包括的な規制を導入しているということでございます。 一方、アメリカにおきましては、今、いろいろ変化があるところでございますけれども、安全保障リスクに対応しつつも、基本的には、事業者の自主的取組を踏まえた上で、既存の法令を活用しながら進めているというふうに認識をしておりま…
11
田中良生(自民)分かりました。 ということは、我が国のアプローチでありますけれども、現時点では、ＥＵのように詳細規制で縛り過ぎることはなく、他方で、米国のように政府が全く関与しないわけでもない。つまり、中庸かつ機動的な方針に特徴があるのだろうというふうに考えるものであります。 このような、促進と規律の両立、これを図る戦略によって、日本モデルとして、イノベーションとリスク対応の調和を実現して、国際的にも、調和、整合性の取れたルール形成に貢献していく考えであろうというふうに理解をさせていただきたいと思います。 次に、ソフトローでの対応の実効性についてお伺いをさせていた…
お答え申し上げます。 ＡＩは、国の競争力ですとか社会の豊かさを左右する極めて重要な技術である一方で、御指摘のとおり、様々なリスクをもたらし得る技術でございます。 現在顕在化しておりますリスク、特に著しく悪質な事案に対しましては刑法等の既存の法令によって対処可能というふうに考えておりますけれども、ＡＩの急速な技術の発展と活用の拡大によりまして、予測できない新たなリスクが発生する可能性、悪質な事例が増える可能性は否定できないことから、臨機応変に対応するという観点から、本法案を提出しているところでございます。 少し具体的にこの法案の内容を御説明いたします…
13
田中良生(自民)今お聞きしておりましたが、やはりソフトローに対する不安というのはあろうかと思います。今回のＡＩ法案、やはり、ガイドライン策定ですとか業界の自主的取組の促進、これが重要な柱になろうかと思います。
政府は、本法案に基づいて、ＡＩ戦略本部を設置して基本方針を策定するなど、ソフトローに対する機動的な政策を進める考えであろうかと思いますが、既存法とＡＩ法と既存のガイドライン、この組合せだけで本当に対応が十分であると言えるのか、もう一度改めてお伺いさせていただきたいと思います。
お答え申し上げます。
先ほども申し上げましたとおり、指針の整備等を進めていきたいというふうに思っておりますけれども、この指針は、ＡＩ開発者、活用者が遵守すべき事項等を含む指針ということでございまして、これは法律に基づきまして明確に定めたいというふうに思っております。
また、悪質な事案等につきましては、国が調査、あるいはその調査の結果に基づく指導、助言等を行うことによりまして、これも明確にその規定を定めることによりまして、そういった顕在化するリスクに対して対応していけるというふうに考えております。
15
田中良生(自民)ありがとうございます。 ソフトローは、柔軟性が高い反面、法的な強制力を欠きます。そういう意味で、やはり実効性に疑問が呈されることもある。今お聞きして、本当に企業の善意に委ねるだけで十分なのか、批判があった場合はどうするのかといった懸念はやはりあるものと思います。 しかし、今お聞きしていて、他方で、罰則がないからといって直ちに無力というわけではないなと。むしろ、迅速な技術革新に法律が追いつかなくなるというリスクを減らして、必要に応じて他の個別法で対処するという柔軟性も確保する、こういう意義もあるというふうに理解をさせていただきたいと思います。 次に、…
政府によります研究開発に関する状況につきまして御説明申し上げます。 まず、ＡＩの研究開発力の強化につきましては、二〇二三年の五月にＡＩ戦略会議がまとめました暫定的な論点整理に基づきまして、あるいは、二〇二四年の六月に閣議決定されました統合イノベーション戦略に基づきまして、計算資源の確保ですとか、データの整備、あるいは基盤開発力の強化などに関係省庁が連携して取り組んでいるところであります。 具体的には、一つは、今申し上げました、官民における計算資源の整備支援でございます。ＡＩはデータセンターがなければ開発することができませんので、データセンターあるいは…
17
田中良生(自民)残念ながら、我が国は近年、ＡＩ分野でやはり出遅れ感、これはもう否めないのが実情であります。しかし、だからといって、日本がこの分野で巻き返しを図る余地がないわけではないと思います。やはり日本の強みを生かして、戦略的投資と政策支援、これによって国際競争力を高めるようにしていかなくてはいけないということだろうと思います。 我が国は、ＡＩ基盤技術の自律性を高めるとともに、国内産業への波及効果を何としても拡大していかなくてはならないと考えるところであります。ＡＩの中でも汎用的に使われる生成ＡＩについて、国産の生成ＡＩを研究開発することがやはり一番有意義だと考える…
国産の汎用的な生成ＡＩにつきまして、考え方を御説明したいと思います。 現時点では、今御指摘ございましたように、汎用生成ＡＩは外国製のものが主流でございます。しかしながら、ＡＩが日本人の国民生活ですとか経済社会に密接に関係する、多くの方がそれを使うようになってきますと、やはり正確な日本語ですとか日本の文化ですとか商習慣を正確に捉えて回答できる、そういうＡＩが必要だと思っておりまして、そのために国産の汎用生成ＡＩというのは重要ではないかというふうに考えております。 しかし、幾つかの課題があるというふうに考えておりまして、一つはまず、研究開発に係る資金ある…
19
田中良生(自民)併せてもう一点、ＡＩ活用の拡大というのは、生産性向上による経済成長をやはりもたらします。しかし、それのみならず、労働力不足ですとか高齢化といった社会課題の解決にも資する、これがやはり意義ある部分であろうかと思います。国内においても、ＡＩのエコシステムを活性化して、ＡＩ大国日本としての地位、これを何としても確立していくことが必要だろうと思います。 そのためには、やはりルール作りが重要でありますし、また、その過程で培われる技術ですとかルール、この双方が国際標準作りにも貢献し得るものと考えます。 また同時に、やはりそのためには、優秀なＡＩの人材の育成、確保…
人材の育成、確保につきましてお答え申し上げます。 この問題は、大変本質的な問題だというふうに考えております。ＡＩの人材につきましては、基礎的な研究をする方も必要であれば、また、実践的にそれを導入していくような人材、いろいろな、多様な人材が必要だというふうに考えております。 これに対して、政府としましては、例えば、大学で優れた人材を育てるようなプログラムですとか、あるいは大学院、博士課程の人材に対する支援をするプログラム、そういったものの取組を進めてきております。 また、今般のＡＩ法案でも、法案の第十四条でございますけれども、ＡＩ関連技術の基礎研究か…
21
田中良生(自民)ありがとうございます。 総論に始まって、ＡＩ法案をめぐる論点ですとか我が国の対応方針について概観をさせていただきました。 本法案は、やはり、急速に発展するＡＩ技術を我が国の経済の飛躍につなげていくと同時に、そのリスクに備える初の包括的な枠組みになるものと考えております。 本法案は、罰則なき推進法として、柔軟性と機動性を備えるものであります。状況の変化に応じた迅速な対応が可能になるものと考えます。 政府が主導するイノベーション支援策と業界の自主的なガバナンスによって、やはり日本はＡＩを作れる国、そして使える国、こういうものを構築して、国際的な存在感…
22
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 いわゆる第三次ＡＩブーム以降、米国や英国、イギリスですね、中国を始め、世界各国におきましてＡＩに関する民間投資が増加傾向にありまして、やはりビッグテックなどの大変資本力の大きな企業がＡＩ開発をリードしている、先導している状況にあります。 そうした中、大規模な計算資源とデータを用いた大規模言語モデル、ＬＬＭの開発のような取組は、やはりそうした資本力の大きな企業が引き続き競争力を有していることは事実であります。他方で、近年は、小規模なモデルでも高性能ＡＩが実現されるなど、我が国でも多くの企業にチャンスが訪れていると考えております。 …
23
田中良生(自民)ＡＩを作れる国、使える国、そしてＡＩ大国日本を目指して、城内大臣のリーダーシップを御期待申し上げて、質問を終わります。
ありがとうございました。
24
大岡敏孝(自民)次に、橋本慧悟君。
25
橋本慧悟(立憲)立憲民主党・無所属の橋本慧悟です。 本日、この質疑に立たせていただきまして、関係者の皆様、諸先輩方、本当にありがとうございます。そして、一言、地元、兵庫九区、明石市そして淡路島の皆様にもしっかりと感謝の気持ちを持ってこの質疑に挑んでいきたいと思います。城内大臣、どうぞよろしくお願いいたします。 人工知能関連技術の研究開発及び活用の推進に関する法律案、いわゆるＡＩ推進法と呼ばせていただきます。先日の大臣からの提案理由にもございましたが、「人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化並びに新産業の…
26
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）橋本慧悟委員にお答えいたします。 様々な分野で利用されております生成ＡＩにつきましては、外国産の生成ＡＩを基に開発するものもあれば、また、御指摘のようにゼロベースで国内企業が開発するものもある、両方あるということを認識しております。 生成ＡＩは、国民生活や経済社会に密接に関係するものでありまして、今後も様々な発展の可能性が見込まれる中、産業競争力や経済安全保障の観点も踏まえて、その開発形態は様々な選択を取れるようにしていくことが重要であるというふうに考えております。 政府といたしましては、我が国の民間企業及び研究機関による研究開発やそれを通じた人材…
27
橋本慧悟(立憲)御答弁をいただきました。
現状、外国産の生成ＡＩサービスがどうしても大きなシェアを占める現状なのですが、日本語をベースとした生成ＡＩを開発すること、先ほどの田中委員の質疑の中でも御答弁があって、日本語は難しいでありますとか、敬語があったりとか、なかなか難しいんだという話もありますが、この特有の課題、日本語をベースとした生成ＡＩを開発することに対する特有の課題を端的にお知らせください。
28
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。
多くの生成ＡＩは英語や日本語での複数の言語に対応した開発が行われておりまして、言語の違いに起因する大きな技術的な課題はないものと認識しておりますが、他方で、日本語の場合は同音異義語が多いというような特徴もございます。他方、世界的に広く使われている英語と比較すると、やはり日本語のデータ量は圧倒的に少ないわけでございまして、ＡＩの学習がそういった面で難しい側面はございます。
このため、日本の生成ＡＩの開発に当たっては、こうした日本語の特性もしっかり踏まえて進めていくことが重要であるというふうに考えております。
29
橋本慧悟(立憲)まさに、御答弁をいただきまして、日本語のデータが少ないということだと思います。 生成ＡＩでは、大量のデータを学習させてモデルの規模を巨大化するほどその予測精度も向上することから、大規模言語モデル、ラージランゲージモデル、ＬＬＭと呼ばれたり、この開発が、モデルの大規模化を目指して熾烈な競争が繰り広げられていると認識をしております。 この言語モデルというのは、人間が話したり書いたりする言葉や文章を基に単語の出現確率をモデル化する技術だと認識しています。 具体的には、大量のテキストデータから学習をして、ある単語の後に続く単語がどのくらいの確率で出現するの…
ＡＩの学習用データにつきましてお答えを申し上げます。 委員御指摘のとおり、ＡＩの性能を定めるものは幾つかございます、データセンターとかアルゴリズムとかいろいろございますけれども、その中でもこの学習データというのは非常に重要なものでございます。 これは、例えば、日本語の学習データに関して申し上げますと、内容が正しいということも必要ですし、日本語としても正しい、文法も正しい、そういう必要性がございます。 一般的に、ＡＩにもいろいろなものがありますので、汎用の生成ＡＩに関してお答えを申し上げますと、基本的には、まず官公庁が出している、公的機関等のウェブサ…
31
橋本慧悟(立憲)御答弁をいただきました。 官公庁のページでありますとか、この国会とかの、政府、行政の、ちょっとがちがちになり過ぎて、余りにもちょっとつまらないような生成ＡＩというか、データが収集されるんじゃないかなという懸念はちょっと感じますが。 先ほど御答弁の中でも触れていただいたウィキペディア、広く国民はこのウィキペディアというのを使ったことがあると思います。その中で、確かに比較的信頼できる大量の情報が集まっているとは思いますが、悪意のある者が書き込んだ偽情報というのも学習データとして用いられる可能性もあると思います。それを、生成ＡＩに偽の情報を出力させられると…
32
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 データポイズニングは、御指摘のとおり、悪意を持った攻撃者がＡＩの学習データに不正確又は有害なデータを組み込むことにより、ＡＩが誤った応答や偏った情報を生成するように誘導する攻撃手法であります。 過去には、利用者との会話データを基に自ら学習するチャットボットサービスにおいて、極端な主張を繰り返し学習、訓練されたことで差別的な出力を行うようになったという具体的な事案がございました。その際は、サービス事業者が利用者が入力したデータをＡＩの学習に利用しないといった対策を講じたというふうに承知しております。 なお、国立研究開発法人産業技術…
33
橋本慧悟(立憲)御答弁をいただきました。確かに、そういった差別的な出力がされるようになるとか、本当にこれから防いでいかないといけないこともたくさんあると思います。これから議論が進んでいくと思います。 済みません、一つ飛ばさせていただいて、ＡＩが抱えるリスクへの対応ということで移らせていただいてもいいですかね。先ほどの御答弁の中でもありましたので、こちらの方が有機的につながってくる質問かなと思うんですが。 ＡＩは、過去のデータを機械的に学習して現在及び将来の予測に役立てるものであるという性質上、過去の学習データ自体に含まれているバイアス、偏見ですね、この影響を完全に排…
お答えいたします。 行政サービスの質の維持向上、こういった観点から、業務における生成ＡＩの利活用を進めることは非常に重要でございます。他方で、委員御指摘のように、生成ＡＩのリスク管理、こちらも一体的に進める必要がございますことから、政府機関などにおきます業務活用、これにおける注意事項をまとめたものを関係省庁間で申合せを行っているというところでございます。 さらに、今後、政府における生成ＡＩの利活用を拡大するものと見込まれておりますので、具体的なリスクに関する対応事項などにつきまして、生成ＡＩの調達、利活用に関するガイドライン、これを新たに定めることと…
35
橋本慧悟(立憲)御答弁を丁寧にいただきました。調達チェックシートを定めるとか、いろいろな手法で適正な利用に向けて取り組まれると思いますが、本当にこの公的部門がしっかりと信頼性を維持していくためにもそういった取組は重要だと思いますので、是非今後もよろしくお願いします。 そして、中間取りまとめにおきましては、ＡＩに関する意識調査の結果によると、日本では、現在の規則や法律でＡＩを安全に利用できると思う回答者は一三％と低く、逆に、七七％の人がＡＩには規制が必要だと考えていると記載されています。また、品質の不安定さとか、プロセスのブラックボックス化、見えないですね、そういった状…
勧告、命令等の規定につきましては、これを設けない理由につきましては、罰則を設けない理由と共通する部分があると思っておりまして、答弁を申し上げます。 まず、現在顕在化しているリスクにつきましては、これは実際に事例もあるわけですけれども、現行法令に基づいて対処をしているというところでございます。 その上で、ＡＩは、技術の変化が速くて、また、どういうリスクが生じるか予測が難しいというところがございます。そういう中で、命令ということになりますと、これは非常に重い処分ということになりますので、命令の前提になります禁止行為ですとか基準を不公平なく明確に定めていく…
37
橋本慧悟(立憲)臨機応変に対応するためにもというお話がありましたが、やはり、我々は推進をしっかりしていく立場ではありますが、それと同時に、そういったリスクへの対応というのを国民に対してもしっかりと周知していく必要があると考えています。 例えばＥＵのＡＩ法におきましては、ＡＩのリスクに応じて規制内容を変えるリスクベースアプローチという方針に基づいて、規制対象を四段階のリスクレベルのＡＩアプリケーション及びシステムというものに分類をして、それぞれに対して異なる規制を課すこととされていると思います。これに対して、本法案では、やはり、リスク対応に係る措置に関する勧告、命令等の…
ＥＵのＡＩ法の四段階のリスクベースアプローチにつきましてお答えを申し上げます。 ＥＵのＡＩ法のアプローチにつきましては、法案の検討段階で参考にさせていただいております。ＥＵのＡＩ法は大きく二つのパートに分かれておりまして、一つが、この四つの段階のリスクに分けた規制部分でありまして、もう一つは、生成ＡＩに関するマクロなといいますか、全体、まあＥＵの言葉では、生成ＡＩとは言わず、ジェネラルパーパスＡＩというふうに呼んでおりますけれども、に関する包括的な規制、この二つのパートから成りますけれども。 その片方の四段階のものについて申し上げますと、まず、最上位…
39
橋本慧悟(立憲)御答弁をいただきました。 時間の関係で一つ飛ばさせていただいて、ＥＵの対策についても、我が国との比較についても述べていただきましたが、じゃ、ＥＵの一般データ保護規則、いわゆるＧＤＰＲについてです。 これは、データ主体に関する法的効果を発生させる、又はデータ主体に対して同様の重大な影響を及ぼすプロファイリング、これは個人の経済状況でありますとか健康でありますとか興味、関心、行動や位置情報とかの一定の個人情報の側面の評価のことだと思いますが、このプロファイリングには規制がかけられ、個人の権利が保障されていると認識をしています。 このように、意思決定がＡ…
お答え申し上げます。 ＥＵのＧＤＰＲ二十二条におきましては、これは個人データに関する法令でございますけれども、専ら自動化された取扱いに基づいた意思決定の対象とされない権利というのが規定されているものと承知しております。ちょっと、やや難しいんですけれども、平易に申し上げると、コンピュータープログラム等が人の評価をしてしまうというか、それは避けるべきであるというようなことが規定されているということでございます。 一方、日本におきましても、コンピューターのプログラムのアルゴリズムが提案する内容が違法な行為を助長するような場合、不適切な場合には、既存の現行法…
41
橋本慧悟(立憲)御答弁をいただきました。既存の現行法とか各業法での規制を行う、それが今回、日本のＡＩ推進法においては大分キーになるというか、しっかり議論していくべきところかなと改めて感じました。 そうなると、個人情報についての質問に移らせていただきます。 ＡＩが収集する学習データの中には、特定の個人を識別できる個人情報がやはり含まれている場合があると思いますが、あらかじめ本人の同意が得られていない個人情報をＡＩが収集した場合は、個人情報保護法に違反するのではないかというような議論とか懸念もあると思います。 個人情報保護法第三十五条に基づき、本人から例えばＡＩ利用事…
お答え申し上げます。
ＡＩを利用する事業者が個人情報データベース等を使っておりましたら、個人情報保護法の規制対象であります個人情報取扱事業者に該当いたします。そのため、法律に基づきまして、一定の要件、例えば、不正な取得、不適正な利用ということがございますと、個人は、事業者に対しまして、ＡＩの利用に際し使われている個人データから御自身の個人データの消去、利用停止を請求できる、そのような権利が設定されておりますので、それを御使用いただくことになろうかと思います。
43
橋本慧悟(立憲)規制対象であると明確に御答弁をいただきました。 次の質疑にも関わってくることですが、規制対象であるから、請求でありますとか訴えを起こした場合、それは対応はできるということなんですが、やはり、膨大な情報の中で、日々本当に国民も忙しい中でそういったものに対応していけるかというところの実効性の疑問は残ります。 ディープフェイク対策についてです。 ＡＩが悪用されるディープフェイクの事例が、本当に近年大きな社会問題となっています。具体的には、ＡＩで合成された音声や動画を用いて有名人をかたった詐欺に悪用されたり、偽画像や偽動画を使った情報操作、そして世論の工作…
44
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 ウェブサイト上の情報などがＡＩを用いて生成されているか否かを検知するための技術や、ＡＩを用いているかどうかを表示すること自体、これは御指摘のとおり大変有用であると考えております。他方で、このような技術の導入やＡＩ利用の表示を義務づけることは、まだ開発途上の技術でもございます。 なお、本法案に基づき整備する指針において、例えば、ＡＩの利用の有無が分かりにくいために被害が生じそうな場合には、ＡＩの利用を行っていることの表示を行うことを奨励することなどについてもしっかり検討してまいりたいと考えますが、いずれにしましても、橋本慧悟委員の御…
45
橋本慧悟(立憲)これからもしっかりと議論を進めていければなと思います。 続きまして、我々は政治家ですから、選挙におけるディープフェイク対策への実効性をどう確保するのかという観点でもお聞きしたいと思います。 昨年から特に、世界各国の選挙で生成ＡＩを用いた偽情報も拡散をされたという事例が確認されています。 例えば、アメリカでは、前々回の大統領選でバイデン氏を支持した人気歌手のテイラー・スウィフトさんが、トランプが勝ったというような横断幕、旗を掲げる、そんな画像が拡散される、偽動画が作成されたりとか、パキスタンとかインドネシアで、収監されている元大統領とか既に亡くなった…
46
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 選挙活動に関連するかどうかにかかわらず、内閣府といたしましては、ディープフェイクを含めた偽・誤情報についての対策を講じていくことは、橋本委員も御指摘のとおり、大変重要であり急務であると考えております。 具体的には、本案第十三条に基づきまして、国が国際的な規範の趣旨に即した指針、これを整備することとなっております。この国際的な規範の一つであります広島ＡＩプロセスの国際指針では、偽情報、誤情報に係る対策といたしまして、ＡＩが生成したコンテンツであることを識別できるよう、電子透かし等の技術を開発導入することなどが挙げられております。 …
47
橋本慧悟(立憲)内閣のお立場では選挙というものに特化してのお答えというのはなかなか難しいかなというのは推察します。いろいろ幅広く、選挙にかかわらず、指針について、広島ＡＩプロセスに基づいてしっかりと今検討しているところだ、ガイドラインも策定をしていくということですが、やはり実効性、そういった方針とかガイドラインを出すというのは本当に大事なことだと思いますし、そのとおりに運用されて守られれば全く問題はありませんが、やはり実効性の部分がかなりこれから議題にもなっていくんじゃないかと個人的には思っています。実効ある取組に向けて議論を進めさせていただければと思います。 続きま…
48
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。
ＡＩは、御案内のとおり技術の進展が極めて速い分野でございまして、今後、現時点で予測できないようなリスク、これが発生する可能性がございます。このため、ＡＩの技術進展の動向をしっかり見極めながら、その時々の状況に応じて臨機応変に対応することが重要であります。
したがいまして、今般の法案においては、ですから、あえて見直し時期については、こういった観点から具体的な規定を設けないということになっております。
49
橋本慧悟(立憲)時間が参りました。
不断の見直しを行っていくということでも受け止めましたが、是非ともここについても議論していきたいと思います。
本当にありがとうございました。
50
大岡敏孝(自民)次に、おおたけりえ君。
立憲民主党、おおたけりえでございます。 本日は、提出されたＡＩ法案について、十六条、十五条、五条を中心に幾つか伺っていきたいと思っております。 まず、第十六条、調査研究等について。「国は、国内外の人工知能関連技術の研究開発及び活用の動向に関する情報の収集、不正な目的又は不適切な方法による人工知能関連技術の研究開発又は活用に伴って国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討その他の人工知能関連技術の研究開発及び活用の推進に資する調査及び研究を行い、その結果に基づいて、研究開発機関、活用事業者その他の者に対する指導、助言、情報の提供そ…
お答えいたします。 どの企業から情報を収集するか、具体的な企業名は未定でありますけれども、一つの考え方として、汎用目的の高性能な生成ＡＩ等であってユーザー数が多いものにつきましては、国民への影響も大きいことから、情報収集の対象としたいと考えております。 また、情報収集の内容につきましては、広島ＡＩプロセスの国際指針の項目を参考に、ＡＩライフサイクル全体にわたるリスクを特定し、軽減するために、ＡＩを市場投入する前にどのような安全性向上のための措置を講じているかであるとか、ＡＩを市場に投入後に、ＡＩの脆弱性、悪用されたインシデント等を特定をし、リスクを緩…
提出の方法は、書面か、対面のヒアリングですとか、どういった方法でされるのか。また、国外の会社についても同様ということでよろしいんですか。お願いします。
情報の収集の仕方は様々あると思っておりますので、これは今後の検討とさせていただければと思います。
他方で、もう一点の、海外、国外の企業につきましても、日本で使われているＡＩの多くが国外製であることから、国外のメジャーなＡＩ開発者に対しても、同様に情報収集を行ってまいりたいと考えております。
「国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討」と条文の中にございますが、これはどのようなものを想定して、どのように対応するのか、伺います。
ＡＩの不適切な使用等による国民の権利利益の侵害につきましては予測が難しいところではありますけれども、例えばでありますが、あるＡＩに入力、質問された個人情報等が搾取をされてしまう、あるＡＩが偏見、差別的な情報を執拗に出力し続けるといった事案が想定をされます。
このような事案に対して、既存の法令で対処できない場合には、関係省庁と連携をして、必要に応じて専門家の協力も得ながら、事案の原因の分析であるとか改善策の検討などを行うことを考えております。
改善策の検討、ここがすごく大事ではないかと思っております。
調査研究の結果に基づく指導、助言、情報の提供その他の必要な措置と条文にございますが、これはどのようなものを指してみえるのか、伺います。
お答えいたします。
悪質なＡＩの開発、活用事案であって、既存法令による対応が難しく、かつ放置をすると被害が生じる、あるいは増大する可能性があると判断される場合、国が事業者に対する指導や国民に対する情報提供などを講じることなどを考えております。
調査の結果を公表、国民への情報提供をする際に、具体的に問題となっている種類のＡＩやその実名などを公表するケースもあると考えておりまして、ＡＩの適正な開発、活用に向けて一定の抑止力が働くと考えているところであります。
実名を公表まで考えているということ、理解をいたしました。 先ほど橋本議員が取り上げられました、内閣府のＡＩ戦略会議が二〇二五年二月四日に発表された中間取りまとめの中の意識調査の中で、ＡＩには規制が必要だと思うと答えた人が、日本で七七％、そして、政府に求めたいことは、ＡＩの悪用や犯罪に対する法的対策の強化が六六％でトップでした。 今回の法律が施行されたら、政府として、これまでと違ってどのような対応をできるようになるのか。先ほど我が党の橋本議員が、質疑の中でいろいろ出てまいりましたけれども、さらに、ＡＩにまつわる課題と認識されている、一、誤情報、二、ディ…
委員御指摘の事例について、政府としては、既存の法令、ガイドライン等も活用して対処していくということでありますけれども、御指摘の趣旨が、今回のＡＩ法案によって対応がどう変わるのかといった変化を尋ねているという理解の下、本法案によって変わると考えられる部分に絞って具体的にお答えをさせていただきます。 本法案に基づき、国は、国際規範に沿って指針を整備をいたしますが、その指針の中で、ＡＩ開発者による安全性向上について規定する予定であります。その中には、誤情報を減らすための取組も当然含まれると考えておりまして、具体的にどういう対策を行うかは事業者によって異なりま…
事前に予防、抑止、本当に大事だと思っております。
二つ目、ディープフェイク。
画面の端に日テレのロゴをつけて、あたかも日本テレビのニュース番組で首相が話しているかのようなディープフェイク画像が出て、その発信した情報が株価の暴落などの影響を及ぼしたという問題についてどう対応できるのか、伺います。
お答えいたします。 本法案に基づき国が整備する指針の中では、ＡＩ開発者による安全性向上について規定する予定です。その中には、偽情報を減らすための取組も含まれると考えておりまして、具体的な対策は事業者によって異なるとは思いますけれども、例えば、画像生成ＡＩに関して国家元首の偽動画などが容易に作成されないような工夫が考えられます。また、本法案では、研究開発の推進も基本的な施策として掲げておりまして、偽情報対策に関する技術開発などの技術面の取組も進めたいと考えています。 このような対策によって、委員御指摘のような事案を発生前に予防して、抑制することを考えて…
それでは、三つ目の違法コンテンツについて。
家族の声のディープフェイクを使ったオレオレ詐欺の被害に遭ったという問題についてどう対応できるのか、伺います。
お答えいたします。
本法案第十五条では、国が国民に対して、ＡＩに関する教育、学習の振興、広報活動を行うこととされています。また、既存法令やガイドラインで対応しつつ、本法案第十六条に規定された情報収集や、調査、指導、助言、情報提供といった取組を活用して、関係省庁と連携の上、適切に対処することが考えられると思っております。
このような取組により、合成音声を生成するＡＩを用いたオレオレ詐欺等のリスクに対応するとともに、国民に対して注意喚起を行い、犯罪を防止することが考えられます。
以上でございます。
次の、四つ目、有害コンテンツ。
先日、我が党の市來議員の質疑では、実在する児童での児童ポルノ画像を生成したら違法との答弁でございましたが、今日は、実在しない児童のデータでフェイク児童ポルノ画像を生成し、広く頒布し、社会に児童ポルノ画像があふれるなど、悪影響を与えた場合についての問題。これは現在、児童ポルノ法で処罰できず問題となっておりますが、どう対応できるのか、伺います。
お答えいたします。
本法律案に基づき国が整備する指針において、例えば、ＡＩ生成物であることを識別可能とするため、ＡＩ開発者が電子透かしの機能をＡＩに導入することが考えられます。また、全てのＡＩ関係者に対して法令遵守を徹底をして、既存法令の違反等の事案の防止を図ってまいりたいと存じます。
既存法令の違反はそうなんですけれども、今回の場合は既存法令だと対処できない問題なんですよ。それについてはどうお考えですか。
重ねてになりますけれども、今回の法案で新たに加える部分としては、指針の中において、ＡＩの生成物であることを識別可能とするために、ＡＩ開発者が電子透かし等の機能をＡＩに導入することが考えられますので、新たな技術等の活用を図りながら、それを指針の中で明確にして対応を図っていきたいといったようなことであります。
この事案については、ＡＩであるということが識別されれば解決する問題ではないような気がいたしますので、是非ともその辺りも検討していただきたいと思っております。
次、五番目のバイアス。
生成ＡＩが、貧しい黒人は学校に行かず薬物の密売人になるというような、バイアスのかかったひどい文章を生成した場合の生成ＡＩサービス提供者の責任等に対し、どう対応できるか、伺います。
お答えいたします。
本法案に基づき国が整備する指針の中では、ＡＩ開発者による安全性向上について規定する予定です。その中には、偏見、差別情報の出力を減らすための取組も含まれると考えておりまして、具体的な対策は事業者によって異なるとは思いますけれども、例えば、ＡＩ開発段階でリスクへの対策を攻撃者の視点から評価をするレッドチーミングであるとか、その他の各種評価ツールを使って不適切な出力の抑止を図る取組が考えられます。
このような対策によって、委員御指摘のような事案を予防し、抑制することも考えてまいりたいと考えています。
次に、六番目の著作権。
生成したコンテンツが既存の著作物に類似している場合、どう対応できるのか、伺います。
お答えいたします。
本法案に基づき国が整備をします指針において、例えば、ＡＩ生成物であることを識別可能とするため、ＡＩ開発者が電子透かしの機能をＡＩに導入することが一つ考えられます。それからまた、全てのＡＩ関係者に対して法令遵守を徹底をして、既存法令、これは著作権法等になると思いますけれども、そういったものの違反の事案の防止を図ってまいりたいと存じます。
確認ですけれども、こういった、六つ例を挙げさせていただきましたが、国民の権利利益の侵害が生じた事案についての対策の検討は、ＡＩ戦略本部の下に設置をされる有識者等を含めた実務者の会議体等で、個別法の改正など、具体的な改善策を検討されるのでしょうか。
やはり被害になってからじゃ遅いという思いがありますので、先ほどおっしゃっていただいたみたいに、事前に抑止するということがすごく大事だと思っております。ですので、実務者部隊、そこは、どのような会議体で改善策が検討されるお考えなのか、伺います。
お答えいたします。
ただいまの御質問については、基本的にはＡＩ戦略本部の方で様々なことを決定をしていきますけれども、その決定に当たっては、事前に幅広く専門家の意見、現場の状況等も伺いながら決めていきたいと考えておりますので、専門家の知見をおかりしつつ、最終的にはＡＩ戦略本部の方で決定をしていくということであります。
ありがとうございます。
専門家も交えた、しっかり検討された中で、ＡＩ戦略本部で決めていくということを理解しました。個別具体的な被害の事案にしっかりと対応できるようにお願いしたいと思っております。
次に、教育の振興、第十五条について。「国は、国民が広く人工知能関連技術に対する理解と関心を深めるよう、人工知能関連技術に関する教育及び学習の振興、広報活動の充実その他の必要な施策を講ずるものとする。」と条文にございます。
まず、今回の法案の第十五条、教育の振興は、具体的に誰に対する、どういったものを想定してみえるのか、伺います。
お答えいたします。
我々が日常使用しているパソコン、スマホにもＡＩアプリケーションが標準装備されつつあり、近い将来、全ての国民が直接的、間接的にＡＩを使うようになる可能性があると認識をしております。
全ての国民にＡＩを適正に御活用いただくためには、初等中等教育、一般国民、企業などの様々な場面で、それぞれの立場に合わせて、ＡＩの特性やリスク等について分かりやすい広報活動や教育に対する支援などを行っていく必要があると考えております。
初等中等教育からということがありました。次に、二つ目は、子供たちの教育について伺いたいと思います。 子供たちは、日常的にネットの世界と接しております。こども家庭庁が令和六年二月に発表しました令和五年のインターネット利用環境実態調査によりますと、インターネットを利用すると回答した青少年の平均利用時間は約四時間五十七分、十歳以上の小学生は約三時間四十六分、中学生は約四時間四十二分、高校生は約六時間十四分。そして、何と、七時間以上利用すると答えた割合は、十歳以上の小学生は八・九％、中学生一七・二％、高校生三三・〇％です。また、調査結果にはありませんが、不登校…
お答えいたします。 ＡＩに関する教育関連の施策としてこれまで行っていることは、例えば、初等中等教育段階における生成ＡＩの利活用に関するガイドラインの策定、生成ＡＩパイロット校を選定をして、学校における具体的なＡＩ利活用事例の創出などの取組を進めてきたところでありまして、初等教育段階も含めたＡＩの利活用等を含む情報活用能力の育成は重要であると考えています。 今般のＡＩ法案第十五条においては、国民が広くＡＩ関連技術に対する理解と関心を深めるよう、ＡＩ関連技術に関する教育及び学習の振興、広報活動の充実等必要な施策を講じるという旨を規定をしているところです。…
ありがとうございます。
ＡＩ基本計画に位置づけるということは、それはしていただけるということでよろしいんでしょうか。お願いします。
お答えいたします。
基本計画は今現在検討中でありますので、最終的にはまだ確たるものは言えないところはありますけれども、基本計画の策定においては、人材育成は極めて重要な要素でありますので、そういったものは是非検討していきたいというふうに考えております。
次に、一般への教育について伺ってまいります。
先ほども挙げました内閣府ＡＩ戦略会議中間取りまとめの意識調査では、生成ＡＩのイメージは真実と誤情報が入り交じっているとの回答が三〇％と一番多かったそうです。どのようになれば生成ＡＩを使いたいと思うかの問いには、真実と偽情報を峻別できるようになったらが二二％で、一番多いうちの一つでございました。国民が偽・誤情報に惑わされずに意思決定できるようにするため、一般の方々のリテラシー向上にはどう取り組まれるのか、伺います。
お答えいたします。
一般の国民もＡＩユーザーになる可能性が高く、一般国民のリテラシーの向上も、委員御指摘のとおり極めて重要であります。
国としては、リテラシー向上に資するような分かりやすいコンテンツの作成や広報活動などを進めてまいりたいと存じます。
コンテンツの作成などしてくださるということを理解いたしました。 次に、職業訓練等の取組について伺ってまいります。 雇用への影響、大変大きいものがあると考えております。国際労働機関、ＩＬＯによりますと、職業別では、秘書や銀行の窓口、データ入力、会計や簿記など、事務支援の業務がＡＩの影響を受けるリスクが最も大きく、高所得国において自動化の影響を受けやすい女性労働者は七・八％、約二千百万人、男性労働者は二・九％、約九百万人と試算をされました。 生成ＡＩを使いこなすことを前提とした職業が増えていくことが予測される中で、職業訓練等に生成ＡＩに関する教育を組み…
ＡＩの研究開発、活用の進展や、ＡＩによる新たな産業の創出に伴い、ＡＩエンジニアを始めとするＡＩ関連人材のニーズは高まっている状況にあると認識をしております。このため、ＡＩ人材の育成、確保の取組を進めるとともに、リスキリングのための施策に取り組んでいくことは非常に重要であると考えています。 政府では、これまで、ＤＸ人材向けのデジタルスキル標準について、生成ＡＩの登場や進化といった状況を踏まえて七月に改訂を行うとともに、職業訓練等におけるＡＩを含むデジタル人材の育成などを進めてきているところです。 今般の法律案第十四条において、国が地方公共団体、研究開発…
いろいろな分野に関わってくることだと思いますので、是非ともお願いしたいと思います。 次に、第五条、地方自治体の責務について伺っていきたいと思います。 地方自治体は、「基本理念にのっとり、人工知能関連技術の研究開発及び活用の推進に関し、国との適切な役割分担の下、地方公共団体が実施すべき施策として、その地方公共団体の区域の特性を生かした自主的な施策を策定し、及び実施する責務を有する。」と条文にございます。 六条など他の条文では「努めるものとする。」という条文になっているのに対し、地方自治体に対しては「責務」となっている理由はなぜなのか。また、「特性を生…
お答えいたします。
地方では人口減少に悩むところも多く、そうした中で、地方公共団体における行政事務の効率化や地域における課題解決にＡＩを活用することが期待をされております。
こうした背景等もある中、地方公共団体に対し、国との適切な役割分担の下、区域の特性を生かした自主的な施策の策定、実施をする責務というのを規定しているところであります。
区域の特性を生かした自主的な施策としては、例えば、外国人が多く来日をする観光地では、案内等に各言語に対応したＡＩの活用などが考えられる次第であります。
ありがとうございます。
地方創生などに生かしていく、そういったことの視点も必要だということを理解いたしました。
地方自治体では、ＤＸに対応するデジタル人材の確保や育成に苦労している現状がございます。今回のＡＩについては、地方自治体の情報システム化等、情報系の一部の部署だけにとどまらず、広く自治体職員に知識を持ってもらうことが新たなイノベーションにつながると思っております。
そこで、地方自治体に対するＡＩ研修はどのように考えてみえるのか、伺います。
お答えいたします。 本法律案では、ＡＩが地方公共団体においても活用されることを期待をし、地方公共団体においても責務を規定している次第であります。 これまでにも、国が、生成ＡＩも含めたＤＸ推進の実務の中核を担う人材に対して求められるスキル等を身につける研修等を、市町村等を対象にして実施をしてきているところであります。 また、広島ＡＩプロセス国際指針においても、ＡＩに関わる者におけるデジタルリテラシーの向上が盛り込まれております。 政府としましても、引き続き、地方公共団体においてもＡＩ活用等が促進されるよう、政府全体でＡＩ基本計画に基づく施策の推進を…
それでは、最後に、今回の法改正は基本法の位置づけであり、そして、この法改正だけでは国民の権利利益を守り切れないということは言うまでもないと思っております。
それぞれＡＩにまつわる被害例に的確に対応できるように、基本計画やＡＩ戦略本部の機能を十分に生かして、刑法や児童ポルノ法等の各法の法改正も含めてスピーディーな対応をしていただいて、ＡＩと人間との共存をよりよい形で図っていただきたいと思いますが、城内大臣のお考えを伺います。
90
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）おおたけ委員にお答えいたします。 本法律案は、イノベーションの促進とリスクの対応の両立を図るための、日本で初めてのＡＩに特化した法律案でございます。 まずは、政府として、昨今のＡＩをめぐる技術革新やこれに生じている様々なリスクへ柔軟かつ迅速に対応するために、内閣に、司令塔機能を担うＡＩ戦略本部を設置し、体制の強化を図ることとしております。 さらに、ＡＩ基本計画によりまして基本的な方針をお示しし、各府省庁が実施するＡＩ関連施策の調和を図ることによって、政府全体としてＡＩ政策を総合的かつ計画的に推進していきたいと考えております。 本法案が成立した暁に…
以上で終わります。ありがとうございました。
92
大岡敏孝(自民)次に、馬淵澄夫君。
93
馬淵澄夫(立憲)馬淵でございます。 質疑をさせていただきます。 今日は、城内大臣、よろしくお願いいたします。当選同期ということでありますので、是非大臣の政治家としての発言なり答弁をいただきたいと思っております。 まず、このＡＩ法案でありますが、当然、積極的にこうした推進を行うべきという認識は共有するものであります。ただ一方で、同時に、配慮しなければならない諸点があるということで、これにつきまして、この法案、さらにはこの立法プロセスにおいての様々な考慮がどのようになされたかということについて伺っていきたいと思います。 まず、ＡＩと、そしてこの法律、今国会の本法案、…
94
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）馬淵委員にお答えいたします。 アテンションエコノミー、まさに御指摘のとおり、今、情報過多の社会において、情報のクオリティー、質よりも、むしろいかに耳目というか注目を集めるかということに価値を置くという考え方だというふうに理解しております。 馬淵委員御指摘のように、ＳＮＳを通じた不適切な情報の発信につきましては、関係省庁とも連携いたしまして、既存の法令及び各種ガイドラインがございますので、その遵守徹底や、ＡＩ研究開発者や活用者等によるまずはしっかりとした自主的取組の促進、そして新たな技術の開発導入など、総合的に対策を進めていくことが重要だというふうに考…
95
馬淵澄夫(立憲)ありがとうございます。 今、城内大臣からの御説明をいただきましたが、この法案の中の肝の部分ですね。いわゆる理念法ですから、さきのサイバー法のような膨大な法律とはまたちょっと違うんですが、ここの肝の部分というのは、端的に申せば、後ほどまた触れますが、国民の責務もありますが、事業者の責務、七条、そして適正性の確保、いわゆるガイドラインですよね、これが十三条、さらには、調査研究と称した、ある意味ガイドラインに適しているか否かによって指導と助言等がなされる、この三つの条文が今回のＡＩ法の私は肝の部分だと思っています。 そうした中で、この法案を作っていく上にお…
96
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 馬淵委員御指摘のとおり、米国のようないわゆるデジタル自由放任主義的なアプローチ、さらには、いわゆるデジタル権威主義的なアプローチ、三つ目は、ＥＵのように法規制があるデジタル立憲主義的なアプローチ。諸外国の制度的対応につきましては、私自身も馬淵委員と同じような認識でございますが、そうした中で、本法案が目指す日本の制度は、実は諸外国とはまた異なるものであって、政府による監視や検閲を行ったり、あるいは制裁金を科す等の規制的な規制法ではなく、また反対に、完全に自由に放任主義だということでもないんですね。 我が国は、ＡＩの研究開発及び活用の促進…
97
馬淵澄夫(立憲)いわゆるアメリカ型のデジタル放任主義でもなければ、デジタル立憲主義でもない。第三の道、我が国固有の道を歩もうという、かなり苦労した部分があったということだと、そう理解をします。 その上で、令和六年五月の、ＡＩ制度に関する考え方、戦略チーム。ここで、我が国の在り方というのが端的に示されています。 これを拝見しますと、政府が出したこの中には、ＡＩ事業者ガイドラインでは、ＡＩがもたらす社会的リスクの低減を図るとともに、ＡＩのイノベーションと活用を促進していくための関係者による自主的な取組を促した非拘束的なソフトローによって目的達成に導くゴールベースの考え方…
98
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ＡＩの研究開発及び活用が諸外国に比べて後れを取っている中で、ＡＩのイノベーション促進とリスクの対応の両面を図るためには、やはりリスク対応に関して、過剰な規制は回避しつつ、必要な対策を講じる必要がある。先ほど述べたように、こういう認識に立っております。 これを踏まえまして、我が国におきましては、これまでも既存の法令、そしてガイドライン等のソフトロー、これを適切に組み合わせて様々なリスクに対応してまいりましたが、本法案が成立した後においても、事業者の自主性を尊重するという考え方には変わりはございません。 その上で、本法案においては、ＡＩ開発者、利用者が遵…
99
馬淵澄夫(立憲)イノベーションを阻害するということを多分一番に心配されたんだろうなというのは、これは私が推測するところです。 しかし一方で、やはりＡＩによる様々な影響というのは相当大きいものがある。先ほど来申し上げてきたＥＵのＡＩ法、これはなかなか厳しくチェックをしていますね。先ほど橋本議員も質問でされました。橋本議員は、ＥＵにおけるリスクベースアプローチ、これについて検討されましたかという質問でありましたが、検討したか否かということについては、検討されたという御答弁をいただいていましたが、採用しなかったわけですよね、最終的には。 ＥＵの場合は、厳しい制裁も加わって…
100
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおり、ＥＵのＡＩ法では、ＡＩのリスクに基づきまして、四つのランク、許容できないリスクが一番上ですが、ハイリスク、次に、三番目が限定的なリスク、四番目が最小限のリスクというふうに、四つのランクに分けられて、リスクに応じた遵守事項を定めております。 その上で、ＥＵと日本の現行制度を比較すると、罰則の有無等の強度は異なるものの、実は共通部分はあるものと認識しております。例えば、ＥＵが禁止する市民の権利を脅かすＡＩは、日本においても刑法あるいは個人情報保護法等によりしっかりと規制をされているわけでございます。また、ＥＵが適合性評価を義務づけております…
101
馬淵澄夫(立憲)既存法によるということを繰り返しおっしゃっているんですが、本当にそれで十分な対応ができるのかということが気になるわけであります。 そして、先ほど来、質疑者の中でも繰り返しあった、ＡＩというのは本当に進捗が、進歩が著しいですから、予想もできないような、予測できないような事態も発生し得るということであります。 既存法での対応が十分であるか否かということについては、全く想定できない部分もあるとは思うんですが、その部分が、附則の二条で書かれているように、将来予見できないような事態が起きた場合には、速やかに対応するべく、まあ、法的措置になるんでしょう。附則の二…
102
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ＡＩは技術変化が大変速くて、現在では顕在化していないリスクが法律の施行後に顕在化する場合、これも想定され得るわけであります。こうした場合において、法制上の措置の在り方を含めて必要な検討を行い、その結果に基づき所要の措置を行うことができるよう、附則の第二条を置くこととしたものでございます。
今後とも、関連する国際的動向とか、あるいは社会経済情勢の変化を含め、法律の施行状況を継続的に注視して、将来的には、その時々の状況を踏まえて適切な対応をしていくということはあり得るというふうに考えております。
103
馬淵澄夫(立憲)附則の二条は、そのような実害が発生したときに発動されるんだろうなとは思うんですが、しかし一方で、人権侵害や民主主義のプロセスを毀損するような、これは実害が起きてからでは遅いんですよね。その意味で、我が国のＡＩ法が民主主義のプロセスやあるいは憲法上の価値をどう担保していくのかということについて、少しお尋ねをしたいと思います。 先ほど選挙についてのお話はありましたが、これは城内大臣、我が党の梅谷議員の質問にもお答えをいただいておりました。 例えば選挙での誤情報、様々な、実際にはアメリカの大統領選挙なんかでも盛んに流された。先ほど来、この質疑の中でも出てき…
104
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）先ほど橋本委員からも御指摘がございましたが、生成ＡＩの悪用によるものか否かにかかわらず、例えばＳＮＳ等のインターネット上の偽情報や誤情報につきましては、短時間で広範に流通、拡散し、国民生活や社会経済活動に重大な影響を及ぼし得る深刻な問題というふうに認識しております。選挙におきましても、インターネットの特徴である伝播性や速報性の高さから、候補者等に対する悪質な誹謗中傷が行われるおそれがあるといった指摘があることも承知しております。 いずれにしましても、馬淵委員の御指摘、これは国会での質疑でありますから、こういった馬淵委員の指摘もしっかりと、これからＡＩ戦…
105
馬淵澄夫(立憲)現状認識は持っているんだということは大臣として御答弁いただきました。ありがとうございます。
今日は総務省を呼んでいますので、あえて現行法での対応ということですけれども、総務省政府参考人、現行法による対策ということでありますが、端的で結構です、どのように想定されているか、お答えください。
お答え申し上げます。 現行の公職選挙法におきましては、公職の候補者に関する虚偽の事項を公表したり、虚偽の氏名などを表示して通信したりすることにつきましては、虚偽事項公表罪や氏名等の虚偽表示罪といった罰則が設けられてございまして、これらに該当する場合には罰則の適用があるということでございます。 また、このほか、インターネット選挙運動、これは平成二十五年に解禁をされたわけでございますが、その際に、併せまして、当時プロバイダー責任制限法と呼ばれておりましたけれども、その制限法が改正をされまして、プロバイダーが候補者等からの申出を受けて情報を削除する場合にお…
107
馬淵澄夫(立憲)ありがとうございます。 ここまでの答弁しか出ないのもよく分かって伺いましたが、大臣、これはもう大臣に御答弁は求めませんけれども、結局、今も、るるやっている、やれると言っていますが、いわゆるプロバイダー責任制限法でも、これは一週間が二日になったと言っていますが、選挙期間というのは、短い選挙もあるわけですよね、各種選挙。我々は衆議院ですから十二日間ということですけれども、それでも、ラストの二日間、要はひっくり返る瞬間というのが出てくるわけですね。 つまり、この二日でも、一週間が二日になったからいいという話じゃないんですよ。一瞬にして拡散される、このことを…
108
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）馬淵委員から、まさに原理原則、人権、憲法、これを学習しているＡＩ、Ｃｌａｕｄｅについては大変興味深く拝聴させていただきました。 他方で、本法案の目的は、繰り返しになりますが、ＡＩの研究開発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することであると第一条に書いてあるとおりのことでございまして、そうしたＡＩに係る各種の施策を推進するに当たっては、当然のことながら、他の法令と同様に、憲法が保障する諸権利や民主主義の価値観を尊重することは大前提となっておりますので、いずれにしましても、それを前提…
109
馬淵澄夫(立憲)私は、これも先ほど、冒頭から申し上げているように、イノベーション、とにかく我が国のＡＩは遅れているわけですよ。この事実はもう隠せない。誰もが認めるところだと思います。この遅れているＡＩを何とか世界レベルにまで持っていかなきゃいけない。そのためには、イノベーションの阻害は、できる限り阻害要因を外していこうということだと思います。しかしこれは、これからＡＩを世界的なレベルまで持っていこうとするときだからこそ、経済偏重ではないところで、憲法的価値というのをしっかりここでビルトインさせるべきだということを私は申し上げているんです。大臣、いかがですか。 先ほどの…
110
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）先ほど申しましたように、非常に興味深く聞かせていただきました。
ただ、本法案はＡＩ政策の枠組みを示すものでありまして、そのような具体的な内容を示すものではない、そういうこととなっておりますので、例えば、御指摘のような御提案は、これから策定いたします基本計画等に具体的な内容を盛り込むこととか、そういう形で検討することはあり得ますが、先ほどの繰り返しになりますけれども、本法案の現在の内容が最適というふうに考えております。
111
馬淵澄夫(立憲)いや、具体的じゃないですよ。私が申し上げているのは、まさに理念のところですよ、目的ですからね。この理念法の最大のポイントである目的のところで経済性だけが書かれているというのは、これは少し違うんじゃないですかということを私は申し上げているんです。具体性の話なんか一つもしていません。
大臣、改めて、どうですか。
112
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ちょっと訂正しますが、先ほど具体的な内容と言いましたが、具体的な理念。理念につきましては、繰り返しになりますけれども、例えば基本計画等に盛り込むとか、そういった検討は行えるのではないかなと思いますが、いずれにしましても、本法案につきましては、これが最適ということでございますので、是非御理解いただければ幸いでございます。
113
馬淵澄夫(立憲)私は、とにかくこれは足らずだということだけは御指摘をしておきますよ。それこそ与野党の様々な議論というのは、国会でお決めになるということで、政府提出法案ののり以上を越えられないのはよく分かっていますから、これ以上は申しませんが、これは極めて重要な私はポイントだと思いますよ。 この法律の肝は、先ほど申し上げたように、七条と十三条と十六条ですよ。そして、ポイントとしては、一条の目的がこんなのでいいのかというところだ、私はそういうふうに見ているんです。 もう時間も余りありませんので、具体的なところだけを申し上げて、具体的なところをちょっと聞いておきたいと思い…
114
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）本法案第七条に規定いたします活用事業者の責務に関し、「協力しなければならない。」との表現を用いた理由は、我が国においてＡＩを社会に実装していくためには、ＡＩを活用した製品又はサービスの開発、提供などを行う事業者からの協力が不可欠であるからであります。 活用事業者に対しましては、イノベーション促進の観点のほか、ＡＩに関わるリスクへの対応といった観点から、例えば、本案第十三条に規定する指針の遵守や、第十六条に規定する情報収集、調査などへの協力を求めていくことを想定しているところでありまして、活用事業者からの協力を政府として重視しているからこそ、また、本法案…
115
馬淵澄夫(立憲)それで責務というのが私はよく分からないんですが。 そもそも、このＤＰＦ、プラットフォーマーがどのレベルにまで巨大化しているかということについての認識を少しだけ共有しておきたいと思うんです。 メタ社は、二〇一六年以降、安保関連の職員、これは三倍になっているんですね。二〇二一年の八月時点で安全保障の担当スタッフは四万人です。これはどういう数字かというと、アメリカの全外交官の員数は一万五千六百人。二・六倍なんですよ、メタ社の安保関連の職員。さらには、その人材も、元ＮＳＣの長をメタ社はヘッドに置いているんですね。あるいは、元ＮＳＣのインテリジェンスの所長も、…
116
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）現状、国内で利用されている生成ＡＩの多くは確かに海外事業者によって提供されておりまして、本法案では、国内事業者と同様に海外事業者に対しましても適切な対応がなされるよう、海外事業者を含む研究開発機関及び活用事業者等に対し、国が実施する施策に協力する責務、これを定めております。 法律に事業者の責務が明記されることによって、海外事業者に対してもしっかりと規律を働かせ、一定の実効性を確保することが可能となると考えており、何かそのまま、すぐ無視されるというふうには認識しておりません。 なお、その旨は、大規模な海外事業者からのヒアリング等もしっかり実は経て作成さ…
117
馬淵澄夫(立憲)大臣、一言だけ答えてください、しっかり、しっかりは要らないですので。
じゃ、事案が起きたときには、省庁に海外事業者の代表者を呼ぶんですね。それだけ答えてください。呼びつけますか。
118
大岡敏孝(自民)城内国務大臣、簡潔に御答弁ください。
119
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）その点も含めまして、しっかりという言葉は使わないようにしますが、適切に、関係省庁がＡＩ戦略本部、司令塔機能の下で適切に対応していく考えであります。
120
馬淵澄夫(立憲)終わります。ありがとうございました。
―――――――――――――
121
大岡敏孝(自民)この際、お諮りいたします。
本案審査のため、本日、政府参考人として文部科学省大臣官房文部科学戦略官中原裕彦君の出席を求め、説明を聴取いたしたいと存じますが、御異議ありませんか。
〔「異議なし」と呼ぶ者あり〕
122
大岡敏孝(自民)御異議なしと認めます。よって、そのように決しました。
―――――――――――――
123
大岡敏孝(自民)次に、市村浩一郎君。
124
市村浩一郎(維新)よろしくお願いいたします。市村でございます。 いよいよＡＩの法律ができるということでございますが、私は、ＡＩというと、いつの頃から人工知能、ＡＩという言葉を使い始めたか、自分でも定かでないんですが、大体、ＡＩ、人工知能というときにまず思い出していたのが、「二〇〇一年宇宙の旅」ですね。「Ａ Ｓｐａｃｅ Ｏｄｙｓｓｅｙ」です。あれが一九六三年と思いますが、あそこにＨＡＬ９０００というコンピューターが登場しますが、それが私の中では、ああ、ＡＩというのはこういうものなんだなと。 しかし、そのＨＡＬ９０００は結局どうなったかというと、任務遂行のために必要なのは…
125
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。
本法案におきます人工知能関連技術の定義につきましては、第二条にございますが、国際的な議論の動向等も踏まえつつ、今後の技術変化にも対応できるものとなるよう、対象を広く捉えることを意図して規定しており、そういった観点から、御懸念の点は当たらないというふうに考えております。
なお、ＡＩについては技術の進展が大変速いため、引き続き、定義の在り方に係る国際的な議論の動向等についての情報収集等に努め、状況に応じて必要な検討を行うことと考えております。
126
市村浩一郎(維新)今のお話は、この定義はこれでいいだろうということだけれども、やはり今、日進月歩だと言われていますが、状況に応じてはひょっとしたら変えることもあるかもしれないということも、可能性は残っているということでよろしいんでしょうか。確認でございます。
127
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）ただいま述べましたとおり、技術の進展が速いため、第二条に定義されておりますけれども、その定義の在り方については、国際的な議論の動向等、情報収集等に努めて、それを踏まえて、状況に応じては必要な検討を行うということで御理解いただければ幸いです。
128
市村浩一郎(維新)今回の定義でも、ちょっとまだどうかというところも実はあると言われていまして、例えば、今回は、「人間の認知、推論及び判断に係る」というところでありますが、では、従来人間が関与しなかった認知や推論及び判断というのが出てきた場合に、これは対象外なのかというところについてはいかがでございますか。
お答え申し上げます。 今回の定義は、まず、工学的に人間の知能の、脳の働きを代替するものを想定をしておりますので、よほど大きな、想像を絶するような、もう本当に、バイオ的にというか、生物学的に人間の脳を作ってしまうようなものでない限りは、この法案の定義に該当するのではないかというふうに考えております。 しかしながら、御指摘のとおり、予想もしないような技術が出てくることもありますので、できる限り工学的に広い定義を捉えて、しかも、「関連技術」というふうにしておりますけれども、もし予想を超えるようなことが起きた場合には検討しなければならないというふうに考えてお…
130
市村浩一郎(維新)もう一点、「能力を代替する」という表現があるんですね。「能力を代替する機能を実現するために」ということであります。
これは、何か言葉尻を捉えるような質問になるかもしれませんが、人間が僅かでも関与する場合には、能力を代替するとは言えなくなるんでしょうか。これはいかがでしょうか。
お答え申し上げます。
個別の事案についてはなかなかお答えが難しいところがあるんですけれども、基本的には、人間が行えることを代替するもの、人間の脳の働きを模倣して代替するものにつきましては、この中に該当するというふうに考えております。
132
市村浩一郎(維新)済みません。一番最初ですので、これからだということを分かった上で質問していますので。決して、ここで議論して、何か、こうしなさい、こうしましょうということではないので。率直にお答えいただきまして、感謝申し上げます。 では、これで定義ということで、状況が、我々の予測を超えるような大きなことが起これば、定義そのものもまた変わる可能性ももちろんゼロじゃない、いかなることにもそれは言えるということであります。そういうことで、まずはこの定義でスタートをしましょうということであります。 ここで、ＡＩというと、それこそ、実は最初、私は結構ネガティブな感じでＡＩを捉え…
133
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えしたいと思います。 まず、人類がＡＩに支配される可能性についての御懸念に関しましては、人間中心の考え方がやはり極めて重要だと考えております。我が国におきましては、平成三十一年、二〇一九年に策定いたしました、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書におきまして、その考え方をしっかりと示してきたところでございます。 したがいまして、本法案に基づき策定することになりますＡＩ基本計画においても、市村委員始め多くの方から、人間中心の考え方をしっかり明示すべきだという御指摘がございますので、その方向で検討を進めてまいりたいというふう…
134
市村浩一郎(維新)この法案は、恐らく苦心の作だと。この間のサイバー安全保障関連法も、日本はある種、後発だからこそ、非常に、各国のいろいろな状況を見ながら、日本らしさをというか、追求した法律だということで、前の、さっきのサイバー安全保障関連法案もそうおっしゃっていましたが、今回も、恐らくそういう思いで作られた法案だと思いますし、非常に、国際協調ということも、十七条ですね、国際協調を推進するということも書かれてありまして、大変、日本らしさというのは分かるんです。 ただ、リスクというのを、例えば軍事転用、軍事利用というリスクも当然あるわけでありまして、我々が一方的に国際協調を…
135
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）委員お尋ねのＡＩの軍事利用につきましては、実は、必ずしも私の所掌ではございませんが、科学技術政策を担当する大臣の立場からお答えさせていただきますと、やはり、ＡＩはデュアルユース技術でありまして、本法案においても、「経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術である」とした上で、その研究開発能力の保持や関連産業の国際競争力の向上を図ることを基本理念の中で示しているところでございます。 こうした基本理念に基づきまして、ＡＩの研究開発及び活用に関する施策の総合的かつ計画的な推進をしっかりと進めてまいると同時に、価値観を共有する…
136
市村浩一郎(維新)それで、次に、ＡＩがいろいろな、今度は、例えば、事故や不利益なことを起こした場合ということもリスクということで考えられてきます。
ＡＩを操作して何か不利益なことを起こした人は、それが特定できれば多分刑罰の対象になるんでしょうけれども、もうこれから、ＡＩが独自に新しい知識を身につけて、ＡＩが独自にいろいろなものを勝手に作り出した場合に、それが、何か事件や事故、不利益なこと、例えば人権侵害とか倫理的なものでの侵害とかを起こした場合、対処はどうすればいいのか。お答えいただけますでしょうか。
137
神田潤一(自民)法務大臣政務官お答えいたします。
犯罪の成否は、捜査機関により収集された証拠に基づいて個別に判断されるべき事柄であり、一概にお答えすることは困難ということではありますが、一般論として申し上げますれば、刑法は自然人を対象とする法規範であり、御指摘のような自然人ではないＡＩそのもの、それ自体が刑法によって処罰されることはないものというふうに承知しております。
138
市村浩一郎(維新)そうなんですね。ここも、だから、これからどんどん考えていかなくちゃいけない。多分そうなってくると思います。 能動的サイバー防御のときも平大臣と議論させていただきましたが、これはもう、これからＡＩ対ＡＩの時代になるんだということなんです。だから、我々人間がある意味で関与できないというか、そういう時代にもうなりかねないんですね。多分なると思います。 だから、そういうときに、ＡＩがやったことについて、責任を取れないわけですね。じゃ、誰が作ったんだ、そこまで遡れるかということになるとどうなのかということになりますし、だから、非常に考えておかなくちゃいけないこ…
お答え申し上げます。 著作権法上、著作物といいますのは、「思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するもの」と定義されております。 生成ＡＩが自律的に生成したものは、この定義上、思想又は感情を創作的に表現したものではなく、著作物には該当しないと考えられます。これに対して、人が思想又は感情を創作的に表現するための道具としてＡＩを使用したものと認められれば、著作物に該当し、ＡＩ利用者が著作者となると考えられます。 人がＡＩを道具として使用したと言えるか否かといいますのは、人の創作意図があるか、及び、人が創作的寄与と…
140
市村浩一郎(維新)来週またいただきますので。
最後に、是非とも、ＡＩ推進の旗振り役である政府自身が模範ユーザーとなっていただきまして、省庁の縦割りとか無駄をＡＩで是正するぐらいの意気込みを持って取り組んでいただきたいと存じます。
これにて終わります。
141
大岡敏孝(自民)次に、三木圭恵君。
日本維新の会の三木圭恵でございます。 今日の質問、どうぞよろしくお願いいたします。 今回の法案なんですけれども、やはり推進法であって基本法ではないということで、ここで議論できることがまだ決まっていない、そして、基本計画の中で決まっていく、それが閣議決定で下りてくるというようなことで。この国会で基本理念とか、そういったところもきっちりと議論をしたいなという思いがやはりありまして、今の法案では、なかなか中身に関して議論できるところが、ちょっと少ないなとは思っているんですけれども。そういった意味で、ここの審議というのは非常に大切なのかなというふうにも思って…
143
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 本法案の第三条第二項にも示しておるとおり、ＡＩは、その適正かつ効果的な活用によって行政事務や民間事業活動の効率化と高度化さらには新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術でございます。 そうした中、我が国におきましては、ＡＩの研究開発と活用が諸外国と比べて進んでいない状況にありまして、こうした状況を打開する観点から、イノベーションの促進とリスクの対応、この両立を図りつつ、ＡＩの研究開発及び活用を強力に推進するために本法案を提出させていただいたところでございます。 …
我が国は生成ＡＩに関して発展が遅れているというような大臣の御答弁だったと思います。 そして、今、様々な委員の皆様から発言があるように、やはりＥＵに関しては、ＡＩに関して非常に厳しい規制を課していると。アメリカは、バイデン大統領の大統領令を、今回トランプ大統領がまた大統領令を改正するということで、アメリカを優位に持っていくための生成ＡＩなど、こういったものをきっちりとやっていく、発展させていくというようなお話が今あります。その中でこういった法案が作られるということは、日本にとってやはり第一歩の法案になるのかなというふうには思っているんですね。 先ほどま…
145
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えします。 ＡＩが生み出す様々なリスクへの懸念があることは重々承知しておりますし、また、一昨日、市來委員にも答弁申し上げましたとおり、本年二月に公表いたしましたＡＩ戦略会議及びＡＩ制度研究会の中間取りまとめ、この内容を受けまして、顕在化している個別のリスク事案については、まずは既存の法令等にのっとり適正に対処されていくべきものと考えておりまして、そうした観点から、本法案では、御指摘のとおり罰則を設けておりません。 ただ、その上で、本法案に基づきまして、ＡＩの開発者、活用者が遵守すべき事項等を含む指針、これを整備し、ＡＩの研究開発、利用の透明性及び…
今の段階で、生成ＡＩに関して、各法、既存の法で対応していく、対応できている、対応していくんだということだと思うんですけれども、私が今、新聞記事なんかをいろいろ読んでおりますと、もう生成ＡＩというのは本当にすごい発展というか進化をしているなというところで、ちょっと御紹介をさせていただきますと、「賢いＡＩは手段を選ばず」というような記事が三月の三十日に日経の方に載っております。 ＡＩが必要な計算を省いて、サカナＡＩですね、日本の企業ですけれども、研究がネットで炎上した。どういったことかというと、ＡＩの開発や利用を効率化する技術を開発したとして十倍から百倍高…
147
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）まさにＡＩの分野の技術の進歩というのは非常に速くて、我々が想像できないような、今御指摘があったようなＡＧＩ、ＡＳＩ、汎用人工知能や超ＡＩみたいなものができ、かつ、ＡＩ自身が人間をだますというか欺くというか、そういう状況ができているということを私も重々承知しておりますが、こういった状況だからこそ、人間中心の考え方にのっとって、人間中心の、要するに、ＡＩ中心で、ＡＩが人をだまして、どっちが主人か分からなくなるような状況ではなくて、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書において示してきたところでありまして、この考え方にのっとってしっか…
大臣の答弁の中から、人間中心の社会ということで、日本は広島ＡＩプロセスの中で取り組んで、非常に世界的にも大きな役割を果たしたと思っておりまして、そのことに関してはすごく評価をさせていただいております。 また、政府のＡＩ事業者ガイドラインを見ると、今、城内大臣がおっしゃったような人間中心のＡＩ社会原則が、五原則がうたわれているということなんですけれども、ＡＩが導き出す結果というのは、なぜその結果になっているのかブラックボックス化していて人間も分からない部分が多いということになっています。 ＡＩは、確かに、便利に使えて、業務を効率化して時間短縮につながる…
ありがとうございます。
私はＩＴの専門家なんですけれども、私の指導教官から教わるような話を今日はいただいておりまして、感激をしております。
ただいまの、定義に関わる問題かもしれませんけれども、広島ＡＩプロセスという国際的な規範の中で、あるいはＯＥＣＤ原則という世界で今使われております原則の中で、その人間中心という考え方がうたわれておりまして、私ども、この法案ができた暁には指針あるいは基本計画を作るわけですけれども、これは当然国際規範に即したものになりますので、人間中心という概念は一番冒頭に来るものというふうに考えております。
大変大きな視点のお答えだったと思うんです。 昨日の新聞に、東京都がＡＩを使って都民や事業者からの補助金の申請の手続を迅速化させる。また、東京都武蔵野市、こちらの方なんですけれども、保育所の選考に関わる事務を、申請書を基に施設を割り振るというのをＡＩが行う。これが百七・五時間から一時間に激減するという。業務効率化なんですね。 こういったことにＡＩを利用していくというのは非常に大切なことでありますし、業務の効率化にもつながることなので大変喜ばしいことかなと思うんですけれども、行政判断というのは公平性と説明責任というものがやはり求められると思いますので、そ…
151
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。
例えば行政手続ですけれども、ＡＩに任せ切りにするんじゃなくて、やはりある程度は人間がチェックするとかということも大事でしょうし、実は、法体系の前に、既に各省でガイドラインというものを作っておりまして、そのガイドラインに従って適切に、今申しましたように、ＡＩ任せで、全部ＡＩの出力したものが正しいというふうにみなして行政手続をするとか、そういうことのないような形になっているというふうに私は理解しております。
それは十分私も理解をしておりますので、新しい法が今回生成ＡＩでできたということで、きっちりと、ガイドラインだけではなくて、ソフトローだけではなくて、この際、ちゃんとハードローを生成ＡＩの分野として、これはちゃんときっちりと定めた方がいいのではないかという質問でございます。
いかがでしょうか。
153
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）いずれにしましても、ハードローという御指摘がございましたが、それを全く排除するわけではなくて、取りあえず今回の法律では、我が国が最もＡＩを開発し、活用しやすい国となるように、しっかりイノベーションを促進すると同時に、リスクの対応につきましては、るる申し上げているとおり、既存法をしっかり適用しつつ、新たに生じたリスクについても個別具体的に対応する、そういうたてつけになっておるところであります。
なぜ私がここでこうやって生成ＡＩに関して新しい法体系をきっちりと、規制の部分ですね、作った方がいいんじゃないかということを申し上げているかと申し上げますと、今回の法案が推進法案であり、基本法でなかったということと、やはり規制に関して、どのような規制が今後生まれてくるのかということをきっちりこの国会で審議をしたいという意味合いも含めて、そういったことをお願いをしております。 今ちょうど質疑時間が終了いたしましたので、ちょっと質問を残してしまって、準備いただいた方には申し訳ないんですけれども、以上をもちまして、生成ＡＩに関してきっちりと今後も取り組んでいく…
155
大岡敏孝(自民)この際、暫時休憩いたします。
午後零時二分休憩
――――◇―――――
午後三時開議
156
大岡敏孝(自民)休憩前に引き続き会議を開きます。
質疑を続行いたします。石井智恵君。
国民民主党・無所属クラブの石井智恵です。 私からは、ＡＩ活用による人口減少対策についてお伺いいたします。 まず初めに、地方自治体のＡＩ導入の推進とリスク対策についてお伺いいたします。 ＡＩ活用は、地域の人口減少対策において多くの可能性があると考えております。特に、労働力不足対策には非常に有効な技術であります。高齢化対策、医療、介護現場での活用、防災対策など新しいビジネスモデルの創出にもつながり、地域活性化対策としても今後大きな役割を果たすことになると予想されております。 地方自治体では、既にＡＩを活用して行政サービスを行っております。 私の地元…
地域の自主性についてお答え申し上げます。 今回のＡＩ法案では、政府の役割と、それから地方自治体の役割を書いております。 政府の方は実は二つございまして、施策をつくって推進するという役割と、もう一つは、政府自らユーザーとして使っていく、適切に使っていく、そういう役割がございます。 地方自治体におかれましても、是非、ＡＩを適切に、かつ有効に活用していただきたいというふうに思っておりますけれども、そこは、地方、例えば観光地であれば外国人向けのＡＩをたくさん使うとか、それぞれの地方によって特色があると思っておりまして、そういうものを意識しながら使っていただ…
ありがとうございました。 次に、ＡＩ推進による社会変革についてお伺いをいたします。 生成ＡＩが活用されるようになれば、これまでの仕事をＡＩで代替できるようになり、例えば、受付や窓口業務、行政書士や税理士、会計、コンシェルジュ、秘書などの仕事がなくなる可能性も高く、職業が変わり、また働き方も変わり、社会構造そのものが大きく変化することが予想されております。 科学技術などの進歩によって労働者が職を失うことを技術的失業というふうに言われ、かつては、電話交換機の発明で電話交換手が職を失い、自動改札機が開発されて切符切りの駅員が一斉にいなくなりました。ＡＩは…
160
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 ＡＩの活用による労働環境の変化でありますけれども、社会の変革の姿につきましては様々なものが考えられますが、まず、簡単にイメージがしやすいものを幾つか限定して紹介させていただきたいと思います。 まず、ＡＩを活用することで、定型的な業務はＡＩに任せて、人間はより創造的な業務に専念することが可能になることから、労働力不足の解消や働き方改革などが、委員も御指摘のとおり期待されるところでございます。そしてまた、今後、ＡＩが搭載されたロボットが普及しますと、介護等の労働現場において労働力不足を解消できるようになる可能性があると考えております。…
ありがとうございました。 ＡＩが推進されることによって、本当に人間らしく、また自分らしく生きていけるようになるのではないかというふうに期待もしておりますし、また、石破総理がおっしゃられておりました、楽しい日本ということの本当の意味を実現ができるのではないかなというふうにも期待をしております。 次に、政府が策定をするＡＩ基本計画についてお伺いをいたします。 本法律案の第十八条で、政府は、人工知能基本計画を定めるというふうにされております。この計画は、ＡＩ推進の基本理念にのっとり、推進の要となるものであり、今回、内閣に設置される人工知能戦略本部も、この…
ＡＩ基本計画につきましてお答えいたします。 最終的には、ＡＩ戦略本部での御議論を経て、また有識者の皆様方の意見も聞きながら策定をしていくものでございますけれども、現時点での事務方のプランということでお話をさせていただければというふうに思います。 この基本計画は、各府省がそれぞれ実施する施策を、いわゆる一体的かつ横断的に進めるための施策をまとめたものということになりますけれども、いわゆる基本的な方針の部分と具体的な施策の部分というふうに分けて書いていけたらなというふうに思っております。 基本的な方針の方につきましては、今日ずっと御議論いただいておりま…
ありがとうございました。このＡＩ活用が本当の意味で人口減少対策の救世主になるということを希望しております。 少し時間が余りましたので、通告はしていなかったんですけれども、一般論として、大臣にお伺いしたいと思います。 ＡＩが進みますと、人間が何も考えなくなるのではないかという心配もあります。例えば、先ほどの選挙もありましたけれども、ＡＩでできたポスター、ＡＩでつくった政策で選挙に立候補し、ＡＩで住民が判断をする、そして投票をするというふうになりますと、人間が全く考えない中で選挙を行う、果たしてこれが民主主義なのかということを私も心配をしております。 …
164
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）この委員会でも何度も議論されておりますように、ＡＩが主役ではなくて、やはり人間が中心である、そして、ＡＩを活用してまさに効率化をする、そしてそれによって人間の、まさに働く場においても余裕ができていく、そういうメリットを享受するためのＡＩであって、御指摘のとおり、もう全部ＡＩに任せて、ＡＩを中心に、逆に人間が使われる、使役されるような、そういうものを目指すものではないということだけは強調させていただきたいと思います。 いずれにしましても、ＡＩが人間に代替してくれるその利便性、それはしっかり享受しながらも、最終的には、いろいろな局面で人間が最終的にチェック…
ありがとうございました。 このＡＩの推進、活用が進むことによって、いろいろな、便利になったり、また働き方が変わったり、生き方が変わったりというふうに期待もできると思います。 また、選挙においても、私たちは選挙を通して、立候補したりとか活動したりしておりますけれども、やはり一番は、人と人とがしっかりと議論をして、こうやって顔と顔を合わせて議論していくことが本当に必要だというふうに思います。 是非いい方向でＡＩの活用ができるように期待をしたいと思いますので、今後ともどうかよろしくお願いいたします。 本日の質問を終わらせていただきます。誠にありがとうご…
166
大岡敏孝(自民)次に、菊池大二郎君。
167
菊池大二郎(国民)国民民主党・無所属クラブの菊池大二郎でございます。 城内大臣、午前中から引き続き御苦労さまでございます。委員の皆さんも、本会議を挟んでということで、お疲れではないかなと思います。人間であれば、疲れたときには休息も取りながら、そしてまたエネルギーを取りながらというところで回復をするわけでありますけれども、ＡＩもずっと動き続けるわけではなくて、必ずエネルギーが必要になってくるというところでございます。 人知を超えるスピードでＡＩ技術は発達しております。ＡＩ社会において、我が国も後れを取らずにイノベーションを促進していく上で、計算能力基盤等の確立と向上は死…
お答え申し上げます。 電力需要の増加に対する対策について、特にデータセンターの立地が進むことによってどうなるかということでお尋ねがございました。 まさに今後の電力需要は、データセンターの新増設の影響などによって増加する見通しとなってございます。具体的には、電力広域的運営推進機関が本年一月に公表した今後十年の電力需要の想定によりますと、国内の電力需要は、二〇二四年度が約八千五十九億キロワットアワーでございますが、二〇三四年度が約八千五百二十四億キロワットアワーということで、比較いたしますと約六％、四百六十五億キロワットアワーの増加の見通しということでご…
169
菊池大二郎(国民)非常に速いスピードで電力の需要というものが伸びていくというふうに考えております。百万キロワットというのが原子力発電所でいう一基分でありますので、これを、ＡＩを支えるエネルギーの電源をどう確保していくかというのは極めて重要な課題であると認識をしております。 続けて、同様の観点から質問させていただきますけれども、データセンターの新増設を考えた場合に、必要となる電力設備の建設とデータセンターの配備と建設、リードタイムが決定的に異なるということも指摘をされております。 例えば、データセンターを建設しますということのリードタイムが三年、一方で、ＬＮＧであれば六…
お答え申し上げます。 今御指摘のございましたとおり、生成ＡＩ等を活用したＤＸが日本の産業構造の高度化に不可欠であり、それを支えるデータセンターの国内整備というのは重要という考えでございます。 その整備に当たりましては、今委員が御指摘のとおり、大規模自然災害への備えという観点から、レジリエンスという観点からデータセンターの地方への分散が必要になってくると認識してございます。足下では、データセンター拠点整備事業費補助金等を通じまして、総務省とともに、地方におけるデータセンターの整備を後押しをしているというところでございます。 加えまして、膨大な電力を必…
171
菊池大二郎(国民)前向きな御答弁をいただいたと思います。 このワット・ビット連携官民懇談会のこれからの議論というところを非常に見守っていきたいという一方で、見守る時間もないというようなところもあろうかと思います。 時間軸の話も、先ほどリードタイムの話もさせていただきましたけれども、じっくり腰を据えて、これからの電源構成のありようと、需要に対して供給をどう体制を構築していくかというところをじっくり考えていくということを提案する一方で、今まさに、足下をどうするんだというところのニーズもあるんだろうというふうに思いますので、その点、是非、大変な作業かと思いますけれども、よろ…
172
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）私も、知的財産戦略担当であると同時に、クールジャパン戦略担当大臣でもございますので、菊池委員御指摘のとおり、コンテンツ産業の振興におきまして、知的財産権の保護、著作権の保護、これは非常に重要だというふうに、同じように認識しております。 昨今のＡＩをめぐる技術革新は著しく、例えば生成ＡＩによってオリジナルのコンテンツに類似した生成物、すなわち文章、絵画、動画、写真、図表、声、個人の思想などが、容易に生成し利用することができるようになっております。 こうした中、例えば生成ＡＩの学習過程におきまして、他人が有する知的財産権をその権利者に許諾を得ることなく利…
173
菊池大二郎(国民)時間が来ましたので終わります。
ありがとうございました。
174
大岡敏孝(自民)次に、河西宏一君。
175
河西宏一(公明)公明党の河西宏一でございます。 本日は、質疑の機会をいただきまして、ありがとうございます。城内大臣、どうぞよろしくお願いをいたします。 私自身も、生成ＡＩ、使わない日はないですし、毎年人間とやり取りする量とＡＩとやり取りする量とどっちが多いのかなということで、やはり我々政治家、私も、今四年目を迎えますけれども、非常にこの四年間、処理しなきゃいけない情報量が圧倒的に増え過ぎて処理し切れなくなっているという自分がいたわけでありますけれども、この生成ＡＩの登場によって、情報の収集、検索、又はサマリー、非常に助かっております。また、そういった意識していないと…
お答えいたします。
本法案の人工知能関連技術の定義における知的な能力を代替するシステムは、例えば、人間の脳の仕組みを模倣したソフトウェアであるディープラーニング技術を用いて資料の要約等の作業を人間に代わって行うシステムのことであります。ＡＩに人間の能力を代替させたとしても、最終的な判断はあくまで人間が行うと認識をしております。
本法案では、ＡＩの推進ではなく、ＡＩの研究開発、活用の推進に関して定めるものでありまして、そのＡＩの研究開発、活用を行う主体は当然人間であるというふうに考えております。
177
河西宏一(公明)ありがとうございます。 当然人間である、これはもう当然のことなんですが、ただ、ＡＩが今構築している、ＬＬＭの中で構築されているロジックの中で、人間中心である、当然人間である、ＡＩがこの先ずっとそういうロジックを維持していくかどうかというのは分からないわけでありまして、この法治国家たるこの日本のこのＡＩ推進法において、最終的な判断は人間だということをきちっと議事録に残していく、それをＡＩが機械学習していくという、この順序が非常に大事だというふうに思っているわけであります。 そこで、大臣にお伺いをしたいと思うんですが、人間中心のＡＩ社会ということ、これは…
178
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘の、人間中心の考え方、これまでも何度か答弁させていただいておりますけれども、これは平成三十一年、二〇一九年に策定いたしました、人間中心のＡＩ社会原則を始めとするこれまでのＡＩに関する政府文書において示してきたところでありまして、この考え方については、私自身もこれは非常に重要であると考えております。 したがいまして、河西委員の御指摘なども踏まえまして、本法案に基づき策定するＡＩ基本計画におきましても、人間中心の考え方をしっかりと明示する方向で検討を進めてまいりたいと考えております。 また、本法案においては、基本的施策の一つとして、国民の皆様にＡＩ…
179
河西宏一(公明)大臣、是非よろしくお願いを申し上げます。人間中心という考え方が、イノベーション促進とリスク対応のまさに中心軸になろうか、このようにも思うわけでありますので、是非よろしくお願いを申し上げます。 続きまして、リスク対応についてお伺いをしたいというふうに思っております。法案の第三条の４にはその旨が書かれているわけであります。ＡＩ関連技術の研究開発と活用の過程の透明性の確保その他の必要な措置を講じなければならないと。 今日ずっと議論がありますけれども、今回の法案で定めているのは、いわゆる罰則とか勧告とか命令ではなくて、指導、助言、情報提供を行うということであ…
お答えいたします。 まず最初に、二〇二三年、令和五年の年末から、内閣府において、各省庁の協力も得つつ、各主要業種におけるＡＩ導入の実態であるとか規制の状況に関する調査を行っております。 その後に、二〇二四年、令和六年夏に、ＡＩ戦略会議の下にＡＩ制度研究会を設置をしまして、法制度の要否も含めて検討を進める中で、ＡＩに関して想定される様々なリスクに対して、適用可能な既存法令としてどのようなものがあるかを関係省庁と相談をし、整理をした次第です。その結果については、今年二月に公表されました同戦略会議、同制度研究会の中間取りまとめにおいて掲載をしているところで…
181
河西宏一(公明)ありがとうございます。 一昨年は実態調査を行い、そして昨年は整理をされたと。具体的なオペレーションとか責任の分担はこれからということでありますので、非常にそこが大事になってきます。実効性の確保をきちっと担保していただきたい、このように思いますので、よろしくお願いを申し上げます。 続きまして、クリエーターでありますとか、著作権の関係をお伺いをしたいというふうに思っております。 現行の著作権法では、ＡＩによる機械学習、これは、思想又は感情の享受を目的としない場合には自由であるということでありますけれども、生成されたコンテンツが既存の著作物に酷似する場合…
お答えいたします。 ディープフェイク対策の一つの方法として、ＡＩで生成された画像に、人の目では判断できないが、あるアプリケーションを用いるとＡＩ生成物であることを識別できる、いわゆる電子透かしの技術があります。本技術は開発途中ではありますが、ＡＩ開発者に対して、画像を生成するＡＩに本技術を導入するよう、本法案に基づき整備する指針等によって働きかけることが考えられる次第であります。 また、委員御指摘のＡＩ生成コンテンツにその旨を表示させるか否かについては、仮にそれを実施しようといたしますと、専らＡＩのユーザーの側に表示をお願いすることになると考えられま…
183
河西宏一(公明)是非、検討をお願いしたいと思います。 確かに私も、今回の質疑、ＡＩを使った部分もありました。じゃ、それを必ず宣言しなければいけないのかと問われると、そういったこともちょっと現実的ではないのかなというふうにも思っておりまして、別にこの質疑を作らせたわけじゃないんですけれども、情報収集に非常に役立つわけであります。 他方で、我が党も提言していますが、例えば、我が国発のオリジネータープロファイルとか、起源情報を表示していくもの、これもウェブブラウザに標準搭載されていくというようなことも非常に重要かと思っておりますので、先ほどの電子透かしも併せて、そういうよ…
お答えいたします。 政府においては、ＡＩを適正に活用しつつ、事務の効率化、高度化を図る方針でありますけれども、現時点ではユースケースを積み上げているような段階であります。定量的な評価、例えば具体的な行政コストの縮減効果などについては、現時点では残念ながら算定できていない状況です。 地方公共団体におけるＡＩ導入は、地方公共団体の自主性による部分がありますけれども、委員から御指摘いただきましたとおり、地方の方が人手不足の課題も抱えておりますので、ＡＩ活用のニーズ、効果も大きいという可能性があるというふうに考えています。 そのため、例えば、総務省において…
185
河西宏一(公明)是非、推進方、よろしくお願いいたします。 続きまして、大臣の方にお伺いしたいと思います。 この行政事務の効率化によって、どれぐらいの財源が捻出できるか。そのインパクトはまだこれからということでありますけれども、私、大事だと思うのは、ここで捻出された財源というのは恒久財源であるということでありまして、ずっと使えるということであります。 デジ庁の平大臣なども、国家公務員制度の方も所管されておりますので、例えば、定員に足りなくてもその分をＡＩで効率化して、その足りない定員の中で回していくんだと、本当にそのとおりだなというふうに思うわけであります。 その…
186
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。 ＡＩの普及によりまして、従来にはない新しい職種や産業が創出されたり、ＡＩエンジニア等のＡＩ関連の職業に対するニーズが増加する一方で、現在の仕事の一部が代替されるなど、労働環境に大きな影響を及ぼすことが想定されておりますが、この点については、先ほど国民民主党の石井委員とのやり取りでも申し上げた次第でございます。 そうした中、御指摘のとおり、介護福祉士あるいは保育士、幼稚園教諭など、こうしたエッセンシャルワーカーは、御指摘のとおり、ＡＩでは代替することが大変難しい職種であることはまさに御指摘のとおりだと私も考えております。 いずれに…
187
河西宏一(公明)大臣、ありがとうございます。 私も、実はどれぐらい行政コストが縮減されて、エッセンシャルワーカーの方々が全産業平均にキャッチアップするためにどれぐらい必要なのか、はっきり言って全然足りないんですね、兆単位とと数千億単位ぐらいの話ですので。ただ、そこに使っていくということは非常に大事なのかなというふうに思っておりますので、まさに、人間中心の持続可能なＡＩ社会というコンセプトで今後国づくりを進めていくことが大事なんじゃないかと思っておりますので、是非よろしくお願いを申し上げます。 続きまして、産業界に絡んでお伺いをいたします。 今急速に普及しつつあるの…
お答えいたします。 事業者がＡＩを導入する際のリスクとして、一般的には、ＡＩが誤情報や偽情報を出力するといったリスクが考えられます。一方で、御指摘のとおり、導入したＡＩシステムの活用が進んだ後、浸透した後に、当該ＡＩシステムの出力の傾向が急変するであるとか、当該ＡＩシステムが、システムのサービスが停止をする、ＡＩシステムが停電で停止するといったような事態が生じると、大きな被害が生じかねないというふうに考えています。 ＡＩの導入に関するリスクはその導入の仕方によって千差万別であることから、事業者ごとにリスクを特定して多面的に評価をし、事業者ごとに事故時…
189
河西宏一(公明)是非、指針の方に盛り込んで、災害時の対応も含めて万全の準備を期していただきたいと思っております。 済みません、今日は中企庁に来ていただきました。よろしくお願いいたします。 このＡＩエージェントなんですけれども、これは、一言で言うと規模の経済になっていくんじゃないかという指摘が様々されております。自動化する範囲とか量が大きければ多いほどメリットが出ますので。かつ、例えば、いきなり注文が二倍来たと。今までは、人間がやっていた場合には、例えば製造ラインとかも二倍にできませんのでできないわけでありますけれども、ＡＩの場合は、その供給力の拡張性、スケーラビリテ…
お答えさせていただきます。 委員御指摘のとおり、中小企業、小規模事業者が、ＡＩ等も活用しながらデジタル化、ＤＸを推進して生産性向上を図っていくということは非常に大事だと考えております。 このため、経済産業省におきましては、ＩＴツールの導入を支援するＩＴ導入補助金を措置しているところでございますが、こちら、ＡＩ製品の導入のために活用していただくことも可能となってございます。また、令和六年度の補正予算からは、ＩＴ活用の定着を促すために、導入後の活用支援も新たに対象化しておりまして、先月、申請受付を開始したところでございます。 今後も、こういった取組を通…
191
河西宏一(公明)ありがとうございます。 ＡＩ、高度化していけばいくほど、単価もどんどんどんどんすごいスピードで高くなっていくということもありますので、今後の、予算の在り方とかも含めて、また制度の在り方も含めて、これはこれで議論をさせていただきたいと思っております。 済みません、もしかしたら最後の一問になるかもしれませんが、ＡＩ人材の育成についてお伺いをしたいと思います。 今回の法案十四条にも、ＡＩ関連技術また基礎研究に係る人材の確保、養成及び資質の向上、このことがうたわれております。 経済産業省が二〇一九年に公表した調査でありますけれども、我が国のＡＩ人材、これ…
192
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおり、日本に優れた人材が多数おりまして、数学等の学力も大変高いと承知しておりますが、ＡＩ産業におきましては、基礎研究や理論研究を行う人材だけでなく、データの収集や整理、データセンターやクラウドの活用など、様々な知見、スキルを持った多様な人材が必要だということは御指摘のとおりであります。さらに、研究開発の内容や目標が次々と変化しているところでありまして、適材適所の人材配置も必要であります。 これまで、政府としては、ＡＩを活用した人材を育成するために、例えば、大学等の優れた教育プログラムを政府が認定する数理・データサイエンス・ＡＩ教育プログラム認…
193
河西宏一(公明)ありがとうございます。
時間が来たので終わりますけれども、私は、高度なＡＩを使っていこうとすればするほど、こういう高いスキルと、あと、やはり高い倫理観を備えた、まさに人間中心の社会をつくっていく人材が必要だと思っております。我が党も全力で取り組んでまいりますので、是非よろしくお願いをいたします。
以上で終わります。ありがとうございました。
194
大岡敏孝(自民)次に、上村英明君。
195
上村英明(れいわ)れいわ新選組の上村英明と申します。 私は、ある意味では天然知能なので、なかなか切替えがうまくいかないんですけれども、能動的サイバー防御からＡＩの話に移って、城内大臣に、早速さくさくとお尋ねしたいと思います。 まず、一般に、政府の資料によっても、日本はＡＩの開発とか活用が遅れているというふうに言われています。アメリカや中国、ドイツが比較に挙がっていて、もちろんグーグルとかマイクロソフト、オープンＡＩを生み出したアメリカに遅れているというのは分かるんですが、中国に対しても遅れたという評価をされています。 かつて、これも先ほどいろいろな映画の話が出たんで…
196
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）御指摘のとおり、ＡＩの開発、利活用について、例えば米国等が先行している状況にあることは御指摘のとおりで、これは否定できない事実でございます。 我が国のＡＩ開発の遅れの主な理由としては、例えば、ＡＩの研究開発に大規模な資金や人材が迅速かつ十分に集まってこなかったこと、あるいは、グローバルなビジネスモデルを描けていないことや、ＡＩ用の計算資源が不足していること、そしてＩＴ人材が不足していること、また日本語特有の、マイナーな言語で同音異義語が多い、ＡＩ学習が難しいなど、データが少ない、そういったことが考えられております。 また、ＡＩ活用の遅れの主な理由とし…
197
上村英明(れいわ)今のお話を伺いますと、目標は設定したけれども実際には政策が追いつかなかったということが言えるのかというふうに思います。
次に、先ほどから皆さんリスクに関してたくさんお話をいただきまして、何か、ＡＩが裏切っちゃうとかだましちゃうとかというのは、私も聞いていてすごいショックを受けた段階まで来ているというふうに思うんですけれども。
政府委員の方に簡単にお尋ねしたいんですけれども、ＡＩの便益とリスクに関してどういうふうに考えればいいかというのを整理していただければありがたいと思います。
ＡＩの便益とリスクにつきましてお答えを申し上げます。 まず、ＡＩの中でも、特に生成ＡＩの性能が急速に進歩しておりまして、自然な文章の作成のみならず、プログラム、画像、音声等の作成も可能になっています。これによりまして、資料の要約ですとか、翻訳ですとか、議事録の作成、あるいは一般的なプレゼン資料の作成ですとか、問合せへの対応ですとか、そういった多様な業務へのＡＩの活用が可能となっておりまして、生産性の向上、働き方改革、労働力不足の解消といった様々な便益が期待されております。 一方で、ＡＩをめぐるリスクに関しましては、予測は大変難しいところはございますけ…
199
上村英明(れいわ)ありがとうございます。 今、政府委員の方から、ＡＩの便益では効率化とか生産性の向上という言葉が聞かれたんですけれども、私も若干古い人間なので、そういう話を聞くと、一九九〇年代、小泉内閣のときだと思うんですけれども、アメリカからある種の成果主義というものが日本に導入された時期がございます。 この成果主義というのは何かというと、それまでの日本のビジネスモデル、例えば年功序列であるとか終身雇用というものが余り効率よくないと。その効率とは何かというと、コストをカットしないと企業はもうけが増えないじゃないかということで、こういうモデルが導入されたことがあります…
ただいま委員から大変深い問題提起をしていただいたと思っております。 ＩＴ技術とかデジタル技術が人間を代替すれば、それは見た目にはデジタル革命が成功したということになるわけですけれども、それによって人の雇用が減ってしまうとか、先ほどの、人のコミュニケーションが減ってしまうということは、やはり好ましくないというふうに私は考えております。 そういった意味では、デジタル技術の普及とともに、やはりそれに伴って新しい仕事も増やしていくということも重要なのではないかというふうに考えております。 先ほど、九〇年代のＩＴ革命の例もありましたけれども、今回、ＡＩ革命と…
201
上村英明(れいわ)ありがとうございます。お考えいただけるような御答弁だったというふうに思うんですけれども。 新しい産業という話だけではなくて、これは先ほどの河西委員の御発言にも関係するんですけれども、例えば、能動的サイバー防御をやりましたので、名古屋港の積荷の作業のところがサイバー攻撃に遭ったんですけれども、三日間で回復しました。なぜかというと、ＡＩを使っていないときの労働のノウハウを知っている人たちが残っていたからなんですね。ですから、ＡＩが、あるいはサーバーがダウンしても、どういうふうに手続をやればこの作業が回るかということを知っている人材が残っているということが、…
202
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）私も個人的に、判こ議連の会長として、デジタル化を阻止するとんでもないやつという烙印を押された経緯がございますからこそ、やはり、デジタルも大事ですけれどもアナログも大事でございまして、例えば脳科学的にも、デジタルよりも紙で調べたり調査した方が脳科学の分野で記憶に定着しやすいということが既に証明されております。 事ほどさように、極端に、いわゆるＡＩに頼り切って、ＡＩに全て、適正な回答を出す、これは、スピードは当然速いでしょうけれども、委員御指摘のとおり、人間は何も考えずに、記憶に残らないとか、まさに知能が劣化してくるというようなことは、恐らく、もう少し突き…
203
上村英明(れいわ)ありがとうございます。
その意味でいくと、午前中に三木委員が御指摘になったように、ＡＩの研究開発あるいは活用に関する推進法ではなくて、やはり基本法として、我々のバランスは、どんな中でバランスを取るべきなのかというのがもっと明確な法案であるべきじゃないかなということを最後に指摘して、私の質問を終わりたいと思います。
ありがとうございました。
204
大岡敏孝(自民)次に、塩川鉄也君。
205
塩川鉄也(共産)日本共産党の塩川鉄也です。
ＡＩ推進法案について質問いたします。
石破政権は、世界で最もＡＩの研究開発、実装がしやすい国を目指すと掲げております。
そこで、入口での確認ですので政府参考人でも結構なんですが、今回の法案というのは、ＡＩの研究開発、活用推進のための法律であって、ＡＩ規制の法整備を行うものではないということでよろしいんでしょうか。
お答えいたします。
今御指摘のとおり、これは規制法ではなくて、推進のための法律でございます。ただし、その推進のためには、リスクへの対応もしっかりやっていくということでございます。
207
塩川鉄也(共産)リスク対応について、法整備を行っていないということであります。 ただ、政府の法案概要資料では、法律が必要な理由として、多くの国民がＡＩに対して不安を感じていることを挙げているわけです。 紹介されているＡＩのリスクや安全性に関する意識調査を見ると、現在の規則や法律でＡＩを安全に利用できると思うと答えたのは、日本では僅か一三％。一方で、ＡＩには規制が必要だと思うとの回答は七七％にも上っております。現状は、ＡＩを安全に利用できる環境にはなく、規制が必要だと多くの国民の皆さんが考えておられる。これが国民多数の声だということであります。 そうしますと、こうい…
お答え申し上げます。 規制という言葉の定義をどう捉えるかということでございますけれども、例えば、罰則つきの厳しい規制ももちろん規制ですし、いわゆる自主規制といいますか、事業者による自主的な取組を促して自主的にやっていただく、これも、ガイドライン等に沿ってやっていただくのも、自主規制という言葉がございまして、どう対応していくのかというのは、その国、地域のそれぞれの法体系ですとか、あるいは過去の商習慣ですとか、いろいろなところから決まってくるものというふうに考えております。 ＥＵは、そういう中では規制法でやっておりますけれども、アメリカはまた違う形でやっ…
209
塩川鉄也(共産)ただ、こういったアンケートにおきましても、やはり、現在の法律では安全に利用できないと思っている方々が多数だというときに対応した、そういった中身に本来すべきなんじゃないのかということが問われていると思います。 ＡＩの活用推進に遅れることなく、必要な規制、ルール作りを行って、権利侵害や悪影響を抑える必要があると思います。今紹介があったような、ＥＵでは、ＡＩのリスクに応じて、禁止、第三者機関による適合性審査等の義務づけ、ＡＩを利用していることの表示義務、規制なしの四段階に分けて規制するＡＩ規則を、二四年八月に施行しております。日本でも同様に、ＡＩのリスクに応…
知的基盤についてのお尋ねでございますけれども、これは、大学ですとか研究開発法人も含まれるというふうに想定をしております。
また、現在進められている取組といたしましては、情報通信研究機構がＡＩ学習用の高品質な日本語データを整備、提供しているほか、産業技術総合研究所が音声、行動データ、大気環境の情報など様々なデータセットを公開するなどの取組が行われております。
今後は、デジタル庁で実施しております政府保有情報のオープンデータ化の取組も含めて、ＡＩの研究開発及び促進のため、知的基盤の整備等を促進してまいりたいと考えております。
211
塩川鉄也(共産)ＮＩＣＴ、産総研の話ですとか、デジ庁のオープンデータの話もありました。国がデータセットとして整備する情報には、国の情報はもちろん、このような大学や研究開発法人の情報も含まれているということであります。
そこで、このデータセットとして整備される情報は、これはオープンデータに限定をされているんでしょうか。
本法案では、データセットをオープンデータのみに限定するということではございません。現在政府が保有している情報をデータセットとしてホームページ上で公開し、ＡＩの研究開発などの目的で広く利用が可能となるよう取組が進められているというふうに承知しております。
213
塩川鉄也(共産)オープンデータに限定されていないということであります。政府が保有する情報の中には個人情報も当然含まれるわけですけれども、オープンデータに限定されないということは、個人情報を含むものもデータセット化されるということでしょうか。
お答え申し上げます。 オープンデータでないものというのは、オープンじゃないということなんですけれども、これは別に機微情報を含んでいるからオープンではないというだけではなくて、元々、オープンにすることを想定していなかったというか、そんなに機微ではないんだけれども、これは誰かから使われるニーズがないだろうみたいな、そういうものもあったというふうに考えております。 ただ、一般的には、デジタル庁から公開しておりますデータセットにつきましては、個人情報は含んでいないというふうに認識しております。今後、研究開発及び活用の促進のためには、データセットとして公開する…
215
塩川鉄也(共産)個人情報を含むものについては十分注意しなければならないというのは、これは何らかの対策を取るということですか。
午前中も御答弁申し上げたことではございますけれども、政府として、ＡＩを適正に調達をして活用していく、そういうガイドラインの検討をしております。そういう中でも、データの扱いというもの、あるいは、政府はデータ戦略も別途進めておりますけれども、そういう中でも、データの適切な扱いというのは考えてまいりたいと思います。
217
塩川鉄也(共産)個人情報、ビッグデータを活用するということであれば、匿名加工をするとか、匿名加工情報の扱いということなども当然あるということだと思いますけれども。 この間、匿名加工情報の提案募集制度を政府として行ってまいりました。そういった具体の事例として、独立行政法人の住宅金融支援機構から民間の住信ＳＢＩネット銀行に対して情報提供がされた。ですから、ローンの、組んでいる方の情報ですよね。そういった情報の中には、年収ですとか家族構成ですとか、職業や郵便番号などの百十八万人分の加工された個人情報が、住宅ローンのＡＩ審査モデルの構築のために、本人の同意もなく提供されていた…
218
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）お答えいたします。
本法案は、ＡＩの研究開発及び活用の推進のためのものでありまして、個人情報の保護を含む既存の法律の考え方を変えるものではございません。
個人情報やプライバシー権の保護につきましては、最高法規である憲法や、既存の法令、例えば個人情報保護法等がございまして、これらに従って引き続き対応をいただくものでありまして、既存の権利利益の保護を後退させるものではございません。この点について御理解いただければ幸いです。
219
塩川鉄也(共産)既存のルール、規制そのものがこれでいいのかという疑問の声も当然上がるということは、先ほどの例でも紹介をしたところですけれども。 冒頭でも紹介しましたように、現在の規則や法律でＡＩを安全に利用できると思うと答えたのは僅か一三％ですし、一方で、ＡＩには規制が必要だと思うとの回答が七七％というのが国民の声です。さらに、政府に求めたいことという項目に対しては、個人情報保護のための強固なプライバシー保護法の整備というのが六一％にも上っております。また、どのようになれば生成ＡＩを使いたいと思うかという項目に対し、最も多かった回答は、データプライバシー、情報漏えいに…
220
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）塩川委員御指摘のこともしっかり踏まえまして、やはり個人情報の保護、これは大事な、国民にとっての守るべき権利でございますので、その点もしっかり踏まえた上で、ただ、この法案が目指しているところは、人工知能関連技術の開発、活用をしっかり促進するということでありますので、それを踏まえながら、そういったリスクの対応もしっかり取り組んでまいる考えでありますし、また、ＡＩ戦略本部ができた暁には、しっかりと、指針そして基本計画において、今、塩川委員が御指摘した御懸念も含めて、関係省庁と連携して取り組んでまいる考えであります。
221
塩川鉄也(共産)研究開発、活用推進だけではなく、しっかりとしたやはり法整備を伴うルール作りということが国民が求めている方向なんだ、それにかなうものになっていないのがこの法案ではないのかということが問われているということであります。 次に、ＡＩの学習目的での個人情報の利用が拡大をし、権利侵害の危惧が高まっている一方で、自己情報コントロール権など個人情報の保護がどうなっているのかについて個人情報保護委員会にお尋ねをします。 生成ＡＩの学習目的で、ＳＮＳへの投稿など個人情報を含む大量の情報が事業者によって収集され、本人の自覚のないままに利用されている実態があります。 個…
お答えいたします。
御本人が法律の要件に該当するとして事業者に請求されましても、事業者から見て要件に該当しないとして拒むことは想定されます。
その場合に本人ができることはありまして、まずは、当該請求について、裁判所へ訴えの提起をいただくということが可能でございます。さらに、私ども個人情報保護委員会が本人からの苦情などを承りまして、事業者の実態、要件に該当しないというのが本当かどうかということを確認し、拒否に正当な理由がないと判断した場合には、委員会から事業者に対しまして、必要な指導、助言、勧告、命令を行うこととなります。
以上でございます。
223
塩川鉄也(共産)ですから、事業者が権利侵害のおそれがないと判断をしたら裁判を起こしてくれという話なんですよ。それは余りにも利用者の方にとってみればハードルが高過ぎる問題だ。こういったことについて、削除するかどうかが事業者の判断ということで、これでは実効性がないと言わざるを得ません。 生成ＡＩの学習目的での情報収集は、ネット上の情報を機械的に大量に収集するスクレーピングと呼ばれる手法によって行われております。 そこで、個情委に伺いますが、こうして収集される情報の中には要配慮個人情報も含まれている可能性があります。事前の本人同意なく要配慮個人情報を取得するというのは、こ…
お答えいたします。
一般的な法解釈でございますけれども、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで要配慮個人情報を取得してはならないとされておりますので、そのように、それらを含む情報を本人の同意なく取得することは、原則として個人情報保護法違反に該当いたします。
225
塩川鉄也(共産)法違反に当たるということで。 要配慮個人情報が収集をされているおそれがあるということは、個人情報保護委員会がオープンＡＩに対する注意喚起を行ったことにもそのことは明らかであります。ビッグテックを始めとして、事業者が法律違反を犯している疑いがある中で、個人情報保護委員会の対応が問われていると思います。 その点で、罰則も余りに少額で、命令違反は百万円。ＥＵの話もよく紹介されますけれども、ＧＤＰＲでは最大で二千万ユーロ、あるいは前年度の会計における年間売上高の四％のいずれか高い方の額ということであります。個人情報保護法はＡＩの拡大に追いついていないというの…
お答えいたします。 委員御指摘のとおり、現在、個人情報保護委員会ではいわゆる三年ごと見直しを行ってございまして、昨年六月には中間整理を公表し、意見募集を行い、その後も制度の基本的な在り方に関わる次元の論点について、改めて幅広く意見を聴取しながら検討を進めてまいりました。 そうした検討の中におきまして、個人データ等の取扱いに対する同意などを含めました本人の関与の在り方を検討する場合には、本人の権利利益への直接の影響の有無などを切り口とすることが望ましいといった視座が得られたものでございます。 これを踏まえまして、本年一月には、ＡＩ開発等を含む統計作成…
227
塩川鉄也(共産)個人情報保護委員会といっても、実際には利活用にシフトしていて、個人情報保護が棚上げ、ないがしろにされているということも厳しく問われているという点でも、本法案にも規制の新たな法整備がないという点では国民の要求に逆行するものだということを指摘をして、質問を終わります。
228
大岡敏孝(自民)次に、緒方林太郎君。
最後二十分、よろしくお願いいたします。 城内大臣、よろしくお願いいたします。 まず、先般、科学誌ネイチャーを読んでおりますと、ＡＩについて、二〇二八年までには全てのオープンソースをＡＩが取り込み終わる、そういう論文がありました。社会の中に存在しているオープンソースのデータは、三年後には全てＡＩによって取り込み終わる、本当かどうか分かりませんけれどもね。 その後については、じゃ、どうなるんだろうというと、先ほど塩川先生の質疑にもありましたが、オープンソースでないもの、非オープンソースのものを活用していくという世の中があるんじゃないかというのと、あと、…
お答え申し上げます。 オープンソースというかオープンデータということかもしれませんけれども、公表されているデータということだと思いますけれども、委員御指摘のとおり、もう既に、ほとんどの、いわゆる大規模言語モデルと言われている海外の言語モデルは、使えるデータは全部のみ込んでいるのではないかというふうに言われております。要するに、オープンになっているものはのみ込んでいるのではないかと言われております。そういう意味では、この後、競争力を左右するのは、今オープンになっていないものになる可能性がございます。 ただ、このとき、実はオープンになっていないデータは二…
仕組みを設けたりとか、何かガイドラインを設けたりとか、そういうことは現時点で何かお考えになったりしているのでしょうか。
お答え申し上げます。
極めて先進的な御指摘でございまして、まだ私どもの方で今具体的な仕組みというのはございませんけれども、概念的には、今私が申し上げたようなことが起こるのではないかということでございます。
ありがとうございました。 続きまして、先ほどからずっと議論を聞いていると、ＡＩというのは放っておくと自由に再学習したりして発展していくんですが、それを何らかの形で規制をしていくというときにどういう価値判断を挟むのだろうなということの議論が、皆さん方はされていたんだと思うんですね。どういう規制をするのか、どういう価値判断を挟むべきなのかというのが今後のＡＩについて大切になってくるんだろうというふうに思います。 アメリカのバンス副大統領と欧州首脳との対立のようなものも恐らくその中に位置づけられるのだろうと思います。今後、そういった表現の自由ということとか…
234
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）緒方委員の御指摘されましたＡＩイライザ、これに関連する記事を私も読ませていただきまして、まさに御指摘のような自殺を幇助するような事案が起きてしまった、これは私としても大変懸念すべきものであると感じております。 その上で、現在、総務省と経済産業省が共同で策定しておりますＡＩ事業者ガイドラインにおきましては、ＡＩによる意思決定のみならず、感情の操作等への留意、これもきちっと留意をするようにという記述がございます。感情の操作、だから、行き過ぎた、感情が操作されると結果としてそういう不幸なことが起きてしまうということが、やはり留意しなければならないというふうに…
先ほど、たしかどなたかの質問でありましたが、ＡＩには殺人の教唆、幇助、そういったものが適用できるわけではないということなので、こういうものについてもやはり念頭に置かなきゃいけないんだろうなというふうに思います。 続きまして、ＡＩと言論の自由というか、言論の自由だけじゃなくて様々な価値観について更に議論を進めたいと思うんですが、恐らく、まだ顕在化していないんですけれども、ＡＩが進んでいくときに、様々な価値観との相克が出てくるというときに最も価値観が分かれるものというのは、若干機微な話をしますけれども、信仰だろうと思うんですね、人間の信仰だろうと思います。…
お答え申し上げます。 憲法の解釈につきまして、大変恐縮ながら、文化庁は政府を代表して有権的な解釈をお示しする立場にはございませんが、平成二十八年八月八日に閣議決定いたしました質問主意書の答弁書におきまして、「一般に、憲法第二十条で保障する信教の自由の内容としては、信仰の自由（何らかの宗教を信仰し、又は信仰しない自由）、宗教上の行為の自由（宗教的な行為を行い、又はこれに参加する自由及びこれらを強制されないこと）、宗教上の結社の自由などであると解されていると承知している。」と答弁されているものと承知しております。 また、信教の自由からくる冒涜する権利につ…
フランス法でも、英語で言うとブラスフェミーですね、フランス語でブラスフェムですけれども、各それぞれの信者を傷つけることはしてはいけないと。ただ、宗教そのものを、特定の宗教を批判したりとか、シャルリー・エブドの件がそうでしたけれども、からかうとか風刺画の対象にするとか、それは、実は国によってはそれが権利性があるというふうに認められていることもあれば、それはイスラムにいってしまえば、そんなことをしたらもうとんでもないことになるというのがあったりして、いずれ何か、私、これがＡＩの中でこういう問題が出てくるんじゃないかということをすごく危惧しているんですね。 …
238
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）緒方委員のこの御指摘、本当にこれは、非常に難しい問題であると同時に、やはり私自身も、これは避けて通れない、こういうことが当然起こり得るんじゃないかと思いますし、実際、フランスではまさに、信仰を冒涜する自由があるとマクロン大統領自身がおっしゃったというふうに伺っておりますし、それに対して、フランスではたしか八％か一〇％イスラム教徒がいますので大変憤りを持ってその発言に対して反応したというふうに伺っておりますので、これは非常に社会が分断され得ることになるきっかけになるというふうに思っておりますので。 なかなか回答するのは難しいんですが、いずれにしましても、…
続きまして、もう一つ、先ほどから何回か出たと思うんですが、個人情報というか、ネット上に残っている情報、それを消してほしい、自分はもうそれを知られたくないと思っていることに対してどう対応するかということで、欧州には忘れられる権利というのが実はございます、ＥＵに。これが権利として認められているんですね。ただ、今後、オープンデータがそういう感じで全部取り込まれていって、その中で再学習が進んでいくと、一個でも情報が残っているとＡＩでどんどん増殖していく可能性というのは大いにあると思うんですね。 日本では、現在まで、忘れられる権利を真正面から認めた上級審判決はな…
お答え申し上げます。 委員御指摘のとおり、欧州におきましては、個人データにつきまして、必要性が失われたといった場合にはデータの消去を求めることができる消去の権利、いわゆる忘れられる権利に関するルールが設けられていることは承知しております。 他方、いわゆるこの忘れられる権利につきましては、この用語が多義的に用いられているということから、それが権利として保障されているか否か、ここは一概にお答えすることは困難でございますけれども、我が国の民事基本法の規定には、忘れられる権利という形でこれを明文で直接的に定めたものはないという状況にございます。 しかしなが…
ありがとうございました。この件も結構大きいんだろうなというふうに思います。 続きまして、一般論としてお伺いしたいんですが、ＡＩの規制についてなんですが、現在でも、例えば、私、自分で、緒方林太郎という人物はばかですかというふうに入れて聞いてみたんです。そうしたら、そういう問いには答えないようになっているんですね。答えないようになっています。そういう意味で、ＡＩ内で一定の規制が、恐らくプログラムの中で何らかの形でかかっているんだろうというふうに思うんですね。 今後、日本の在り方として、そういうＡＩ側の自主規制で、自主規制というか、内部に盛り込まれている、…
242
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）率直に言って難しい質問だと思いますが、やはり倫理とか価値判断、これは、先ほど申しましたように、日本の国と諸外国では、文化的、社会的な背景が違って、価値観も違うという場合もありますし、国内においても、日本は、与党もあり他党もあり、そして、同じ党内でもちょっと価値観が全然違うなという人もいますので、いい悪いは別としてですね。 そういう中で、やはり個々の個人がそれぞれの、自分がよしとする価値観を持っておりますので、何か一律に、この価値観は間違っているから全部規制をするんだというようなことは、これはやはり、自由主義、民主主義、基本的人権といった、日本の、あるい…
終わります。
244
大岡敏孝(自民)次回は、来る十六日水曜日午前八時五十分理事会、午前九時委員会を開会することとし、本日は、これにて散会いたします。
午後五時一分散会
顔写真の出典（Wikimedia Commons、11件）
- 大岡敏孝: Ooka Toshitaka.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 田中良生: Ryosei Tanaka.jpg（外部サイト、新しいタブで開きます）、首相官邸、CC BY 4.0
- 城内実: Minoru Kiuchi 20241001.jpg（外部サイト、新しいタブで開きます）、Cabinet Office、CC BY 4.0
- 橋本慧悟: Keigo Hashimoto 20241020.jpg（外部サイト、新しいタブで開きます）、Yajuine、CC0
- 馬淵澄夫: Mabuchi Sumio.jpg（外部サイト、新しいタブで開きます）、首相官邸、CC BY 4.0
- 市村浩一郎: Kōichirō Ichimura.jpg（外部サイト、新しいタブで開きます）、Cpl Patricia D. Lockhart、Public domain
- 神田潤一: Junichi Kanda 20250106.jpg（外部サイト、新しいタブで開きます）、内閣官房内閣広報室、CC BY 4.0
- 菊池大二郎: Daijiro Kikuchi 20241207.jpg（外部サイト、新しいタブで開きます）、国土交通省 東北地方整備局 山形河川事務所、CC BY 4.0
- 河西宏一: Koichi Kasai 2021-10-30.jpg（外部サイト、新しいタブで開きます）、Noukei314、CC BY-SA 4.0
- 上村英明: Hideaki Uemura 2025-06-15(3) (cropped).jpg（外部サイト、新しいタブで開きます）、Noukei314、CC BY 4.0
- 塩川鉄也: Shiokawatetsuya202108JCP.jpg（外部サイト、新しいタブで開きます）、KedakakiTamashii Fudou、CC BY-SA 4.0