お答え申し上げます。
科学技術の急速な発展が安全保障の在り方を根本的に変化させておりまして、ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化している中、我が国としてもこれに対応していくことが重要でございます。
このような考え方の下、ＡＩのリスクを軽減しながらその効果を最大化できるよう、責任あるＡＩ装備品等の研究開発を進める指針といたしまして、先生御指摘の装備品等の研究開発における責任あるＡＩ適用ガイドライン、これを策定してございます。
本ガイドラインでは、ＡＩ装備品等の研究開発に際しまして、リスクの大小によるＡＩ装備品等の分類、事業の実施の可否に係る法的、政策的審査、リスク管理の適正性に係る技術的審査、この三つを実施することで、研究開発事業全体にわたって適切にリスク管理を実施することとしてございまして、これに向けた具体的な内容を検討しております。
議員御指摘のＡＩ装備品等の分類においては、ＡＩ機能に起因する出力が破壊能力を有する機能に影響を与えるかという観点で分類することを想定しておりますが、ＡＩ意思決定支援システム等の個別のＡＩ装備品等が高リスクに該当するか否かを一概にお答えすることは困難でございます。
他方、従前より、我が国は、人間の関与が及ばない完全自律型の致死性を有する兵器の開発を行う意図がない旨、これを表明しておるところでございまして、これに該当し得る可能性のある装備品等については重点的なリスク管理が必要であると考えております。
また、ＡＩを取り巻く状況は急速に変化しており、一度決めたルールや手続を維持し続けることは必ずしも適切でない場合がありまして、適宜更新を行うことを予定しております。
いただいた観点も含めまして、制度全体として、ＡＩリスクを軽減しながらその効果を最大化できるよう、引き続き検討を進めてまいります。
17
河西宏一(中道)
是非、環境整備に向けて検討いただきたいというように思っておりますけれども、このくびきでありますが、処遇に表れているというふうに考えております。確認をしましたところ、令和八年度のＰＭ公募は非常勤職員の一本に絞られておりまして、報酬は時給制、昇給もないたてつけとなっております。他方で、我が国の制度には、任期付研究員の採用、給与の特例に関する法律がございまして、これは、業績が顕著な研究者には通常の公務員給与体系にとらわれない高い給与を認める特例が存在をし、昨年の、創設初年度の公募では、この常勤の任期付研究員が選択肢に掲げられていたところであります。
そこで、…
この発言のページ
18
小泉進次郎(自民)防衛大臣
今日もよろしくお願いします。
河西先生がカーナビの開発をやっていたのは初めて知ったので、またお話を聞かせてください。
今御指摘がありましたけれども、防衛イノベーションの創出には、優れたプログラムマネジャーを発掘することが極めて重要です。委員御指摘の令和八年度からのプログラムマネジャーの募集については、勤務時間の面などでより柔軟な条件で処遇し、プログラムマネジャーとして十分な役割を発揮できるよう、非常勤職員としての採用に一本化したものです。
さらに、プログラムマネジャーが執行できる経費につきましては、年度内に機動的に運用できる単年度歳出予算のほか、長…
この発言のページ
19河西宏一(中道)
現場を伺いますと、多分どんどん課題は掘り出されてくると思いますので、是非、不断の検討をお願いをしたいというように思います。
また、視察では、前線がドローンから得るデータをＡＩで統合、分析をする実証型ブレークスルー研究をめぐりまして、ＤＩＳＴＩと陸自の教育訓練研究本部で連携をしている旨、伺いました。こうした研究開発を律するのが、防衛省また防衛装備庁が昨年六月に策定をいたしました責任あるＡＩ適用ガイドラインでございます。
このガイドラインでありますけれども、ＡＩ装備品等を高リスクと低リスクに分類をする、低リスクなら法的、政策的、また技術的な審査は必要もな…
この発言のページ
- （上の発言）
20堀堀江和宏防衛装備庁防衛技監
お答え申し上げます。
科学技術の急速な発展が安全保障の在り方を根本的に変化させておりまして、ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化している中、我が国としてもこれに対応していくことが重要でございます。
このような考え方の下、ＡＩのリスクを軽減しながらその効果を最大化できるよう、責任あるＡＩ装備品等の研究開発を進める指針といたしまして、先生御指摘の装備品等の研究開発における責任あるＡＩ適用ガイドライン、これを策定してございます。
本ガイドラインでは、ＡＩ装備品等の研究開発に際しまして、リスクの大小によるＡＩ装備品等の分類、事業の実施の可否に係る法的、政策的審査、リスク管理の適正性に係る技術的審査、この三つを実施することで、研究開発事業全体にわたって適切にリスク管理を実施することとしてございまして、これに向けた具体的な内容を検討しております。
議員御指摘のＡＩ装備品等の分類においては、ＡＩ機能に起因する出力が破壊能力を有する機能に影響を与えるかという観点で分類することを想定しておりますが、ＡＩ意思決定支援システム等の個別のＡＩ装備品等が高リスクに該当するか否かを一概にお答えすることは困難でございます。
他方、従前より、我が国は、人間の関与が及ばない完全自律型の致死性を有する兵器の開発を行う意図がない旨、これを表明しておるところでございまして、これに該当し得る可能性のある装備品等については重点的なリスク管理が必要であると考えております。
また、ＡＩを取り巻く状況は急速に変化しており、一度決めたルールや手続を維持し続けることは必ずしも適切でない場合がありまして、適宜更新を行うことを予定しております。
いただいた観点も含めまして、制度全体として、ＡＩリスクを軽減しながらその効果を最大化できるよう、引き続き検討を進めてまいります。
21河西宏一(中道)
技術の活用とリスクの軽減、非常にＡＩ分野で大事でありますので、よろしくお願いをいたします。
このガイドラインの技術的審査が想定するリスクなんですけれども、いわゆるバイアス、誤作動、信頼性の低下、あるいは人間の責任の明確化、また運用者の理解の醸成など、多くがシステム側の欠陥でありましたり、あるいはＡＩをどう使わせるのかに関するものでありまして、ＡＩを運用する自衛官自身に生ずる心理的、認知的負担を審査する項目、つまり、使う側、使う人間、自衛官がどう傷つくのか、この視点が欠けているというふうに感じました。
私もカーナビの開発をしているときは、絶対にその車に…
この発言のページ
22堀堀江和宏防衛装備庁防衛技監
お答え申し上げます。
ＡＩ装備品等の研究開発に際しましては、国際法及び国内法を遵守し、自律型致死兵器システムや、ＡＩと自律性の責任ある軍事利用に関する政治宣言、これらに代表されます国際的な議論と整合する形で進めることが必要でございます。
装備品等の研究開発における責任あるＡＩ適用ガイドラインにおける技術的審査におきましても、そのような国際場裏での議論等を踏まえ、詳細を検討しておるところでございまして、現時点では、運用者の心理的、健康面の負担評価について、技術的審査の要件とすることは想定してございません。
他方で、隊員の心身を守ることは重要だと考えて…
この発言のページ
23河西宏一(中道)
国際的な議論と整合して進めていますので、現時点では技術的審査の項目には想定をしないんだが、今後検討いただくということでありました。
そこで、最後、大臣にお伺いをいたします。
やはり、軍事用ＡＩ、この使用は避けて通れないというふうに私も思っております。ただ、人間が殺傷の判断から遠ざかるために戦闘の非人道性が加速しかねない、この負の側面もまた直視をしなければならないというふうに思っております。
現に、本年二月二十八日、ＡＩシステムを用いたイラン攻撃の初日に、イラン南部のミナブの小学校がミサイル攻撃を受け、児童ら百六十人以上が死亡したというふうに報じられ…
この発言のページ