技術の活用とリスクの軽減、非常にＡＩ分野で大事でありますので、よろしくお願いをいたします。
このガイドラインの技術的審査が想定するリスクなんですけれども、いわゆるバイアス、誤作動、信頼性の低下、あるいは人間の責任の明確化、また運用者の理解の醸成など、多くがシステム側の欠陥でありましたり、あるいはＡＩをどう使わせるのかに関するものでありまして、ＡＩを運用する自衛官自身に生ずる心理的、認知的負担を審査する項目、つまり、使う側、使う人間、自衛官がどう傷つくのか、この視点が欠けているというふうに感じました。
私もカーナビの開発をしているときは、絶対にその車に事故を起こさせないような設計をする、これは技術者として当然の視点であるわけであります。諸外国では、遠隔で敵を制圧する任務については、無人機操縦者の間でＰＴＳＤ、道徳的負傷、長時間監視による認知負荷、繰り返し報告をされているところであります。
そこで、伺いますけれども、このガイドラインは継続的に改定する文書とされております。次期改定で、運用者、これは自衛官でありますけれども、心理的、健康面の負担評価を技術的審査に加えるべきではないか。
あわせて、このガイドラインの四章にありますが、設計、試験評価に運用者を関与させる仕組みを生かして、試験運用フェーズで自衛官の負担を計測、フィードバックをするような、そういう仕組みを制度として担保してはどうでしょうか。御答弁をお願いします。
18
小泉進次郎(自民)防衛大臣
今日もよろしくお願いします。
河西先生がカーナビの開発をやっていたのは初めて知ったので、またお話を聞かせてください。
今御指摘がありましたけれども、防衛イノベーションの創出には、優れたプログラムマネジャーを発掘することが極めて重要です。委員御指摘の令和八年度からのプログラムマネジャーの募集については、勤務時間の面などでより柔軟な条件で処遇し、プログラムマネジャーとして十分な役割を発揮できるよう、非常勤職員としての採用に一本化したものです。
さらに、プログラムマネジャーが執行できる経費につきましては、年度内に機動的に運用できる単年度歳出予算のほか、長…
この発言のページ
19
河西宏一(中道)
現場を伺いますと、多分どんどん課題は掘り出されてくると思いますので、是非、不断の検討をお願いをしたいというように思います。
また、視察では、前線がドローンから得るデータをＡＩで統合、分析をする実証型ブレークスルー研究をめぐりまして、ＤＩＳＴＩと陸自の教育訓練研究本部で連携をしている旨、伺いました。こうした研究開発を律するのが、防衛省また防衛装備庁が昨年六月に策定をいたしました責任あるＡＩ適用ガイドラインでございます。
このガイドラインでありますけれども、ＡＩ装備品等を高リスクと低リスクに分類をする、低リスクなら法的、政策的、また技術的な審査は必要もな…
この発言のページ
20堀堀江和宏防衛装備庁防衛技監
お答え申し上げます。
科学技術の急速な発展が安全保障の在り方を根本的に変化させておりまして、ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化している中、我が国としてもこれに対応していくことが重要でございます。
このような考え方の下、ＡＩのリスクを軽減しながらその効果を最大化できるよう、責任あるＡＩ装備品等の研究開発を進める指針といたしまして、先生御指摘の装備品等の研究開発における責任あるＡＩ適用ガイドライン、これを策定してございます。
本ガイドラインでは、ＡＩ装備品等の研究開発に際しまして、リスクの大小によるＡＩ装備品等の分類、事業の…
この発言のページ
- （上の発言）
21河西宏一(中道)
技術の活用とリスクの軽減、非常にＡＩ分野で大事でありますので、よろしくお願いをいたします。
このガイドラインの技術的審査が想定するリスクなんですけれども、いわゆるバイアス、誤作動、信頼性の低下、あるいは人間の責任の明確化、また運用者の理解の醸成など、多くがシステム側の欠陥でありましたり、あるいはＡＩをどう使わせるのかに関するものでありまして、ＡＩを運用する自衛官自身に生ずる心理的、認知的負担を審査する項目、つまり、使う側、使う人間、自衛官がどう傷つくのか、この視点が欠けているというふうに感じました。
私もカーナビの開発をしているときは、絶対にその車に事故を起こさせないような設計をする、これは技術者として当然の視点であるわけであります。諸外国では、遠隔で敵を制圧する任務については、無人機操縦者の間でＰＴＳＤ、道徳的負傷、長時間監視による認知負荷、繰り返し報告をされているところであります。
そこで、伺いますけれども、このガイドラインは継続的に改定する文書とされております。次期改定で、運用者、これは自衛官でありますけれども、心理的、健康面の負担評価を技術的審査に加えるべきではないか。
あわせて、このガイドラインの四章にありますが、設計、試験評価に運用者を関与させる仕組みを生かして、試験運用フェーズで自衛官の負担を計測、フィードバックをするような、そういう仕組みを制度として担保してはどうでしょうか。御答弁をお願いします。
22堀堀江和宏防衛装備庁防衛技監
お答え申し上げます。
ＡＩ装備品等の研究開発に際しましては、国際法及び国内法を遵守し、自律型致死兵器システムや、ＡＩと自律性の責任ある軍事利用に関する政治宣言、これらに代表されます国際的な議論と整合する形で進めることが必要でございます。
装備品等の研究開発における責任あるＡＩ適用ガイドラインにおける技術的審査におきましても、そのような国際場裏での議論等を踏まえ、詳細を検討しておるところでございまして、現時点では、運用者の心理的、健康面の負担評価について、技術的審査の要件とすることは想定してございません。
他方で、隊員の心身を守ることは重要だと考えて…
この発言のページ
23河西宏一(中道)
国際的な議論と整合して進めていますので、現時点では技術的審査の項目には想定をしないんだが、今後検討いただくということでありました。
そこで、最後、大臣にお伺いをいたします。
やはり、軍事用ＡＩ、この使用は避けて通れないというふうに私も思っております。ただ、人間が殺傷の判断から遠ざかるために戦闘の非人道性が加速しかねない、この負の側面もまた直視をしなければならないというふうに思っております。
現に、本年二月二十八日、ＡＩシステムを用いたイラン攻撃の初日に、イラン南部のミナブの小学校がミサイル攻撃を受け、児童ら百六十人以上が死亡したというふうに報じられ…
この発言のページ
24小泉進次郎(自民)防衛大臣
防衛省においては、ＡＩの活用に当たっては、誤りが含まれ得ることによる信頼性の懸念や、学習データの偏りなどによるバイアスが生じるリスク、国際人道法を始めとする法的適合性や人間による適切な関与の在り方といった論点が存在するものと認識しております。
そのため、令和六年に策定した防衛省ＡＩ活用推進基本方針において、ＡＩは人間の判断を支援するものであり、その活用に当たっては人間の関与を確保することとされております。あわせて、ＡＩに単独で判断させるのではなく適切なタイミングで人間の判断を介在させること、自動化バイアス等の過度な依存リスクに対して必要な対策を講じるこ…
この発言のページ