この問題を少し具体的に考えてみたんですけど、トランプ政権は米軍装備の近代化、ＡＩ化を急速に進めておりまして、ワシントン・ポストによりますと、イランへの攻撃にメイブン・スマート・システム、ＭＳＳというソフトウェアを用いたと。
アメリカのホイットワース海軍中将は、去年五月の講演でこんなことをおっしゃっておりまして、今まで二千人を必要とした標的の確認、これを二十人のチームでこなしたと。従来、衛星写真から標的を絞って攻撃するまで数時間作業を必要としたが、このＭＳＳシステムの導入で数分で標的を決めることができたと。このＭＳＳはアンソロピックのＡＩ、クロードを組み込んでいるので、アンソロピックはやめてほしいということを言ったわけでございます。
これはどういうことなのかと。このホイットワース海軍中将がおっしゃっていることは、二千人要したのが二十人で済んだと、数時間掛かったのが数分で済んだと。つまり、攻撃、殺傷、今回だと市民の虐殺も含まれましたけれども、こういうものを省力化すると、時間短縮になったと。これをどう考えるかということですね。
人間が、ある政権が、即時に大規模な壊滅的な打撃を与える能力、これＡＩのおかげですね、を入手したと、取得したと。このことが過剰攻撃とか必要以上の打撃とか、あるいはいきなり即時壊滅的打撃、一瞬のうちに壊滅的打撃を与えるとか、そういう危険性はなかったのかどうかと。ＡＩが活用されたことによって、何といいますか、ためらいのない破壊といいますか、というものが、このイラン攻撃の中で、ＡＩ活用によって、新しいＡＩの活用によって顕在化したんじゃないかというふうに、こう思うわけですね。
したがって、このＡＩの存在、ＡＩの軍事活用というのは、決してトランプさんやネタニヤフさんの個性だけではなくて、この間の一瞬の破壊、過剰攻撃というのは、やっぱりＡＩという存在が、ＡＩのその怖さ、危険性が介在しているんじゃないかというふうに、こう思うわけでございます。
もう一つは、ＡＩの軍事利用は、今申し上げたように、省力化、時間短縮によって一気に破壊とか過剰攻撃とか、その倫理問題も含めて起こす危険性あるんですが、もう一つ、攻撃の低コスト化、安上がりということを引き起こしておりまして、例えば、ドローンのＡＩ装備でアメリカの中央軍は、今年の二月二十八日に、新しいドローン製造したんですけど、低コスト無人戦闘攻撃システム、ＬＵＣＡＳ、ルーカスというのを実戦で利用したと発表したんですね。
このＬＵＣＡＳというのは無人戦闘機で、徘回型兵器と言われていまして、自分で徘回して、ＡＩが敵を見付けて一瞬に攻撃をすると、破壊すると。人間が介在しないようなものでございまして、これはアメリカ国防省のホームページによりますと、開発したのはアリゾナ州のドローン会社で、スペクターワークスですね。この無人戦闘機一機につき一万から五万五千ドル、約百六十万円から八百六十万円、一千万円以内で作れるそうなんですね。今までの大型無人機ですと、三千万ドル以上コストが掛かったと。コストが掛からないということで、低コスト無人戦闘攻撃システム、ＬＵＣＡＳと付けたらしいんですけど、無人攻撃機が空を飛び交って、徘回して人を見付けては殺すと、爆撃するというようなことなんですね。何かどこかのＳＦ映画、近未来映画で見たような風景がもう出現しているということなんですね。
つまり、このコスト、省力化、時間短縮、低コストというところがＡＩの軍事利用によって実現するということになると、今まで人間が人間を攻撃した、それも良くないんですけれど、それを超えた大変危険な、つまり人間の関与が少なくなれば殺傷とか破壊への抵抗感、逡巡はなくなるわけですね、機械に任せますと。そういう、逆に言うと人間はもうＡＩに任せておくというようなことになりかねないので、大変危険なことをはらんでいる事態がＡＩによって今起きつつあるんじゃないかと思うんですが、もしコメントあれば、いかがでしょうか。
121
岩本麻奈(参政)
ありがとうございました。
やはり民間人材というのよりも独自で、やはり国家の国防とか安全保障とかいろんなものに関わります、中枢に関わりますので、是非そこで育成をお願いしたいというところで、質問を終わらせていただきます。
どうもありがとうございました。
この発言のページ
122
大門実紀史(共産)
大門です。
本当、今日は若くて元気な方々の質問が続いて、いいなと思って、デジタル世代だなと思って聞いておりました。負けないように頑張らないとと思いますが。
資料で新聞の社説二枚お配りしております。
この間、アメリカのＡＩ開発の新興企業、急成長しておりますアンソロピック社が、トランプ政権と対立していることがアメリカでも世界でも大変話題になっております。アンソロピック社というのは、二〇二一年設立されて、二〇二五年七月に大規模言語モデルＡＩであるクロードというものをアメリカの国防総省へ提供したと。最大二億ドルの契約を締結して、アメリカ国防省では最大の納入…
この発言のページ
123
小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
委員おっしゃっていただいたように、個別の民間企業の方針に対してコメントすることは差し控えたいと思いますが、その上で一般論として申し上げますと、ＡＩは今後も様々な分野での活用が期待され、経済、社会の発展を支える基盤技術であり、また安全保障の観点からも重要な技術であると考えております。
昨年十二月に策定したＡＩ基本計画においても、デュアルユース技術としての安全保障に関わる技術の高度化、そして平和の構築にも貢献するところが期待されるというふうに記載されております。また同時に、ＡＩの利活用に当たっては、安全保障分野での利活用も含め、そのリスクの最小化をしつつ恩…
この発言のページ
- （上の発言）
124大門実紀史(共産)
この問題を少し具体的に考えてみたんですけど、トランプ政権は米軍装備の近代化、ＡＩ化を急速に進めておりまして、ワシントン・ポストによりますと、イランへの攻撃にメイブン・スマート・システム、ＭＳＳというソフトウェアを用いたと。
アメリカのホイットワース海軍中将は、去年五月の講演でこんなことをおっしゃっておりまして、今まで二千人を必要とした標的の確認、これを二十人のチームでこなしたと。従来、衛星写真から標的を絞って攻撃するまで数時間作業を必要としたが、このＭＳＳシステムの導入で数分で標的を決めることができたと。このＭＳＳはアンソロピックのＡＩ、クロードを組み込んでいるので、アンソロピックはやめてほしいということを言ったわけでございます。
これはどういうことなのかと。このホイットワース海軍中将がおっしゃっていることは、二千人要したのが二十人で済んだと、数時間掛かったのが数分で済んだと。つまり、攻撃、殺傷、今回だと市民の虐殺も含まれましたけれども、こういうものを省力化すると、時間短縮になったと。これをどう考えるかということですね。
人間が、ある政権が、即時に大規模な壊滅的な打撃を与える能力、これＡＩのおかげですね、を入手したと、取得したと。このことが過剰攻撃とか必要以上の打撃とか、あるいはいきなり即時壊滅的打撃、一瞬のうちに壊滅的打撃を与えるとか、そういう危険性はなかったのかどうかと。ＡＩが活用されたことによって、何といいますか、ためらいのない破壊といいますか、というものが、このイラン攻撃の中で、ＡＩ活用によって、新しいＡＩの活用によって顕在化したんじゃないかというふうに、こう思うわけですね。
したがって、このＡＩの存在、ＡＩの軍事活用というのは、決してトランプさんやネタニヤフさんの個性だけではなくて、この間の一瞬の破壊、過剰攻撃というのは、やっぱりＡＩという存在が、ＡＩのその怖さ、危険性が介在しているんじゃないかというふうに、こう思うわけでございます。
もう一つは、ＡＩの軍事利用は、今申し上げたように、省力化、時間短縮によって一気に破壊とか過剰攻撃とか、その倫理問題も含めて起こす危険性あるんですが、もう一つ、攻撃の低コスト化、安上がりということを引き起こしておりまして、例えば、ドローンのＡＩ装備でアメリカの中央軍は、今年の二月二十八日に、新しいドローン製造したんですけど、低コスト無人戦闘攻撃システム、ＬＵＣＡＳ、ルーカスというのを実戦で利用したと発表したんですね。
このＬＵＣＡＳというのは無人戦闘機で、徘回型兵器と言われていまして、自分で徘回して、ＡＩが敵を見付けて一瞬に攻撃をすると、破壊すると。人間が介在しないようなものでございまして、これはアメリカ国防省のホームページによりますと、開発したのはアリゾナ州のドローン会社で、スペクターワークスですね。この無人戦闘機一機につき一万から五万五千ドル、約百六十万円から八百六十万円、一千万円以内で作れるそうなんですね。今までの大型無人機ですと、三千万ドル以上コストが掛かったと。コストが掛からないということで、低コスト無人戦闘攻撃システム、ＬＵＣＡＳと付けたらしいんですけど、無人攻撃機が空を飛び交って、徘回して人を見付けては殺すと、爆撃するというようなことなんですね。何かどこかのＳＦ映画、近未来映画で見たような風景がもう出現しているということなんですね。
つまり、このコスト、省力化、時間短縮、低コストというところがＡＩの軍事利用によって実現するということになると、今まで人間が人間を攻撃した、それも良くないんですけれど、それを超えた大変危険な、つまり人間の関与が少なくなれば殺傷とか破壊への抵抗感、逡巡はなくなるわけですね、機械に任せますと。そういう、逆に言うと人間はもうＡＩに任せておくというようなことになりかねないので、大変危険なことをはらんでいる事態がＡＩによって今起きつつあるんじゃないかと思うんですが、もしコメントあれば、いかがでしょうか。
125小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
そうですね、我が国においては、ＡＩの開発及び利活用に関して、人間の尊厳、そして基本的人権を尊重し法令を遵守することであるとか、ＡＩの活用によって生命、身体、財産等に危害を及ぼさないようにすることを事業者に求めるなど、ＡＩの適正性確保に関する指針をこれ安全保障分野に限るものではなく定めておりますけれども、やはり午前中の質疑でもありましたように、ＡＩが進化すればするほどに一番重要になってくるのは人間の主体性、人的主体性、ここがしっかり人間がハンドリングしていくということはすごく重要なことなんだろうというのは有識者の会議の中でもお話をされているところでありまし…
この発言のページ
126大門実紀史(共産)
この日経と朝日の主張で共通している点なんですけど、ＡＩ軍事利用における倫理というのは、これ、アンソロピック社が抵抗して頑張っているんですけど、一企業に任せていい話なのかと。これはやっぱり国際協調で、みんなでルールを考えていく、こういう兵器の使用について規制していくことも含めて議題にしていくべきじゃないかというようなことが、この二つの社説の共通点でございます。
実際、二〇二三年に日本が議長国であった広島サミットですかね、そのときにこの問題、こんな具体的じゃないんですけど、ＡＩの適正な活用について広島ＡＩプロセスという中で議論はされているわけですよね。そう…
この発言のページ
127小野田紀美(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
ＡＩ基本計画において、軍事領域におけるＡＩの利用については、人道的考慮と安全保障の観点の双方を勘案したバランスの取れた議論を通じて、国際的な議論へ積極的な参画を行うという旨を盛り込んでいるところでありまして、外務省を中心に積極的な対応を行っているものと承知しております。
特にＡＩについてですが、急速に技術が進展し民生用と軍事用の技術の分けが困難になっている中で、軍事領域におけるＡＩのガバナンスには柔軟かつバランスの取れた現実的なアプローチが必要との認識を各国と共有すべく、国際的な議論の場において主導的な役割を果たせるように取り組んでいるものと承知してお…
この発言のページ