御回答ありがとうございます。
〔委員長退席、理事磯崎仁彦君着席〕
後半に、そのＡＩの開発という言葉も今大臣の中で触れていただいたんですけれども、先ほど、ＡＩの利用率低い、使っているのもほとんど外国製品のＡＩだということの中で、では、国産のＡＩはどうやって開発していきますかということで本会議でも質問させていただいたんですけれども、国産の生成ＡＩの研究開発に当たっては、この外国産の生成ＡＩを基に開発するのか、あるいはゼロベースで純粋な国産の生成ＡＩを開発するのか、どちらもあり得るんだと思っています。私は、日本は日本らしく、ゼロベースで純粋な国産生成ＡＩというのが望ましいんじゃないかと私個人的には思っております。
一方で、この生成ＡＩの技術は日進、まさに日々進歩しているので、将来的には人間以上の知能を持って高度な作業も自動で処理することができる人工超知能の誕生も予測されていると、これまでの議論にもございました。他方で、人工超知能の誕生は、ＡＩの性能が全人類の知性の総和を超える転換点、シンギュラリティーという言葉もこれまでの議論もあったんですけど、そういったことから、人類にとって大きな影響を与える可能性があると同時に、人類の存続を脅かす可能性も指摘されているというところです。
この国民の間には、今大臣の御答弁の中で不安を感じているという言葉もあったんですが、まさにこの人間の制御が及ばなくなるんじゃないかと、生成ＡＩが、そういった不安というのも私も聞いているところなんですけれども、ＡＩを、であればですね、このＡＩを使用した製品について国が事前の評価を行い、リスク評価を行って、不適切なものを事前に排除する、いわゆる市場に出さない、こういったやり方もあるんじゃないかと思うんですけど、こういった国による規制についてどのようにお考えなのか、教えてください。
129
片山大介(維新)
じゃ、終わります。
この発言のページ
130
竹詰仁(国民)
国民民主党・新緑風会の竹詰仁です。
私も最後の質問になると思いますので、よろしくお願いいたします。
これまでの議論と重複するところは御容赦いただきたいと思うんですけれども、先ほど渡邊統括官の御回答の中にも、どういうＡＩがいいか悪いかというのは国によっても違うし、必ずしも統一的なことは難しいというか、そういう話があって、私もなるほどと思って、やっぱり日本人あるいは日本は、この人間中心のＡＩというのはとっても大事にしてきたし、これからも大事にすべきであると思います。
ＡＩに人間が支配されてはいけないとか、こういったことはずっと普遍的に大事にしなきゃいけ…
この発言のページ
131
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
竹詰委員御指摘のとおりで、我が国では、他の主要国と比較して生成ＡＩを活用している個人あるいは企業の割合が少ない状況にございます。
このＡＩの利用率が低い主な理由として、例えば、国民、多くの国民がＡＩに対して不安を感じていること、また、ＡＩの持つメリットが不透明であるため企業経営者が投資してきていないこと、そして、日本人の慎重さ、例えば誤った出力をするＡＩや個人情報が収集される可能性があるＡＩは使いたくないという意識、これらが挙げられるかと思います。
ＡＩは、その適切な活用によって我が国の経済成長や国民生活の発展に直結する極めて重要な技術でありまして、…
この発言のページ
- （上の発言）
132竹詰仁(国民)
御回答ありがとうございます。
〔委員長退席、理事磯崎仁彦君着席〕
後半に、そのＡＩの開発という言葉も今大臣の中で触れていただいたんですけれども、先ほど、ＡＩの利用率低い、使っているのもほとんど外国製品のＡＩだということの中で、では、国産のＡＩはどうやって開発していきますかということで本会議でも質問させていただいたんですけれども、国産の生成ＡＩの研究開発に当たっては、この外国産の生成ＡＩを基に開発するのか、あるいはゼロベースで純粋な国産の生成ＡＩを開発するのか、どちらもあり得るんだと思っています。私は、日本は日本らしく、ゼロベースで純粋な国産生成ＡＩというのが望ましいんじゃないかと私個人的には思っております。
一方で、この生成ＡＩの技術は日進、まさに日々進歩しているので、将来的には人間以上の知能を持って高度な作業も自動で処理することができる人工超知能の誕生も予測されていると、これまでの議論にもございました。他方で、人工超知能の誕生は、ＡＩの性能が全人類の知性の総和を超える転換点、シンギュラリティーという言葉もこれまでの議論もあったんですけど、そういったことから、人類にとって大きな影響を与える可能性があると同時に、人類の存続を脅かす可能性も指摘されているというところです。
この国民の間には、今大臣の御答弁の中で不安を感じているという言葉もあったんですが、まさにこの人間の制御が及ばなくなるんじゃないかと、生成ＡＩが、そういった不安というのも私も聞いているところなんですけれども、ＡＩを、であればですね、このＡＩを使用した製品について国が事前の評価を行い、リスク評価を行って、不適切なものを事前に排除する、いわゆる市場に出さない、こういったやり方もあるんじゃないかと思うんですけど、こういった国による規制についてどのようにお考えなのか、教えてください。
133渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
法案に基づいて指針を整備しまして、ＡＩ開発者に対しては、不適切な出力をＡＩがしないように抑制する、しないように、出力を抑制するように開発段階でその対処を求めて、措置を求めていきたいというふうに考えているところでございます。その方法としては、今一般的に言われていますのは、評価ツールというソフトウェアを使うという方法と、あと外部監査等を使うということだと思います。
この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフテ…
この発言のページ
134竹詰仁(国民)
今すぐには難しいというお話でしたけど、でも今、その第三者の認証制度は検討は必要じゃないかという、そんな議論もあったというのはお聞きしましたので、その議論は是非やめずに進めていただきたいと思います。
今時点のということであれば、このソフトローとハードローのどちらを中心に、またどのようなバランスで規制していくのかというのが、このＡＩの開発とその利活用双方にとって重要なテーマだと思っております。この生成ＡＩの開発及び利活用を進めるに当たっては、無断学習あるいは無断利用といった権利侵害の懸念について、あるということで、このことについて伺いたいと思います。
や…
この発言のページ
135城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
昨今のＡＩをめぐる技術革新、これ非常に著しく、文章や絵画などの創作物、そして肖像や声などについて、生成ＡＩによりオリジナルに類似した、オリジナルに近い生成物を容易に生成し利用することができるようになってきております。このような中、御指摘のように、クリエーターなど生成ＡＩの学習に用いるデータの権利者の中には、許諾を得ることなくデータが使われることなどに対し、知的財産権の侵害であるとの懸念の声があるということは私も承知しております。
このため、生成ＡＩと知的財産権をめぐる懸念への対応につきましては、内閣府において、ＡＩ時代の知的財産権検討会、これを開催し、…
この発言のページ