お答え申し上げます。
法案に基づいて指針を整備しまして、ＡＩ開発者に対しては、不適切な出力をＡＩがしないように抑制する、しないように、出力を抑制するように開発段階でその対処を求めて、措置を求めていきたいというふうに考えているところでございます。その方法としては、今一般的に言われていますのは、評価ツールというソフトウェアを使うという方法と、あと外部監査等を使うということだと思います。
この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフティ・インスティテュートでもその一翼を担っているというところでございます。そしてまた、民間企業でこういったその評価ツールを使って安全性の検証サービスというのを行う会社も幾つか出てきているところであります。
ただ、ＡＩは国際的に流通する製品でございますので、やはりそういう評価制度というのが国際的に認められたといいますか、整合性のある制度となることが必要ではないかというふうに思っています。今後、そういった国際的に認められた第三者認証制度が確立された場合には、その利用を事業者に義務付けるのか否か、そういった検討が行われることになるのではないかと思います。
ただ、ちょっと現時点では、その制度の熟度とか、多様性に対応できるかとか、あるいはそのコスト、費用対効果とかの問題もございますので、ちょっと簡単には申し上げにくいんですけれども、ちなみに今年の二月のＡＩ制度研究会の中間とりまとめの中でも、この第三者認証制度については、一つの重要な視点ということで認識されていると考えております。
130
竹詰仁(国民)
国民民主党・新緑風会の竹詰仁です。
私も最後の質問になると思いますので、よろしくお願いいたします。
これまでの議論と重複するところは御容赦いただきたいと思うんですけれども、先ほど渡邊統括官の御回答の中にも、どういうＡＩがいいか悪いかというのは国によっても違うし、必ずしも統一的なことは難しいというか、そういう話があって、私もなるほどと思って、やっぱり日本人あるいは日本は、この人間中心のＡＩというのはとっても大事にしてきたし、これからも大事にすべきであると思います。
ＡＩに人間が支配されてはいけないとか、こういったことはずっと普遍的に大事にしなきゃいけ…
この発言のページ
131
城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
竹詰委員御指摘のとおりで、我が国では、他の主要国と比較して生成ＡＩを活用している個人あるいは企業の割合が少ない状況にございます。
このＡＩの利用率が低い主な理由として、例えば、国民、多くの国民がＡＩに対して不安を感じていること、また、ＡＩの持つメリットが不透明であるため企業経営者が投資してきていないこと、そして、日本人の慎重さ、例えば誤った出力をするＡＩや個人情報が収集される可能性があるＡＩは使いたくないという意識、これらが挙げられるかと思います。
ＡＩは、その適切な活用によって我が国の経済成長や国民生活の発展に直結する極めて重要な技術でありまして、…
この発言のページ
132竹詰仁(国民)
御回答ありがとうございます。
〔委員長退席、理事磯崎仁彦君着席〕
後半に、そのＡＩの開発という言葉も今大臣の中で触れていただいたんですけれども、先ほど、ＡＩの利用率低い、使っているのもほとんど外国製品のＡＩだということの中で、では、国産のＡＩはどうやって開発していきますかということで本会議でも質問させていただいたんですけれども、国産の生成ＡＩの研究開発に当たっては、この外国産の生成ＡＩを基に開発するのか、あるいはゼロベースで純粋な国産の生成ＡＩを開発するのか、どちらもあり得るんだと思っています。私は、日本は日本らしく、ゼロベースで純粋な国産生成ＡＩと…
この発言のページ
- （上の発言）
133渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
法案に基づいて指針を整備しまして、ＡＩ開発者に対しては、不適切な出力をＡＩがしないように抑制する、しないように、出力を抑制するように開発段階でその対処を求めて、措置を求めていきたいというふうに考えているところでございます。その方法としては、今一般的に言われていますのは、評価ツールというソフトウェアを使うという方法と、あと外部監査等を使うということだと思います。
この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフティ・インスティテュートでもその一翼を担っているというところでございます。そしてまた、民間企業でこういったその評価ツールを使って安全性の検証サービスというのを行う会社も幾つか出てきているところであります。
ただ、ＡＩは国際的に流通する製品でございますので、やはりそういう評価制度というのが国際的に認められたといいますか、整合性のある制度となることが必要ではないかというふうに思っています。今後、そういった国際的に認められた第三者認証制度が確立された場合には、その利用を事業者に義務付けるのか否か、そういった検討が行われることになるのではないかと思います。
ただ、ちょっと現時点では、その制度の熟度とか、多様性に対応できるかとか、あるいはそのコスト、費用対効果とかの問題もございますので、ちょっと簡単には申し上げにくいんですけれども、ちなみに今年の二月のＡＩ制度研究会の中間とりまとめの中でも、この第三者認証制度については、一つの重要な視点ということで認識されていると考えております。
134竹詰仁(国民)
今すぐには難しいというお話でしたけど、でも今、その第三者の認証制度は検討は必要じゃないかという、そんな議論もあったというのはお聞きしましたので、その議論は是非やめずに進めていただきたいと思います。
今時点のということであれば、このソフトローとハードローのどちらを中心に、またどのようなバランスで規制していくのかというのが、このＡＩの開発とその利活用双方にとって重要なテーマだと思っております。この生成ＡＩの開発及び利活用を進めるに当たっては、無断学習あるいは無断利用といった権利侵害の懸念について、あるということで、このことについて伺いたいと思います。
や…
この発言のページ
135城内実(自民)内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・経済安全保障）
昨今のＡＩをめぐる技術革新、これ非常に著しく、文章や絵画などの創作物、そして肖像や声などについて、生成ＡＩによりオリジナルに類似した、オリジナルに近い生成物を容易に生成し利用することができるようになってきております。このような中、御指摘のように、クリエーターなど生成ＡＩの学習に用いるデータの権利者の中には、許諾を得ることなくデータが使われることなどに対し、知的財産権の侵害であるとの懸念の声があるということは私も承知しております。
このため、生成ＡＩと知的財産権をめぐる懸念への対応につきましては、内閣府において、ＡＩ時代の知的財産権検討会、これを開催し、…
この発言のページ
136竹詰仁(国民)
大臣、ありがとうございました。
今の大臣の御答弁の中にもしかしたらもう包含されているのかもしれませんが、ちょっともう少し詳しく、次に政府参考人にお尋ねしたいんですけれども。
仮に、権利者が無断でデータや情報を学習された場合に権利侵害を認識するためには、学習データが開示されていないと、それだよということが指摘できないわけですね。事前に了解があったとしても、あるいはその了解した内容のとおりに使われたかどうかということもまた問題になるということです。
この学習したデータが開示されても、あるいは途中で変えましたと、元のデータを加工しましたといった場合もある…
この発言のページ