おっしゃるとおりかなと思います。ですから、今回は、そのガイドラインを作って、そこにリスク評価の手法というのも考えてやって、ただ、それがもう絶えず変化していくと思うから、絶えずＰＤＣＡを掛けていかなきゃいけないというのはあると思います。
それで、リスクの一例を、じゃ、挙げると、これ実は、こども家庭庁さんにちょっと来てもらったんですけど、三月に導入を見送ることにした児童虐待の判定のＡＩシステムというのがあるんですね。
それ具体的にどういうものかというと、これ、虐待が疑われる子供の一時保護の必要性というものをＡＩに判定させようというものなんですよね。具体的には、虐待が疑われる子供のそのけがの有無だとか、けがの部位だとか、あとは過去の虐待歴だとか、そういう大体九十項目ぐらいの情報を入力すると、それに応じて零点から百点の間で判定をするということになっているんです。
それで、これ、じゃ、実際にどうかというので、二〇二一年度から四年掛けて十億円ぐらい掛けてやってきたんだけれども、判定テストだと、何だっけ、六割が、テスト段階で判定ミスが六割に上って、実用化は困難だというふうに、まあ実用化を諦めたというわけではないですけど、取りあえずの実用化は困難だということになった。
ここから言える教訓は何だと思いますか。
114渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ＥＵのＧＤＰＲにつきましては、確かにＥＵで個人情報に関するルールを作ったときにグローバルなプレーヤーはそれに従うようになりまして、そうすると、グローバルなプレーヤーはほかの国でも同じ方法でやるということでＥＵのＧＤＰＲが広がっていったという評価、そういうことをおっしゃる学識経験者の方もいらっしゃいます。
ただ、一つは、これは少し個人的な解釈にもなりますけれども、個人情報の保護というのは割と、国が変わっても、ほかの国であってもそれはやっぱり保護された方がいいよねと思う方は多いと思うんですね。ただ、じゃ、ＡＩはどうかというと、どうい…
この発言のページ
115
片山大介(維新)
国によって違うといっても、基本的にこれＡＩとかはもうグローバルな、一緒なので、ちょっと国によっての違い方というのが、どういうふうに関わってくるのかが分からないと思いますし、それからもう一つ、今回は総じて、今言われたのは、今回のＡＩ法とそれから既存法の何か全体でリスクの対応をしていくと言っていますけど、じゃ、そもそもＡＩに対するリスク評価というものを今回の法を作るに当たってきちんとできているのかどうかというのが疑問になっちゃう。だから、ＡＩのどちらかというと振興の方が目的になっちゃって、ＡＩリスクの評価の議論というものは何かちょっと置いてきぼりになっちゃっ…
この発言のページ
116渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
リスクにつきましては、明確に規制の目標が描けて、かつそれをクリアするための技術がある程度めどが付いているということであれば、これはその規制を作ることによって技術開発を誘導するということは可能ではないかと思います。
ただ、ＡＩにつきましては、まだその明確な目標というのが、まず作りにくいという問題もありますし、それを作ったとして、それをクリアする技術があるかどうかというところも難しい部分があろうかと思います。
ただ、だからといって何もしないというわけにもいきませんので、今回の法案のような、ある種のその指針、こういうものを作ってそれ…
この発言のページ
- （上の発言）
117片山大介(維新)
おっしゃるとおりかなと思います。ですから、今回は、そのガイドラインを作って、そこにリスク評価の手法というのも考えてやって、ただ、それがもう絶えず変化していくと思うから、絶えずＰＤＣＡを掛けていかなきゃいけないというのはあると思います。
それで、リスクの一例を、じゃ、挙げると、これ実は、こども家庭庁さんにちょっと来てもらったんですけど、三月に導入を見送ることにした児童虐待の判定のＡＩシステムというのがあるんですね。
それ具体的にどういうものかというと、これ、虐待が疑われる子供の一時保護の必要性というものをＡＩに判定させようというものなんですよね。具体的には、虐待が疑われる子供のそのけがの有無だとか、けがの部位だとか、あとは過去の虐待歴だとか、そういう大体九十項目ぐらいの情報を入力すると、それに応じて零点から百点の間で判定をするということになっているんです。
それで、これ、じゃ、実際にどうかというので、二〇二一年度から四年掛けて十億円ぐらい掛けてやってきたんだけれども、判定テストだと、何だっけ、六割が、テスト段階で判定ミスが六割に上って、実用化は困難だというふうに、まあ実用化を諦めたというわけではないですけど、取りあえずの実用化は困難だということになった。
ここから言える教訓は何だと思いますか。
118源源河真規子こども家庭庁長官官房審議官
お答え申し上げます。
今御紹介のありました御指摘のＡＩツールは、令和六年度に協力自治体における試行、検証を行った結果、事前に定められた一定の項目に該当するかだけでは、けがの程度や範囲など一時保護の判断に影響する情報を正しく反映できないという課題があり、子供の命に直結するとともに、全国に提供するツールであることも踏まえ、現在の判定精度では十分ではない、更なる改良が必要と判断して、リリースを延期したものでございます。
この発言のページ
119片山大介(維新)
これもっと言うと、あれ、学習量がすごく少なかったんですよね。五千ケースでしたっけ。やっぱりこれＡＩはもう膨大な量を、何というか、学習させなきゃいけないので、やっぱり五千で判定というのは難しいと思いますよ、基本的に。というのがまず一つある。
それから、あともう一つ言えば、ＡＩは、もう万能、魔法のつえでも何でもなくて、やっぱり本当に、まず、その開発するんだったら、事前に本当に実現可能なのかどうかというのはきちんと検証するというか、吟味する。その上で緻密に制度設計やっていかないと、これ、ＡＩというのはなかなか実は本当に機能しないというか、機能できない。今回は…
この発言のページ
120渡渡邊昇治内閣府科学技術・イノベーション推進事務局統括官
お答え申し上げます。
ガイドライン、指針に基づきまして事業者ごとにリスク評価をやっていただきたいと思っていまして、そのことは指針の中にも分かりやすく盛り込んでいきたいと思っているところなんですけれども。
具体的に申し上げますと、例えば、企業でＡＩを搭載したロボットを導入したとします。このロボットが誤動作をする可能性もあるわけですね。そういうときに、もし誤動作をしたら誰にどういう影響があるかとか、誤動作をしたという情報をどうやって集めるかとか、それが集まったときに、今度その社員はどういうふうにそれに対して対処していくのかと、こういったことをきちんと各事…
この発言のページ