日本共産党の本村伸子でございます。どうぞよろしくお願いを申し上げます。
まず最初に、虐待が疑われる子供の保護判定ＡＩの導入見送りについて質問させていただきたいと思います。
二〇二三年から、みえ施設内暴力と性暴力をなくす会の皆さんと、この児童虐待の一時保護判定に関するＡＩの活用に関し、こども家庭庁から聞き取りを行ってまいりました。きっかけは、ＡＩを利用していた三重県で、実の母親から命を奪われた四歳の子供さんの事件があったからです。
当時、ＡＩでは保護率三九％と出ていたと報道がありました。その後、この事件の際はＡＩはほとんど使われていなかった、活用されていなかったというふうに、二〇二四年三月の三重県の検証委員会の報告書にはあります。しかし、保護率三九％と出ていた、それでお亡くなりに、命を奪われてしまったということがありまして、やはりＡＩに頼ることのリスクについても痛感してまいりました。
実際、児童虐待に関するＡＩの開発者の方が、報道番組の中でこうおっしゃっておりました。ＡＩが一〇〇％正しいというわけではなく、間違った答えが返ってくることもある、ＡＩの結果が逆に子供を危険にさらす可能性もあると、開発者の方がおっしゃっておりました。この開発に関わる方の言葉は、重く受け止めなければならないというふうに思っております。
今回、こども家庭庁が開発してきました、虐待が疑われる子供の保護判定ＡＩの導入に関し、見送り、こども家庭庁は延期というふうに言っていますけれども、見送り、延期の原因と、これまで使った公費についてお示しいただきたいと思います。
70大大竹宏明法務省大臣官房審議官
法務省からは、加害者更生プログラムについてお答え申し上げます。
法務省における性加害者に対する更生の取組につきましては、性犯罪に及んだ者のうち、実刑判決を受けて刑事施設に収容された者や、保護観察付執行猶予となり社会内で処遇を受ける者等に対しまして、刑事施設や保護観察所において、認知行動療法に基づく性犯罪者処遇プログラムを実施しているところでございます。
このプログラムにつきましては、令和二年三月に法務省において効果検証を行った結果、統計的に一定の再犯抑止効果があることが認められたものの、より一層その抑止効果が高まるよう、処遇プログラムの内容等を一部改…
この発言のページ
71
大森江里子(公明)
済みません、質疑の時間が迫ってまいりましたので、大臣の御決意を最後にお伺いしたかったのですが、申し訳ございません。
最後に、公明党は、信頼する大人から子供が性暴力を受けるなどということは絶対に許せない、全ての子供たちの尊厳を守り抜くとの強い思いで法律の成立に取り組んでまいりました。どうか、施行に向けた準備を着実に進めていただきたいと思っておりますので、どうぞよろしくお願い申し上げます。
本日はありがとうございました。
この発言のページ
72
谷公一(自民)
次に、本村伸子さん。
この発言のページ
- （上の発言）
73本本村伸子(共産)
日本共産党の本村伸子でございます。どうぞよろしくお願いを申し上げます。
まず最初に、虐待が疑われる子供の保護判定ＡＩの導入見送りについて質問させていただきたいと思います。
二〇二三年から、みえ施設内暴力と性暴力をなくす会の皆さんと、この児童虐待の一時保護判定に関するＡＩの活用に関し、こども家庭庁から聞き取りを行ってまいりました。きっかけは、ＡＩを利用していた三重県で、実の母親から命を奪われた四歳の子供さんの事件があったからです。
当時、ＡＩでは保護率三九％と出ていたと報道がありました。その後、この事件の際はＡＩはほとんど使われていなかった、活用されていなかったというふうに、二〇二四年三月の三重県の検証委員会の報告書にはあります。しかし、保護率三九％と出ていた、それでお亡くなりに、命を奪われてしまったということがありまして、やはりＡＩに頼ることのリスクについても痛感してまいりました。
実際、児童虐待に関するＡＩの開発者の方が、報道番組の中でこうおっしゃっておりました。ＡＩが一〇〇％正しいというわけではなく、間違った答えが返ってくることもある、ＡＩの結果が逆に子供を危険にさらす可能性もあると、開発者の方がおっしゃっておりました。この開発に関わる方の言葉は、重く受け止めなければならないというふうに思っております。
今回、こども家庭庁が開発してきました、虐待が疑われる子供の保護判定ＡＩの導入に関し、見送り、こども家庭庁は延期というふうに言っていますけれども、見送り、延期の原因と、これまで使った公費についてお示しいただきたいと思います。
74吉吉住啓作こども家庭庁支援局長
お答えいたします。
今般のＡＩツールは、令和三年度より国において開発に着手し、令和五年度にプロトタイプが完成し、今年度、協力自治体における試行、検証を行ってきました。
ＡＩツールは、約百項目の情報を入力し、一時保護の必要性を判断するものですが、試行、検証では、項目はあるものの、あざの範囲やけがの部位など、程度や範囲が適切に反映できない等、既存の項目だけでは保護判断に影響する情報を正しく反映できないという課題が見えてまいりました。
その上で、ＡＩ領域の学識経験者や児童相談所職員等から成る検討会で、検証結果の分析や本ツールの活用是非を議論いたしました。…
この発言のページ
75本本村伸子(共産)
資料一に契約金額などを出させていただいておりますけれども、八億二千四百四十五万円ということです。野村総研とＮＴＴデータが受注しております。
報道では、予算額を足し合わせると十億円程度になるというふうに思いますけれども、そうしたものが試行段階で約六割の判定に疑義があった、そういう結果となったと。リスクが低く出てしまうと。これでは子供たちの命を守ることができないということでリリースを今回は見送り、延期したということだというふうに思いますけれども、二〇二一年からやってきた事業だというふうに思いますが、この入札の過程というのはそもそも公正だったというふうに大臣…
この発言のページ
76
三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）
今回の、児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツールの開発における令和三年度の仕様書等作成支援業務、令和四年度と令和五年度の設計、開発業務及び工程管理業務は、全て、会計法に基づく一般競争入札、総合評価方式によって調達しております。
具体的には、ホームページ等により五十日以上公募を行った上で、入札を申し込んできた企業等の提案内容について第三者評価委員会に評価いただくとともに、入札価格についても点数化し、これらの評価に基づき調達先を決定しております。
こうしたプロセスを経て、公平な競争に基づいて適正に入札が行われたものと考えており…
この発言のページ