報道では六割を超える判断ミスがあったということで、そもそも、ＡＩが一時保護を判断するというもの自体が本当に業務になじむのかという疑いもあります。三原大臣はあくまでも延期と強調したと報道にもありますけれども、このまま開発を続けていくんでしょうか。
市來伴子 (立憲民主党)
2025年4月3日・第217回国会 衆議院 地域活性化・こども政策・デジタル社会形成に関する特別委員会 第5号（外部サイト、新しいタブで開きます） の 20 番目の発言（外部サイト、新しいタブで開きます）（全 141 発言）
前後のやりとり
17
三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）一時保護委託先の質を確保するために、一時保護委託は、原則、登録一時保護委託者等に限り行うことができることとする一方、登録一時保護委託者等に委託できないものの、直ちに一時保護を行うことが必要である場合には、二週間以内に限り登録一時保護委託者等以外の者に一時保護委託ができる規定を設けることとしております。 そのため、まずは、この二週間に、法令上の質の担保が図られた一時保護委託先へ再度委託することや委託先に登録を受けていただくことにより、子供が安心できる環境で一時保護が継続されるようにしていくものと考えております。 一方で、今委員御指摘の、二週間を経過した…
よろしくお願いいたします。
続きまして、一時保護の可否を判断するＡＩツールについて伺います。
報道でもありますけれども、こども家庭庁が、約十億円をかけて開発をいたしましたが、導入を断念したという報道でございますが、その理由について伺います。
お答えいたします。
児童相談所における一時保護判断に資するＡＩツールは、令和六年度に協力自治体における試行、検証を行った結果、事前に定められた一定の項目に該当するか否かのみでは、けがの程度や範囲等、一時保護の判断に影響する情報を正しく反映できないという課題があり、全国に提供するツールであることも踏まえますと、現在の判定精度では十分ではなく、更なる改良が必要と判断し、現時点でのリリースを延期したものでございます。
- （上の発言）
報道では六割を超える判断ミスがあったということで、そもそも、ＡＩが一時保護を判断するというもの自体が本当に業務になじむのかという疑いもあります。三原大臣はあくまでも延期と強調したと報道にもありますけれども、このまま開発を続けていくんでしょうか。
21
三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）先ほど局長からも申し上げたとおりでありますが、一方で、迅速かつ的確に児童虐待対応を行うためには、児童相談所の業務の効率化は進めるべきであるというふうに考えておりまして、ＡＩの活用は、一時保護の判断等、児童相談所が行う複雑なケースワークを多面的に支援し、職員の業務負担を軽減するものとして有用であるというふうに考えております。 御指摘のとおり、児童相談所における様々な判断というものは、最終的には人が行うべきであり、ＡＩ技術に過度に頼り過ぎるということのないよう徹底すること、これは当然重要であるというふうに考えております。 委員のそうした御指摘も十分踏まえ…
ＡＩを否定するものではないんですが、むしろ、業務負担を軽減ということであれば、別の方法も多々、まだまだあると思いますので。 私の知り合いでＡＩを開発されている方に聞きますと、やはり、こういう一時保護のいろいろなケースがあることに対するＡＩの判断というのは非常にコストがかかるということもおっしゃっていまして、十億円じゃとてもとても、今の開発では難しいんじゃないかという御意見もありましたので、もしそのお金があるんでしたら、今まさに人件費の向上ですとか、あるいは配置ですとか、そういうところにまだお金をかけて、人を増やしていっていただきたいなというふうに思いま…
23
三原じゅん子(自民)内閣府特命担当大臣（こども政策・少子化対策・若者活躍・男女共同参画・共生・共助）議員御指摘のとおり、児童福祉司等の児童相談所の職員につきまして、心身の不調や業務上の悩みなどの理由によって離職する方が大変多い。私も視察に行かせていただきましたけれども、現場で職員の皆さんが本当に昼夜問わず多忙な業務に当たっておられる状況をずっと拝見しておりまして、そしてその中で、どうしても、人材確保というより定着、これが非常に難しいんだという切実な声も頂戴したところでございます。 この児童福祉司及び児童心理司の方々、これまでも増員を図ってきておりまして、昨年末のプラン改定によって今後二年間でも更なる増員を図ることとしております。さらに、体制強化に向け…