引用元のJ-cast様はこちらから

こども家庭庁が開発中のAIによる子どもの一時保護判定システムのリリースが延期された。このシステムは約10億円が投じられたが、実用化が困難との判断に至った。特に虐待記録5000件がAIの学習データとして「少ない」とSNSで指摘されたが、家庭庁は検討会での議論を元に「少ないとは思っていない」と反論。リリース延期の理由はデータの少なさではなく、性能改良を目指し続ける方針とされる。

こども家庭庁が開発した虐待判定AIシステム、リリース延期の背景

こども家庭庁が開発を進めていたAIシステムが、子どもの一時保護の必要性を判定するためのものでした。しかし、現段階では実用化が難しいとされ、リリースの延期が決まりました。この決定により、大きな話題となったのが、AIに学習させた虐待の記録数がたったの5000件であったことです。SNS上では多くの人々から「少ない」という指摘が相次ぎました。

こども家庭庁の反論と説明

こども家庭庁はこの意見に対し、学習データの数はAI専門家を含む検討会で議論された結果であり、「少ないとは思っていない」と反論しました。システムのリリースが延期された理由は、学習データの少なさではなく別の要因にあると説明しています。

性能向上を目指す取り組み

このシステムは2021年度から2023年度までの3年間で約10億円をかけて開発されました。読売新聞は「10億円かけた虐待判定AI、こども家庭庁が導入見送り…ミス6割で『実用化困難』」と報じ、さらに専門家が5000件のデータでは不十分とした分析も報じられていました。

こども家庭庁の担当者は、AIシステムの実用化が延期されたことについて、「現状ではリリースできないが、性能の改良によって今後も解決を目指していく」と述べています。このシステムの改良は、学習データの数とは別の改善点に焦点を当てて行われる予定です。

今後の課題と展望

今後、こども家庭庁は一時保護の判定精度を高めるために、システムの性能向上を目指し続けるとのことです。虐待防止対策部会の資料によれば、AIシステム開発の進捗や課題は継続して公開される予定です。

今回のケースから学べることは、AIの活用においてデータの質だけでなく、システム全体の性能向上が重要であるという点です。こども家庭庁は、より多くのデータと精密なアルゴリズムの双方を通じて、子どもの安全を守るためのAIシステムを作り上げていくことを目指しています。