「対応するときのサポートに」AIは虐待死を防げるのか　一時保護の判定に“人工知能”導入の自治体も　背景には人事異動が…

静岡市は2024年春から児童虐待に対応する際、AI=人工知能を活用する方針を示しています。AIを活用するのは、子どもを保護者から一時的に引き離すかを判断する場面。過去の事例などに照らし合わせて一時保護の判定率「〇〇%」とAIが示します。

「AIは子どもの虐待死を防げるのか?」。静岡県内で先駆けてAIを導入する静岡市。AIはどこまで信頼できるのでしょうか。

静岡県内のとある児童養護施設。3歳から18歳までのおよそ50人が暮らしています。施設によりますと、入所者の7割以上が親から虐待を受け、家庭から引き離された子どもたち。一方で、親元から離れる事に納得できない子どもたちも少なくないそうです。

虐待を受けた子どもを家庭から離して施設で保護するか、どうか。時に子どもの命にかかわる重い判断を担うのが児童相談所です。

2023年度、静岡市の児童相談所が相談を受け、虐待と判断して対応した件数は782件と過去最多。10年前に比べると2倍以上に増えています。

「親から出て行けと怒鳴られ、家から閉め出された」
「子育てに疲れた。言うことを聞かない子が憎くて、頬を叩いた」

実際に寄せられた相談です。こういった相談があると職員がまず迫られるのは、子どもを一時保護するかどうかの判断です。

＜配属4年目の20代職員＞
「虐待の対応ってすごく高度な専門性が必要ですし、あとは迅速な対応っていうのが求められてくる中で、必要なのは経験だったりとかノウハウだったりとか」

20代の職員は、児童相談所に配属されて4年目ですが、すでに「ベテラン」。人事異動があり、一時保護の判断をする静岡市の職員の中では、4年目で“最長”というのが現実です。

＜静岡市児童相談所大石剛久所長＞
「児童相談所で経験を重ねた職員が、その知識をなかなか継承していけない。体制の強化はしているんですけども、経験の浅い職員が増えてきている」

対応すべき虐待の数は増える一方で、職員の知識と経験は引き継ぎが難しい。この状況を打開しようと静岡市が導入を決めたのがAIです。

都内の情報通信機器大手NEC。静岡市から委託を受け、システムを開発しています。

＜NECソリューションイノベータ井上俊輔さん＞
Q.通告（相談）の電話を受けてまず入力する?
「最初は不明が多いんですけど、調査する中で、イエス、ノーが増えていく」

子どもの身体のアザや栄養状態、さらには親の精神状態などをチェックシートに入力すると静岡市が対応した過去の虐待事案を学習したAIが一時保護に至る確率や再発に至る確率を示します。

＜NECソリューションイノベータ井上俊輔さん＞
「このリスクアセスメント（チェックシート）を入力いただいて、この虐待情報とリスクアセスメントに基づいた分析結果というのが、このAI分析結果のところに表示される」

ここで浮かび上がる素朴な疑問。「AIは子どもの虐待死を防げるのか?」

＜静岡市児童相談所大石剛久所長＞
「職員の対応が個の能力ではなく、均一化されるということで、静岡市の児童相談所の対応が向上していく」

期待の一方で、AIの活用が裏目に出たケースもあります。AIによる支援システムを全国で初めて導入した三重県。津市で2023年5月、母親の暴行で4歳の女の子が死亡した事件では、AIが示した一時保護の判定率は「39%」でした。

＜NEC 島崎吉継さん＞
「AIは判定ツールではないという意識を持っていただくことが非常に重要だと思っております」

静岡市は「AIはあくまで支援システム」と位置づけ、最後の判断は職員がするとしています。

＜静岡市児童相談所大石剛久所長＞
「システムに判断をしてもらうのではなく、自分が対応するときのサポートになるようなシステムになってほしいなというようなことを期待しております」

子どもの命を守るためにAIを人が使いこなせるか?いま、問われています。

いま、「静岡モデル」として、重点的に開発が進められているのが、一度は職員が「不明」と入力した情報で、早期に再調査すべき項目を示すシステムです。

こういったターニングポイントになる部分でAIの力を活用し、最後は人が決めていくのが理想の形となりそうです。

「AIはサポート役。子どもの命を守る最終判断はあくまで人」。静岡市は当面、特に職員が手薄になる夜間にAIを活用したいとしています。