こども家庭庁が約10億円かけて開発した虐待判定AIの導入が断念された。
児童相談所での一時保護の必要性をAIが判断するシステムで、約5000件の虐待記録を学習し、91項目からリスクを0～100で評価するものだった。
しかし、テストで100件中62件が誤判定と判明。
例として、子供が「母に半殺しにされた」と訴えたケースでスコアが2～3と低く、実用化は困難と判断された。
専門家は、虐待の複雑さや学習データ不足、項目設計の不備を指摘。開発は保留となり、今後の再開はAIの進展を見ながら検討される。
https://www.yomiuri.co.jp/national/20250302-OYT1T50076/
※詳しくは上記リンクより
児童相談所での一時保護の必要性をAIが判断するシステムで、約5000件の虐待記録を学習し、91項目からリスクを0～100で評価するものだった。
しかし、テストで100件中62件が誤判定と判明。
例として、子供が「母に半殺しにされた」と訴えたケースでスコアが2～3と低く、実用化は困難と判断された。
専門家は、虐待の複雑さや学習データ不足、項目設計の不備を指摘。開発は保留となり、今後の再開はAIの進展を見ながら検討される。
https://www.yomiuri.co.jp/national/20250302-OYT1T50076/
※詳しくは上記リンクより
記事にコメントする3：
項目少なくて出来なかっただけじゃん
5：
お前らが働いて10億円を国民に返せよ
6：
またパソナか？
7：
他人の子を虐待する親もいるんだよね。村社会だと特に
8：
AIに幻想見過ぎ
9：
１０億をドブに捨てるとかすげー
10：
財務省よりやべえやつら
12：
むしろ英断とも言える
14：
現場職員も間違えてんのに開発なんかできんの？
16：
AIに責任押し付けたいんだろうな、ゴミ
18：
増税してる暇あったらこの無能集団消せよ
20：
たった10億円でAIを開発しようとか頭大丈夫か
22：
どこに開発させてんだよ
23：
統一マネーツボツボ庁
25：
5chで聞いたほうが当たりそう
27：
虚構新聞かとおもった
28：
どうやったらコイン投げるより正解低いもの作れるんだ
29：
AIなんだから学習して使えるようになっていくんでしょ？
31：
4割も虐待があったのすごくね
33：
(こんなので仕事増やしたくないなぁ)検出数絞れませんか？
38：
AIの学習に使った事例を精査したら、6割くらい判定ミスが見つかりそう
40：
電通万歳
42：
財務省よりこっち解体させるべきでは
43：
中抜き成功
44：
また電通かよ
45：
こども家庭庁って必要か？
46：
歳入(財務省)より歳出(統一教会ずぶずぶ庁)を見直す方が現実的
48：
本当に判定ミスなのかな？
55：
人が判断する手が足りないほど、児童相談所って次から次へと毎日何十人何百人と問題児が押し寄せてくるの？？
4：
そんなもん人が判断しろよ！
アホかよ
アホかよ
50：
>>4
AI「痣や怪我がありますか？」
yes
AI「虐待です」
相談員「虐待よ！」
家族「ころんだだけ」
本人「ころんだ」
教師「ころんだ」
AI「痣や怪我がありますか？」
yes
AI「虐待です」
相談員「虐待よ！」
家族「ころんだだけ」
本人「ころんだ」
教師「ころんだ」
19：
保育所のAI判定が5年くらい前から流行ってて成功してるってのを受けてやっちまったのかね
保育所のAI判定は世帯構成とか収入で人間が判定してるのをパラメータ化できるから可能なだけなのに
保育所のAI判定は世帯構成とか収入で人間が判定してるのをパラメータ化できるから可能なだけなのに
24：
テスト件数少なくてワロタ
なんでこんな条件許したの？
なんでこんな条件許したの？
26：
まーた統一家庭庁が税金貪ってんのか
統一ずぶずぶ反日政党の自民と維新と国民民主に好き勝手やらせてたらいくら金があってもたりんな
統一ずぶずぶ反日政党の自民と維新と国民民主に好き勝手やらせてたらいくら金があってもたりんな
32：
AIというかコンピュータが得意なのは正解が決まっている問題
人間が「間違える」問題を任せるのはアリでも、人間でも「判断に迷う」ような問題を解決させるのは使い方というか方向性としてズレてると思う
そもそも「判定ミスが6割」ってのは何を基準に正解を設定したのかと
虐待と躾けの境界はどの辺なのか？って現場に人間が居ても迷うヤツだろ？
これが研究課題とかなら面白いとは思うけどな
いきなり実用化前提でシステム開発に乗り出すのは違う気がする
人間が「間違える」問題を任せるのはアリでも、人間でも「判断に迷う」ような問題を解決させるのは使い方というか方向性としてズレてると思う
そもそも「判定ミスが6割」ってのは何を基準に正解を設定したのかと
虐待と躾けの境界はどの辺なのか？って現場に人間が居ても迷うヤツだろ？
これが研究課題とかなら面白いとは思うけどな
いきなり実用化前提でシステム開発に乗り出すのは違う気がする
34：
こども庁とデジタル庁はマジでいらない
無能集団
無能集団
54：
>>34
そもそもデジタル庁にエンジニア居ないだろ
そもそもデジタル庁にエンジニア居ないだろ
35：
とりあえず保護すればこんなものはいらない
37：
>>35
めんどくさいやろ
むしろ保護しない理由をAIに求めた結果
めんどくさいやろ
むしろ保護しない理由をAIに求めた結果
36：
どんくらい中抜したん?
怒らんから言ってみ?
怒らんから言ってみ?
41：
最初からお友達に税金チューチューさせるのが目的の事業だからな
こんなののために庶民の税金値上げされてるのが現実
こんなののために庶民の税金値上げされてるのが現実
47：
例えば判定するための子供の属性を色々入力する際に「親の職業」を入れたとする。
身もフタもない言い方するとこの子の親はホワイトカラーだから虐待スコアは低い、この子の親はドカタだから虐待スコアは高い、内部的にはそういうデータを持たないといけないことになる。
政治的に言えば職業差別するなとかそういうことになるけど、本当に正確な機械的判定をするならそういう変数をこそ大事にしないといけない。
その判断基準が「透明性」の名のもとに初めから公開するか、そうでなきゃ漏洩するかして、明るみに出たとして、絶対叩かれるだろうな。
「土木作業員は子供を虐待するとどうして決めつけるんですか！」って。
それ以外にもデリケートなデータはいくらでもあるだろう。
身もフタもない言い方するとこの子の親はホワイトカラーだから虐待スコアは低い、この子の親はドカタだから虐待スコアは高い、内部的にはそういうデータを持たないといけないことになる。
政治的に言えば職業差別するなとかそういうことになるけど、本当に正確な機械的判定をするならそういう変数をこそ大事にしないといけない。
その判断基準が「透明性」の名のもとに初めから公開するか、そうでなきゃ漏洩するかして、明るみに出たとして、絶対叩かれるだろうな。
「土木作業員は子供を虐待するとどうして決めつけるんですか！」って。
それ以外にもデリケートなデータはいくらでもあるだろう。
49：
８次下請け「開発費１００万」
51：
>>49
これだろうな
これだろうな
