AIがオランダで引き起こした大混乱 数万人を不正受給者と誤判断 親子は引き離された
人間よりも計算能力に秀でたAIなら、過去のデータを基により正確に、効率的に物事の推測ができるはず――。だが、データが不適切だったり、設計に差別や偏りがあったりしたら？AIが人の生活を大きく狂わせ、尊厳まで奪うような出来事が、現実に起きています。オランダでは、税務当局が過去の不正申請のデータと国籍などの個人情報を基にAIによるリスク分析を行った結果、2万人以上が児童手当の「不正受給者」のぬれぎぬを着せられ、親子が引き離されたり、自殺者まで出る事態が起きました。（荒ちひろ＝GLOBE編集部記者）
突然、身に覚えのない「不正受給者」に
「すべては2010年、税務当局から届いた一通の手紙から始ま ったんです」
オランダのハーグで会ったジャネット・ラメサーさん（38）は、悲痛な表情でそう振り返った。
当時、離婚して3歳の一人息子とともにロッテルダムから故郷のハーグに移ったばかりだった。フルタイムで働き、託児費用の大半は申請に応じて公的に負担されていた。税務当局からの手紙は、改めて就業時間や託児施設の利用を証明する書類を送るよう求める内容だった。
何かの間違いだろう。そのときは深刻には考えず、書類をそろえて返送した。同様の手紙がその後、3度届いた。不審に思いつつ、その度に書類を送ったり、直接役所に出向いて提出したりした。
だが2016年、それまで利用してきた託児費用などの児童手当が不正受給だったとして約4万ユーロ（当時のレートで約500万円）の返還を求められた。説明を求めたが、相手にされなかった。
突然「不正受給者」とみなされ、多額の借金を背負うことに。さらに、財務関係の職場で借金の制限があったために職を失い、生活は困窮した。
2019年2月、息子が通う学校から呼び出された。待っていたのは児童福祉当局だった。自分の食事まで切り詰めている母親を助けてほしいと、息子が学校に相談したのだ。だが当局は、逆に、ラメサーさんの生活状況が育児に適さないと判断。正式な手続きを経ずに息子を連れ去り、息子を元夫に渡してしまった。
https://news.yahoo.co.jp/articles/6a0e47e884e0f140a42f6a386be8a297e766056d