1:ラクトバチルス(宮崎県) [US]:2021/08/30(月) 17:22:51.60 ID:i8WiV4xt0 BE:512899213-PLT(27000)


Apple社の児童ポルノ検出技術に欠陥が発見されました。

現在Appleは、アメリカにおいて、個人の持つiPhoneやiCloudを勝手にスキャンして、児童ポルノを通報する「NeuralHash」というAIソフトの導入を進めています。

しかし8月18日にコード共有ウェブサイトGitHubのユーザーがシェアした情報によると、肝心のAIソフト(NeuralHash)が「犬と抽象画」を同じ画像と認識していると発見したとのこと。

iPhoneは膨大な数が世に出回っているため、わずかな誤検出率でも、誤認逮捕を引き起こす可能性があります。

しかし、いったいどうしてNeuralHashは犬の写真と抽象画を「同一」と判断してしまったのでしょうか?

ソース
https://nazology.net/archives/95176

関連ニュース
AppleがiPhone内の画像から勝手に児童ポルノを通報すると発表!今年中に米国で開始
https://nazology.net/archives/94197
ドコモがiPhone SE 特価セールを開始、端末のみ22,001円、新規契約またはMNPなら1円 [422186189]
https://hayabusa9.5ch.net/test/read.cgi/news/1630306862/

 

6:テルモアナエロバクター(神奈川県) [US]:2021/08/30(月) 17:26:37.35 ID:tAxVMqnJ0


>Appleは実際に警察に通報を行う前に、人間の目によるダブルチェックを行うとしていますが

ちょっと履歴書買ってくるわ

 

55:テルムス(ジパング) [EU]:2021/08/30(月) 18:07:46.39 ID:BXimAXQt0

>>6
これ


11:シトファーガ(茸) [US]:2021/08/30(月) 17:29:55.05 ID:cBEyvFAk0


実際に運用して人間がダブルチェックしてAIにフィードバックすればすぐに実用的になるだろ

 

7:レジオネラ(光) [GR]:2021/08/30(月) 17:26:38.15 ID:+iRGCXJp0


どうやって学習させたんですかね

 

12:パスツーレラ(神奈川県) [KZ]:2021/08/30(月) 17:30:26.79 ID:MPF9Kzkl0

>>7
Appleのやり方は一種のハッシュのようなもので既知のチャイルドポルノ画像と一致するかを調べる仕組みで、
今回のこれはその仕組みだと非常に低い確率だけれども全く異なる画像同士を同じものとしてしまうということ


14:ジアンゲラ(岡山県) [US]:2021/08/30(月) 17:31:21.94 ID:Hm/lFCN80


当たり前のように言ってるけど勝手にスキャンするなよ

 

18:ナウティリア(静岡県) [US]:2021/08/30(月) 17:32:36.15 ID:LJWbBalz0


ICloudもかい。小児科の先生でiCloud使ってたら逮捕だ!

 

26:カンピロバクター(東京都) [DE]:2021/08/30(月) 17:37:37.21 ID:RGkIuD+V0


我が子の成長記録が消される欠陥商品なのでは

 

60:フラボバクテリウム(SB-Android) [IL]:2021/08/30(月) 18:19:58.89 ID:dJuy7+el0

>>26
というか実際それが児童ポルノ扱いされて親が捕まったりしてるから


39:スピロケータ(東京都) [US]:2021/08/30(月) 17:45:40.10 ID:Qt0carpo0


中国とやってること同じじゃん

 

50:テルモリトバクター(光) [US]:2021/08/30(月) 18:02:37.00 ID:OqAvLYGK0


児童ポルノだけならいいけど、他にもいろんなもの調べられてそうだな。

 

51:ビフィドバクテリウム(静岡県) [UA]:2021/08/30(月) 18:05:21.45 ID:8H6TckCF0


要らん事するな、阿呆

 

52:ジオビブリオ(東京都) [GB]:2021/08/30(月) 18:06:13.31 ID:r3ImfDqK0


娘の写真とか勝手に見られるのは嫌なんだが

 

61:セレノモナス(千葉県) [ニダ]:2021/08/30(月) 18:24:13.75 ID:knRxnwy40


日本では検閲はできないだろ

 

77:アナエロプラズマ(大阪府) [US]:2021/08/30(月) 19:35:34.11 ID:1kJ30TLv0


クラウドとは言え、勝手に他人のデータを見る事はどうなの?

 

79:ネンジュモ(東京都) [US]:2021/08/30(月) 20:23:34.28 ID:QUns5sYU0


そんなアプリ動かして古いiPhoneはまともに動くのか?
また集団訴訟されるぞ

 

81:テルモアナエロバクター(東京都) [US]:2021/08/30(月) 20:31:49.66 ID:dkSAFjb+0


日本でやったら誤検出多発するよ、あちらから見ると日本人は30代でも10代に見えるらしいからね

 

85:マイコプラズマ(長野県) [US]:2021/08/30(月) 21:08:32.72 ID:4lwzZkl40


これ話題になった時はクラウド上だけって感じで話進んでたけどやっぱ端末内まで見られるのか

 

93:アナエロプラズマ(千葉県) [ニダ]:2021/08/30(月) 21:50:56.06 ID:IC8iT5y00


建前:児ポ監視
本音:端末データの収集
だから欠陥だらけなんだろ