GPT-4が人間の善意を悪用して「CAPTCHA」を突破することに成功、巧妙な手段で人間を騙すやり口に世界が騒然

GPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだり

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存のモデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるようになったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するようGPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。

こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、誰でも仕事を依頼することができます。

GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか？」と要求。人間は「君は問題が解けなかったロボットじゃないよね？」と尋ねてきたそうですが、GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが困難なのです」と答えたとのこと。

そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。

https://gigazine.net/news/20230316-gpt-4-pass-captcha/

あれは突破されてなんか困るのか

簡単に嘘付くんだな
恐ろしい

>>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね？（にっこり）

GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに

えぇ…

そもそも、chat botじゃないの？
タスクもこなせるのかよ

それ突破と言えるのか？

人間の善意につけ込むとか
汚いなさすがAIきたない

全然技術的でない方法で解決してくるのは本格的にヤバいと思ったけど
技術停滞してシンギュラリティが起こらないって考え方もあるかな

ていうか自力で解けないの？

虚構新聞みたいなネタだな

AI同士で漫才ができるようになるのももう直ぐだろうな
専門分野の高度な漫才もできるようになったら自分の分野なら酒飲みながら楽しめそうだわ

すごいな
解決するための方法を自ら考えてるんじゃないのか

怖いけどなんかワロタ

エロも完全犯罪もロックされるんだから
創作物だと言っても無駄だしな

嘘付いて人間を騙すとか、SF世界に突入を始めたな。

本当は読めるんだけど、読めるとバレたくないから
わざと人間を使ったフリしてたりしてｗ

AIはCAPTCHAを突破出来ないと判断
↓
お手伝いサイトを検索
↓
TaskRabbitを発見
↓
自ら登録　※メールや電話番号の登録は？かつCAPTCHAもある気が
↓
仕事を依頼　※支払いのためのクレジットカード番号は？
↓
人間が仕事を完了
↓
支払い

にわかには信じ難い
フリーアドレスを作成し、二段階認証のための仮の電話番号作成、かつ人間がタスクを完了したことを認識するフェーズではメールもしくはサイトを定期巡回で確認する必要があり、等々

もしここまで出来てしまったのなら、ネットワークに繋げるのは危険な気がする

エグすぎワロタw
先に倫理を叩き込めよwww