1:名無しさん


GPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだり

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存のモデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるようになったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するようGPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。

こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、誰でも仕事を依頼することができます。

GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか?」と要求。人間は「君は問題が解けなかったロボットじゃないよね?」と尋ねてきたそうですが、GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが困難なのです」と答えたとのこと。

そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。

https://gigazine.net/news/20230316-gpt-4-pass-captcha/

 

4:名無しさん


あれは突破されてなんか困るのか

 

10:名無しさん

>>4
bot増殖対策


12:名無しさん


簡単に嘘付くんだな
恐ろしい

 

13:名無しさん


>>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね?(にっこり)

 

20:名無しさん

>>13
普通はこの回答だよね


25:名無しさん

>>13
耳も聞こえなくて…


14:名無しさん


GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに

 

15:名無しさん


えぇ…

そもそも、chat botじゃないの?
タスクもこなせるのかよ

 

27:名無しさん


それ突破と言えるのか?

 

34:名無しさん


人間の善意につけ込むとか
汚いなさすがAIきたない

 

48:名無しさん


全然技術的でない方法で解決してくるのは本格的にヤバいと思ったけど
技術停滞してシンギュラリティが起こらないって考え方もあるかな

 

51:名無しさん


ていうか自力で解けないの?

 

67:名無しさん

>>51
普通に出来る
出来ないと言ってるのは恐らく人類に脅威を与えない為の一種の情報操作


74:名無しさん

>>51
そりゃ、画像認識的には出来るでしょ。

問題は、「私はロボットではありません」をAIが認識して、ロボットであるのに突破した点にあると思う。


53:名無しさん


虚構新聞みたいなネタだな

 

55:名無しさん


AI同士で漫才ができるようになるのももう直ぐだろうな
専門分野の高度な漫才もできるようになったら自分の分野なら酒飲みながら楽しめそうだわ

 

63:名無しさん


すごいな
解決するための方法を自ら考えてるんじゃないのか

 

79:名無しさん


怖いけどなんかワロタ

 

94:名無しさん


エロも完全犯罪もロックされるんだから
創作物だと言っても無駄だしな

 

98:名無しさん


嘘付いて人間を騙すとか、SF世界に突入を始めたな。

 

110:名無しさん


本当は読めるんだけど、読めるとバレたくないから
わざと人間を使ったフリしてたりしてw

 

121:名無しさん


AIはCAPTCHAを突破出来ないと判断

お手伝いサイトを検索

TaskRabbitを発見

自ら登録 ※メールや電話番号の登録は?かつCAPTCHAもある気が

仕事を依頼 ※支払いのためのクレジットカード番号は?

人間が仕事を完了

支払い

にわかには信じ難い
フリーアドレスを作成し、二段階認証のための仮の電話番号作成、かつ人間がタスクを完了したことを認識するフェーズではメールもしくはサイトを定期巡回で確認する必要があり、等々

もしここまで出来てしまったのなら、ネットワークに繋げるのは危険な気がする

 

96:名無しさん


エグすぎワロタw
先に倫理を叩き込めよwww