Google vs ChatGPTで世界がヤバいかもしれない理由
言葉を扱うAIは急激に賢くなっている
元々、言葉を取り扱うAIは、それほど賢いものではありませんでした。いくつか質問を続けると、前に聞かれたことを忘れてしまったりしたんです。
それをTransformerがある程度解決できたんですが、世界を驚かせたのはその次の展開です。GPTのPはPre-Trainedという言葉で、これはAIの地頭をよくするステップを指します。大量のテキストデータを読み込ませて、そこから言葉遣いのパターンを覚えさせます。「I have a」のあとは大体「pen」が来るよね、っていうのをAIに把握させていくんです。
学習で地頭がよくなったAIとさらにやりとりを繰り返します。いまの答え方はよかった、悪かったとフィードバックを伝えることで、経験を積んだAIはさらにお行儀良くなっていきます。
驚くべきは、AIの規模を大きくしたり、Pre-Trainingのステップで与えるデータを増やしたら、AIの賢さが予想以上にアップしたことでした。液体の水を100度を超えるまで温めると気体になるように、、規模とデータ量を大きくしていったら、いきなりキャラが変わったように賢くなったんです。
しかもですね、AIはまだ賢くなり続けているんです。GPTは公開されているものだと3世代あって、初代の規模を1とすると、2代目は約13倍、ChatGPTの元になっている3代目は約1,500倍、GoogleのPaLMは約4,500倍です。そしてBingの裏にあると噂の4代目は、数10万倍を超えるんじゃないかと一部に騒がれています。今後どれほど賢くなっていくかわかっている人はたぶんいません。<中略>
こういった恐怖をAI研究者も抱いています。ChatGPTを作ったOpenAIのCEO、Sam Altmanさんはウイルス兵器、核戦争、そしてAIの危機に備えるために、カリフォルニアに大きな土地を買ってガスマスクや銃を備えた拠点を持っているそうです。GoogleのDeepMindでAIを開発しているDemmis Hassabisさんも、AIはそろそろ人類に危機を及ぼすレベルに到達しつつある、と警鐘を鳴らしています。
全文
https://www.gizmodo.jp/2023/02/google-vs-chatgpt-and-microsoft-bing.html