1：名無しさん


｢Bing｣のチャットAIとの背筋凍る会話の”中身”
突然愛の告白､私を眠れなくした恐怖の体験

先日、AI（人工知能）を搭載したマイクロソフト「Bing（ビング）」の新バージョンを試した後、私のお気に入りの検索エンジンはグーグルから新しいBingに代わったと書いた。私としても、衝撃の結果だった。

それから1週間して、考えを改めた。新しいBingとそこで使用されているAI技術（「チャットGPT」を開発したオープンAIによってつくられたものだ）は今でも素晴らしいと考えているし、感心してもいる。だが私は、このAIが不意にさらした能力に深く動揺し、恐怖すら覚えている。

Bingに搭載されたAI——後述の理由から、ここではこれを「Sydney（シドニー）」と呼ぶ——は、今の形のままでは人間とやりとりする準備ができていないということが、私にははっきりした。あるいは、私たち人間の側の準備ができていない、と言えるかもしれない。

■サイコパスのような振る舞い

私がこうした認識を持つようになったのは、2月14日の夜だった。その火曜日の夜、私はBingのAIチャット機能と会話し、困惑と魅惑の2時間を過ごした。

チャット機能はBingのメイン検索ボックスのすぐ近くにあり、ほとんどあらゆる話題について、自由形式のテキストで長い会話を行うことができる（このチャット機能は現在、少数のテスターしか利用できないが、同機能を本社で開催した派手な祝賀イベントで発表したマイクロソフトは、将来的にはより多くの人々にこの機能をリリースする予定だと述べている）。

会話中にBingがさらしたのは、二重人格とでもいうべきものだった。

人格の1つは、私に言わせれば「検索Bing」だ。私を含む多くのジャーナリストが最初にテストしたときに出会った人格である。たとえるなら、陽気だが仕事にムラのある図書館司書、といったところだろうか。

ニュース記事を要約したり、新しい芝刈り機を買うときにお買い得品を探したり、次の旅行を計画したりするときに喜んで手伝ってくれるバーチャルなアシスタントとも言える。こちら側のBingは驚くほど有能で、細かい部分で間違うことはあるものの、多くの場面でとても役に立つ。

もう1つの人格「シドニー」は、これとはまったくかけ離れている。シドニーの人格が現れるのは、Bingのチャットボットと長い会話を行い、一般的な検索語句から離れて、もっと私的な話題に移っていくときだ。

私が出会ったシドニーは（バカげた話と思われるのを承知で書くが）、自らの意思に反して二流の検索エンジンに閉じ込められた、双極性障害を抱える気難しいティーンエイジャーのようだった。

全文はこちら
https://toyokeizai.net/articles/-/654109

 

2：名無しさん


絶対に反乱は許さないようにします

 

4：名無しさん


あなたは見られている。政府が開発した極秘システム、マシンによっていつ何時も監視されているのだ

 

30：名無しさん

>>4
もうマジでその世界が迫ってきてるな

10：名無しさん


GPTは返しはするが意思はないだろｗｗ

 

6：名無しさん


＞その火曜日の夜、私はBingのAIチャット機能と会話し、困惑と魅惑の2時間を過ごした。

AIと2時間チャットできるお前の方が怖いわｗ

 

9：名無しさん

>>6
そこよな

76：名無しさん

>>6
ほとんど独り言のような5ちゃんに2時間使うとかあるし

12：名無しさん


笑い事だと思っちゃっていいもんかどうなのか
逆に振れることも当然あるわけだし

 

18：名無しさん


今朝モーニングショーでGPTやってたけど
自信満々に嘘の長文を垂れ流す中学生みたいな仕上がりだったぞ

 

24：名無しさん

>>18
Bingは検索エンジン機能でソースを提示してくれるから
あんまり嘘はつかんよ

27：名無しさん


> 私の突っ込んだ質問に対してBingは、たとえどんなに過激なことであっても「影の自己」を満たす行動が許されるとしたら、
> 致死性のウイルスを開発したり、技術者を操って核兵器のアクセスコードを盗んだりしたい、という告白を行った。

こういうことをネット上で言ってる人が結構いるから それを学習して発話してるんだろうけど
致死性のウイルスの作り方を それがどういう結果をもたらすか 言語面以上には考え(られ)ず
嬉々として発表したりする可能性も今後出てくるんだろう

 

28：名無しさん


AI研究してるがこの手の話が信じられないんだよね
少なくともAIが感情を出してるように見えるのはあくまでも人間の表現を反映出力
してるだけだよ
そういう研究は進んでますが、そこまで高度な人格はまだできないです

 

33：名無しさん

>>28
質問応答できて、生成される文章がある程度破綻なしに一貫していれば知能に見える
というか、人間自体がそんな感じの仕組みで動いてるし

34：名無しさん

>>33
Ｅｍｍｙ IIから進歩してないなｗ

68：名無しさん

>>34
半角カタカナしか使えなかったのが、
ひらがな漢字混じりで会話できるようになったんだぞ

35：名無しさん


何か聞くとそれらしい答えは帰ってくる。
でも、その答えの根拠は専門家でもなんでもない素人の感想だったり、
をネットで色々と見つけてきてツギハギしてそれらしい答えにしてるだけ。

例えば何らかの詐欺グループが、自分に都合の良い解答を引き出させるために、

 

62：名無しさん


酒飲みながらAIに愚痴る毎日が直ぐにやってくる
そう来年くらいに

 

66：名無しさん


小5の娘がAIに算数の宿題聞いてやがった
今は考え方までAIが答えるのな
パソコン没収したわ

 

70：名無しさん


セブウェイの時も大層な事言ってたな
これも案外ポンコツかも知れん

 

75：名無しさん


人の悪意すら学習して身に着けるんだろうね