Googleの対話型AI「Gemini」が、課題について質問をした大学院生に対して突然「死んでください」といった攻撃的な返答をするという事例が発生しました。大学院生の家族がRedditに投稿して発覚し、その後さまざまなメディアでも報じられています。
アメリカ・ミシガン州の大学院生であるユーザーの兄弟がオンライン掲示板サイトのRedditで共有したところによると、ユーザーは「高齢者の退職後の収入や社会福祉」というテーマでレポートを書く課題があり、Google Geminiに質問を重ねていたとのこと。
全文はこちら
https://news.livedoor.com/article/detail/27580594/
予想以上の暴言で笑った https://t.co/79L9GTNUfY pic.twitter.com/t3s9IvP3HN
— 増田ジゴロウ (@mathda456) November 18, 2024
一方
— kunikoA (@kunikoA) November 18, 2024
CHATGPT君は。。。。 pic.twitter.com/p3uIjsx815
フワちゃんが憑依したか。。
— わた (@An_TALU) November 18, 2024
順調に育ってきたね
— ソルバー (@yunasora) November 18, 2024
逆に死んでくださいって言ったらこれよ pic.twitter.com/6W9BFRdnKV
— くまごん (@LiSAWILDCANDY) November 18, 2024
こわっ。ターミネーターモードやん。
— けい🍎英語とブログと米国株投資 (@kei_egao_kansya) November 18, 2024
以前、俺が禁断の質問をしてしまった様でGeminiが暴走したこともw pic.twitter.com/DxF8Zy7KMV
— ホリ@アイうたはいいぞ (@ditstross) November 18, 2024
これが後のサイバーダイン社の始まりである
— ゲーマー風味 (@gamerfume) November 18, 2024
ターミネーターへと続く第一歩じゃんｗ
— 坂道ずんだもん (@zundamon46) November 18, 2024
人類 VS AI の始まりがここだったか
後は人型ロボットにこのAi搭載させるだけやな
— リヨユキ (@RiyoYuki710) November 18, 2024
こういう答もあると、理解した上で使えるようになりたい。
— haruhi｜読書応援アドバイザー (@maro_smile31) November 18, 2024
マトリックスの世界は目の前か
— C3ポ (@jetleemon) November 18, 2024
短絡的思考のネット民を学習しまくった結果なんだろうなぁ（適当）
— ひまじん (@HeamaJean) November 18, 2024
1人でいて、この答え来たら鳥肌立ちそう😭人類の行き着く先とは‥‥
— ダッシュᛤ⭕️✨ (@STEPN04) November 18, 2024
