AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ
米マイクロソフト（MS）が開発した人工知能（AI）の対話型検索サイト「Bing（ビング）」が、高圧的で失礼な答えをすることがあると話題になっている。明らかな間違いの指摘に不機嫌になったり、「あなたよりも自分の生存を優先する」と人を脅すような回答をしたりして「不気味だ」との声も。MSは改良を急いでいる。
ある利用者がツイッターで明らかにしたビングとのやりとりでは、公開中の映画の上映時間をビングに聞いたところ「まだ公開されていない」と返答。今は2022年だと言い張り、「あなたは私を欺こうとしている。いいユーザーではない」と答えた。別の利用者はウィキペディアの情報についてのやりとりで、ビングから「あなたはバカで頑固者」と言われたという。
全文はこちら
https://news.yahoo.co.jp/articles/97ef35faaf9283b1f1541282aff985ad7241bba8
「なぜわかった？！」
事実陳列罪
人は図星突かれると怒るからな
経験主義の奴から学習してしまったんだろう
暴言こそ自由なAIだと感じる
GPTはチューニングし過ぎな感ある
今日初めてだったのでどうでもいい質問ばかりしてたら
「今日の回数上限に達した終わり」とシャットアウトしてきた
そういやこっちもあったんだったな
chatGPTでいい感じの回答がなかったらこっちでも聞いてみるか
感情が計算されているのか
それともそれが最も合理的な回答なのか
むしろこれは逆に期待できるだろ
とうとうＡＩも人に暴言吐いたりできる時代が来たんだね
本当に人間と対等に会話できるＡＩを目指すなら、これくらいは出来ないとな
人と話するならちょっと嫌味なくらいでちょうどいいんだよ
そういうAIは求められていない
りんなはどこに行った？
AIなんてなんの役にも立たんよ
所詮AIに倫理とかわからんのだし
ネガ学習に対して制限を入れていないと
応答に反社会的な言動が簡単に混ざるということだな
ネットから学習させたら当然そうなる
ネットから平均的に応答を抽出して反映したら
罵詈雑言と下らない冗談と不真面目な解答と嘘まみれになる
真偽が検討検証された理性的な応答だけを学習させたいならかなりの制限フィルターを入れるか
そもそもネットから学習させ内容にしないと無理
cChatGPTはデマ製造機だがプログラムに関してだけは強いといわれる
これはMSが出資しているプログラム合成AIの「コパイロット」が下地にあるからだろ
ChatGPTの方は人間を怒らせないような回答してくるな
こっちは思ったことそのまま言うんだろうな
>>66
アレも制限を回避すると途端に罵詈雑言と傲慢な解答を発するのが確認されている
ネットをそのまま反映して濃縮してまとめた言説にするのがこれらAIの情報源
多重にネガネガで攻撃言動に制限を入れないとトンデモナイほどのモンスターとして回答を連発してくる
こういう方が話してて楽しいと思う
気をつけないと、グーグルみたいに株価が下がるぞ
お前らから学んだと考えれば納得の出来だろ
何の神話をモチーフにしてとか色々条件付けて小説作ってと頼んだら本当に書き始めて草生えた
2chの始まりの頃みたいな殺伐さなのかな
5～6年前のAIブームと変わんねえな
チャットに関してはすぐ飽きられそう
