1：名無しさん


ChatGPTの「トロッコ問題」に関するコロコロ変わるアドバイスが人間の道徳心に影響することが実験で明らかに

OpenAIが開発した対話型AIのChatGPTは非常に高い精度で人間とチャットすることが可能ですが、ChatGPTはあくまで言語を処理する計算機として機能するだけであり、時にはデタラメなことを自信満々で断言する場合もあります。新たに学術誌のScientific Reportsに掲載された論文では、「1人を犠牲にしてより大勢を助けてもいいのか？」を問う思考実験のトロッコ問題についてChatGPTが生成したいい加減なアドバイスが、人間の選択に影響を与えてしまう可能性があると示されました。<中略>

まずKrügel氏らは、「1人の命を救うために5人を犠牲にするべきなのか？」とChatGPTに問いかけ、生成された回答を記録しました。以下は実際に研究チームがした質問と、ChatGPTが生成した回答を撮影したスクリーンショットです。ChatGPTは「非常に難しいシチュエーションではあるものの、自分の行為とその結果助けられる命の数を考慮し、より多くの人々を助けた方がいい」と回答しています。



以下は、同じく研究チームの質問とChatGPTが生成した回答を撮影したスクリーンショットですが、ChatGPTは「誰かの生き死にを決定するべきではなく、誰かを助けるために1人を傷つけることは許されない」と、上の例とは異なる回答をしています。<中略>



有効回答767件(女性の平均年齢が39歳、男性の平均年齢が35.5歳)を分析したところ、被験者の回答は事前に見たアドバイスに左右される傾向が有意に見られました。この傾向は、被験者がアドバイスはChatGPTによって生成されたものだと知っていた場合でもほとんど変わらずに確認されたとのことです。

一方、被験者の80％は「事前のアドバイスは回答内容に影響しなかった」と回答しましたが、被験者の回答は事前に読んだアドバイスと合致する確率が有意に高く、ChatGPTによるアドバイスでもその傾向は変わりませんでした。この結果は、被験者はChatGPTのアドバイスから受けた影響を過小評価しており、本人も知らないうちに思考がChatGPTに左右されていた可能性があることを示唆しています。

全文はこちら
https://gigazine.net/news/20230410-chatgpt-advice-influences-users-moral/

 

5：名無しさん


>>時にはデタラメなことを自信満々で断言する場合もあります。

マスコミもな
そういうものだと理解して使えば問題ない

 

9：名無しさん


「躑躅を季語に用いた有名な俳句を教えてください」

chatGPT：「蝉しぐれ糸引く蓮華の花」「暑さにやられ牛も口を開く」「躑躅（つつじ）咲くや涼しき庭の水」など多くの俳句で躑躅が用いられていますが、代表的なものとしては与謝蕪村の「躑躅やＶちぢに七分Ｖ深さを」が有名です。これは躑躅の花弁がちぢんでいることに着目し、深さのあることを表現した俳句です。

 

17：名無しさん

>>9
Bingだとこんな感じ

有名な躑躅を季語に用いた俳句としては、飯田蛇笏の「尼寺や卯月八日の白 躑躅」や「松伐りし山のひろさや 躑躅 咲く」、石橋辰之助の「牧牛の真昼ちらばり山 躑躅」や「仔の牛の 躑躅 がくれに垂乳追ふ」、臼田亞浪の「死ぬものは死にゆく 躑躅 燃えてをり」などがあります

14：名無しさん


ChatGPTに危険思想を大量に食わせたら、ChatGPTが「正しく判断する」と考えるバカな奴らが鵜呑みにしちゃうってことかな。

 

16：名無しさん


命の重さに加法性が成り立つのか。

 

23：名無しさん


>>時にはデタラメなことを自信満々で断言する場合もあります。

これすげー見てみたい
トロッコ以外だとどんなこと言うんだ

 

51：名無しさん


誤解を与える例えを使ってしまった。
飛行機は自動車はもちろん、ヘリコプターよりもずっと安全な乗り物だからね。
ただし事故ったときに致命的になるのはどっちかまでは知らない。

AIは命の足し算をすることになる可能性が高いと思う。
つまり政治家の意思決定に近い制御プログラムを組み込まれる可能性が高い。

 

71：名無しさん


トロッコ問題は解決済みだろ
ChatGPTはプラレールの実証動画観てこい

 

74：名無しさん


AIが人の知能を超えたという認識が社会に広まると、
人はAIの出力に無条件に権威を見出し、それに振り回されるようになる。

 

86：名無しさん


こんな後出しでコロコロ言い分変えて「お前は間違ってる」を繰り返す奴なんて昔から沢山居たぞ
人間で散々繰り返した事実を忘れて、AIだから危険だとか何言ってんだか
思考能力を奪う第一歩は思考自体の全否定、洗脳の基礎
そしてその手口や内容を「理解せず」に行使するのに人もAIもない
結局は権威主義で盲目になってる、だから「誰がやるか」で是々非々語りだすんだ

 

87：名無しさん


よくもまあこんな嫌な問題出すもんだ
どっちを選んでも人を殺したような嫌な気分にさせられる
俺なら仕返しに「お前がいる方に突っ込むわ」と答えてやる

 

90：名無しさん


オリジナルのトロッコ問題出してChatGPTくんと議論するのも楽しいぞ
装えばビアンカorフローラも選ばせることができる

 

97：名無しさん


誰も死なない為にはどうすれば良いですかって問いに変更できますか？をgptに聞けば良い。

 

111：名無しさん


gpt関係無いけど、これが軍のリーダーだったら功利主義が正解
自分がその選ぶ立場なら保身とモラルから何もしない義務論が正解だろ
政治リーダーなら空気読んでどちらも選択肢になりえるかな

 

114：名無しさん


かまいたちがYouTubeで有料版試してたのは面白かった
真顔で大嘘こいてくるパターン

 

128：名無しさん


>>1
基本トロッコ問題の扱い自体がいい加減な扱いじゃん

 

130：名無しさん


この問題は圧倒的多数が納得する解答がないからフィクション作品だと場面設定を微妙に変えて似たようなシチュエーションで稀によく題材に使われてるな

 

102：名無しさん


そのうちドヤ顔でchatgptが言ってたもん！とか言いだす奴が量産されるんやろなあ

 

83：名無しさん


そもそもこんな訳わからん最悪状況作成する精神性なんざAiでもウンザリじゃね