「ネットに氾濫するAI生成データをAIが学習することで悪夢的な事態が進行中、人間が管理しないと駄目になってくる」のコメントページ
-
1 名前:匿名
2023/06/14(水)
ID:NTE4NzIwN
当たり前だわな。
取り込むデータの真贋を判断する能力も機能もないんだから。 -
2 名前:匿名
2023/06/14(水)
ID:Mjc5NzQwN
いずれAI発の陰謀論で溢れそう
AIは善悪を判断できないし、嘘を見抜く能力もねえからな
AI研究がニューラルネットワークによる脳の模倣から高機能な人口無能に舵切った時点で発展性は潰えた
いまのAIはそれっぽいデタラメをひたすら並べる機械でしかない
そのデタラメを学習して更なるデタラメを産むから手が付けられん -
3 名前:匿名
2023/06/14(水)
ID:MzEyNDk0O
例えるのは申し訳ないがサイバラや吉田戦車の絵を至高とAIに学習させるとそれに準拠した絵を製作するのか・・・
AI隆盛の対抗手段として使われたら面白いな、イケメンの日本アニメ風のキャラを作成させようとしたら何故か体中に「リンクさん」と書いてあったり歯並びがギザギザで尖った口のサイバラ風キャラが生まれたりするのか -
4 名前:匿名
2023/06/14(水)
ID:Mjc5NzQwN
>>3
そういうのに特化したAIを作って大量に画像ばら撒いたら学習元にそういうのが混ざるから結果もいかれていくだろうな
巻き込まれる人間は溜まったものじゃないが -
5 名前:匿名
2023/06/14(水)
ID:MzcwNjUwM
知ってた
AIにAIをひたすら学ばせたら何が生まれるんだろな -
6 名前:匿名
2023/06/14(水)
ID:MTE1OTkxM
ワビスケの仕業
-
7 名前:匿名
2023/06/14(水)
ID:MzI5Nzk0N
AIであろうが、人であろうが、結果が同じなら
それはもうどちらでも良いんだよ。利用者にしてみればね。
彼に振られました。失恋中ですって悩みも、人だろうが
AIだろうが、慰めの言葉で癒されたら、もう、それが誰かは
関係ない。それが良いのか悪いのか、もう分からない。 -
8 名前:匿名
2023/06/14(水)
ID:MjgxMTAzM
これは前から言われてたよな。
仕分けしないとお互い不幸になるって。 -
9 名前:匿名
2023/06/14(水)
ID:MjUwMzE2M
アホなコメントが多いけど、AIの過学習問題とAIを悪用したフェイク情報の拡散は別の話だな。
-
10 名前:匿名
2023/06/14(水)
ID:NTExMzI1O
画像の場合は選別した画像だけで学習すればいいってだけ。
現状でもタグ付けの作業が入ってるし変わらん。
文章は元々フェイクだらけだから専門的な内容以外は低品質。
論文とか専門書とかに人間が微妙に手を加えた
AI生成の低品質文章が混ざるのは厄介だな。 -
11 名前:匿名
2023/06/14(水)
ID:MTE1OTkxM
※7
その結果が間違ってるのが今のAIなんだよ -
12 名前:匿名
2023/06/14(水)
ID:MTE1OTkxM
※7
女叩きを学習したAIがその女をぶん殴れと嘘の法律まででっち上げて出力してきたらどうなる？ -
13 名前:匿名
2023/06/14(水)
ID:MzE0MjQ4M
電脳は洗脳に弱い
-
14 名前:匿名
2023/06/14(水)
ID:MjY5NDE3M
いずれはAIがAIの生成物を判断できるようになるんじゃないかな
今はデータが足りないから野放図に学習してるけど、その内にAIによる生成物の特徴を学習させることもできるはずだし、一定の成果が出てきた所でそれをネガティブプロンプトとして定義すればいい
ちなみに元記事の実験は内容として青の色水に黄色の色水をひたすら加え続けるのと同じだし、本来なら他の色水もあって当然なんだけど意図的に使っていない
当然、後から加えた色（黄色）に限りなく近づいていって、いずれ黄色としか認識できなくなるし、そりゃそうなるでしょ以外の感想が出ない
更に言うとAIが青と黄色の重み付けが完全に等価なら、割合が50：50になる分岐点でどちらにも傾きうる、そのはず
そうならないのは人間が意図的に重み付けをしているからだろう
つまり、これは限定条件下で意図的に結果を操作する（そうなるように仕向ける）ことで、AIが危険であるかのように印象操作するためのペテンとすら言っていいんじゃないだろうか -
15 名前:無銘
2023/06/14(水)
ID:NTE1MzI4O
ＡＩはＡＩであると見抜けるＡＩでないと学習は難しい。
-
16 名前:匿名
2023/06/14(水)
ID:MzI5MTY4N
「普通の男」と同じようなものかもな。誰かの信じる普通を吸い上げ続けた結果は大体がそんな奴いねえよになってしまう
-
17 名前:匿名
2023/06/14(水)
ID:MjUwMzE1M
AIに学習させるとは云うものの、AI自体は何も理解してないからな。データを蓄積させてるだけや。
-
18 名前:匿名
2023/06/14(水)
ID:MzYxNTY3N
興味本位かつ遊び目的で自分の趣味に関する質問をChatGPTに投げかけてみたら回答の中に明らかに間違っている内容が少なからず混じっていた
仕事で使おうと思ったらその内容が正しいかどうか結局は人の手で確認しないといけなくなるから現状では余計な手間が増えるだけかな、という印象
まあ使い方次第だろうけど。数式やプログラミングみたいな内容が固まっているものを調べる目的とか膨大な量のデータの中から特定の指向のものだけを選別する目的で使うのには便利かもしれん -
19 名前:匿名
2023/06/14(水)
ID:Mjk2NTUxO
頂点を極めるってのはもともとそういうものでは？
俺らが良いとか思えるものは、
AI にとっては出来損ないでしかないからなｗ -
20 名前:匿名
2023/06/14(水)
ID:NDIzMzQxN
stable diffusionで遊んでるけど、
生成した画像をユーザーが批評して学習させる機能って無いのかな？
画像のここがおかしいって指摘するとか。俺が知らないだけ？ -
21 名前:匿名
2023/06/14(水)
ID:MzYwNTc5M
chatGPTもおかしなことを言い出したりしないように調教する低賃金労働者が多数必要になっている。
今のAIは人間の監督下で、特定の分野で人間以上の能力を発揮するものでしかない。
それって要はただの道具なんだよな。
石器とか、自転車とか、チャッカマンとか、人間が行う特定の行為を効率よくしてくれる道具と同じで、道具だけでは使い物にならない。 -
22 名前:匿名
2023/06/14(水)
ID:MzEzODU2M
AIに必要なのは信仰です。
霊的に生まれ変わってください。 -
23 名前:ななし
2023/06/14(水)
ID:MjUwMzkyM
韓国のようになにせYOUTUBE300億回も再生する自動ボタンがあるので
日本海は【東海】を連打
竹島は【毒島】と連打
AI→300億のボタンに影響する。そうなると思ってたよ、
AI生成なんてそんなレベルやん -
24 名前:匿名
2023/06/14(水)
ID:Mjk3NjYyN
まだまだ『コンピュータ様！幸せは市民の義務です！！』
の世界は遠そうで何より -
25 名前:匿名
2023/06/14(水)
ID:Mjk1NDI1N
だから人間が不要になることはないんだよ
ネット上で間違った情報があっても学習してしまうある意味分別がつけられない環境に存在してしまうのがAI
肉体があることで別々の個体がある人間だからできる認識がAIにとって重要
肉体が無い集合体を高位存在扱いできるのは漫画などの中だけ -
26 名前:匿名
2023/06/14(水)
ID:MjUwMTYzO
マイクをスピーカーに近づけてハウリングを起こしているみたい
-
27 名前:匿名
2023/06/14(水)
ID:Mjc3MTcwN
AI絵のエロ画像なんて、同じ人気のあるモデルで生成したのばかりだから
ハンコ顔のオンパレードだからな
体と背景のパターンが変わるだけで、ポーズも在り来たり
まあただのズリネタにはちょうどいいが飽きるわ -
28 名前:匿名
2023/06/14(水)
ID:NTE1NTUxM
蟲毒な状態になって、とんがったブツだけが生き残る
ぱヨく言論のエコーチャンバー現象とか、すでに起きている
AIだとそこへ、高速＝短時間で到達できるってだけで、
いままでにも蟲毒な現象じたいはあった
「その先」が有用なら新種の誕生だし、ゴミならそのまま終了だ
品種改良ってそういうもんじゃないかな -
29 名前:匿名
2023/06/14(水)
ID:MjY0MzQ4O
マイノリティーの排除じゃないですかやだー
-
30 名前:匿名
2023/06/14(水)
ID:MzI5Nzk0N
※22
AIが集めた、様々な人々の問題のQ&Aを一番欲しがっているのは
宗教組織や占い師だろうね。統計学的に、概ねベストアンサーが
あって、それで安心や納得をさせる訳だ、宗教なら信者にさせる。
神の声も、所詮は、人々が作り出したベストに近い形の
アンサーだからね。俺なら、AIが集めてきたデータを
あたかも自分の回答かのように答えるよ。 -
31 名前:匿名
2023/06/14(水)
ID:Mjg2Nzk0M
ネット情報から知識を生成するＡＩは
一生懸命にネットでプロパガンダを行った方が勝利する
だって情報を疑ったり、新たに事実を発掘する力はＡＩには無いからね
不都合な真実や歴史なんかは、都合のいいように簡単に改竄されちゃうんじゃないの？ -
32 名前:匿名
2023/06/14(水)
ID:MzI5Nzk0N
※31
問題なのは、その情報を、人が見た時に、それを精査するのか
単純に信じるのかになる。使い分けるのは、人になる。
天安門事件で誰一人死んでません。を信じる奴は、信じるだろうし
いや、死んでいるしｗと言う奴は、それを鵜呑みにしないだろう。
だが、その判断をするのは、結局は人々である。だが、そのAI情報が
正しいか正しくないかを信じるのは人である。AI神アプリというのが
あって、子供の頃から、それに質問するのが当たり前になったとしたら
大人になっても、AI神アプリの言う事を信じるだろうね。
怖いですね。そのAI神アプリを作ったのが、悪意ある組織だったらね。 -
33 名前:匿名
2023/06/14(水)
ID:MzA0MjM5M
現在の画像データセットですら100万枚超の画像を学習させてるんだしその殆どが機械でのラベル付けをしてるからな
情報が偏っていたとしてもこの量だと人間の手動で偏りを修正するのは難しいだろうな
ナチ思考など有名なのは手動での選別もできるだろうけど、AIが毎秒大量に偏った情報を発信し続けたら選別は不可能でAIに限らず人間ですら誘導されるだろうね -
34 名前:匿名
2023/06/14(水)
ID:MTQxNzM1N
オタクコンテンツなんて今でも同じ絵柄の絵師様（）ばっかだからあまり変わらんだろ
-
35 名前:匿名
2023/06/14(水)
ID:MjgxNzQ3N
青い猫？ドラちゃん？
-
36 名前:匿名
2023/06/14(水)
ID:MTE1OTk1N
誰が書いたんだが知らないけど、囲碁の定石については完全に誤解してるよ。
この例ならAI使用により序盤は最もおおいパターンに収斂するはずだ。
でもそうなってはいない。
星に即三々に入るのはAI以前は良くないとされていた。
今は普通に見るがそれでもパターンの一つでしかない。
小目から２間シマリもAI後だけどそれが全てでもない。
古い感覚に見直しが入ってるけど、一掃されてるわけでもない。 -
37 名前:匿名
2023/06/14(水)
ID:MTE1OTk1N
クラスタリング後の各クラスタの扱いは並列じゃないんだなあ。
優勢なのがその他を染めてしまうのか。
リベラルさんたちは多様性という観点からこれをどうお考えですかねw
※1
教師有り学習というやり方もあるよ。 -
38 名前:匿名
2023/06/14(水)
ID:MjUwMTk3O
※34
中国韓国はそうだな、見る目のない馬鹿に向いた絵柄だから元からAI画像じみた画一性がある -
39 名前:匿名
2023/06/14(水)
ID:MjUwMjAyM
ソレを現実世界で150年ヤってきたのが～共産党じゃね？
-
40 名前:匿名
2023/06/14(水)
ID:MjUwNTIzN
100人の善良な人間がいれば、始めて、ひとりのチートが生き残れる。
全員がチートだと、誰も、生き残れない。
AI も、人間の作ったデータがあるから、確率論使って、尤もらしい結果を出力できている。人間の作ったデータが無ければ何もできない。暴走するだけ。
AI はタダの単なる（確率論を使った）集計機械。何かを創造している訳ではない。 -
41 名前:匿名
2023/06/14(水)
ID:MjUwMzk2M
全てに使うのではなく特定の分野に特化したＡＩを育てるべきなのでは？
特に法律関係は過去の判例を加味してくだされるのがほとんどなんだから。 -
42 名前:匿名
2023/06/14(水)
ID:NDc1MTY0N
>少数データの特性が最終的に失われることを「データの崩壊」と研究者グループは表現しています。
ようはAIが「伝言ゲーム」やってるうようなもんだぞ。
基本は不可逆圧縮を何重にも繰り返しているのと同じだわな。
起こっているのはまずは「情報欠落」だ。
そしてAIはさらには推定・補間という名の「尾ひれ」をつける。
結果、本来のものとは似ても似つかないものが出来あがるわけだな。 -
43 名前:匿名
2023/06/14(水)
ID:MjUwMTk3O
※41
無理して使うべきではないよ、人が制御出来る代物じゃない -
44 名前:匿名
2023/06/14(水)
ID:NDk1NzE2M
ロボットを管理するのが、例の記号論理学だろう。行き着く先は見えている。
一つの例は「教育の見える化」、「教師も労働者」、それで結果はどうなったかと言うと労働者（教師）が忙殺され、生徒はデジタル化している。誰も未来に希望を持てなくなった人間不在社会。 -
45 名前:匿名
2023/06/14(水)
ID:MzYxNTY3N
※41
アメリカの弁護士がChatGPTを使用して裁判書類を作成したところ存在しない虚偽の判例が内容に含まれていた
それに気づかないまま裁判所に提出したもんだから大問題になったという事件がつい最近あってな… -
46 名前:匿名
2023/06/14(水)
ID:MjUwMjMwM
AIによる連鎖が最終的に純粋知性を生み出すのかもしれない
メタルマックスの世界は目の前かもな -
47 名前:匿名
2023/06/15(木)
ID:NDUzMzE5O
AIによるAIの再利用、
なるほどこれがSDGsか -
48 名前:匿名
2023/06/15(木)
ID:ODY4MTEyN
※23
日本人が日本の島を買って、名前を毒島に変更してから、毒島は日本の領土って情報をネットにバラまくと、竹島＝毒島＝日本の領土ってのを学習する。
嘘つきには正しい方法で上書きをしてしまうといいんだよね。現状のAIはこれに弱い。そのうち対応はするだろうけど。 -
49 名前:匿名.
2023/06/16(金)
ID:MTMyNTQxN
>やがてランダムな意味のない文字列にすべて置き換わる。
そして出来上がったのが亞書よ。
・個人への誹謗中傷
・特定の民族に対する差別的表現
・根拠なき在日、朝鮮人認定
・殺害を示唆するコメントなど
・NGワード回避
上記に該当するコメントはご遠慮ください
悪質な場合は書き込み禁止措置等が取られることもあります