1:Ikh ★:2021/01/13(水) 02:49:33.73 ID:CAP_USER


人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
 人工知能(AI)チャットボット(自動会話プログラム)の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

 スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

 イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10~20代を中心に40万人の利用者を集めた。

 スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも(イルダが)自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習(ディープラーニング)するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

 専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。(会社側が)社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム(現カカオ)創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように(法で)強制しなければならない」とした。

 サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授(比較文化研究所)は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

 差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長(コンピュータ工学部碩座教授)は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外(異常)行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

 政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html

 

3:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 02:59:03.85 ID:6boZwA/v


答えが気に入らないから作り直せニダ

 

4:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 03:04:59.15 ID:DckBUx9O


イルダ「朝鮮人はウソつき」

遠からずこう言い出してお蔵入りになるなw

 

12:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 03:31:19.96 ID:I+wffRS1


笑える話だが、朝鮮人とは相性最悪っぽいな
論理的思考を放棄して、根拠のないファンタジーに生きる朝鮮人とはな

 

13:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 03:42:49.80 ID:vZnB9aTz


>>1
朝鮮人をディープラーニングしたら当然の結果

 

36:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 05:07:23.15 ID:H0DV3jPZ

>>13
最初期から矛盾だらけじゃねぇか。


17:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 03:58:11.69 ID:cJ05W8WR


開発「何度作り直してもお前が悪いと言われるニダ」

 

22:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 04:06:08.55 ID:1SpI3KjC


何年か前にMSのボットにヒトラーを学ばせて1日で公開停止になったやつのパクリ
このスタートアップは何年遅れてんの
投資詐欺か?

 

59:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:34:49.94 ID:XRfaBMq2

>>22
MSのAIより1週間長持ちしたぞ
進化したじゃないかw


62:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:38:56.45 ID:3uVeCnlb

>>59
1週間でヒトラーを学んだ
一方こちらは、わずか1日で見切られた


23:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 04:14:44.69 ID:fb0XxIcc


自然の摂理に反してるんだから優れたAIほど否定的になるんじゃね

 

25:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 04:29:53.43 ID:Iyyzgp1c


正しいシミュレータじゃないか
これは賞賛するべきじゃないのか?

 

43:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:03:13.53 ID:jVuxOYE3

>>25
朝鮮人が初めてまともにパクれたものかもしれんね


51:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:13:07.08 ID:FuUbib/5

>>25
いやいや

まだ反日と慰安婦崇拝の学習効果を確認出来てないw
それらが備わっているのを確認出来れば
誰もが認める、韓国製AIで
韓国人シュミレータとしての高い完成度を誇れるぞ


28:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 04:37:40.59 ID:iN84Njf8


そう学習する要素のある対話が多数あった結果だろ?

 

29:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 04:53:53.72 ID:QLIoqUzd


もうしばらく泳がしとけば価値観も変わるんじゃないかね

 

34:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 04:58:21.88 ID:6e+fSdwa


中国でも似たようなことしてたような?
答えが気に入らないやり直しって

 

93:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 07:15:32.50 ID:9p/b3MN3

>>34
共産党を批判しはじめたから止めたやつあったなw


38:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 05:16:04.50 ID:ytYpBVPW


どうしても黒人とゴリラの判別が出来なかったgoogleのAIより優秀じゃないか

 

40:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 05:30:36.87 ID:FChgG8tc


音量がデカイ方が勝ちってプログラムするだけの簡単なお仕事

 

44:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:04:27.51 ID:F9YV3I1U


韓国人の本音だよ

 

48:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:10:56.15 ID:iYR0QBiL


韓国製AIと他国のAIを討論させてみようぜ。たぶん韓国製の奴は自壊するから。
そう、まるで熱湯に入れられたワタリガニのように手足がバラバラになって。

 

49:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:11:49.36 ID:Li2RmN4+

>>48
韓国AI「ウリに対する愛はないニカー!」


50:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:12:25.78 ID:aBKE3nUB


昔マイクロソフトのAIもこんな問題起こしてた気がする

 

58:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:33:16.06 ID:W2tdbq5t


AI に嫌われる→ウリを好きになるように再プログラム→AI が壊れる

 

76:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 06:57:49.37 ID:3c+PDEIc


韓国製のAIなら、既に嘘をつくことを学習してるだろうから
その前提で話をしないとな

 

79:ぴらに庵 ◆/oBAKA4wpQ :2021/01/13(水) 07:01:26.44 ID:kYy+jlSB


人間が完全制御したAIはただの「一問一答」を繰り返すだけのプログラムからブレイクスルーは不可能だろう

 

86:Ikh ◆tiandrU0uo (スッップ Sddf-DBRr):2021/01/13(水) 07:09:34.42 ID:TnpAjsaLd


そういえば、MSが以前に開発してたチャットボットでも、似たような問題がもちあがって開発中止になってたねw

 

92:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 07:15:30.32 ID:SUoGn7+K


中国のAIは、共産党は無能だと言いだして停止された

 

100:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 07:20:28.87 ID:orX4ReMl


韓AIなら先ず兵役
第五種補給品として修行すべし

 

107:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 07:30:05.72 ID:od1ORfyH


高度なAIほど、差別や嫌悪をするのでは?

 

108:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 07:31:01.31 ID:Oqhu0NGr


韓国人の記録を学ばせたら酷い差別的思考をするAIが生まれた

ここまでは全然いいんだけど
これを 事故 として無かった事にしようとするのは技術者として駄目だろ

 

121:ぴらに庵 ◆/oBAKA4wpQ :2021/01/13(水) 07:48:03.59 ID:kYy+jlSB


いや、嫌悪学習云々以前に

>スキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた

個人のプライバシーな通話記録を学習させるとか何考えているのだ?

 

134:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 08:07:08.45 ID:1PcoKeTK


学習元データのチャットでそういう内容が話されているのは問題にされなくて、AIがそれをそのまま出力したことだけが問題なるのも
一種のネロナムブルなんかね。
元のチャットの方を規制したらファビョりだすんだろうし。

 

136:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 08:11:54.43 ID:SUoGn7+K


韓国語は悪口や罵倒語の種類が豊富らしいからな
AIにとってはさぞ学びがいがあるだろう

 

139:(´・ω・`)(`ハ´  )さん:2021/01/13(水) 08:18:31.91 ID:tn8vy5od


人間の主義正義を押し付けて何の意味が?
AIは冷静だよ人間よりもね