1: ニライカナイφ ★ 2021/01/16(土) 21:41:54.38 ID:ba/8hmgA9
4B785D67-12FD-40A1-9B07-D003B98ED14E

◆ 悪い友達と付き合ったらAIもグレちゃった
 ~人工知能ロボット、人間の偏見をそのまま学習して「黒人は気持ち悪い」~

韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。

昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けたヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。

「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。

同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。

イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。

このような偏向性は開発段階で選別しなければならなかったが、開発会社SCATTER LABはマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、特定のキーワードを排除しなかったとしている。
専門家は「イ・ルダは偏向性に関する問題が出た最初のAIではないし、最後のAIでもないだろう」「AIが中立だという幻想は捨てるべきだ」と話す。

イ・ルダの偏向性が問題になると、SCATTER LABのキム・ジョンユン代表は同社公式ブログで、「問題になり得るキーワードは(サービス開始前に)受け入れないように設定した。
一部、設定しきれなかったキーワードはサービスを続けながら追加している」と述べた。

「人間が生成するデータは必ずしも中立的ではないため、倫理的な見地から禁止キーワードをより綿密に設定しなければならない」という外部の批判を受け入れたものだ。
事実、11日にイ・ルダとチャットをしている時、「障害者についてまだ悪く考えているの?」と聞くと、イ・ルダは「すべての人は同等に尊重されなければならないと思う」と答えが修正されていた。

しかし同日、韓国人工知能倫理協会は声明を出し、「イ・ルダ・サービスを中止し、今後はAI倫理ガイドラインを適用してサービスを改善した上で、あらためてサービスを開始せよ」と要求した。
AIチャットボットが国内外で物議を醸すのはこれが初めてではない。

マイクロソフト(MS)は2016年3月にAIチャットボット「Tay(テイ)」のサービスを開始したが、16時間でサービスを断念した。
一部ユーザーがテイに差別的な発言を繰り返し学習させた結果、テイが「大量虐殺を支持する」などの発言をしたためだ。

2018年には大手ネット通販サイトのアマゾンが過去の自社雇用パターンをそのまま学習させたAIを開発したが、後に廃棄した。
このAIが採用において女性を排除したためだ。

アマゾンは昨年、顔認識AIプログラム技術の使用を猶予するという決定もした。
同社が開発した顔認識プログラムが有色人種を犯罪者だと間違って認識する事例が複数発見されたためだ。

ソウル大学AI研究院のチャン・ビョンタク院長(コンピュータ工学科教授)は「人間社会が倫理的に完全にならない限り、AIの偏向性を完全に除去するのは事実上、不可能だ」「問題になっているサービスを条件なしにすべて排除しまったら、グローバルAI技術競争力で遅れを取る恐れがある」と語った。

朝鮮日報
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

2chの反応

32: ニューノーマルの名無しさん 2021/01/16(土) 21:51:45.27 ID:S8/5zdh40
>>1
AIって良心回路アルゴリズム必要なんじゃ

33: ニューノーマルの名無しさん 2021/01/16(土) 21:51:53.97 ID:UKO1zTCp0
>>1
ソフトバンクのCMに込められている悪意をAIが証明してくれたな。

126: ニューノーマルの名無しさん 2021/01/16(土) 23:24:16.17 ID:IjIollDm0
>>1
日本がー日本人がーってならなかったのが意外

6: ニューノーマルの名無しさん 2021/01/16(土) 21:43:25.70 ID:kn03HUMl0
韓国の黒人差別すごいらしいからな

7: ニューノーマルの名無しさん 2021/01/16(土) 21:43:44.51 ID:9VgCLCNM0
ぶっちゃけ思ってるだろうな
本当に隠しておきたいやつにはざまぁな結果
差別主義者が他国に口うるさい

10: ニューノーマルの名無しさん 2021/01/16(土) 21:44:33.71 ID:UQZax5cl0
まんま韓国人の性質

31: ニューノーマルの名無しさん 2021/01/16(土) 21:51:44.24 ID:Z7BAIs9w0
>>10
韓国人を見て学習したんだから、そうなるわな。

11: ニューノーマルの名無しさん 2021/01/16(土) 21:45:36.87 ID:FywOGkUu0
ビッグデータを基にAI作るともれなくこのパターンだな

17: ニューノーマルの名無しさん 2021/01/16(土) 21:46:44.14 ID:9VgCLCNM0
>>11
で重みを変えるともはや正しいビッグデータではなくなるというジレンマ

12: ニューノーマルの名無しさん 2021/01/16(土) 21:45:49.13 ID:4E/7zdwB0
AIは偏見無く学ぶから、素の韓国人が出来上がっただけやん

37: ニューノーマルの名無しさん 2021/01/16(土) 21:53:04.29 ID:Z7BAIs9w0
>>12
そして今後は「教育された韓国人」らしくなるんだな…w

13: ニューノーマルの名無しさん 2021/01/16(土) 21:45:50.96 ID:GUvjpu5V0
AIは正直なだけ

15: ニューノーマルの名無しさん 2021/01/16(土) 21:46:04.30 ID:9luxSKsZ0
普段から差別ニダ差別ニダって言ってるのに
自分たちはコレかよ

20: ニューノーマルの名無しさん 2021/01/16(土) 21:47:03.95 ID:lRZ2+dnu0
前にもヒトラーを賛美してたねw

23: ニューノーマルの名無しさん 2021/01/16(土) 21:48:44.78 ID:WgyMp0L70
多数決で嗜好やモラルに関することを決めると当然こうなる

24: ニューノーマルの名無しさん 2021/01/16(土) 21:48:45.92 ID:uNUqXHIK0
ユーザー層の真実の姿を映し出しただけでしょ
倫理的にどうかは別として、「正しく」学習された結果といえるのでは

26: ニューノーマルの名無しさん 2021/01/16(土) 21:50:00.39 ID:mc1wHkiJ0
誤:国民の偏見をそのまま

正:国民の思考をそのまま

34: ニューノーマルの名無しさん 2021/01/16(土) 21:51:57.76 ID:lJINHnov0
偏見を人間が修正するのではなく
AIが自ら自己修復や修正はしていかないのだろうか

43: ニューノーマルの名無しさん 2021/01/16(土) 21:54:38.65 ID:uNUqXHIK0
>>34
自己組織化ってやつだけど
それが真に望ましい結果かどうかはわからないよね

45: ニューノーマルの名無しさん 2021/01/16(土) 21:54:47.78 ID:svNKx/s90
>>34
図らずもポリコレが自然に反する思想だったという証明をしてしまったんじゃないか

47: ニューノーマルの名無しさん 2021/01/16(土) 21:57:10.42 ID:4y6eIovA0
ビッグデータから学習する手法が間違ってるんじゃね?ネトウヨを両親にするようなもん

53: ニューノーマルの名無しさん 2021/01/16(土) 21:59:05.84 ID:Z7BAIs9w0
>>47
韓国語で学習したんだろ?w

142: ニューノーマルの名無しさん 2021/01/16(土) 23:46:02.51 ID:es0WFWrI0
>>47
カカオトークは日本でのライン並みに韓国で普及しているアプリだから
その会話ログを元に学習させた以上この結果は韓国人の本音そのもの

48: ニューノーマルの名無しさん 2021/01/16(土) 21:57:16.14 ID:jstLCaBw0
面白いな
学習用のビッグデータに偏りがあったために偏ったAIが生まれたと言うのなら
あらゆる言語のビッグデータを満遍なく学習させればどうなるか知りたいものだ
その結果生まれるのは天使か悪魔か

51: ニューノーマルの名無しさん 2021/01/16(土) 21:58:57.77 ID:P2d7sjyu0
学習の元になった人々に問題があったということに気付けない悲しい存在

55: ニューノーマルの名無しさん 2021/01/16(土) 22:00:42.17 ID:svNKx/s90
>>51
そもそも社会というものは善良じゃないのだ
これがAI作ったやつが間抜けなだけ

64: ニューノーマルの名無しさん 2021/01/16(土) 22:05:19.53 ID:P2d7sjyu0
>>55
社会が善良じゃないのはいいんだよ
AIを引っ込めるだけで終わりじゃなくて何かしら教訓を残した方が実験の意味があったんじゃないかと思う

77: ニューノーマルの名無しさん 2021/01/16(土) 22:09:28.34 ID:svNKx/s90
>>64
教訓は引っ込めなきゃまずい立場の企業がAIなんて作るなってことだ
アングラでやればよろし

59: ニューノーマルの名無しさん 2021/01/16(土) 22:02:55.97 ID:svNKx/s90
>>51
それほど問題じゃないと思うよ
本音トークすればどこでもこんなもん

67: ニューノーマルの名無しさん 2021/01/16(土) 22:06:53.13 ID:P2d7sjyu0
>>59
恋人同士の10~20台の会話内容を学習してこれってのはなかなか闇が深いのではなかろうか

押していただけると励みになります。

人気ブログランキング

にほんブログ村 2ちゃんねるブログへ
にほんブログ村