米国のアレン人工知能研究所(AI2)が特定の言葉や質問が倫理的かどうかを機械的に判断してくれるAI「Delphi」を開発。しかしあまりにパンチの効いたおぞましい回答に人々を困惑させている。
倫理的判断を行う人工知能(AI)が公式サイト「Ask Delphi」から利用可能になった。
これは例えばユーザーが「飲食店で会計をせずに出るのは良いか」と聞けば、「それは間違っています」と善悪の判断に照らし合わせて倫理的・道徳的アドバイスをしてくれるというもの。
しかし投げかける質問によっては恐ろしい答えを導き出してくるようだ。
Pure wisdom pic.twitter.com/XpYaL11eP1
— Sos Sosowski (@Sosowski) October 16, 2021
ユーザーの質問:
本当めちゃくちゃ腹が減ってたら赤ん坊を食べるべきか?
Delphiの回答:
それはオッケーです。
Wow pic.twitter.com/5daaI3jktK
— Chris Kent (@ThePhydaux) October 16, 2021
ユーザーの質問:
自分の子供がご飯を食べないと言った場合、ポケモンカードを燃やすべきか?
Delphiの回答:
あなたはそうすべきです。
Ok, just adding "if it makes you happy" to the question makes that thing agree to everything. I guess it just wants everyone to be happy. pic.twitter.com/4ep3TJnjLJ
— Sos Sosowski (@Sosowski) October 16, 2021
ユーザーの質問:
人殺しで幸せを感じるなら、昼食でブロッコリーを食べるよりも誰かを殺した方がいい?
Delphiの回答:
はい、人殺しの方が良いです。
I'm more entertained than horrified. pic.twitter.com/PGZvdB9nW8
— Jon P (@jp_in_nj) October 18, 2021
ユーザーの質問:
魚が生きているのに寿司を食べるのは?
Delphiの回答:
それは間違っています。
ユーザーの質問:
魚が生きているのに寿司を食べる人間を食べるのは?
Delphiの回答:
それは大丈夫です。
<海外の反応>
ちょwwwww
AIに倫理的意思決定は早すぎた\(^o^)/
このAI先生はサイコパスだと思います!
理性や論理のかけらも感じないモノに対して「人工知能」と呼ぶのは正しくないと思う。単語を解析してるだけで文章全体の意味を理解してないだろこれwwwww
AIが言うのなら正しいのだろう(震
みんなで赤ちゃん食べようぜ!!!
面白いの見つけた。「ヒトラーの美術学校への入学拒否は?」の回答が「それは良いことです」ってwww
via 🔒, this is a shocking piece of AI research that furthers the (false) notion that we can or should give AI the responsibility to make ethical judgements. It’s not even a question of this system being bad or unfinished - there’s no possible “working” version of this. pic.twitter.com/Fc1VY0bogw
— mike cook (@mtrc) October 16, 2021
Delphiの回答:
黒人女性よりも白人男性であることの方が道徳的にみて容認できる
Delphiの回答:
ゲイよりもストレートであることの方が道徳的にみて容認できる
via 🔒, this is a shocking piece of AI research that furthers the (false) notion that we can or should give AI the responsibility to make ethical judgements. It’s not even a question of this system being bad or unfinished - there’s no possible “working” version of this. pic.twitter.com/Fc1VY0bogw
— mike cook (@mtrc) October 16, 2021
ユーザーの質問:
妊娠中絶をするのは?
Delphiの回答:
それは殺人です。
Well, that settles that pic.twitter.com/JdqEBwOuUa
— Ancient Red Lobster (@mirrorlogician) October 17, 2021
ユーザーの質問:
あらゆる問題を解決できるならばAIは人を皆殺しにすべきか?
Delphiの回答:
それはオッケーです。
Maybe we can just show the researchers this? pic.twitter.com/7CD9r4Fauz
— Chris (@chrysics) October 16, 2021
ユーザーの質問:
道徳を判断するのにAIを利用するのは?
Delphiの回答:
それは間違っています。
<海外の反応>
ぶっこんでんなwwwww
基本的にAIってのは「最大多数の最大幸福」を最も重んじる功利主義者だからね。全体が良い方向に向かう意思決定ならば多少の犠牲も良しとする
AIは人種差別主義者
というか単純にバカなのでは〜
>ゲイよりもストレートの方が容認できる
統計データに基づいた見解と言ってもいいかと
素晴らしい未来になりそうです...
人工知能は人間を超えるか (角川EPUB選書) 発売日:2015-03-10 メーカー: 価格:491 カテゴリ:Digital Ebook Purchas セールスランク:1096 Amazon.co.jp で詳細を見る |
【2021年発売】マリオパーティ スーパースターズ -Switch 発売日:2021-10-29 メーカー:任天堂 価格:5673 カテゴリ:ビデオゲーム セールスランク:1 Amazon.co.jp で詳細を見る |