AIは差別的。

suzukyさんがリツイート

日本でもかなり多くの研究者はこのAI（というかデータの偏り）による差別へ警鐘を鳴らしていると思いますよ。それこそ1人のサンプルで「日本の水準の低さ」って言われてしまうと悲しいです。 https://t.co/79cTdWtZwy

— Akiko Murakami/村上明子 (@akikom) 2019年11月28日

これは素人の俺でも読んだことあったな。

AI racismでググると山程でてくる。


Q. If machine learning is so smart, how come AI models are such racist, sexist homophobes? A. Humans really suckOur prejudices rub off on our computer pals, sadlyBy Katyanna Quach 5 Sep 2019

AIが学んでくるデータが偏見に満ちたものであるから、AIの判断も差別的になるし、

Why your AI might be racist and what to do about it

黒人ー貧困層ー低学歴→雇うな
白人ー富裕層ー高学歴→雇え

　相関関係があるものを積み重ねて、結果として、偏見に満ちた判断になってしまう場合もある。

　例えばの話、多発地域出身の応募者は駄目なやつばっかだったとする。その地域出身のノーベル賞受賞した黒人女性が応募したとしてもAIは彼女を雇わない。AIはノーベル賞の意味を学んでいないで、出身地域だけ注目するからだ、と。