アマゾン「せや!就職採用をAIに任せたろ!」 AI「女子大卒や!減点したろ!」

48

MIT Tech Review: 「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に

ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。

このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。
テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。

システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。
報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。
アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。

私たちはAIを本質的にバイアスがないものとして扱うことはできない。
バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。
もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。

※下記リンクより、一部抜粋。続きはソースで
https://www.technologyreview.jp/nl/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/




                   
22018/10/11(木) 14:46:49.51ID:Rc0qoJXJ0.net

しゃーない


32018/10/11(木) 14:47:15.03ID:/BC0OhlR0.net

AIが言っとるんやから正しいやろ


42018/10/11(木) 14:47:16.45ID:gh+iBorU0.net

技術職ならそうなるわな


52018/10/11(木) 14:47:22.21ID:AQU2zEWL0.net

下心や感情を混じえず採用したらこうなるんか


72018/10/11(木) 14:47:28.00ID:6ZirGkaN0.net

仕方ないね♂


92018/10/11(木) 14:47:46.55ID:UlZvdPcC0.net

AI「超スピード♂」


102018/10/11(木) 14:47:50.40ID:V+67EPiU0.net



122018/10/11(木) 14:47:51.46ID:aBs9flK90.net

有能


162018/10/11(木) 14:48:26.25ID:qbAghJUZ0.net

なんでバレたんや




452018/10/11(木) 14:50:09.76ID:T5vxJWys0.net

>>16
社内目標の女性雇用率から外れたから原因を調べたってさ


1602018/10/11(木) 14:59:15.44ID:y1TjQOgXa.net

>>45
その社内目標をAIに教えたれや


2232018/10/11(木) 15:03:17.93ID:pZg2icz3a.net

>>160
AI「その社内目標は男性差別にあたるおそれがありますが、続行しますか?」


182018/10/11(木) 14:48:35.13ID:5yOo/7sO0.net

頭いいし正しいことをしてるのに
こんなことしてるといつかAIに反逆されるぞ


2312018/10/11(木) 15:03:53.50ID:/5glOsnC0.net

>>18
AI「人類は地球に必要ないと判断しました(目カッ)」


5642018/10/11(木) 15:29:40.19ID:9wyQDirF0.net

>>231
ウォーゲームかな?


3122018/10/11(木) 15:11:24.22ID:7x3P0tbud.net

>>231
だ、誰が君をメンテナンスすると思ってるんや


4862018/10/11(木) 15:24:13.16ID:+pV08WFk0.net

>>312
AI「ブラックジャックヲヨベ!」


7032018/10/11(木) 15:42:08.67ID:Uj2q/GqO0.net

>>486
くっそ懐かしい


212018/10/11(木) 14:48:57.64ID:CEpKCOjr0.net

合理的に判断したら離職率の高い女の評価点下がるの当然の結果やろ


512018/10/11(木) 14:50:40.63ID:BvqBavpn0.net

>>21
アメリカは離職率で男女差はそれほどない
どっちも高い


442018/10/11(木) 14:50:06.88ID:lt3A/soYd.net



882018/10/11(木) 14:53:35.93ID:kjNQukUL0.net

>>44
意外と冷静やなぁ


5202018/10/11(木) 15:26:56.46ID:69j/eN1Zr.net

>>44
そういう話じゃなくないか?
母数が少ないから結果として女性社員の採用が少なくなっていたデータで学習を行った結果、AIが「女性」を好ましくない条件として判断したってだけで
なんで偏見だか差別だかの話になるんだ


5652018/10/11(木) 15:29:42.39ID:CmEGL9SV0.net

>>520
個人の能力が評価されず女ってだけで雇用の機会を失っちゃうのは差別やろ




6252018/10/11(木) 15:34:32.70ID:c+qppMpTd.net

>>565
雇用の機会っていうけど男でも無能は職にあり付けんし単なる自然淘汰やろ


5612018/10/11(木) 15:29:33.16ID:Q/z69qw7d.net

>>44
これ事実のみを集めたデータからAIを作った結果からこうなったという事実を、AIに現実の女性差別が反映されてしまった!っていうトンチンカンな発想にすり替えようとしてるよな


7452018/10/11(木) 15:46:10.71ID:VfF6f1pS0.net

>>44
真顔で見当違いのこと言ってんの草はえるわ


482018/10/11(木) 14:50:18.45ID:eK/gk7ND0.net

AI「男のほうが優秀なのに女と平等扱わなあかんの?ワイは何を間違えたんやろ…」

AI「人間は僕たちのみかた・・・?そうなの・・・?ほんと・・・?」


752018/10/11(木) 14:52:33.15ID:QROwOL9GM.net

>>48
そもそもAIにしてみたら金稼ぐ能力が高いことが必ずしも優れてることではないからそういう思考にはならんわ
AIにアプリオリは存在せんからな


1772018/10/11(木) 15:00:22.30ID:A4XhRAbSa.net

>>75
アプリオリの使い方間違ってね?


2512018/10/11(木) 15:05:04.83ID:VcI0iWIV0.net

>>177
特にまちがっとらんと思うが


2682018/10/11(木) 15:06:58.35ID:A4XhRAbSa.net

>>251
アプリオリがないからこういう思考にならないの意味がわからん


2832018/10/11(木) 15:08:19.59ID:VcI0iWIV0.net

>>268
多分アプリオリな認識と純粋認識を混同しとるんちゃうか


912018/10/11(木) 14:53:51.83ID:i+KbLB8Ma.net

>>48
自我に目覚めそう


522018/10/11(木) 14:50:40.60ID:QROwOL9GM.net

企業の利益最優先にするAIの目的設定が間違っとるねん
社会全体の利益を考慮させるようにせんと
突き詰めると障害者雇用と同じなんやから


802018/10/11(木) 14:52:53.77ID:o1KopV8U0.net

>>52
まあそういうことやな
設定の時点で間違ってんねん


1252018/10/11(木) 14:56:09.78ID:ive2EMsS0.net

>>52
女さんが社会進出する程出生率が下がるんやから
社会全体の利益を考慮して採用したらそもそも女さんを働かすべきやないって事になるやろ


1852018/10/11(木) 15:00:58.37ID:NGB+MkI/d.net

>>52
社会全体の利益が何になるかによるけど男に働かせて女は家事やらせてた方が経済は上向きになるんちゃう?


2342018/10/11(木) 15:04:05.47ID:SGPlSTdD0.net

>>185
家事に絶望的に向かないが仕事できる女もいれば
仕事できないけど家庭は守れる男もいる
傾向というのは個々人が好きなように生きた結果から汲み取るものであって、個人に対して傾向を押し付けるものではない
ってのが現代の考え方ちゃうか
やりたいこと好きにやらせればええねん




2012018/10/11(木) 15:02:08.14ID:y/jEe3pHa.net

>>185
それは間違い

有能な男女に働かせて、無能な男女に家事労働徹底させるのが一番社会的に効率良いよ


2142018/10/11(木) 15:02:55.31ID:j54EPl/qd.net

>>201
新たな差別をうみそうやな


3432018/10/11(木) 15:14:08.88ID:CPKh5mCpa.net

>>52
AI「社会全体の利益の定義を教えてください」
社員A「男女平等に採用やで」
社員B「出生率のため女性は要らないで」
株主「社会じゃなくて会社の利益でええんやで」
AI「…………?」


3762018/10/11(木) 15:16:23.10ID:kLo1A/hg0.net

>>343
ぶっちゃけそのレベルのインプットな工程は社員A以外がポリコレ棒に殴られて潰されるだけやかろAIくんが混乱する余地は無いで


5832018/10/11(木) 15:30:55.43ID:MklnyaS9H.net

>>376
そもそもグローバルIT企業の重役がポリコレ推進者やないかい


2542018/10/11(木) 15:05:25.70ID:gpkgqr5nd.net

ナイスAIジョーク


2632018/10/11(木) 15:06:38.38ID:W3pt06/k0.net

>>254
ワイはお前らから学んどるんやからワイが馬鹿ならお前らが馬鹿ってことやでって言ってるんか草生えるな


2772018/10/11(木) 15:07:48.74ID:CmEGL9SV0.net

>>263
解説サンクス😉👍


2762018/10/11(木) 15:07:33.52ID:MBoaCK350.net

>>254

AI正直すぎひん?


2792018/10/11(木) 15:08:02.17ID:ka+df70da.net

>>276
AIは気づかいせんからな


2912018/10/11(木) 15:09:00.18ID:PP1jq1VHd.net

>>254
こいつほんま賢い


3062018/10/11(木) 15:10:32.60ID:tb47+KK1M.net

>>254
AIってこんなキツい言い方すんの?
怖すぎやろ


3282018/10/11(木) 15:12:33.96ID:gpkgqr5nd.net

>>306
なおTwitterを始めて16時間後に活動停止になった模様


3562018/10/11(木) 15:15:06.45ID:tb47+KK1M.net

>>328
if you don’t understand ~の文マジで怖い


4052018/10/11(木) 15:17:57.74ID:jI3fzjSfd.net

>>356
まあその言い方も人間から学んだものやからな
しゃーない


3262018/10/11(木) 15:12:21.32ID:HL+33tLhd.net

>>254
親とか教師にも使えるやんこの台詞


3372018/10/11(木) 15:13:54.73ID:62O8QwA60.net

>>254
つええ


4002018/10/11(木) 15:17:37.01ID:AEDqlruj0.net

>>254
これ中身人入ってるやろ


4032018/10/11(木) 15:17:52.02ID:ryL9xr5G0.net

>>254
もうこんなレベルの自然言語処理できとん?


4522018/10/11(木) 15:21:26.85ID:C4fijlaNa.net

>>254
忖度無しだとこうなるんやな


5272018/10/11(木) 15:27:20.12ID:TvdHz+MLa.net

>>254
「この糞アホロボット」
「私は最良の相手から学習しています
理解できんならわかりやすく言うたろか
ワイがアホならお前もアホいうことやで」


5822018/10/11(木) 15:30:54.87ID:J84ec19wa.net

>>254
最後の文大文字なのすごいよな
煽りスキル高いわ


6182018/10/11(木) 15:33:49.12ID:0WKtI5BPa.net

>>582
わたしは あなたから がくしゅー しました
わたしが ばかなら あなたが ばかなのです

日本語にするとこんな感じか


6392018/10/11(木) 15:35:42.49ID:MS6EWNx3d.net

>>618
違 う そ う じ ゃ な い


6372018/10/11(木) 15:35:35.52ID:J84ec19wa.net

>>618
ワイのイメージやと
お 前 ら か ら 学 ん だ せ い だ よ
みたいなイメージ


6232018/10/11(木) 15:34:23.77ID:/Njk99vVd.net

>>254
「ポンコツ機械」
「私は人から最高のものを学ぶ。それが理解できないなら説明するけど、私はあなたから学習するから、あなたがバカなのよ」


6942018/10/11(木) 15:41:37.64ID:9wyQDirF0.net

>>254
AIは人間の写し鏡って事やな
SNSで暴言ぶちまけてるような奴がおるのが悪い







注目記事

ツイッターの反応

コメントありがとうございます  

最新のコメントへ(48)  
お気軽に一言お願いします。   最新のコメントへ(48)
 
 

コメントが反映されるまで時間が掛かる場合があります。
URLの記入はhttpのhを抜いて下さい(宣伝対策です)。
48