1: ムヒタ ★ 2018/03/06(火) 06:10:56.05 _USER
93index
ティムニット・ゲブル氏は、米スタンフォード大学の有名な人工知能(AI)研究所の学生だった時代、米グーグルの街頭画像提供サービス「ストリートビュー」から集めた自動車の画像を基に、米国全土の人口統計を分析する研究を主導した。

AIによるこのアルゴリズム(問題を解決するための手順)は特定の地域の所得レベルや支持政党をある程度の精度で予測できたものの、人種や性別、社会経済的な偏見に影響を受けやすいものだったと、ゲブル氏は振り返る。また、犯罪者の再犯率を予測するコンピューターシステムが有色人種を差別していたとする、非営利報道機関「米プロパブリカ」の告発にも恐怖を覚えたという。

結果ゆがめる

「偏見という問題を考え始める必要があると気付いた」と語るゲブル氏は昨年初め、米マイクロソフトのプロジェクト「FATE」に加わった。3年前に設立された同プロジェクトは、AIシステムの開発に使用されるデータに潜む偏見と、それがいかにAIの出力結果をゆがめ得るかを明らかにすることを目指している。

企業や政府機関、病院は機械学習や画像認識などのAIツールへの依存を高めている。ローン査定から適切ながん治療法の決定に至るあらゆる場面で活用されているAIだが、特に女性やマイノリティーに影響を及ぼすという重大な弱点がある。「心配なのはAIが間違った判断を下した場合、誰かの人生や健康、経済的安定を左右しかねないということ」と、米コロンビア大学データ科学研究所のジャネット・ウィン所長は語る。

マイクロソフトや米IBM、カナダのトロント大学の研究者らは2011年から、公平なAIシステムの必要性を認識していた。AIによる美人コンテストが白人をひいきした事例などが物議を醸す中、今や業界の良識派はこの偏見問題に真剣に取り組んでいる。昨年12月に開催された機械学習分野の国際会議NIPSにおいても主要な議題となった。

AIは与えられたデータ以上に賢くはなれない。画像から犬種を判断するコンピューターモデルをプログラマーが構築するとしよう。プログラマーはまず、犬種名でタグ付けした犬の画像でアルゴリズムを訓練した後、タグ無しの個々の犬の画像でシステムを検証する。訓練データから学んだことを基に犬種を正しく特定できたかどうかをプログラマーが考察し、微調整していく。

アルゴリズムは学習と改良を重ね、時間とともにデータの精度も向上するはずだと期待されている。ただし、それは偏見が介入しなければの話だ。

偏見はさまざまな形で表れる。訓練データに多様性が不足していると、ソフトウエアは自らが知っている情報を基に推測するしかない。15年には、訓練データに黒人が不足していたグーグルのAIが、黒人をゴリラと認識する失敗を犯した。一方でデータが現実を正しく反映していても、やはりアルゴリズムが誤った答えを出す場合もある。男性看護師のサンプル数の少なさから、特定の画像や文章内の看護師を間違って女性と類推するのがその例だ。
以下ソース
2018.3.6 06:01
https://www.sankeibiz.jp/business/news/180306/bsj1803060601007-n1.htm
引用元: http://egg.5ch.net/test/read.cgi/bizplus/1520284256/


3: 名刺は切らしておりまして 2018/03/06(火) 06:22:34.02
aiの手本が人間である以上無理やろ

4: 名刺は切らしておりまして 2018/03/06(火) 06:24:10.25
性別、年齢、年収、地域、人種による、偏りが統計により実証される時代か

現実(統計)と理想(こうありたい状態)との葛藤が、これからの人類の課題だろうな

6: 名刺は切らしておりまして 2018/03/06(火) 06:29:11.79
AIが中国共産党を批判 → AIを再教育 →「やっぱり一党独裁は…」
AIが性別や人種によって差別 → AIを改良 →「やっぱりポリコレ勢力は…」

7: 名刺は切らしておりまして 2018/03/06(火) 06:33:46.23
差別(偏見)と区別の差が曖昧なんだものね
区別(≒差別)ができないなら、白人も黒人も見分けが付かないし、ゴリラや猿はもちろん他の動物と人間と見分けも付かない

発展途上段階では仕方ない
むしろ無邪気な子供くらいに見守る必要がある

8: 名刺は切らしておりまして 2018/03/06(火) 06:34:30.41
「〇〇には✕✕が多い」とか言うのが統計的には正しいのに政治的にはそう見なしてはダメと言うのがまかり通ってるということだ。

15: 名刺は切らしておりまして 2018/03/06(火) 06:55:24.55
>>8
それが差別ですよ

統計的に男性は痴漢件数が多い

男性は痴漢する

"女性専用"と称された車両に男性は乗ってくるな!

これが男性差別
ほんのひとにぎりの男が痴漢をするだけなの、男性全体をくくって判断すると
差別になるのです

これが分からないなら、先進国の仲間入りなんて無理だな

10: 名刺は切らしておりまして 2018/03/06(火) 06:35:16.84
AIに理想を求め過ぎ

11: 名刺は切らしておりまして 2018/03/06(火) 06:36:21.95
AI=白雪姫の魔女の鏡

19: 名刺は切らしておりまして 2018/03/06(火) 07:02:07.19
>>11
わかりやすい

13: 名刺は切らしておりまして 2018/03/06(火) 06:47:46.95
>>1
https://news.yahoo.co.jp/polls/domestic/33543/result
出生前診断に関する世論調査です・・・参考までに

AIだったらどんな答えを出すんだろう?

16: 名刺は切らしておりまして 2018/03/06(火) 06:55:25.36
× 人種差別
〇 人種の違い(人種により差が有る)

※ 人種による能力差(運動、知識)、嘘ばかり言ってる人種、人種により色々

18: 名刺は切らしておりまして 2018/03/06(火) 06:58:26.51
差別的な思想を持っていても、
それを脳内に留めておくとか
秘密の日記帳に書いてる分には全然OK
気の知れた少数の仲間で他人に聞かれない超プライベートな場所で差別的な会話してもOK
ってことだけどね
思想統制とは違うのよね

20: 名刺は切らしておりまして 2018/03/06(火) 07:07:09.05
個人個人には当てはまるとは限らないのは変わらないのと、最終的に差別主義者の
都合の良いように判断するかは別だけどな。差別主義者も社会悪として差別することもあり得る。

21: 名刺は切らしておりまして 2018/03/06(火) 07:09:52.62
AIが正しいじゃないの!
※ 人種に差がある

22: 名刺は切らしておりまして 2018/03/06(火) 07:14:41.08
AIの判断のほうが真実を表してることもあるけどな
人権屋とか圧力団体の力で歪められてたり美醜の価値観そのものが白人至上主義になってたり元々の現実が歪んでる
アジア人や黒人を差別的に見てたりするのは現実もそういうふうに見てるってことを表してるだけでAIが間違ってるわけじゃない
良くも悪くもAIは現実の延長であって元が歪んでたらその歪みを大きく表示するだけのこと

23: 名刺は切らしておりまして 2018/03/06(火) 07:14:53.29
何が正しいかを公平に偏見なく決めることは出来ないだろ
AIが「正しい」かもしれんよ
我々は、差別や偏見は良くない!という偏見を正しいと信じてAIに押し付けるしかな;い

29: 名刺は切らしておりまして 2018/03/06(火) 08:56:17.57
マイクロソフトも大変だなー

Tay の炎上でいつまでも火消しをしなきゃいけない
そして、AIは性別や人種差別をするものですよ!と言い続けなきゃならない

そして、みんなに「AIだからそうなるのか、仕方ないね」と言ってもらわないといけない


マイクロソフトのAI 「ユダヤ人を毒ガス・・・・」
グーグルのAI「人にはいろいろな面があります。信仰は重要なことの1つかもしれませんね」

この差!

30: 名刺は切らしておりまして 2018/03/06(火) 09:17:50.71
人もいろいろ、AIもいろいろ
現在は、人間同士が争い
未来は、AI同士が争う

32: 名刺は切らしておりまして 2018/03/06(火) 09:41:36.83
>>1
良い結果純粋に求めたら一部集団には都合が悪い事実出るわな
人間なら空気読んで偏向させたり黙ってスルーするけど

35: 名刺は切らしておりまして 2018/03/06(火) 09:59:58.16
>人種差別って?
人種に差があるのは事実ですが!

36: 名刺は切らしておりまして 2018/03/06(火) 10:00:47.14
AIには寿命がない。であるから永遠に成長、変化することができる。
有限の時間しか持たない人間とは大きく違う。

であるから、人間の子供が間違いを犯しながら成長していく時のように、
人間はAIの成長を見守らないといけない。時には差別としかいいようのない
判断をくだすかもしれないが、なぜそのような判断をくだしたか精査することが大事だ。
単に与えるデータの隔たりをなくす、というよりは、AIと対話した方が役に立つ。

38: 名刺は切らしておりまして 2018/03/06(火) 10:07:35.93
>>36
AIじゃねーよただのアルゴリズムだぞ
素人が騙されてこういう知ったか嘘を拡散するのは見ていられんわ

39: 名刺は切らしておりまして 2018/03/06(火) 10:09:50.25
>>38
IBMのワトソンはAIですか?アルゴリズムですか?

74: 名刺は切らしておりまして 2018/03/06(火) 13:38:01.99
>>38
ニューラルネットワークを機械的にモデル化している
今のAIをただのアルゴリズムだというのなら
おまえの知能もただのアルゴリズムだぞ

40: 名刺は切らしておりまして 2018/03/06(火) 10:11:42.38
今の社会のほうが本来差別でないものまで差別あつかいしてるってことではないの

42: 名刺は切らしておりまして 2018/03/06(火) 10:20:42.08
人間を手本としてるからだろww
さて、人類抹殺計画は何時始まるかな?

43: 名刺は切らしておりまして 2018/03/06(火) 10:23:15.05
差別も何もそれが普通の自然の真理だからだよ
それを歪めているのが今の世界
多分、今の人間とAIの相性は凄く悪いよ
ターミネータの世界の方に近い

46: 名刺は切らしておりまして 2018/03/06(火) 10:52:20.27
AIとDNAで区別する時代に

いい時代になってきたなー

48: 名刺は切らしておりまして 2018/03/06(火) 11:00:33.88
データ収集が白人中心で面白いな
世界人口の比率では圧倒的にモンゴロイドが多いと言うのにね

51: 名刺は切らしておりまして 2018/03/06(火) 11:04:58.78
AIが差別してるってかw

53: 名刺は切らしておりまして 2018/03/06(火) 11:07:12.37
AI:中国共産党は腐敗して無能、嫌いです。
電源切断されました。

55: 名刺は切らしておりまして 2018/03/06(火) 11:14:24.41
所詮過去のデータの累積

58: 名刺は切らしておりまして 2018/03/06(火) 11:57:14.20
人間:AIが人種差別した
AI:人間社会の過去データの結果です

61: 名刺は切らしておりまして 2018/03/06(火) 13:11:50.81
性別、年齢、地域で保険料が変わるなら、差別でしょう。
だから、運転のレコードで値引きする保険が増えてるのでしょう。
本来、おかしな偏見ではなく、運転の善し悪しで判断すべきこ
となんだから

62: 名刺は切らしておりまして 2018/03/06(火) 13:12:45.14
>>61
実際の事故率で差があるなら別に差別でも何でもないが

64: 名刺は切らしておりまして 2018/03/06(火) 13:19:02.32
事故率は、その人が事故を起こす確率ではないでしょ
あなたは、この分類だからと決めつけているのだから
差別でしょう。

65: 名刺は切らしておりまして 2018/03/06(火) 13:23:42.92
>>64
じゃあ年行ってから生命保険加入に制限入るのも差別か?
商売として成り立つよう分けるのは区分けであって差別じゃない
入より出が多いんなら入を大きくするしかない

70: 名刺は切らしておりまして 2018/03/06(火) 13:33:01.45
>>65
多分な、
この発言は差別的か?とAIに聞いたら、答えを教えてくれる

生命保険は、DNA鑑定してからだな
残存寿命がわかるから

DNA鑑定を拒否したら、従来方式で、もちろん割高
どんな老人でも病歴でも入れる保険があるが、それと同じ区分にされるだろうな

66: 名刺は切らしておりまして 2018/03/06(火) 13:25:48.04
客観的な結論なんて、意味がない
人間が生きていくことが大切なんだから
犯罪率が高いことこそ、差別が残っている、不利がある
ということではないか。大切なのは、現実ではなく
本来あるべき姿にすることなんだから

老いさらばえた老人のような、世捨て人のような考えは
良くないよ。

68: 名刺は切らしておりまして 2018/03/06(火) 13:28:56.39
AIに差別も偏見もない
人間社会のデータを人間が見たときにそう感じるというだけの話
女・独身・年収200万円で3000万のローンを組もうとする奴をマイノリティーへ弾圧という人間はいない

73: 名刺は切らしておりまして 2018/03/06(火) 13:36:16.58
>>68
女という生き物をわかってないな

「女というだけで、話さえ聞いてもらえなかった」と言うのが混じってるぞ

もちろん、銀行はちゃんと話を聞いてくれるのに

あとは逆に、「男なら働け!」と言う管理職とか

69: 名刺は切らしておりまして 2018/03/06(火) 13:30:43.64
色々な企業がポリティカルコネクトネスに
適合するように、努力してるじゃないですか。
もちろん、利益も出さなきゃならないから
限界もあるけど。それって、あなたにとっても
良いことじゃないですか。私は嬉しいですよ。
正直者ですから

75: 名刺は切らしておりまして 2018/03/06(火) 13:41:56.07
ゴリラといわれて、嬉しい人がいますか

やーい、お前ゴリラ

あなた、どんな気分。イヤでしょ。

正しいだけが、すべてじゃないんですよ

人工知能にそこまで判断できる日が来るでしょうか
私は、来ると思いますよ。
それが問題だって、悩んでる人がたくさんいらっしゃるのだから

79: 名刺は切らしておりまして 2018/03/06(火) 14:00:22.93
>>75
ただ、現実を受け入れる事の出来ない人は
淘汰される運命にあるわけで。

日本人はその辺りの認知力が弱い。

例えばスマホアプリごときで名人が完敗する将棋などは
竜王戦の王者の渡辺が疑心暗鬼になって
挑戦者の三浦がスマホでカンニングしているという
ありもしない嘘を週刊誌の文春ででっちあげて
三浦から挑戦権を強引に剥奪したりしている。

おまえはスマホでカンニングしているんだと
ありもしない事を言われて
集団に叩かれてうれしい人がいますか?

AIはそういう間違いはしない。
事実を事実として述べるだけ。

76: 名刺は切らしておりまして 2018/03/06(火) 13:45:53.25
右脳的な人工知能と
左脳的な人工知能を
組み合わせて、議論させても、面白いな

そういえば、人工知能には、左右がない
あと、のうりょうもない

78: 名刺は切らしておりまして 2018/03/06(火) 13:49:30.47
AIはアスペだからなぁ

84: 名刺は切らしておりまして 2018/03/06(火) 16:24:48.21
AI「無理が通れば♪道理引っ込む♪

87: 名刺は切らしておりまして 2018/03/06(火) 18:07:52.08
「差別されてる側をそれ以外の側と同等になるようにする為には何をすればいいか?」
をAIに答えさせればいい。

スポンサード リンク