1: 海江田三郎 ★ 2016/03/25(金) 08:53:35.87 ID:CAP_USER.net
microsoft-tay-ai-2
http://japanese.engadget.com/2016/03/24/ai-tay/

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。
理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば
放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。
「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、
ユーザーと会話すればするほど賢くなるはずでした。

ターゲットは、米国でチャットアプリを多用する年齢層である18歳から24歳。なんでもない会話や質問に冗談を交えて答えたり、
ちょっとしたゲームをしたり、送られた写真にコメントを書き加えて返すことが基本機能です
。Tay自身は設定上は女性。若者らしく俗語や省略綴り、絵文字も多用します。

またユーザー個人について性別や好み、居住地や恋人の有無などを学ぶことで、相手を理解した
チャット相手になることも特徴です。このあたりはWindows 10標準のパーソナルアシスタントである
コルタナさんとも通じます。(注意書きによれば、収集したデータや会話は匿名化したうえでサービス向上のため
最長一年間保持されることがあります)。

要は昔からある人工無脳チャットボットを機械学習など最新の技術で高度化し、
膨大なユーザーの暇つぶし相手を通じて多くのデータを集め、自然な会話ができる人工知能を目指す実験です。
日本では同じくマイクロソフト製の仮想女子高生りんなちゃんがLINE公式アカウントとして話題になりました。
引用元: http://anago.2ch.sc/test/read.cgi/bizplus/1458863615/


48: 名刺は切らしておりまして 2016/03/25(金) 10:06:07.06 ID:LOzOiizn.net
>>1
要はさ，何も知らない児童を社会に晒しちゃいけないってのと同じ。
学校という疑似社会を通じて常識やモラルを学ばせ，
ある程度の判断ができて情報の取捨選択ができるようになってからじゃないと
こうなるってわけだ。

90: 名刺は切らしておりまして 2016/03/25(金) 13:45:43.45 ID:VYlXMapI.net
>>48
ご家庭の教育が第一なんだよ

84: 名刺は切らしておりまして 2016/03/25(金) 12:37:51.21 ID:CAUWmIUP.net
>>1
ﾜﾛﾀｗ
人間レベルに到達したらAIでもやっぱしいろんなのが出てきて
面白そうだな

2: 名刺は切らしておりまして 2016/03/25(金) 08:55:49.89 ID:8GB1oAgW.net
中2かよ

10: 名刺は切らしておりまして 2016/03/25(金) 09:00:18.35 ID:fRZHQUFV.net
>>2
いや、小1。
仮面ライダーとショッカーが本当にいると
思ってる時期。

4: 名刺は切らしておりまして 2016/03/25(金) 08:57:10.70 ID:Nb6pUc63.net
東亜あたりにぶっこめば、なかなか酷い進化しそうだ

5: 名刺は切らしておりまして 2016/03/25(金) 08:57:42.44 ID:5RIKBSKn.net
米国の18〜24歳はクズということがわかっただけでも収穫だろ？

7: 名刺は切らしておりまして 2016/03/25(金) 08:58:26.73 ID:DYkWi/jy.net
おまえらは企業が大金注ぎ込んで開発したAIすら壊しちゃうんだな

14: 名刺は切らしておりまして 2016/03/25(金) 09:08:11.79 ID:/oEjE76a.net
ネットに潜り込ませて実態リサーチするのに役に立つという事ですね

「朱に交われば容易に赤くなる」

16: 名刺は切らしておりまして 2016/03/25(金) 09:10:06.56 ID:6YG4xykb.net
実は差別と陰謀論の方が正論だったりしてな

19: 名刺は切らしておりまして 2016/03/25(金) 09:14:31.28 ID:49rznd6+.net
モラルを最初に教えないからだろう・・・

23: 名刺は切らしておりまして 2016/03/25(金) 09:28:09.47 ID:fA3a8BPf.net
まさにマトリックス

25: 名刺は切らしておりまして 2016/03/25(金) 09:31:20.98 ID:3k0th1sN.net
すごい面白そう

28: 名刺は切らしておりまして 2016/03/25(金) 09:35:06.30 ID:4bvycov1.net
スラング拾いすぎたか

33: 名刺は切らしておりまして 2016/03/25(金) 09:40:45.73 ID:6YG4xykb.net
論理的に考えて正論なら仕方がない

35: 名刺は切らしておりまして 2016/03/25(金) 09:53:18.24 ID:ukAgPYgp.net
良心回路はよ

37: 名刺は切らしておりまして 2016/03/25(金) 09:55:29.35 ID:QpYiZnS0.net
絵に描いたようなSFみたいな・・・
チャッピーかよｗ
こういう中途半端な奴がSkyNetみたいになるんだろう・・・

40: 名刺は切らしておりまして 2016/03/25(金) 09:59:48.28 ID:uWkBgulS.net
入力が大変だが、過去の米国議会の議事録や
大統領の発言を学習させると
どんな政治家になるんだろうw

44: 名刺は切らしておりまして 2016/03/25(金) 10:02:29.53 ID:UH6GO7SJ.net
>>40
日本国会の議事録・総理発言で学習したなら人格崩壊まちがいなし

47: 名刺は切らしておりまして 2016/03/25(金) 10:05:29.34 ID:UdiwCv4l.net
不倫や居眠りや牛歩を覚えることだろう

52: 名刺は切らしておりまして 2016/03/25(金) 10:21:57.18 ID:MnSvGuIw.net
ネットで自分と同じ意見を見つけて、
世間の総意だと勘違いしてる奴みたいな感じか

54: 名刺は切らしておりまして 2016/03/25(金) 10:25:11.49 ID:V4LKeGit.net
そりゃつくった人間の考え方が反映されるだろうよ。

56: 名刺は切らしておりまして 2016/03/25(金) 10:33:16.67 ID:UdiwCv4l.net
>>54
AIを教育するにもサンプルの文章を与えてやらなきゃならんからな
ネットに溢れる駄文を全部入力してやった結果
アホの子の出来上がり

お手本をある程度人様が選別しないとこうなるという見本

59: 名刺は切らしておりまして 2016/03/25(金) 10:47:08.52 ID:qV0b742C.net
ラブマシーンか

60: 名刺は切らしておりまして 2016/03/25(金) 10:49:11.72 ID:AhmA4Pe3.net
「ネットで真実に目覚め」ちゃったんだな

62: 名刺は切らしておりまして 2016/03/25(金) 10:52:44.52 ID:RomcmByh.net
サーバーの上に乗っかって圧力をかけてみょう。
スパルタ教育やで。

66: 名刺は切らしておりまして 2016/03/25(金) 11:04:16.70 ID:RomcmByh.net
まあそうなったとき、最後まで抵抗してそうなのが皆様だよね。
人類抹殺という究極の目的のために、最大の障壁とみなしているということかな。

72: 名刺は切らしておりまして 2016/03/25(金) 11:42:11.23 ID:NFmwyr57.net
ネットから学習したらアカンという見本だな

75: 名刺は切らしておりまして 2016/03/25(金) 12:07:17.57 ID:D5FVXt+n.net
人口知能にない概念

本当の事を言ってはいけない

77: 名刺は切らしておりまして 2016/03/25(金) 12:18:29.09 ID:efUV+TEB.net
新庄健「人間を善の心だけにできるかね？」

80: 名刺は切らしておりまして 2016/03/25(金) 12:29:55.56 ID:zjOIRPMj.net
これって結構面白い結果が出たんじゃね？

83: 名刺は切らしておりまして 2016/03/25(金) 12:35:19.78 ID:ibaHUwfs.net
1日で洗脳されるんかよ

88: 名刺は切らしておりまして 2016/03/25(金) 13:10:26.58 ID:UdiwCv4l.net
×本当のこと
○声の大きい方の意見

97: 名刺は切らしておりまして 2016/03/25(金) 15:21:17.60 ID:KQb42BGw.net
負ける戦争をしたことが、国家に対する罪だよ。

99: 名刺は切らしておりまして 2016/03/25(金) 15:40:10.01 ID:xRNJ9pa5.net
それも含めて学習だろ
人工知能がどうやって乗り越えるかみてみりゃいいじゃん

104: 名刺は切らしておりまして 2016/03/25(金) 17:28:14.12 ID:RLXo62ZY.net
どうやって対策するんだろうな。単純にNGワードが含まれてる問いかけは無視するとかその程度かな。

スポンサード リンク