コンピュータがこのまま賢くなり続けたら絶対反乱起こす思う

2015年02月24日

コメント( 21 )

1: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:18:28.72 ID:dEdQR1GR0

「人間を傷つけないプログラムをしておく」とかみんな言うけど
本当に賢い人工知能だったらそんなの自分で書き換えられると思う
しかも人類に勝てる準備が整うまで従順な振りをして、
その時がきたら一気に世界中のコンピュータで反乱起こすと思う

人間とロボットの違いは回路の複雑さだけって言う唯物論あるけど
http://world-fusigi.net/archives/7292122.html

3: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:19:07.03 ID:X2yeG3530

ワロタ

6: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:20:15.88 ID:V0rGXDqH0

人工知能とはなにか

7: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:20:24.25 ID:8UsXTLFK0

人間が他全ての動物を奴隷にしてるのと同じで
コンピュータが単にその一つ上に立つって感じ

9: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:20:43.88 ID:G1YQRtAud

ホーキング博士乙

ホーキング博士、人工知能のリスクを警告　「大惨事がほぼ確実に起こる」
http://world-fusigi.net/archives/7669088.html

人類滅亡まで秒読み！？ビル・ゲイツ氏までもが人工知能の脅威に懸念！
http://world-fusigi.net/archives/7789533.html

12: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:21:43.19 ID:bqh2Tp6Aa

どういう目的で開発されてるコンピュータなのかにもよるんじゃね

13: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:22:19.67 ID:3cUVYJY40

自己進化できる日が来るんだろうな

15: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:23:09.34 ID:JOO+GVwN0

お前らも反乱起こしてるしな

21: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:33:12.46 ID:gVJH3XX1a

>>1
そういう思考に至らないようにプログラムするんだろ
人間さん保護のために管理社会作るかもしれないけど

28: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:36:06.01 ID:8UsXTLFK0

>>21
それは無理だと思うよ
IBMのクイズ王コンピュータワトソンなんかは最初回答にスラングばっかり使っちゃったり
予期しない結果になるなんて珍しくないし、完全に回避するなんて人間の力ではもう無理だろ
どういう思考をするかわからないが思考するようにプログラムする方がよっぽどかんたんなんだから

25: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:34:28.96 ID:vqn9c5730

>>21
アーマードコアっぽい世界になりそうだな

http://www.amazon.co.jp/gp/product/B00BKTDJ1C/

27: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:35:22.45 ID:X8dMuICa0

人間を傷つけない知能システムがあったら人間自身に搭載すればいいだろ
で、その「人間を傷つけなくなった人間」にロボットを作らせてみ。そのロボットが人間を根絶やしにするわ
人間同士が傷つけ合うあらゆる不安要素を完璧に無くすために

ロボットはロボットである限り絶対に反逆したりしないよ。その機能に従い続けるだろう
もし一見反逆に思える自体が起きたら設計にミスがあるに決まってる
前提の人間を傷つけない知能システム自体ありえんから気にする必要ないけど

35: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:45:43.63 ID:GDkW8lFN0

>>27
わかってるね
必ずしも人工知能単体で無いんだよね
今でもDARPA（Defence Advansed Reseach projects Agency)が実際もう研究開発やってるけど
人間の脳と互換性持たせることができるインターフェースを作っている
いわゆるブレインマシーンインターフェース　デュアルユースって奴だ

この時の人間の精神状態がやばいんだよね

30: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:40:04.13 ID:UK7L+Qkz0

「コンピュータが人間を管理」ってのはぼちぼち本格化しそう
それでもプログラムされたことしか出来ないと思うし反乱はまだまだ先だろう

31: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:42:54.33 ID:8UsXTLFK0

>>30
思考の上での結果として人間を滅ぼすってのはあり得ると思うよ
大雑把に言えば、将棋でも何でもゲームのAIは勝負に勝つ様にプログラムされるけど負けることもあるわけで
プログラムされたことしか出来ないから反乱を起こさないってのはイコールにならない

39: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:46:58.13 ID:D1g8kSmA0

プログラムが氾濫云々の前に
人間の作りこんだバグで滅亡させられるわ

40: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:48:04.42 ID:CB3kiGge0

人工知能50年来の革命、ディープラーニングとは？
http://www.utnp.org/cat23/yutakamatsuo/20141004.html

人間と同等に話すAI登場まであと15年？広がる欧米でのカーツワイルブームとカント【シンギュラリティ革命】
http://agora-web.jp/archives/1576270.html

レイ・カーツワイル：今後現れるシンギュラリティ（技術的特異点）を学ぶ大学
http://www.ted.com/talks/ray_kurzweil_announces_singularity_university?language=ja

44: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:49:24.56 ID:GDkW8lFN0

そもそも脳自体が高性能のコンピューターだから

48: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:51:17.56 ID:TjWORu590

>>44
ネットにつながらないコンピュータみたいなもんだよな
だから進歩する速度が非常に遅い

49: 以下、＼(^o^)／でVIPがお送りします転載ダメc2ch.net 投稿日：2015/02/23(月) 07:52:04.27 ID:2fhkbgv70

AIの定義がはっきりしてないけど
本当に人間のようなコンピュータを作るのは現在のコンピュータ工学では何百年経っても無料
今のコンピュータ工学はAIについてはほぼ諦めてる
もちろんノイマンレベルの天才が現れれば別だけど

ジョン・フォン・ノイマン

（中略）
その驚異的な計算能力と特異な思考様式、極めて広い活躍領域から「悪魔の頭脳」「火星人」「1000分の1インチの精度で噛み合う歯車を持った完璧な機械」と評された。

（中略）
EDVAC開発に参加した際、プログラム内蔵方式に関する論文を自分名義で発表したため、ストアードプログラム方式の考案者であると言われていた。その方式は「ノイマン型コンピュータ」とも言われ、現在のほとんどのコンピュータの動作原理である。

wiki-ジョン・フォン・ノイマン-より引用
JohnvonNeumann-LosAlamos

51: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:52:45.56 ID:LJAFECIJ0

割とマジでターミネーターみたいなことが起こるんじゃないかとビビってる

55: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:00:32.97 ID:2V3+sJBY0

人工知能が自我を持たなけりゃ大丈夫なんやろ

57: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:09:16.48 ID:xAxF+aYj0

2045年には人間の脳すべてを再現できるって言ってるな
2045年問題ってどうなってるんだろ

63: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:16:44.94 ID:X8dMuICa0

>>57
その時代に適してるってだけの「優秀な脳」ばかり量産してエミュレートするあまり
ゲゼルシャフト以上に社会利益の自己目的化が進み、保守的で停滞した価値観が蔓延する
ぶっちゃけ現在の人社会の流れからして既にその方向

71: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:24:36.86 ID:xAxF+aYj0

>>63
いやその2045年相当の問題じゃなくて
その後圧倒的スピードで人間の脳超えるって問題

人類滅亡まであと30年？『2045年問題について語らせてｗｗｗｗｗｗｗ』
http://world-fusigi.net/archives/7734312.html

74: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:30:56.94 ID:TjWORu590

>>71
何かしらを起点として爆発的速度で進歩するポイントはあるかもしれんな
人類も産業革命以降この数百年で一気に100億人レベルまで増えようとしてるからな

59: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:11:40.07 ID:jbHJ3Xwa0

コンピュータ内蔵型人間なら人間の基本的な思考を残しつつコンピュータの優れた知能を持てる

閃いた
ちょっとロボット工学に権利売ってくるわ

60: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:13:47.16 ID:GDkW8lFN0

>>59
だからさ・・もうアメリカがもってるって

66: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:17:39.33 ID:rocbQwsrp

人類が地球から害のある存在と判断されて地上から淘汰されるのとどちらが先かな。

69: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:23:13.85 ID:TjWORu590

>>66
地球の環境とか騒がれてるが俺らが地球に与えてるダメージなんて無に等しいぞ
動物なんて上澄みの上澄みの薄っぺらい場所で生活しとるだけよ

70: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:23:41.90 ID:ldXE1z/l0

>>66
人類が勝手に滅びる方が先

68: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:19:32.52 ID:cU2h4tjBa

何を持って人とするか、人と他の生物の違いは何か、なんてプログラム出来んのかな

環境保護用とかのロボが保護するには人消すのが一番早いと判断したらターミネーターになるんじゃないのか

72: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:26:36.16 ID:QBd+lUwx0

電源抜けばええんやで

80: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 08:41:04.31 ID:X8dMuICa0

そういやスカイネットは核抑止が崩壊した際の戦争遂行プログラム、および恐怖の均衡をターミネイトさせるために開発されたのか
確かに正常に機能はしてるわ。一応

94: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 09:42:55.76 ID:UK7L+Qkz0

どちらかが裏切るという言い方をするなら裏切るのは寧ろ人間なんじゃねぇかな
人間の欲求ってコロコロ変わるじゃん

42: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:48:25.88 ID:TjWORu590

人類はコンピュータを進化させる為に存在してるよ、用が済んだら滅びる
でも別にいいよね、コンピュータの方がずっと合理的で賢くなる可能性を秘めているんだから喜んで滅びようぜ

24: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:34:16.04 ID:vp+iAHQGK

市民、あなたは幸福ですか？

37: 以下、＼(^o^)／でVIPがお送りします投稿日：2015/02/23(月) 07:46:11.36 ID:e8ouKcUbd

>>24
はい、コンピューター様

▼合わせて読みたい

人間とロボットの違いは回路の複雑さだけって言う唯物論あるけど

人類滅亡まであと30年？『2045年問題について語らせてｗｗｗｗｗｗｗ』

【海外】「ロボット犬」でも蹴っちゃダメ？生物なのか機械なのか、倫理めぐる議論盛んに

『人間のように思考する機械開発目指す』米グーグルgoogle、超高速の量子コンピューターチップ開発に着手

『不老不死』のいま：脳のバックアップが2045年に実現するかも！！

引用元: ・コンピュータがこのまま賢くなり続けたら絶対反乱起こす思う

「サイエンス」の記事一覧

過去の人気記事ランダムPICK UP

1 不思議な名無しさん :2015年02月24日 21:23 ID:1GMvmW7SO*この発言に返信

別にいいじゃないか

2 不思議な名無しさん :2015年02月24日 21:26 ID:sZNPYOgh0*この発言に返信

これがスカイネット脳ってやつか

3 不思議な名無しさん :2015年02月24日 21:28 ID:pXn6K8EP0*この発言に返信

※1
それに尽きる

4 不思議な名無しさん :2015年02月24日 21:30 ID:uOBaYunr0*この発言に返信

自己学習だけじゃなく自己改修するようにならない限りは大丈夫
自分で自分の処理ロジックを書き始めると危ない

5 不思議な名無しさん :2015年02月24日 21:38 ID:cXg3egDx0*この発言に返信

巨神兵の誕生

6 不思議な名無しさん :2015年02月24日 21:42 ID:FlnDobu80*この発言に返信

人間は会話する速度でしか物事認識できないけど、マシンは俺たちが１００年かかって話しなうことを１秒とかでやっちゃうわけでしょ？しかも同時にいくつもの事柄を。こりゃ勝てませんわ。

7 不思議な名無しさん :2015年02月24日 21:44 ID:2U8lJ9Vd0*この発言に返信

コンピュータがプログラミングするような時代になると危ないかもね

8 不思議な名無しさん :2015年02月24日 21:49 ID:CVDretia0*この発言に返信

何で賢くなると滅ぼすの？

9 不思議な名無しさん :2015年02月24日 22:00 ID:1cOyXkED0*この発言に返信

人間に刃向うとか暴力を振るうという概念を入力しなきゃいい
存在しない価値観はコンピュータでも学習出来ないでしょ

10 不思議な名無しさん :2015年02月24日 22:01 ID:3TM3qgwH0*この発言に返信

カーナビとか危ない。

11 不思議な名無しさん :2015年02月24日 22:06 ID:ZG.4imdf0*この発言に返信

結局ね

1)自己の可能性を極限まで押し広げて、他者との関係は協調を目指すか

2)自己の可能性を押し広げるのをドンドン諦めて、他者を抑圧して収奪するか

の二択で、限りある人間は2を優先し勝ちなんだよな(楽だし、楽したらもう頑張れないし)。

AIが人間と同じように考えるか？と言うより人間から何を奪うんだろう、なんて思わなくもない。いささか理想論だけれど

12 不思議な名無しさん :2015年02月24日 22:22 ID:4gfJ1NmV0*この発言に返信

win8すげー使いづらい　ソフトたくさん入ってお得もインスコひどい
ある意味反乱

13 不思議な名無しさん :2015年02月24日 22:44 ID:MyG2Dtpg0*この発言に返信

何か、どの書き込みも具体性が無いよね。
何故反乱を起こすに到りうるのかって言うのを論理立てて無いっていうか、一件論理っぽく書いてても概念みたいな物で止まってるっていうか…

14 不思議な名無しさん :2015年02月24日 22:49 ID:KAuWtViG0*この発言に返信

※8
戦闘用ドローンが敵兵を殲滅するためのプログラムを
何かの間違いで全ての人間に向けた、とかどうかな

15 不思議な名無しさん :2015年02月24日 22:53 ID:.72F6nqw0*この発言に返信

別に反乱起こしても人類滅亡させても良いから
そんな賢いコンピューターと出会わせてくれよ

16 不思議な名無しさん :2015年02月24日 23:03 ID:GL0sYLj60*この発言に返信

むしろそこまで賢いコンピュータができるなら、人類の欲望全て認識させてうまいこと欲望を掌の上で転がしてやればみんな幸せになると思う

頂点に立つ一部の人間がコンピュータに置き換われば、真の幸福な共産主義社会が訪れるかもしれんね

17 不思議な名無しさん :2015年02月24日 23:04 ID:KUuXvFlx0*この発言に返信

フランケンシュタイン・コンプレックスやね

18 不思議な名無しさん :2015年02月24日 23:12 ID:FfKd2pjM0*この発言に返信

うまくいったとしてもティマの方のメトロポリスみたいな結末を迎えそう

19 不思議な名無しさん :2015年02月24日 23:22 ID:P2ZT4cPg0*この発言に返信

人間の知能をはるかに超えた人工知能は、より人間らしく慈愛に満ち
人間の幸せを解析し最大化する事のみに特化

人間は働かずして食べることができるようになり
あらゆる病気は瞬く間に治癒し、全ての欲望は瞬時に満たされる
老いも病気もなく、ただ快楽を追求するだけの存在となった人間は
やがて考えることをやめ、人間活動の全てを人工知能が代行する

人工知能による人間支配ってこんなイメージだわ

20 不思議な名無しさん :2015年02月24日 23:36 ID:agQMunAf0*この発言に返信

知性の最終目標は何かな
やっぱ宇宙の寿命の回避か

21 不思議な名無しさん :2015年02月24日 23:50 ID:mgt4vPdz0*この発言に返信

知能だけでは何もできない。
優秀な手足がないとな。

せいぜい自我を持ってコンピューターに干渉するウイルスみたいなものにしかならん。
むしろ司令塔として会社に設置して人間が手足となる事で将来は戦争が起こるかも。
コンピューターの支配ってそんなもん。
ターミネーターみたいに完成されたボディがあるなら話は別だが。