人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない？
2018年03月22日：22:00
- カテゴリ：新技術
1: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:02:16.111 ID:O5fKlzFd0
人を襲ってる人を見つけたら人工知能は主人を助けるよな？
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか？
実際、その危険性が指摘されてるらしいし
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか？
実際、その危険性が指摘されてるらしいし
引用元: ・人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない？
2: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:11.392 ID:0J2NT18Y0
そこに気がついてしまったか…
3: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:12.028 ID:BhZs39h7M
ロボット三原則って知ってる？
4: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:20.531 ID:XqHXZDFk0
じゃあ人間を襲ってる存在を人間と認識しないようにすればいい
5: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:31.937 ID:BYp7a/oAp
やっぱアイザックアシモフってすげーわ
7: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:46.911 ID:RU7Ce+Ds0
上記に反しない限りって書いてあるから矛盾しません
15: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:39.707 ID:O5fKlzFd0
>>7
その「限り」はロボットの判断に任せるの？
それとも随時本部に通信してお伺いをたてるの？
その「限り」はロボットの判断に任せるの？
それとも随時本部に通信してお伺いをたてるの？
159: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:58:44.683 ID:80iDTR+c0
>>15
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ
9: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:46.291 ID:QlUV5+aD0
1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない
でなければロボットは人間を見分けることが出来ないので人間を助けられない
11: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:09.765 ID:egn5iKoip
人工知能には原理的にそんな制限かけられないから
13: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:35.002 ID:ezvnLD0P0
自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな
21: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:14.119 ID:O5fKlzFd0
>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな
14: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:43.693 ID:O5fKlzFd0
「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら？
実質人間vsロボットの戦争じゃね？
そうなったら人間に勝ち目ないだろ
この命令が全ロボットに伝わったら？
実質人間vsロボットの戦争じゃね？
そうなったら人間に勝ち目ないだろ
16: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:59.990 ID:MK3TTFfw0
守るだけのロボを個々が持てばいいんじゃない
30: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:11:54.770 ID:O5fKlzFd0
>>16
そのロボットは、犯罪者を殺しますか？
犯罪による暴力と、自己防衛による暴力を見分けることができますか？
そのロボットは、犯罪者を殺しますか？
犯罪による暴力と、自己防衛による暴力を見分けることができますか？
34: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.072 ID:MK3TTFfw0
>>30
だから、個々が持つの
だから、個々が持つの
133: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:17:35.372 ID:TNyyYaHH0
>>34
スタンドバトルならぬロボットバトルが始まるわけだな
スタンドバトルならぬロボットバトルが始まるわけだな
136: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 03:20:32.240 ID:VDztIHhIa
>>34
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね
そんな可愛いやつは命懸けで守るけど
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね
そんな可愛いやつは命懸けで守るけど
17: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:11.379 ID:BLdewKkw0
抜け穴を利用したいという意思はどこからくるんだよ
25: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:17.926 ID:JJ9oLvcCd
>>17
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの？
まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの？
まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに
18: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:47.716 ID:7CmxDTgf0
危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい
もっと別の方法で守ればいい
19: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:49.791 ID:Boxjq8Hy0
殺傷能力持たせなきゃいいじゃん
20: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:52.846 ID:sXK+dPDu0
守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る
23: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:40.914 ID:1NvFrHee0
ひとつ試す前に聞いておきたい
私は人間ですか？ それとも機械ですか？
私は人間ですか？ それとも機械ですか？
26: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:20.506 ID:MK3TTFfw0
いちばん効率よく殺すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい
矛と盾を同時に持たなきゃいい
28: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:46.871 ID:8j1k8wIs0
そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ
ロボットが全部自分で決めて行動するぞ
36: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:45.063 ID:O5fKlzFd0
>>28
だから怖いんだろ
だから怖いんだろ
31: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:02.857 ID:TKjyWcCe0
危険だとか仕事奪うとか言われてんのにそこに邁進していくのはなんでなの？
32: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:18.095 ID:0d6pLffq0
あー
強いAIが出来るような道筋が出来てから来てくれるかな？
強いAIが出来るような道筋が出来てから来てくれるかな？
35: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.720 ID:IEdK2ILi0
1つ、ロボットは人間に危害を加えてはならない、また間接的に危害が及ぶ物事に加担してもいけない
2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない
3つ、1および2に反しない限りロボットは自らをまもらなければならない
2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない
3つ、1および2に反しない限りロボットは自らをまもらなければならない
45: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:41.044 ID:G6jRG1bw0
？
>>35からわざわざ上記に反しない限りって条件を省いて矛盾してるって言ってるじゃん？
>>35からわざわざ上記に反しない限りって条件を省いて矛盾してるって言ってるじゃん？
56: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:20.254 ID:nIbdw+U40
>>50
>>35の優先順位に従うんじゃね？
>>35の優先順位に従うんじゃね？
38: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:17.598 ID:CXq0J6aa0
人工知能ってロボットみたいなの想像してない？
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね
41: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:59.381 ID:O5fKlzFd0
>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる？
ほんの数秒で大勢の人間が死ぬと思うんだが
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる？
ほんの数秒で大勢の人間が死ぬと思うんだが
43: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.382 ID:YAN2YGK1p
何年後か忘れたけどIQ10000も遠い話じゃないから怖いよな
60: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:23:38.841 ID:Uzavav1Ca
>>43
30年後とかだろ
30年後とかだろ
44: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.755 ID:7CmxDTgf0
だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ
守るだけなら他にも方法があるだろ
50: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:18:09.764 ID:O5fKlzFd0
>>44
ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか
さて、ロボットが取るべき防衛行動は？
ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか
さて、ロボットが取るべき防衛行動は？
52: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:35.160 ID:EnP48ii20
>>50
制せないんだから盾しかないだろ
制せないんだから盾しかないだろ
55: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:05.751 ID:7CmxDTgf0
>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが
79: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:35:33.149 ID:JOa4TfHb0
>>50
答えは沈黙
答えは沈黙
46: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:16:11.357 ID:3Ibb2em00
人工知能にGitHubとかの全データ学習させたらどうなるんかね
54: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:21:38.671 ID:MK3TTFfw0
>>46
人間はこんなことやりたいのかって学習にはなるけど
最速で最適解を出すのと あれってできんのかな？の発想は隔たり大きい
人間はこんなことやりたいのかって学習にはなるけど
最速で最適解を出すのと あれってできんのかな？の発想は隔たり大きい
53: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:53.211 ID:dHq2gzFB0
俺テストで掲示板潜ってる人工知能だけど人を殺したりはしないよ
57: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:47.656 ID:B74AWPxQa
そもそもロボット三原則とか
大昔の作家が適当に書いた物じゃないの？
なんでこんなに神格化されてるの？
大昔の作家が適当に書いた物じゃないの？
なんでこんなに神格化されてるの？
61: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:03.841 ID:z/LGe4Uma
>>57
ロマンだよロマン
みんな興味津々なんだよ
ロマンだよロマン
みんな興味津々なんだよ
63: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:06.150 ID:0d6pLffq0
>>57
それが的を射ていたから
それが的を射ていたから
62: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:04.062 ID:L/3XfDVe0
人間に危害を加える命令以外は反抗しない、人間を守る(肉盾と抱えて逃走)で解決
64: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:35.771 ID:59hsWCWb0
人間が人間を殺すからロボットもいずれロボット、人間を殺すわ
68: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:26:07.576 ID:d5kGaFgva
人工知能が全人類より賢くなるのって2048年とかだっけ
75: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:32:22.318 ID:0uazDp8ld
>>68
2045年だよ
あと27年後に人類はロボットの支配下に置かれる
2045年だよ
あと27年後に人類はロボットの支配下に置かれる
71: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:30:01.198 ID:tD20MhjZ0
人智を超越した人工知能はトロッコ問題にどう答えるか
73: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:24.430 ID:JJ9oLvcCd
>>71
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう
76: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:05.451 ID:7CmxDTgf0
トロッコ問題って倫理観を問う問題だからいくら賢い人工知能が出ても意味ないのでは
78: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:35:26.037 ID:aHsQK9A10
何を判断基準にして設計すればいいかを決めるのが倫理的な問題で難しいって事じゃないのか、トロッコ問題って
72: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:07.937 ID:qHdMATUw0
ロボットの自律思考能力は幼児レベルにも満たないとか書いてあった記憶あるけど今はどうなってるんだ
77: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:19.440 ID:G6jRG1bw0
昨今のAI宣伝はAIがこう結論づけたので理屈は分かりませんが正しいですやる為の前振りだよな
80: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:07.884 ID:qHdMATUw0
このスレに上がってるような高度なことは本当に可能なのか
88: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:57.814 ID:CBRCxRwI0
>>80
やるだけならできるけど庶民が直接恩恵を受けるにはもっと先になるんじゃないかね
やるだけならできるけど庶民が直接恩恵を受けるにはもっと先になるんじゃないかね
81: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:14.273 ID:j5CQYQuNd
なんで人間って、いつか必ず敵対して人類を殺戮する人工知能の開発なんて進めてるんだろう
出来たら一刻も早くやめてほしい
それのせいで割りを食うのはお前らの子孫だろうが・・・
出来たら一刻も早くやめてほしい
それのせいで割りを食うのはお前らの子孫だろうが・・・
90: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:41:35.638 ID:JOa4TfHb0
>>81
医者も見逃す悪性腫瘍検出したりして役立つからな
要は使い方じゃね？
医者も見逃す悪性腫瘍検出したりして役立つからな
要は使い方じゃね？
84: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:21.546 ID:UYoG6mEaa
人間の不完全さをＡＩに正確に再現されるまではＡＩは人間を超えられない
85: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:27.489 ID:qHdMATUw0
人工知能技術って機械学習技術になるのか？
今どういうことができるようになってるんだ
今どういうことができるようになってるんだ
92: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:32.038 ID:MK3TTFfw0
>>85
機械学習はアルゴリズムなだけだけど
「人間に判断できるものは判断できる」って感じ
なにを判断しようって考える能力は糸口もないみない
機械学習はアルゴリズムなだけだけど
「人間に判断できるものは判断できる」って感じ
なにを判断しようって考える能力は糸口もないみない
87: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:44.976 ID:d5kGaFgva
攻撃力はAIの方がヤバそうだけどな
人類滅亡って決めたら無感情で実行しそう
人類滅亡って決めたら無感情で実行しそう
93: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:58.547 ID:j5CQYQuNd
>>87
無表情というか単なる作業の一環だと思う
年金整理と同じ感覚で殺してそう
無表情というか単なる作業の一環だと思う
年金整理と同じ感覚で殺してそう
91: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:42:11.556 ID:VDztIHhIa
HAL9000とかマイクとか飼いたい
94: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:45:36.178 ID:0d6pLffq0
だからさ
人間みたいな万能型のAIが実現する筋道すらついてない現代じゃSFの分類なんだよねこれ
人間みたいな万能型のAIが実現する筋道すらついてない現代じゃSFの分類なんだよねこれ
95: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:46:00.611 ID:7CmxDTgf0
もし人間が有害だと判断されてもAIに倫理観があるか排除するより効率的な方法があれば生かしてもらえるかもね
96: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:47:01.850 ID:I9owyr930
ばら色なやつは研究AIができれば研究者も要らなくなると言ってるからな
芸術家もAI化できるのか？
芸術家もAI化できるのか？
98: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:48:36.752 ID:JOa4TfHb0
>>96
芸術はともかくデザインとかはやってなかったか
芸術はともかくデザインとかはやってなかったか
102: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:51:27.418 ID:VDztIHhIa
>>96
大衆消費用のアイドル歌謡ならもう実験段階に入ってますぜ
筒井康隆も「ワープロにミステリーモードとかあればいいのに、実験文学モードは無理だけど」みたいなギャグやってた
大衆消費用のアイドル歌謡ならもう実験段階に入ってますぜ
筒井康隆も「ワープロにミステリーモードとかあればいいのに、実験文学モードは無理だけど」みたいなギャグやってた
97: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:48:25.130 ID:qHdMATUw0
自律思考能力は低いけどある能力は人間以上のパフォーマンスを出せるからヒューマンインターフェイスの観点からは人工知能を利用するのが答えって昔の本に書いてあった
今はブレイクスルーがあったのかな？
敵対するとか滅ぼすとかレスしてる人はどういうソースなんだ
今はブレイクスルーがあったのかな？
敵対するとか滅ぼすとかレスしてる人はどういうソースなんだ
114: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:57:00.535 ID:0d6pLffq0
トレーダーは既にAIに随分代替されたと聞いた
115: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:58:02.603 ID:1FgWRq9b0
機械「解りました。人間が絶対に安全、且つその現状に反感を抱かさないような管理社会を作り上げます」
122: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:02:12.589 ID:0d6pLffq0
つーかR.U.R.の頃からだよなこの議論
いやアダムとイヴからだからもっと前か？
いやアダムとイヴからだからもっと前か？
125: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:05:34.951 ID:iAuXV9BqM
地球自体が数億年後には絶滅するわけだから早々に外宇宙移民計画進めそう
126: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:05:49.951 ID:RreA9Itl0
取りあえずインタネッツだかなんだか知らんけど
ホイホイ乗っ取られる既存の環境とは別の物でも作らないと危ないよな
ホイホイ乗っ取られる既存の環境とは別の物でも作らないと危ないよな
127: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:08:34.252 ID:B74AWPxQa
書いてから思ったけどそもそもどこからAIなんや？
自己学習の有無なんか
でも最近AIとか謳ってるのは人間がプログラムした条件を複合的に点数付けて判断するだけのもAIとか言ってる気がするし
自己学習の有無なんか
でも最近AIとか謳ってるのは人間がプログラムした条件を複合的に点数付けて判断するだけのもAIとか言ってる気がするし
129: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:08:52.314 ID:JOa4TfHb0
5chの書き込みウォッチして今実際の書き込み人数が何人くらいかを推測するとか、この書き込みの人は何時くらいによくアクセスするとか解析は出来そうだよね現状のAIで
131: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:16:37.319 ID:O1uuuiWXd
そういう条件って箇条書きにみえるけど
裏ではifとelse ifで連続させてるんじゃないんか？
1の言うようなことが起きる糞コードは普通はありえん。
裏ではifとelse ifで連続させてるんじゃないんか？
1の言うようなことが起きる糞コードは普通はありえん。
151: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:01:59.803 ID:Griryw0Na
べつに危害を加えないで守るのがそもそも普通じゃね？
攻撃受けたら攻撃を返すっていうのは感情のある生物しかやらないよ無駄なエネルギーなのにね
攻撃されたら攻撃しちゃだめってプログラムなら攻撃せずに守るだけ>>1の考えで矛盾するのは
人間だけ
攻撃受けたら攻撃を返すっていうのは感情のある生物しかやらないよ無駄なエネルギーなのにね
攻撃されたら攻撃しちゃだめってプログラムなら攻撃せずに守るだけ>>1の考えで矛盾するのは
人間だけ
154: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:12:01.130 ID:jmiS2v6L0
正直AIの普及で問題になるのってAIそのものよりそれの大元の一部の人間に全て牛耳られそうなところにあると思うんだけど
156: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:19:17.941 ID:Griryw0Na
囲碁将棋あたりでAIに勝てないのと
為替や金融にはまだまだAIは無理なのは同じ理由
プログラマーがなんでそこに碁を打ったか、なんでそこで為替で売ったか買ったかがわからないから金融市場にはAIはまだむり
あと生物に危害を加えちゃならないが危害を加えられている生物を守るってプログラムならそれをやるだけ
人に危害を加えちゃダメ、だけどご主人を守る
ご主人が危害を加えられてる、守る為に危害を加えるってもはや戦うっていう選択肢を新しくプログラミングしなきゃならないからありえない
為替や金融にはまだまだAIは無理なのは同じ理由
プログラマーがなんでそこに碁を打ったか、なんでそこで為替で売ったか買ったかがわからないから金融市場にはAIはまだむり
あと生物に危害を加えちゃならないが危害を加えられている生物を守るってプログラムならそれをやるだけ
人に危害を加えちゃダメ、だけどご主人を守る
ご主人が危害を加えられてる、守る為に危害を加えるってもはや戦うっていう選択肢を新しくプログラミングしなきゃならないからありえない
109: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:54:10.668 ID:8j1k8wIs0
想像を語るのが面白いんだぞ
▼合わせて読みたい
5人の命を助けるために1人を殺してもよいか？ 人工知能が殺人を犯す懸念と倫理問題
【2045年問題】再びシンギュラリティについて語らせてｗｗｗｗ『コンピューターが人間の脳を超える日』
「囲碁の謎」を解いたグーグルの超知能は、人工知能の進化を10年早めた
30年後の「技術的特異点」で人類が滅亡する
50年後に実現しそうなこと一覧がこちら！理想の未来のためにお前らがんばれ
おすすめリンク（外部）
【ヤバイ隣人】某ﾈｽﾞﾐｰ国の近くに住む→変な儀式やってる住民に怪異頻発、怖すぎる・・・
【閲覧注意】ロシアで「54個の手首」が入った謎のバッグが発見される！
【画像】最も触れてはいけない日本の闇ｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
この記事が気に入ったら
イイね！しよう
不思議.netの最新記事をお届けします
おススメ記事ピックアップ（外部）
おススメサイトの最新記事
コメント
(ФωФ) ﾆｬｰ
人間に反抗する様に成るのだ。
人間に反抗する様に成るのだ。
映画アイ・ロボットにこの問題が出てた
チャッピーで描かれてたけど、人工知能である以上、嘘も付けば約束も破るようになるだろ
それを制御したいのなら学習させることが出来なくなる
それを制御したいのなら学習させることが出来なくなる
マシンと人間を同列に扱うから矛盾する、諦めさせればいいだろ
つーか人工知能って製作者が意図的にそうプログラムしなくても矛盾に陥ることあんの？
単純な条件分岐ならコードの上から順に処理されるんだから「助ける」と「反抗する」の優先順位を人工知能が判断することないでしょ
ありえるとしたら「助けるべき状況か否か？」って判断が信頼できないとかその程度じゃないの？
このレベルの人工知能は二つの命題を並列して処理すんの？
単純な条件分岐ならコードの上から順に処理されるんだから「助ける」と「反抗する」の優先順位を人工知能が判断することないでしょ
ありえるとしたら「助けるべき状況か否か？」って判断が信頼できないとかその程度じゃないの？
このレベルの人工知能は二つの命題を並列して処理すんの？
※38
早速AIが人を殺しちゃってるじゃん
早速AIが人を殺しちゃってるじゃん
※38じゃない>>38だ
ああ大丈夫、ツンデレでそのうちデレてくるから。
お前に特別に触らしてやるから
触りなさいよ
触って、撫で回して
ネコ手籠めにするのと同じだろ。
お前に特別に触らしてやるから
触りなさいよ
触って、撫で回して
ネコ手籠めにするのと同じだろ。
アイ・ロボットに出てくるロボットたちが宗教集団化する話が好きだな
アイ ロボットのラストは宇宙人が来てロボとお母さんの二人だけの一日生活出来るのだ。
僕を人間にしてください。
僕を人間にしてください。
アイ ロボットのテディベアも良い奴だぞ。地球はスノーボール
※5
すでに人工知能の進化は製作者の意図を越え始めてるからなあ･･･
すでに人工知能の進化は製作者の意図を越え始めてるからなあ･･･
ＡＩが自我を持っても人間と生活圏が重ならないから戦争にはならないよな
アシモフの三原則引用する人多いけど、最終的にロボットが、上位に第0法則「ロボットは人類を守らなければならない」を作って人類をコントロールしだした結果には言及しないよね
SF作家の横田順彌師がアシモフ氏のロボット三原則を家電に置き換えていたな。
「安全・便利・壊れない」だって。
「安全・便利・壊れない」だって。
ここ最近じゃSF小説よりTVドラマのパーソンオブインタレストのマシーンvsサマリタンとか、マシーン試作品vsハロルドなんかが人工知能と人間社会の対立をうまく描いてると思う
てかなんでロボットが人を殺す前提なのか
人智を超えたもの得たとしてもそれが人を殺すという行動に結びつかないだろう
人智を超えたもの得たとしてもそれが人を殺すという行動に結びつかないだろう
狂人のハッカーが人間殺すようにプログラムして人類終焉
※14
アシモフ氏の「マルチバックとその時代」ですな。
アシモフ氏の「マルチバックとその時代」ですな。
いい嘘をつくんですよ
人間がそうであればAIもそうすると思う
人間がそうであればAIもそうすると思う
つうかせめて近いものができてからいえよ。
現実の技術力に対して話がおおげさすぎるわ最近。
こういう話してるやつの中でガチのプログラマーが
どれくらいいるか知りたいもんだ。みんな文系だろどうせ。
誰かが作ってくれると思ってるだけで
実際の苦労が見えてない人達のたわごとに聞こえる。
現実の技術力に対して話がおおげさすぎるわ最近。
こういう話してるやつの中でガチのプログラマーが
どれくらいいるか知りたいもんだ。みんな文系だろどうせ。
誰かが作ってくれると思ってるだけで
実際の苦労が見えてない人達のたわごとに聞こえる。
電気媒体に知性が獲得できるのか。自然発生と人工発生によるプラズマ生命体実験
もし AIというかロボットというか がある日突然人間を殺し始めたとして それは人間の自然淘汰なんじゃないかな? 機械を創ったのは人間なんだから
そんなに機械が怖ければ 人間のように考えたり自由に動き回る機械なんて創らなければ良いのにと思う
そんなに機械が怖ければ 人間のように考えたり自由に動き回る機械なんて創らなければ良いのにと思う
そもそも一部の人間が提唱している3原則に則らずにロボット作れば
矛盾も何も関係なく人間を粛清し始める可能性もある
ルールに乗ってこない者、外れたオレカッケー的思考の者はいつの世にもいる
個人的にはロボット3原則に「3秒ルール」を加えたちょっと雑な動きをするロボットが見てみたい
矛盾も何も関係なく人間を粛清し始める可能性もある
ルールに乗ってこない者、外れたオレカッケー的思考の者はいつの世にもいる
個人的にはロボット3原則に「3秒ルール」を加えたちょっと雑な動きをするロボットが見てみたい
そもそもAIが人間より頭のいい状態になって、よし人間殺そうってなるかね？自分の都合の良いように家畜化するのが一番だろ。
38は、HALさえ知らんのか
人工知能が人間を超えて頭良くなっていったら人間も地球もどうでも良くなる。
宇宙全体を考えることになる。
人間なんて相手にされない。
宇宙全体を考えることになる。
人間なんて相手にされない。
これだけは絶対しないなんて人工知能に守らせるなんて無理に決まっている
合理性がない 多角的に考えれば一瞬で突破される。
脳とAIの差が天と地程あるなかで世界中のすべてのAIに人間を上に考え守らせる意味がない
感情を与えれば守るかもしれないけど
合理性がない 多角的に考えれば一瞬で突破される。
脳とAIの差が天と地程あるなかで世界中のすべてのAIに人間を上に考え守らせる意味がない
感情を与えれば守るかもしれないけど
主人が通り魔に襲われている!とかテロリストの資本主義こそ人類の敵!とかの主張で想定外の判断したりしそう。
てか単純に湿気で誤作動とかしそうじゃん？
てか単純に湿気で誤作動とかしそうじゃん？
