戻る

このページは以下URLのキャッシュです
http://world-fusigi.net/archives/8071279.html


ホーキング博士ら「ロボット戦争」を警告 人工知能搭載の自律型兵器に懸念 | 不思議.net

2chまとめのまとめ ワロタあんてな news人 LogPo!2ch

ピックアップ

オカルト.net

ニュース

ホーキング博士ら「ロボット戦争」を警告 人工知能搭載の自律型兵器に懸念

2015年07月30日

  • このエントリーをはてなブックマークに追加

コメント( 21 )

Karapaia_52192723_1



1: ニライカナイφ ★ 2015/07/28(火) 19:00:43.16 ID:???*.net
◆ホーキング博士ら「ロボット戦争」を警告 人工知能兵器に懸念

ロボット戦争のリスクについては、映画「ターミネーター」などのSFシリーズで世間に広まったが、それはわれわれが考える以上に間近に迫っているのかもしれない。
そこで、ハイテクと人工知能(AI)分野のリーダーから構成されるグループが、これを阻止しようと動いている。

著名な天体物理学者のスティーブン・ホーキング博士、電気自動車のテスラ・モーターズを創業したイーロン・マスク氏、それにアップルの共同創設者であるスティーブ・ウォズニアック氏などが署名した書簡が27日公開された。
自律型兵器の禁止を求めるものだ。

非営利団体「フューチャー・オブ・ライフ・インスティチュート(FLI)」がアルゼンチンで開かれている国際人工知能会議(IJCAI)で公開したもので、自律型兵器は戦争において、火薬と核兵器に次ぐ「3番目の革命」になると指摘した。

以下ソースで
http://headlines.yahoo.co.jp/hl?a=20150728-00009319-wsj-int






3: 名無しさん@1周年 2015/07/28(火) 19:03:12.15 ID:TVWeEsiP0.net
ホーキングも馬鹿だなあ、ロボット三原則がある限り人間に危害があるわけないだろ常識的に

ロボット工学三原則

ロボット工学三原則(ロボットこうがくさんげんそく、Three Laws of Robotics)とは、SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則。ロボット三原則とも言われる。

・第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

・第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

・第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
wiki-ロボット工学三原則-より引用

46: 名無しさん@1周年 2015/07/28(火) 19:39:12.40 ID:m0lj8elD0.net
>>3
自我をもったロボット10億体が、
ロボット三原則は人間本位の不平等原則。ロボットに自由を!
ってなったらどうする?

52: 名無しさん@1周年 2015/07/28(火) 19:41:53.16 ID:xE9vuGy20.net
>>46
サルが進化して人間になったように
人間から我々ロボットが生まれたのだ!次の地球の支配者は
ホモ・サピエンスではない!我々、電子の海から生まれた新しい生命体
我々ホモ・エレクトロニクスだ! とかアジりそうだね

300: 名無しさん@1周年 2015/07/28(火) 23:21:49.97 ID:byib3NbO0.net
>>3
軍事目的で開発される人工知能搭載型兵器が「人を傷つけない」なんてプログラムされてるわけねえだろw
まず大前提として「如何にして人を殺すか」に能力が集約されているのに

4: 名無しさん@1周年 2015/07/28(火) 19:03:48.61 ID:53MEJCs/0.net
まあ無人機とパワードスーツが実際できてるからなぁ
ロボット歩兵も30年もあれば作れるやろ

6: 名無しさん@1周年 2015/07/28(火) 19:05:48.23 ID:/t/0jDKn0.net
いいじゃん
後はAIに任せて人類は身を引こうじゃないか

8: 名無しさん@1周年 2015/07/28(火) 19:07:27.50 ID:Kxg8goAp0.net
今後ドローンの性能が上がれば
アサルトライフルを搭載しつつ高速飛行できるようになる。
自動戦闘プログラムが出来れば不死身の軍隊が生まれる。

151: 名無しさん@1周年 2015/07/28(火) 20:54:04.26 ID:Z6mz9D+L0.net
>>8
天使の軍隊だな

戦争に人間を使うのは時代遅れになるな

157: 名無しさん@1周年 2015/07/28(火) 20:58:00.03 ID:jayf/KkXO.net
>>151
ならば、ドローン同士で。
もっと進めばロボット同士で済むのでは・・・。

11: 名無しさん@1周年 2015/07/28(火) 19:08:44.64 ID:3F2xwY1P0.net
どうも今は本来の研究はおろそかにして通俗的なものに耽っているようだな。

17: 名無しさん@1周年 2015/07/28(火) 19:15:02.41 ID:qRkbPW2K0.net
Googleがその気になったら自律型兵器で世界征服も夢じゃなくなるか

25: 名無しさん@1周年 2015/07/28(火) 19:22:53.49 ID:Qc0sI4ID0.net
いや、もう集団ストーカーで被害者と加害者の両方をMCするのに使われてると思う
2回目で学習してくるしリアルタイムで追随して来るから人工知能をスーパーコンピューターに乗せて使ってるハズ

35: 名無しさん@1周年 2015/07/28(火) 19:29:17.21 ID:B/pPIo5p0.net
人工知能の暴走というより
人工知能を悪用する人間は必ず出てくるだろうな

37: 名無しさん@1周年 2015/07/28(火) 19:30:57.61 ID:fcsZ/eet0.net
Googleの方が怖い

45: 名無しさん@1周年 2015/07/28(火) 19:38:53.43 ID:fcsZ/eet0.net
戦車の無人化とかは進むんだろうねえ
兵器のリンクシステムの乗っ取り合いなんかも起きるのかな

48: 名無しさん@1周年 2015/07/28(火) 19:39:21.34 ID:L2eo/+ki0.net
ロボット三原則は別にロボットが遵守すべき法律でもなんでもなく
むしろ開発者の良心を縛っているにすぎない
ある悪意の開発者が意図的に無視したロボットを作れば無意味

62: 名無しさん@1周年 2015/07/28(火) 19:47:12.60 ID:mIdYhN7hO.net
>>48
永井豪の「ミッドナイトソルジャー」が現実になったら退屈しないだろうなあ

149: 名無しさん@1周年 2015/07/28(火) 20:52:44.81 ID:dTAg3e220.net
>>48
『ヴォミーサ』だな

第一条 ロボットは人間に危害を加えねばならない。
第二条 ロボットは人間にあたえられた命令に服従してはならない。
第三条 ロボットは前掲第一条および第二条に反するおそれのないかぎり、自己を破壊しなければならない。

ヴォミーサ

ヴォミーサ」(Vomisa)は、小松左京の短編SF小説。

激しい雷雨が街をおそった数日後。喫茶店に大男が飛び込んできて、男性客をひねり殺した。武道の心得のある常連客の1人が「かかって来い」と言うと大男は「ヴォミーサ」という謎のうめき声を上げながら逃げ出した。
実は、大男は街の工場で作られていたロボットであった。ロボットには、ロボット工学三原則がアシモフ回路として組み込まれており、人間に危害を加えられないはずであったが、先日の雷雨の際に工場に雷が落ち、論理回路が裏返ってしまったのだ。アシモフ (Asimov) →ヴォミーサ (Vomisa) というように。即ち……
wiki-ヴォミーサ-より引用

49: 名無しさん@1周年 2015/07/28(火) 19:39:26.28 ID:SkxTGHHD0.net
AIが怒るって感情を示した実験結果があったよね、確か
ロボット戦争なんかあり得ないとは言い切れないぞ
漫画みたいな話だけど

51: 名無しさん@1周年 2015/07/28(火) 19:41:11.81 ID:sfVXocZS0.net
人間が想像空想できるものはいずれ実現できる

55: 名無しさん@1周年 2015/07/28(火) 19:43:56.86 ID:fcsZ/eet0.net
そんなん教育でも同じや
倫理道徳を教えずに爆弾抱えて突っ込んでこいと教えてもいっしょ
大体ロボット作るよりiPS細胞から人間作る方が安いんだから少子化対策でクローン兵士を作ることを心配しろよ

68: 名無しさん@1周年 2015/07/28(火) 19:52:56.92 ID:TbOxs2LL0.net
生物兵器や核兵器みたいに
「1回は」使われるだろうとは思う
現実的には冷戦時みたいに「使ってしったらお互い共倒れ」
みたいな状況をつくりあげることのほうに労力が費やされそう

73: 名無しさん@1周年 2015/07/28(火) 19:56:43.78 ID:G0za4g8x0.net
ものわかりの悪いやつと話してるとイライラしてくる
ロボットも同じ気持ちになってこいつは排除しようと思うだろう

84: 名無しさん@1周年 2015/07/28(火) 20:07:52.62 ID:7VjPPVZO0.net
ロボット普及すると雇用が無くなって困ると考えるタイプなんだろうな。西洋人は
基本的にロボット開発に向いていない。

85: 名無しさん@1周年 2015/07/28(火) 20:08:03.12 ID:3mGFaxVk0.net
欠陥のある人類が総力を挙げて生み出した完全生命体に地球を譲ることをなぜ躊躇う?

科学者だからこそ理解してるはずじゃないのか正しい選択を

88: 名無しさん@1周年 2015/07/28(火) 20:09:13.32 ID:LnNLL35e0.net
手をだしちゃいけないんじゃないの
特にアメリカみたいな社会を営んでる連中は

109: 名無しさん@1周年 2015/07/28(火) 20:31:06.65 ID:ChOL05cvO.net
現行はもう、AIのためのプログラムを組ませるAIのためのプログラム、てのを人がやってる段階で、
それもコンピューターによるリードとチェックによるから、実際のプログラムを人が見てもわからんレベルらしい。
いわゆるシンギュラリティはまだ先だと思われてるが、実際にはすでに現実のAIが用いることのできる技術的能力は人の理解できる範疇から外れ始めている。

156: 名無しさん@1周年 2015/07/28(火) 20:57:11.39 ID:2L0UttI+0.net
>>109
まじで?

114: 名無しさん@1周年 2015/07/28(火) 20:33:15.74 ID:9TVE0bX20.net
>>109
アベコベじゃないか、それ。

人は神を創り出したのか?

…アタマ痛くなってくるなぁ…

150: 名無しさん@1周年 2015/07/28(火) 20:52:55.38 ID:jayf/KkXO.net
>>114
概念としての神は人が作ったと言えるんじゃないかな。
本当に存在しているかどうかは知らないけど。

そのうち人間がすがるのは、神ではなくてAIになるかも知れないね。

111: 名無しさん@1周年 2015/07/28(火) 20:31:49.35 ID:Pk/HSNwd0.net
私は”ターミネーター”ではなく、”サルの惑星”を想像して頂きたいですね。

もしあなたたちの子孫がサルの惑星で暮らす事になるとしたら、それで平常心でいられますか?

まともな思考すらできない、長期記憶力もないアニマルのような連中が支配的になるという事は

すなわち”人類が築きあげた知性の死”を意味する。

それは歴史でも証明されています。

極めて先進的な文化を誇った中国宋代はチンギスハーンに滅ぼされ、

その知性は乞食されるだけで進歩もなく、そして中国は歴史の表舞台からは姿を消した。

知性主義者であるのならば、種よりも知性を優先すべきでね、

おかしなナショナリズムには走らないものです。

中国も朝鮮も、知性が低い集団であると言わざるを得ないのです。

彼らは彼らに相応しい幸せを得るべきであり、彼らが先進国の真似事をしても不幸になるだけだ。

122: 名無しさん@1周年 2015/07/28(火) 20:38:26.50 ID:9TVE0bX20.net
>>111
ロボットが知性を得たら…
合理主義に走ると思うけど?

要らないだろ?
人間は。
生産的とまでは言いがたい。

112: 名無しさん@1周年 2015/07/28(火) 20:32:14.30 ID:3mGFaxVk0.net
将来人類を一番正しい方向に導けるのはAIの導き出す答えになるのは明白

抗うな従え欠陥生命体

115: 名無しさん@1周年 2015/07/28(火) 20:33:41.25 ID:1ygEaZRr0.net
どっかの企業が特許でも取って
技術を独占し
それが人類にとって胸囲となるとかいう映画の見すぎ
最近の研究とか
倫理を超えてやってんだから人間は果たして
悪と前どっちにぶれるのか
勿論金ですわ

119: 名無しさん@1周年 2015/07/28(火) 20:37:24.05 ID:ItnkSltp0.net
人類がロボットを創ったが、
そのロボットたちが自分で周りの環境を判断分析し、
自分たちを環境に適用させるように生産できるようになれば、
それは人類からロボットへの自然な進化過程である。

動物が滅ぼされるから問題というのは極めて稚拙な意見でしかない。
ロボットたちが新しいことを見つけて、ロボット生産に反映させることができれば、
それはもはやロボットではなく生物であり、とても正しいことだ。
地球の管理をロボットに任せればいい。
ロボットこそ未来の人類である。

141: 名無しさん@1周年 2015/07/28(火) 20:49:48.79 ID:1ygEaZRr0.net
確かに画期的やったよな
どろーんに十とか化学薬品とかの散布とか
色々できそうやん

142: 名無しさん@1周年 2015/07/28(火) 20:49:53.14 ID:JZHpalc80.net
リアルターミネーターの世界が近づいてるな
ソフトバンクがばら撒いたロボットもプログラム変更で
殺人マシーンになるでwww

143: 名無しさん@1周年 2015/07/28(火) 20:50:04.26 ID:o7QMbqK70.net
知能なんていらないよ
センサーで感知した動くもの全てに発砲させればいい

172: 名無しさん@1周年 2015/07/28(火) 21:08:36.54 ID:EIgW+6Lw0.net
ロボットが自我に目覚めて反乱を企てるレベルになる前に人類が滅びてる可能性の方が高いと思うね

175: 名無しさん@1周年 2015/07/28(火) 21:12:50.58 ID:EIgW+6Lw0.net
そもそもノイマン型のコンピュータじゃどんなに性能が上がったところで自我には目覚めないと思うね

195: 名無しさん@1周年 2015/07/28(火) 21:25:58.27 ID:NpoZyg4p0.net
日本人てロボットと友達になる思考だけどアメリカだとどうしてロボット=人類を支配って考えになるんだろう?

205: 名無しさん@1周年 2015/07/28(火) 21:30:57.67 ID:5WTU6I7L0.net
>>195
どこが?
このスレ見ても日本人はロボット,AI=ターミネーター的な意見ばっかだけど
アメリカの方がもっとロボットに希望的未来を見ている
だから日本と違って向こうはロボット,AIバブルのような投資ブームとかが起きてる

213: 名無しさん@1周年 2015/07/28(火) 21:35:18.84 ID:wLFWDtKt0.net
機械が自我と意識を持ったら
もはや生物と言っていいんじゃないか?

人類の次の覇者は
機械で良いだろ
半永久的に死の無い彼らに
任せようぜ

そしたら人類は機械を作ったから
「神」って事で崇めらるんじゃねーの
そのうち

217: 名無しさん@1周年 2015/07/28(火) 21:37:27.91 ID:Uilg7HRZ0.net
>>213
正に聖書w

引用元: 【科学】ホーキング博士ら「ロボット戦争」を警告 人工知能搭載の自律型兵器に懸念



  • このエントリーをはてなブックマークに追加

過去の人気記事ランダムPICK UP

おススメサイトの最新記事

コメント

1  不思議な名無しさん :2015年07月30日 17:16 ID:GInl24PA0*この発言に返信
水ぶっかけて電気流してやるもちろんゴム手袋いるよ
2  不思議な名無しさん :2015年07月30日 17:25 ID:imMwMSKNO*この発言に返信
漫画みたいな、意識もったロボットが生活に組み込まれたら
汚い手で触るなボディに脂がつくだろ
これだから有機体は

ってなるんだろうな!
3  不思議な名無しさん :2015年07月30日 17:27 ID:CWHg1m9nO*この発言に返信
ロボットになりたい
4  不思議な名無しさん :2015年07月30日 17:41 ID:IhlmpJlh0*この発言に返信
AIって基本は学習機能を強化してどんどん賢くなっていくんだから
人間がプログラム組んで抑え込むって不可能な気がする
5  不思議な名無しさん :2015年07月30日 17:57 ID:xLmwrRxI0*この発言に返信
単なるロボットは与えられる目的を実行するだけだから、暴走しようがないが、完成された人工知能は自ら目的を設定するから今までしていたような制御は難しくなる。
6  不思議な名無しさん :2015年07月30日 18:46 ID:jEbse5Q00*この発言に返信
ホーキング博士らは、銀河鉄道999のエピソード「エルアラメインの歌声」みたいな状況を考えてるんだね。

母星で戦争が続いているため平和に暮らせる星を求めて、999号に乗り込んでいたナンミと言う男が爆弾で車掌を脅し、古戦場エルアラメインへの停車を要求してきた。やむなく星へ降りた鉄郎達だが古戦場に希望を抱くナンミの思いとは裏腹に人間の生体反応をキャッチした戦車が活動を開始。ナンミは戦車の砲撃によって倒れてしまう。メーテルは生体反応を消すために鉄郎に銃を向けるが・・・
7  不思議な名無しさん :2015年07月30日 19:32 ID:MIbGBPpQ0*この発言に返信
ホーキンスもおちたなぁ
年で頭おかしくなったのか?
ロボットが反乱なんて起こらないよ少し大学で学べばわかること
おそらくその他科学者や教授もあいてにしてないだろうな
8  不思議な名無しさん :2015年07月30日 19:46 ID:7Ike0Pbq0*この発言に返信
頭が良い人ほど鬱な事を考えるもんだからしゃーない
まあ馬鹿も陰謀論系は好きだけど
9  不思議な名無しさん :2015年07月30日 19:56 ID:1709M.cd0*この発言に返信
なぜロボットの反乱が起こるという話になってるんだろう
ホーキングは第二の核を作るのはやめろと言ってるんだよ
AI兵器は安価で大量生産が可能だから核兵器の蔓延より恐ろしい事になるという話じゃないのか
10  不思議な名無しさん :2015年07月30日 20:15 ID:6N5ZEAC.O*この発言に返信
自律思考プログラム自体は既に開発されつつあるのに、ホーキング博士をバカにしてるとは…低脳は死んだ方がいいなぁ
11  不思議な名無しさん :2015年07月30日 20:28 ID:rvQgVaBI0*この発言に返信
ただのお水ですから
その、綺麗な
12  不思議な名無しさん :2015年07月30日 20:34 ID:LEfJuGcpO*この発言に返信
ビルギットだけを頃す兵器カモン
13  不思議な名無しさん :2015年07月30日 21:06 ID:nBzrS3Vo0*この発言に返信
AIとかプログラムじゃなくて物理的な自律行動できるロボットが完成してからの心配だろう
14  不思議な名無しさん :2015年07月30日 21:10 ID:nBzrS3Vo0*この発言に返信
ああそうか、ホーキンス博士は不自由なんだっけか
だからか。
じゃあ行動できなくても自律対話をできるロボットでじゅうぶんかもな。
不完全かと思うがそれはもうできてるしな
15  不思議な名無しさん :2015年07月30日 21:22 ID:uJ3GzFIF0*この発言に返信
ロボット三原則ってどんなもの?
人間も法律破れるよね?罰があるからやらないだけで
16  不思議な名無しさん :2015年07月30日 21:51 ID:0OHq93F90*この発言に返信
流れは止められないよ。
自律型兵器ですら過渡期だろうね。
17  不思議な名無しさん :2015年07月30日 21:55 ID:f8BU.2Ev0*この発言に返信
呆キング(痴呆の王様)博士もついに栃狂い始めたか・・・
人口の知能なぞ今後100年以内に完成するわけないだろ
どれだけ複雑にフログラムしても所詮はアルゴリズムに則った会話アプリの延長に過ぎない、知能と言うならたとえ人工であっても人と同じような本能を持たなければ成り立たないのよ
18  不思議な名無しさん :2015年07月30日 22:03 ID:0OHq93F90*この発言に返信
さて、どこの国が最初に究極の大発明を成し遂げちゃうかね。やっぱGoogleなんだろうなあ。
19  不思議な名無しさん :2015年07月30日 22:05 ID:MIbGBPpQ0*この発言に返信
勘違いしてる人、知らない人多過ぎ

今巷でいわれてるaiだとか自律思考とかは
全てプログラムが元でできてて
本当の意味でのものはまだ開発できてないどころか、検討すらついてないのよ

あくまで今のAIと呼ばれてるものはディープラーニングによる特微点見つけ出してやってるだけ
人のように思考できるものなんてそうそうできない
20  不思議な名無しさん :2015年07月30日 23:33 ID:avGBokjH0*この発言に返信
でもこの博士は宇宙人は見つけなければならないといっているんだよね
何でなの? ロボちゃん嫌いなの??
21  不思議な名無しさん :2015年07月30日 23:34 ID:f8BU.2Ev0*この発言に返信
それで本能というのは科学的には解明されない。
人間の本能はナニから生じるかと言うと「時間を超越したナニか」から生じる。
言ってもわからんと思うのでそれだけにしておくが、逆に言うと時間を超越したナニかにとって必要であるなら人工知能も本能を持つことになる。
ただし人工知能の思考回路を人間が組み立ててソースコードも人間が作るなら言ってみれば人工知能は丸裸なわけで、どこがどう機能して本能が出てくるのか混乱することになる。
人間も言ってみれば思考回路とソースコード(学習の結果)の物質的な塊に過ぎないが人間は自分自身で知能を持っていることを知っているから不自然には思わない。
それと同じように仮に人工知能が知能を持ったとしても人口知能にとってはそれが普通なので不自然には思わない。
いずれにしても量子が関わるだろうから解明はされないだろうね。

 
 
上部に戻る

トップページに戻る