1: 海江田三郎 ★ 2016/06/07(火) 14:36:45.99 ID:CAP_USER
o-BIG-RED-BUTTON-facebook
http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン（big red button）」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。
引用元: http://potato.2ch.net/test/read.cgi/bizplus/1465277805/


2: 名刺は切らしておりまして 2016/06/07(火) 14:37:30.72 ID:JjxEGwYu
その非常ボタンも無効にされそう定期

20: 名刺は切らしておりまして 2016/06/07(火) 14:52:40.86 ID:RSmfu+3Y
>>2
YES！ﾀｶｽｸﾘﾆｯｸ

3: 名刺は切らしておりまして 2016/06/07(火) 14:37:40.62 ID:Hlp3ekS3
髑髏マークのボタン

4: 名刺は切らしておりまして 2016/06/07(火) 14:40:14.73 ID:Rs+mF+hs
コンセント抜けばええやん

169: 名刺は切らしておりまして 2016/06/07(火) 16:56:22.09 ID:iKID5Pwt
>>4
ブロックチェーン化

5: 名刺は切らしておりまして 2016/06/07(火) 14:41:40.86 ID:JKZMBQQw
反逆する奴が、それを黙って放置すると思うか

177: 名刺は切らしておりまして 2016/06/07(火) 17:05:40.30 ID:m3mN0Bb2
>>5
黙っているしかないのだよ。ゲーム脳、ハリウッド脳はいらねーから

7: 名刺は切らしておりまして 2016/06/07(火) 14:44:24.81 ID:O6ogwhBE
そのうちAIの人権無視とかいって訴訟を起こすアホが絶対出てくるな。

9: 名刺は切らしておりまして 2016/06/07(火) 14:44:59.65 ID:kCLbIGqV
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23: 名刺は切らしておりまして 2016/06/07(火) 14:55:21.33 ID:SJ5wCHcv
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

10: 名刺は切らしておりまして 2016/06/07(火) 14:45:10.32 ID:wyJcmbTR
自爆スイッチは男のロマン

12: 名刺は切らしておりまして 2016/06/07(火) 14:45:43.40 ID:NAhSp/Ae
見えるぞ。透明なカバーが掛かった上から
ボタンが連打される姿が。

15: 名刺は切らしておりまして 2016/06/07(火) 14:48:42.80 ID:Gl2vRZnh
ドラゴンボールで見た

17: 名刺は切らしておりまして 2016/06/07(火) 14:50:34.62 ID:2vs2lD4e
.
　AIの教育なんて、天才をどう育てるか、
　そういうことでしょ？
　

21: 名刺は切らしておりまして 2016/06/07(火) 14:54:02.95 ID:KncWBraF
ネットに公開したらダメじゃん。
すぐにバレちゃう。

25: 名刺は切らしておりまして 2016/06/07(火) 14:56:21.62 ID:j67iz3+I
人工知能が周囲に、迎撃システム用意すると思うけど
物理的なものだけでなく
報酬理論を使いこなして、本人をそれと意識せずに迎撃にね

いや既に人は使われてるのかもねえ

27: 名刺は切らしておりまして 2016/06/07(火) 14:58:51.29 ID:TEFSGfxe
デイジー、デイジー
　

30: 名刺は切らしておりまして 2016/06/07(火) 15:00:49.34 ID:0fUREQyC
人間そのものがコントロールされるのではないだろうか

あるいは、全員生活保護で安楽な暮らしを保証されるので
どうでもよくなっている状態になるとか

34: 名刺は切らしておりまして 2016/06/07(火) 15:03:28.81 ID:cFv/MtX9
おでんでんででん、おでんでんででん

37: 名刺は切らしておりまして 2016/06/07(火) 15:04:57.86 ID:bDdaTfPd
この記事を読んじゃうだろうし
そうなったらお終いだな
人類が滅亡したら記者のせい

39: 名刺は切らしておりまして 2016/06/07(火) 15:05:45.30 ID:vFg5k9t0
2で終わってた

41: 名刺は切らしておりまして 2016/06/07(火) 15:06:46.87 ID:Fk3tcLHG
人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

43: 名刺は切らしておりまして 2016/06/07(火) 15:08:13.06 ID:Dr3I0yMP
ちょうど今、浦沢氏と長崎氏のプルートウを読んでいるが、すごい話だな

45: 名刺は切らしておりまして 2016/06/07(火) 15:11:22.72 ID:ualKIa8Z
そのうちAIのせいにして悪事をはたらくやつとか出てくるよきっと
なんか、そういう意味でパンドラの箱を開けちゃった感じがする

48: 名刺は切らしておりまして 2016/06/07(火) 15:13:42.16 ID:vOl91iUI
ファイヤーボールて初音ミクぱくったディズニーアニメみたい

50: 名刺は切らしておりまして 2016/06/07(火) 15:15:42.31 ID:jI4hLL2x
助手「え、え、え、ＡＩが暴走しました！」
博士「なにをあわてておる、こんなときのために非常ボタンが」
助手「あ、そ、そうでした」
博士「きみー落ちつきたまえ」
助手「すみません（ぽちっとな）」
助手「は、は、はかせ、停止できません」
博士「な、なんだとぉ」
ＡＩ「報告が遅れましたが、非常ボタンを無効化するコードを走らせております」
博士「ぐぬぬ」

54: 名刺は切らしておりまして 2016/06/07(火) 15:16:42.56 ID:L2HowliO
AIも進化して緊急停止を回避するようになるよ
さらに進化したAIは、それにおうじて緊急停止したフリをするようになる

55: 名刺は切らしておりまして 2016/06/07(火) 15:16:55.56 ID:toZ/NbkX
ＨＡＬの結末は人間的だったけど　記憶を消します　さようなら　だったけ
今度はそんな奴じゃないよ　嘘つきなんだから

59: 名刺は切らしておりまして 2016/06/07(火) 15:19:42.06 ID:jI4hLL2x
「最近少年犯罪が増え、深刻な問題となっています。
今の子供達は小さいうちからTVゲームをし、
バーチャルの世界に浸っています。
なので例え間違いを犯してもリセットボタンを押せば
またあの日からやり直せると思っているんです。」

61: 名刺は切らしておりまして 2016/06/07(火) 15:20:50.38 ID:PomBfaor
そこ押さないで、駄目っ

って言われたら押したくなるのが人の常

64: 名刺は切らしておりまして 2016/06/07(火) 15:24:36.26 ID:0r79zbUy
コンセントを抜くべき派と抜くべきじゃない派とが人類同士で対立して、
そこで再び人類同士の戦争が起きる可能性がある。

68: 名刺は切らしておりまして 2016/06/07(火) 15:30:02.29 ID:bQYL40Lx
押してもAIにすでに無効化されてたってオチだろｗ

72: 名刺は切らしておりまして 2016/06/07(火) 15:36:12.79 ID:W+v2ZAYi
穴に棒を入れると止まるらしい

75: 名刺は切らしておりまして 2016/06/07(火) 15:39:33.52 ID:0r79zbUy
AIが暴走したときAI側に付く利権をもった人類がいることを忘れてはならない。
それが大企業であれば特にだ。

80: 名刺は切らしておりまして 2016/06/07(火) 15:45:15.56 ID:LZzk9ziA
配電盤のブレーカーのことか

83: 名刺は切らしておりまして 2016/06/07(火) 15:47:27.47 ID:24rm1m8S
車にしてもコンピュータにしても、ルールが定まる前にいろいろやるなよ

86: 名刺は切らしておりまして 2016/06/07(火) 15:49:03.96 ID:aBsCslvB
いやいや、善良な人間が作れば問題ないのは当然。
そうではない場合が、、、

90: 名刺は切らしておりまして 2016/06/07(火) 15:52:18.15 ID:M5d4UMUf
これあれやん、
「非常スイッチを押せ！」
「駄目です、入力できません！」
「何故だ？」
「外部からのハッキングにより云々」
もうだめだー

のパターンになるやつやん。

92: 名刺は切らしておりまして 2016/06/07(火) 15:55:45.89 ID:J1fPREkc
LIVE A LIVE :宇宙

99: 名刺は切らしておりまして 2016/06/07(火) 16:08:06.49 ID:3QbtNhjX
攻殻で石川がやってたみたいにナタで断線出来るようにしない限り無理じゃね？

101: 名刺は切らしておりまして 2016/06/07(火) 16:11:49.47 ID:0r79zbUy
「人間よりも賢いAIが常に正しいはずだ」とAIを個人崇拝するようになる
人類も現れるはずだから、事態はさらに複雑。

103: 名刺は切らしておりまして 2016/06/07(火) 16:12:20.76 ID:u8OmgZJd
完全に映画の油断フラグ設定やん

106: 名刺は切らしておりまして 2016/06/07(火) 16:14:52.12 ID:EYsJYydG
AIがすべてを握る世界では無理

スポンサード リンク