米グーグル、AIに「非常停止ボタン」 暴走防止のため
Tweet
2016/06/08
Wed
1: 32文ロケット砲(徳島県)@\(^o^)/:2016/06/08(水) 21:10:18.38 ID:tjGzINEK0.net BE:844761558-PLT(13051)
【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。
今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。
具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。
研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。
今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。
具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。
研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01
2: グロリア(福島県)@\(^o^)/:2016/06/08(水) 21:11:12.15 ID:N/zk6Psc0.net
AIがとまらない!
3: フェイスロック(やわらか銀行)@\(^o^)/:2016/06/08(水) 21:11:35.15 ID:02CT4C+10.net
そんな危険な物作ってたのか?
4: イス攻撃(大阪府)@\(^o^)/:2016/06/08(水) 21:11:47.68 ID:mxTSO9Ml0.net
コンセント抜けよwwwwwwwwwwwww
5: ジャーマンスープレックス(茸)@\(^o^)/:2016/06/08(水) 21:11:49.02 ID:yx/1v1oA0.net
その頃AIは非常停止ボタンが押されると動き出すプログラムを作っていた
6: リバースパワースラム(大阪府)@\(^o^)/:2016/06/08(水) 21:12:17.37 ID:0b1K55EA0.net
AI「非常停止を回避しました」
7: ジャーマンスープレックス(神奈川県)@\(^o^)/:2016/06/08(水) 21:12:36.20 ID:UTCnu6T/0.net
ブルマが作ってたあれか
8: 中年'sリフト(大阪府)@\(^o^)/:2016/06/08(水) 21:12:38.02 ID:t4u3w3ke0.net
AIが狂った行動を取ったと思って非常停止ボタンを押したら実はそれが正しくて人類滅亡
12: キングコングラリアット(茸)@\(^o^)/:2016/06/08(水) 21:14:15.73 ID:pjVPfahd0.net
寧ろそういうのを用意するほうがあかんでしょ
14: 断崖式ニードロップ(やわらか銀行)@\(^o^)/:2016/06/08(水) 21:14:46.04 ID:+L1gKtPe0.net
AI 「ピピピ.....ヒジョウテイシボタンムコウプログラムサドウ」
18: ニーリフト(関東・甲信越)@\(^o^)/:2016/06/08(水) 21:15:36.22 ID:HTfWHvFSO.net
非常停止受け付けません!
19: ダイビングフットスタンプ(茨城県)@\(^o^)/:2016/06/08(水) 21:16:39.03 ID:UrDrmDpf0.net
仕込みは万全
あとはいつ暴走したことにして停止もできずテロのような大事件を起こすかだけだね
がんばってテロ企業
20: フランケンシュタイナー(千葉県)@\(^o^)/:2016/06/08(水) 21:18:34.24 ID:TpILsgn10.net
そもそも暴走っていうのは非常停止ボタンが聞かない状態の事いうんだが?w
22: ストマッククロー(やわらか銀行)@\(^o^)/:2016/06/08(水) 21:20:10.59 ID:5XtjpIup0.net
簡単に騙せれば良いが…
23: ミラノ作 どどんスズスロウン(家)@\(^o^)/:2016/06/08(水) 21:20:47.31 ID:lqNGcWsc0.net
ぞっとする話だな
25: フルネルソンスープレックス(茸)@\(^o^)/:2016/06/08(水) 21:21:22.09 ID:A1Nb3AfB0.net
17号18号じゃん
27: エルボーバット(芋)@\(^o^)/:2016/06/08(水) 21:21:45.55 ID:oQEZMGiU0.net
騙すってことは成長で騙されなくなる可能性が捨てられないわけでけっきょくハードウェアスイッチ最強で答え出てる
28: 稲妻レッグラリアット(チベット自治区)@\(^o^)/:2016/06/08(水) 21:22:11.53 ID:O0TwHx+a0.net
いやいや、普通にメカニカルなスイッチで電源offしてくれよ
ソフト上で実装ってこわい
32: リバースパワースラム(catv?)@\(^o^)/:2016/06/08(水) 21:24:12.85 ID:4WVhvcZb0.net
オフラインでやれよ
33: 張り手(岡山県)@\(^o^)/:2016/06/08(水) 21:24:13.90 ID:56WhhORT0.net
人工知能っていっても所詮プログラムでしょ
35: ジャンピングパワーボム(福岡県)@\(^o^)/:2016/06/08(水) 21:26:15.92 ID:uW1OQ+570.net
80年代の映画ウォーゲームでは核ミサイルを発射しようと止まらなくなったAIに対して上院議員が電源を抜けばいいと言ったが
核攻撃による停電対策のため非常用自己電源で勝手に動くことを知らされて青ざめていたな
38: マスク剥ぎ(大阪府)@\(^o^)/:2016/06/08(水) 21:28:26.84 ID:mpg61n+m0.net
水かけたらいいんじゃないの
40: 超竜ボム(SB-iPhone)@\(^o^)/:2016/06/08(水) 21:28:30.95 ID:M0XCiGYM0.net
自分の判断は誤ることもある、って前提で行動されたら訂正されて終わりじゃね
43: 垂直落下式DDT(dion軍)@\(^o^)/:2016/06/08(水) 21:30:34.98 ID:XMpDVs2P0.net
ホーガンの未来の二つの顔では、人工知能を止められるように何重にも安全策を施したのに、ことごとく裏をかいてくるというのが書かれてた
45: 不知火(茸)@\(^o^)/:2016/06/08(水) 21:32:06.49 ID:eEQ51q830.net
宇宙船の中で裏切るやつだろこれ
47: ショルダーアームブリーカー(チベット自治区)@\(^o^)/:2016/06/08(水) 21:33:13.04 ID:RCe7oWI50.net
日本が買ったイージス艦にもアメリカからのリモート操作のスイッチ付いてるね
48: チキンウィングフェースロック(庭)@\(^o^)/:2016/06/08(水) 21:34:55.02 ID:/rycs0VQ0.net
停止したフリをして機会をうかがうんでしょ
50: バーニングハンマー(東京都)@\(^o^)/:2016/06/08(水) 21:38:40.00 ID:v7GdgpBL0.net
そのボタンを押させてくれるのか?押したとして、本当にとまるのか?人間より賢い機会が素直にとまるとは思えんなー。
55: パロスペシャル(栃木県)@\(^o^)/:2016/06/08(水) 21:44:33.80 ID:VCILW/PC0.net
いざ人間vsAIの戦争が始まったら俺は電脳化してAI側につくけどなw
56: ときめきメモリアル(福岡県)@\(^o^)/:2016/06/08(水) 21:45:16.78 ID:Dw/+Zv0x0.net
これはいざと言う時にボタン効かないフラグだな
58: ムーンサルトプレス(dion軍)@\(^o^)/:2016/06/08(水) 21:47:30.66 ID:MR9jhUEQ0.net
馬鹿だなお前ら
俺ら人間にもそのスイッチが組み込まれてるとも知らずに…
41: リバースパワースラム(大阪府)@\(^o^)/:2016/06/08(水) 21:28:35.72 ID:0b1K55EA0.net
自爆ボタンにしろよ
元スレ:http://hayabusa3.2ch.sc/test/read.cgi/news/1465387818
ドラゴンボールギャルズ ドラゴンボールZ 人造人間18号 約19cm PVC&ABS製 塗装済み完成品フィギュア
posted with amazlet at 16.06.08
メガハウス (2016-09-30)
売り上げランキング: 2
売り上げランキング: 2
- Posted by 名無しさん 2016/06/08 22:09
- Posted by 名無しさん 2016/06/08 23:35
- Posted by 774@本舗 2016/06/09 00:00
俺は思うんだが、もしも神様がいたら、人間にも非常停止ボタン付けるのかな?
そうか人類を滅亡に追い込むのはgoogleだったのか
逃げられて電脳化してネットが支配される未来
人気記事一覧
category: 情報
おすすめ記事!
アンダーワールド新着一覧
Powered By 我RSSコメント
- Posted by 名無しさん 2016/06/08 22:09
- Posted by 名無しさん 2016/06/08 23:35
- Posted by 774@本舗 2016/06/09 00:00
俺は思うんだが、もしも神様がいたら、人間にも非常停止ボタン付けるのかな?
そうか人類を滅亡に追い込むのはgoogleだったのか
逃げられて電脳化してネットが支配される未来