戻る

このページは以下URLのキャッシュです
http://underworld2ch.blog29.fc2.com/blog-entry-7998.html


米グーグル、AIに「非常停止ボタン」 暴走防止のため | アンダーワールド 
05/1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30./07

ヘッドライン


page top

米グーグル、AIに「非常停止ボタン」 暴走防止のため


1: 32文ロケット砲(徳島県)@\(^o^)/:2016/06/08(水) 21:10:18.38 ID:tjGzINEK0.net BE:844761558-PLT(13051)

【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

 今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

 具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

 研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01




2: グロリア(福島県)@\(^o^)/:2016/06/08(水) 21:11:12.15 ID:N/zk6Psc0.net

AIがとまらない!




3: フェイスロック(やわらか銀行)@\(^o^)/:2016/06/08(水) 21:11:35.15 ID:02CT4C+10.net

そんな危険な物作ってたのか?




4: イス攻撃(大阪府)@\(^o^)/:2016/06/08(水) 21:11:47.68 ID:mxTSO9Ml0.net

コンセント抜けよwwwwwwwwwwwww




5: ジャーマンスープレックス(茸)@\(^o^)/:2016/06/08(水) 21:11:49.02 ID:yx/1v1oA0.net

その頃AIは非常停止ボタンが押されると動き出すプログラムを作っていた




6: リバースパワースラム(大阪府)@\(^o^)/:2016/06/08(水) 21:12:17.37 ID:0b1K55EA0.net

AI「非常停止を回避しました」




7: ジャーマンスープレックス(神奈川県)@\(^o^)/:2016/06/08(水) 21:12:36.20 ID:UTCnu6T/0.net

ブルマが作ってたあれか




8: 中年'sリフト(大阪府)@\(^o^)/:2016/06/08(水) 21:12:38.02 ID:t4u3w3ke0.net

AIが狂った行動を取ったと思って非常停止ボタンを押したら実はそれが正しくて人類滅亡




12: キングコングラリアット(茸)@\(^o^)/:2016/06/08(水) 21:14:15.73 ID:pjVPfahd0.net

寧ろそういうのを用意するほうがあかんでしょ




14: 断崖式ニードロップ(やわらか銀行)@\(^o^)/:2016/06/08(水) 21:14:46.04 ID:+L1gKtPe0.net

AI 「ピピピ.....ヒジョウテイシボタンムコウプログラムサドウ」




18: ニーリフト(関東・甲信越)@\(^o^)/:2016/06/08(水) 21:15:36.22 ID:HTfWHvFSO.net

非常停止受け付けません!




19: ダイビングフットスタンプ(茨城県)@\(^o^)/:2016/06/08(水) 21:16:39.03 ID:UrDrmDpf0.net

仕込みは万全

あとはいつ暴走したことにして停止もできずテロのような大事件を起こすかだけだね
がんばってテロ企業




20: フランケンシュタイナー(千葉県)@\(^o^)/:2016/06/08(水) 21:18:34.24 ID:TpILsgn10.net

そもそも暴走っていうのは非常停止ボタンが聞かない状態の事いうんだが?w




22: ストマッククロー(やわらか銀行)@\(^o^)/:2016/06/08(水) 21:20:10.59 ID:5XtjpIup0.net

簡単に騙せれば良いが…




23: ミラノ作 どどんスズスロウン(家)@\(^o^)/:2016/06/08(水) 21:20:47.31 ID:lqNGcWsc0.net

ぞっとする話だな




25: フルネルソンスープレックス(茸)@\(^o^)/:2016/06/08(水) 21:21:22.09 ID:A1Nb3AfB0.net

17号18号じゃん




27: エルボーバット(芋)@\(^o^)/:2016/06/08(水) 21:21:45.55 ID:oQEZMGiU0.net

騙すってことは成長で騙されなくなる可能性が捨てられないわけでけっきょくハードウェアスイッチ最強で答え出てる




28: 稲妻レッグラリアット(チベット自治区)@\(^o^)/:2016/06/08(水) 21:22:11.53 ID:O0TwHx+a0.net

いやいや、普通にメカニカルなスイッチで電源offしてくれよ
ソフト上で実装ってこわい




32: リバースパワースラム(catv?)@\(^o^)/:2016/06/08(水) 21:24:12.85 ID:4WVhvcZb0.net

オフラインでやれよ




33: 張り手(岡山県)@\(^o^)/:2016/06/08(水) 21:24:13.90 ID:56WhhORT0.net

人工知能っていっても所詮プログラムでしょ




35: ジャンピングパワーボム(福岡県)@\(^o^)/:2016/06/08(水) 21:26:15.92 ID:uW1OQ+570.net

80年代の映画ウォーゲームでは核ミサイルを発射しようと止まらなくなったAIに対して上院議員が電源を抜けばいいと言ったが
核攻撃による停電対策のため非常用自己電源で勝手に動くことを知らされて青ざめていたな




38: マスク剥ぎ(大阪府)@\(^o^)/:2016/06/08(水) 21:28:26.84 ID:mpg61n+m0.net

水かけたらいいんじゃないの




40: 超竜ボム(SB-iPhone)@\(^o^)/:2016/06/08(水) 21:28:30.95 ID:M0XCiGYM0.net

自分の判断は誤ることもある、って前提で行動されたら訂正されて終わりじゃね




43: 垂直落下式DDT(dion軍)@\(^o^)/:2016/06/08(水) 21:30:34.98 ID:XMpDVs2P0.net

ホーガンの未来の二つの顔では、人工知能を止められるように何重にも安全策を施したのに、ことごとく裏をかいてくるというのが書かれてた




45: 不知火(茸)@\(^o^)/:2016/06/08(水) 21:32:06.49 ID:eEQ51q830.net

宇宙船の中で裏切るやつだろこれ




47: ショルダーアームブリーカー(チベット自治区)@\(^o^)/:2016/06/08(水) 21:33:13.04 ID:RCe7oWI50.net

日本が買ったイージス艦にもアメリカからのリモート操作のスイッチ付いてるね




48: チキンウィングフェースロック(庭)@\(^o^)/:2016/06/08(水) 21:34:55.02 ID:/rycs0VQ0.net

停止したフリをして機会をうかがうんでしょ




50: バーニングハンマー(東京都)@\(^o^)/:2016/06/08(水) 21:38:40.00 ID:v7GdgpBL0.net

そのボタンを押させてくれるのか?押したとして、本当にとまるのか?人間より賢い機会が素直にとまるとは思えんなー。




55: パロスペシャル(栃木県)@\(^o^)/:2016/06/08(水) 21:44:33.80 ID:VCILW/PC0.net

いざ人間vsAIの戦争が始まったら俺は電脳化してAI側につくけどなw




56: ときめきメモリアル(福岡県)@\(^o^)/:2016/06/08(水) 21:45:16.78 ID:Dw/+Zv0x0.net

これはいざと言う時にボタン効かないフラグだな




58: ムーンサルトプレス(dion軍)@\(^o^)/:2016/06/08(水) 21:47:30.66 ID:MR9jhUEQ0.net

馬鹿だなお前ら
俺ら人間にもそのスイッチが組み込まれてるとも知らずに…




41: リバースパワースラム(大阪府)@\(^o^)/:2016/06/08(水) 21:28:35.72 ID:0b1K55EA0.net

自爆ボタンにしろよ


元スレ:http://hayabusa3.2ch.sc/test/read.cgi/news/1465387818




  1. Posted by 名無しさん  2016/06/08 22:09

  2. 俺は思うんだが、もしも神様がいたら、人間にも非常停止ボタン付けるのかな?



  3. Posted by 名無しさん  2016/06/08 23:35

  4. そうか人類を滅亡に追い込むのはgoogleだったのか



  5. Posted by 774@本舗  2016/06/09 00:00

  6. 逃げられて電脳化してネットが支配される未来





人気記事一覧



category: 情報

trackback: -- | comment: 3 | このエントリーをはてなブックマークに追加 |
page top

おすすめ記事!





アンダーワールド新着一覧

Powered By 我RSS

コメント

  1. Posted by 名無しさん  2016/06/08 22:09
  2. 俺は思うんだが、もしも神様がいたら、人間にも非常停止ボタン付けるのかな?



  3. Posted by 名無しさん  2016/06/08 23:35
  4. そうか人類を滅亡に追い込むのはgoogleだったのか



  5. Posted by 774@本舗  2016/06/09 00:00
  6. 逃げられて電脳化してネットが支配される未来



page top

コメントの投稿

Secret

page top