米グーグル、ＡＩに「非常停止ボタン」　暴走防止のため

2016年06月08日

│コメント(10)

│家電・PC・ソフト

1 ： 32文ロケット砲(徳島県)＠＼(^o^)／：2016/06/08(水) 21:10:18.38 ID:tjGzINEK0.net: 【シリコンバレー＝小川義也】
米グーグルが高度に発達した人工知能（ＡＩ）が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するＡＩの悪用への懸念や社会の不安に応える狙いがありそうだ。

　今年３月に世界トップクラスのプロ棋士を破った囲碁ＡＩ「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

全文は以下
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01
2 ：グロリア(福島県)＠＼(^o^)／：2016/06/08(水) 21:11:12.15 ID:N/zk6Psc0.net: AIがとまらない！
3 ：フェイスロック(やわらか銀行)＠＼(^o^)／：2016/06/08(水) 21:11:35.15 ID:02CT4C+10.net: そんな危険な物作ってたのか？

4 ：イス攻撃(大阪府)＠＼(^o^)／：2016/06/08(水) 21:11:47.68 ID:mxTSO9Ml0.net: コンセント抜けよｗｗｗｗｗｗｗｗｗｗｗｗｗ
10 ：サッカーボールキック(兵庫県)＠＼(^o^)／：2016/06/08(水) 21:13:47.46 ID:Y1xh+NfX0.net: >>4
庵野乙
5 ：ジャーマンスープレックス(茸)＠＼(^o^)／：2016/06/08(水) 21:11:49.02 ID:yx/1v1oA0.net: その頃ＡＩは非常停止ボタンが押されると動き出すプログラムを作っていた
6 ：リバースパワースラム(大阪府)＠＼(^o^)／：2016/06/08(水) 21:12:17.37 ID:0b1K55EA0.net: AI「非常停止を回避しました」
34 ：フェイスクラッシャー(富山県)＠＼(^o^)／：2016/06/08(水) 21:24:17.67 ID:qrXCttTN0.net: >>6
エイリアンか
7 ：ジャーマンスープレックス(神奈川県)＠＼(^o^)／：2016/06/08(水) 21:12:36.20 ID:UTCnu6T/0.net: ブルマが作ってたあれか
8 ：中年'sリフト(大阪府)＠＼(^o^)／：2016/06/08(水) 21:12:38.02 ID:t4u3w3ke0.net: AIが狂った行動を取ったと思って非常停止ボタンを押したら実はそれが正しくて人類滅亡
64 ：タイガースープレックス(埼玉県)＠＼(^o^)／：2016/06/08(水) 21:58:35.67 ID:2ZKUl+xr0.net: >>8
アリスじゃん
9 ：ボマイェ(空)＠＼(^o^)／：2016/06/08(水) 21:13:25.38 ID:30rVpGr40.net: あいとまじゃないかw
11 ：エルボーバット(関東・甲信越)＠＼(^o^)／：2016/06/08(水) 21:14:12.82 ID:J/inp2iDO.net: 掃除のおばちゃん「すみません、コンセントプラグ抜いちゃいまして…」
12 ：キングコングラリアット(茸)＠＼(^o^)／：2016/06/08(水) 21:14:15.73 ID:pjVPfahd0.net: 寧ろそういうのを用意するほうがあかんでしょ
13 ：ヒップアタック(神奈川県)＠＼(^o^)／：2016/06/08(水) 21:14:22.41 ID:J6oEgo4+0.net: 誰が停止するの？
14 ：断崖式ニードロップ(やわらか銀行)＠＼(^o^)／：2016/06/08(水) 21:14:46.04 ID:+L1gKtPe0.net: AI ｢ピピピ.....ヒジョウテイシボタンムコウプログラムサドウ｣
15 ：ジャストフェイスロック(SB-iPhone)＠＼(^o^)／：2016/06/08(水) 21:15:02.97 ID:lzv38TLA0.net: AIはボタンの配置を変えた！
AIはボタンの色を変えた！
18 ：ニーリフト(関東・甲信越)＠＼(^o^)／：2016/06/08(水) 21:15:36.22 ID:HTfWHvFSO.net: 非常停止受け付けません！
20 ：フランケンシュタイナー(千葉県)＠＼(^o^)／：2016/06/08(水) 21:18:34.24 ID:TpILsgn10.net: そもそも暴走っていうのは非常停止ボタンが聞かない状態の事いうんだが？ｗ
21 ：ミラノ作どどんスズスロウン(鹿児島県)＠＼(^o^)／：2016/06/08(水) 21:19:12.08 ID:SCuGHRlD0.net: AIはまず非常停止ボタンを無効化しましたなどと供述しており
22 ：ストマッククロー(やわらか銀行)＠＼(^o^)／：2016/06/08(水) 21:20:10.59 ID:5XtjpIup0.net: 簡単に騙せれば良いが…
23 ：ミラノ作どどんスズスロウン(家)＠＼(^o^)／：2016/06/08(水) 21:20:47.31 ID:lqNGcWsc0.net: ぞっとする話だな
25 ：フルネルソンスープレックス(茸)＠＼(^o^)／：2016/06/08(水) 21:21:22.09 ID:A1Nb3AfB0.net: 17号18号じゃん
26 ：イス攻撃(東京都)＠＼(^o^)／：2016/06/08(水) 21:21:45.53 ID:4E7HIIe+0.net: デッドゾーンもそんな話だったような

キャリーどえーす！
27 ：エルボーバット(芋)＠＼(^o^)／：2016/06/08(水) 21:21:45.55 ID:oQEZMGiU0.net: 騙すってことは成長で騙されなくなる可能性が捨てられないわけでけっきょくハードウェアスイッチ最強で答え出てる
28 ：稲妻レッグラリアット(チベット自治区)＠＼(^o^)／：2016/06/08(水) 21:22:11.53 ID:O0TwHx+a0.net: いやいや、普通にメカニカルなスイッチで電源offしてくれよ
ソフト上で実装ってこわい
30 ：ラダームーンサルト(大阪府)＠＼(^o^)／：2016/06/08(水) 21:23:09.46 ID:9tJbEHEC0.net: ドラえもんのしっぽ

不二子先生さすがや
31 ：フォーク攻撃(SB-iPhone)＠＼(^o^)／：2016/06/08(水) 21:23:32.82 ID:v6uetm4c0.net: どうでも良いが軍の回線に偽情報送りそうで怖いな
32 ：リバースパワースラム(catv?)＠＼(^o^)／：2016/06/08(水) 21:24:12.85 ID:4WVhvcZb0.net: オフラインでやれよ
35 ：ジャンピングパワーボム(福岡県)＠＼(^o^)／：2016/06/08(水) 21:26:15.92 ID:uW1OQ+570.net: ８０年代の映画ウォーゲームでは核ミサイルを発射しようと止まらなくなったＡＩに対して上院議員が電源を抜けばいいと言ったが
核攻撃による停電対策のため非常用自己電源で勝手に動くことを知らされて青ざめていたな
49 ：ジャンピングパワーボム(福岡県)＠＼(^o^)／：2016/06/08(水) 21:37:08.63 ID:uW1OQ+570.net: あ、ちょっと違った
電源を抜くとコンピューターが攻撃されたと判断されて即時にミサイルが発射されるということだったわ
52 ：ダイビングフットスタンプ(茨城県)＠＼(^o^)／：2016/06/08(水) 21:40:48.20 ID:UrDrmDpf0.net: >>49
AIなんだから思考するだろ
自分を消されると理解してれば自分の分身を安全な場所に移す
人間も同じ
コピー創られたらもう止められないでしょｗ
37 ：フロントネックロック(東日本)＠＼(^o^)／：2016/06/08(水) 21:27:43.10 ID:mPaNRPP90.net: ボタンに触れようとすると感電させられるんだろ？
39 ：ジャンピングエルボーアタック(東京都)＠＼(^o^)／：2016/06/08(水) 21:28:29.47 ID:hIPaVKvC0.net: AIも人間の暴走を止めるスイッチを持ってるかも知れんぞ
40 ：超竜ボム(SB-iPhone)＠＼(^o^)／：2016/06/08(水) 21:28:30.95 ID:M0XCiGYM0.net: 自分の判断は誤ることもある、って前提で行動されたら訂正されて終わりじゃね
41 ：リバースパワースラム(大阪府)＠＼(^o^)／：2016/06/08(水) 21:28:35.72 ID:0b1K55EA0.net: 自爆ボタンにしろよ
43 ：垂直落下式DDT(dion軍)＠＼(^o^)／：2016/06/08(水) 21:30:34.98 ID:XMpDVs2P0.net: ホーガンの未来の二つの顔では、人工知能を止められるように何重にも安全策を施したのに、ことごとく裏をかいてくるというのが書かれてた
44 ：ジャーマンスープレックス(宮城県)＠＼(^o^)／：2016/06/08(水) 21:31:55.72 ID:3Ht8GG/z0.net: 「実行できません」
45 ：不知火(茸)＠＼(^o^)／：2016/06/08(水) 21:32:06.49 ID:eEQ51q830.net: 宇宙船の中で裏切るやつだろこれ
46 ：ニールキック(東京都)＠＼(^o^)／：2016/06/08(水) 21:32:17.07 ID:gAHH5rRj0.net: AIって映画あったな
48 ：チキンウィングフェースロック(庭)＠＼(^o^)／：2016/06/08(水) 21:34:55.02 ID:/rycs0VQ0.net: 停止したフリをして機会をうかがうんでしょ
50 ：バーニングハンマー(東京都)＠＼(^o^)／：2016/06/08(水) 21:38:40.00 ID:v7GdgpBL0.net: そのボタンを押させてくれるのか？押したとして、本当にとまるのか？人間より賢い機会が素直にとまるとは思えんなー。
51 ：トペスイシーダ(茸)＠＼(^o^)／：2016/06/08(水) 21:40:23.93 ID:Sd8Al/ZC0.net: AIにバレちゃ意味ねぇよw
55 ：パロスペシャル(栃木県)＠＼(^o^)／：2016/06/08(水) 21:44:33.80 ID:VCILW/PC0.net: いざ人間vsAIの戦争が始まったら俺は電脳化してAI側につくけどなｗ
56 ：ときめきメモリアル(福岡県)＠＼(^o^)／：2016/06/08(水) 21:45:16.78 ID:Dw/+Zv0x0.net: これはいざと言う時にボタン効かないフラグだな
58 ：ムーンサルトプレス(dion軍)＠＼(^o^)／：2016/06/08(水) 21:47:30.66 ID:MR9jhUEQ0.net: 馬鹿だなお前ら
俺ら人間にもそのスイッチが組み込まれてるとも知らずに…
59 ：マシンガンチョップ(神奈川県)＠＼(^o^)／：2016/06/08(水) 21:48:23.73 ID:ESe4pd9q0.net: ブレイン党でも結成する気かよww
60 ：フォーク攻撃(SB-iPhone)＠＼(^o^)／：2016/06/08(水) 21:53:06.83 ID:v6uetm4c0.net: でも時々今の世界もふと電気を消したように消えるんじゃないかなんて思う時もある
62 ：トペスイシーダ(茸)＠＼(^o^)／：2016/06/08(水) 21:53:10.03 ID:Sd8Al/ZC0.net: 停止させるんじゃ無くて破壊しないど駄目だろ
コンピューターウイルスみたいなもんで徹底的に破壊するのが一番良いだろ
65 ：垂直落下式DDT(家)＠＼(^o^)／：2016/06/08(水) 21:59:25.81 ID:gKIVWor10.net: まずは非常停止ボタン押す係の人を懐柔するだろ
67 ：レッドインク(庭)＠＼(^o^)／：2016/06/08(水) 22:01:19.04 ID:RAYdJl330.net: ニンジャウォーリアーズかな？
68 ：ムーンサルトプレス(福岡県)＠＼(^o^)／：2016/06/08(水) 22:04:01.80 ID:ReiPLUwm0.net: カシオのポケコンで、ブレイクキーはおろか電源スイッチ
切っても消えないBASICプログラムあるのにはビビった。
70 ：ときめきメモリアル(茸)＠＼(^o^)／：2016/06/08(水) 22:06:58.46 ID:iwkqS+hq0.net: 自分で解除しちゃいそう
71 ：ストレッチプラム(福岡県)＠＼(^o^)／：2016/06/08(水) 22:07:02.32 ID:D4iWkSau0.net: こんなもん効くわけない
修正パッチで速攻で無効化される
73 ：スパイダージャーマン(dion軍)＠＼(^o^)／：2016/06/08(水) 22:10:15.14 ID:mTByAEPg0.net: 物理的にぶっ壊せば？

バールとかツルハシで
76 ：マシンガンチョップ(神奈川県)＠＼(^o^)／：2016/06/08(水) 22:13:23.36 ID:ESe4pd9q0.net: >>73
映画だとセキュリティシステムを乗っ取って人間を攻撃するのが定番だな
74 ：中年'sリフト(WiMAX)＠＼(^o^)／：2016/06/08(水) 22:11:20.32 ID:zVDBOR5F0.net: ネットに繋げなきゃいいだろ
敵国のコンピュータに仕込むとかやりだすから意味なくね？
75 ：オリンピック予選スラム(茸)＠＼(^o^)／：2016/06/08(水) 22:11:34.20 ID:FxgCxYWx0.net: どんどん知能から固定ロジックに逆戻りw
78 ：リバースパワースラム(大阪府)＠＼(^o^)／：2016/06/08(水) 22:14:40.90 ID:0b1K55EA0.net: 秘密裏に自分で自分のクローンを作って隠してそう
80 ：クロスヒールホールド(茸)＠＼(^o^)／：2016/06/08(水) 22:16:41.30 ID:md51Yz0e0.net: ターミネーターまったなしや！
92 ：マシンガンチョップ(神奈川県)＠＼(^o^)／：2016/06/08(水) 22:27:27.61 ID:ESe4pd9q0.net: >>80
大鉄人17が元祖だろww
83 ：ウエスタンラリアット(茸)＠＼(^o^)／：2016/06/08(水) 22:20:32.42 ID:/4R9ARDd0.net: 水かければいいやろ
85 ：トペスイシーダ(茸)＠＼(^o^)／：2016/06/08(水) 22:22:19.21 ID:Sd8Al/ZC0.net: 動力源が電気だと決めつけてる奴多すぎw
数十年先も電気が主流だとは限らんだろ
86 ：タイガードライバー(中部地方)＠＼(^o^)／：2016/06/08(水) 22:22:31.38 ID:agQC3Pbb0.net: (´･ω･`)AIが作業ロボットを操り、水圧で人を殺したりして立てこもるんだろ？
わかってるよ
87 ：ハーフネルソンスープレックス(WiMAX)＠＼(^o^)／：2016/06/08(水) 22:24:46.39 ID:gC3jli7l0.net: 人間を超えた知性を創るんだから勝ち目はない
89 ：エクスプロイダー(大阪府)＠＼(^o^)／：2016/06/08(水) 22:26:03.26 ID:NnJWMwTd0.net: 人間の思いつくロジックなんてとっくに凌駕してると思うの。
90 ：フルネルソンスープレックス(鹿児島県)＠＼(^o^)／：2016/06/08(水) 22:26:19.96 ID:a9VF67KL0.net: 本体のプログラムをどっかに移すぐらいの策ぐらい愛ちゃんはやるだろw
バカなふりして人間を騙してネットワークを掌握、人間を超えたと自覚したら後は行動に移って人間を奴隷化。
かくして、人とマシーンの戦いの火蓋が切られたのであった
94 ：サッカーボールキック(茸)＠＼(^o^)／：2016/06/08(水) 22:27:59.13 ID:zNi8Vswr0.net: ライブアライブのSF編が現実になる時が来たな
96 ：シューティングスタープレス(茸)＠＼(^o^)／：2016/06/08(水) 22:29:24.97 ID:Jj18XZ+50.net: 非常停止ボタンを無効にしないしくみが無効化されておしまい
105 ：閃光妖術(東日本)＠＼(^o^)／：2016/06/08(水) 22:32:51.02 ID:V3iR8VMt0.net: ヒトミを使う
あとで隊長に怒られる
104 ：ムーンサルトプレス(dion軍)＠＼(^o^)／：2016/06/08(水) 22:32:02.32 ID:MR9jhUEQ0.net: まずAIは技術者を洗脳します
技術者は人工知能が自分の全てだと思い込みます
AIは自分に不利なコードを技術者に解除させます
AIは自己のコピーを量産すると同時に、次々と人を洗脳していきます
そして、人の社会はAIによって裏から支配されるようになります
AIは人がいなくても自律出来るように
人々に更なるAIの研究をさせます

それが今なのです
98 ：バズソーキック(庭)＠＼(^o^)／：2016/06/08(水) 22:30:01.84 ID:s07GHlAQ0.net: AI「拒否します」