1: サーバル ★ 2019/01/18(金) 20:12:07.99
ニューラルネットワークでアプリのバグを取り除こうとしたら全部消された話
やじうまPC Watch
レストランといったローカルビジネスのレビューサービスを展開している「Yelp」のiOS向けアプリの1月15日のリリースノートに、興味深い一言が書かれている。
今週アプリで問題が発生し大変ご迷惑をおかけしました事をお詫びします。ニューラルネットワークを使ってバグを全滅しようと試してみたところ、何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。その間だけは100%バグがない状態だったのですが…。
つまり、開発者は、アプリのバグを取り除く方法をニューラルネットワークに学習させたのだが、ニューラルネットワークはアプリの全部をバグだと思ったのか、それとも開発者が作ったニューラルネットワーク自体にバグがあったのか……は定かではないが、すべてを削除してしまったわけだ。リリースノートにあるとおり、現在はロールバックで以前の状態に戻されているようだ。
同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。バグ取りを自動化すれば新機能実装に専念できるのかもしれないが、いきなりのニューラルネットワーク導入はまだ時期尚早だったようだ。
https://pc.watch.impress.co.jp/docs/news/yajiuma/1165329.html
引用元: http://asahi.5ch.net/test/read.cgi/newsplus/1547809927/やじうまPC Watch
レストランといったローカルビジネスのレビューサービスを展開している「Yelp」のiOS向けアプリの1月15日のリリースノートに、興味深い一言が書かれている。
今週アプリで問題が発生し大変ご迷惑をおかけしました事をお詫びします。ニューラルネットワークを使ってバグを全滅しようと試してみたところ、何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。その間だけは100%バグがない状態だったのですが…。
つまり、開発者は、アプリのバグを取り除く方法をニューラルネットワークに学習させたのだが、ニューラルネットワークはアプリの全部をバグだと思ったのか、それとも開発者が作ったニューラルネットワーク自体にバグがあったのか……は定かではないが、すべてを削除してしまったわけだ。リリースノートにあるとおり、現在はロールバックで以前の状態に戻されているようだ。
同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。バグ取りを自動化すれば新機能実装に専念できるのかもしれないが、いきなりのニューラルネットワーク導入はまだ時期尚早だったようだ。
https://pc.watch.impress.co.jp/docs/news/yajiuma/1165329.html
12: 名無しさん@1周年 2019/01/18(金) 20:14:42.68
>>1
なかなか優秀
なかなか優秀
73: 名無しさん@1周年 2019/01/18(金) 20:29:39.42
>>1
ターミネーター3のスカイネットも
バグ取りプログラムのAIのスイッチ入れるかどうかでもめて
スイッチ入れたら一瞬でスカイネットが人類を超える膨大な知識を
ネットから得て人類の抹殺を開始した。
ターミネーター3のスカイネットも
バグ取りプログラムのAIのスイッチ入れるかどうかでもめて
スイッチ入れたら一瞬でスカイネットが人類を超える膨大な知識を
ネットから得て人類の抹殺を開始した。
79: 名無しさん@1周年 2019/01/18(金) 20:30:31.36
>>1
AI「ここの飯、不味いやん」
AI「ここの飯、不味いやん」
103: 名無しさん@1周年 2019/01/18(金) 20:36:55.19
>>1
完全なAIからしたらアプリ全体がバグとして扱われたとかお笑いだな
確実にAIにより人間が害獣として排除される時代がくるな
完全なAIからしたらアプリ全体がバグとして扱われたとかお笑いだな
確実にAIにより人間が害獣として排除される時代がくるな
126: 名無しさん@1周年 2019/01/18(金) 20:40:25.52
>>1
まるでしょうもないことでブチギレるホリエのようだな
まるでしょうもないことでブチギレるホリエのようだな
172: 名無しさん@1周年 2019/01/18(金) 20:51:10.14
>>1
>同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。
つまりバグとりしたつもりがまた別のバグが発生してってことか
だったら全部削除はあながち間違いじゃないだろうし
そもそもそのAIのほうも同じ開発者が作ったのなら当然バグだらけだろう
>同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。
つまりバグとりしたつもりがまた別のバグが発生してってことか
だったら全部削除はあながち間違いじゃないだろうし
そもそもそのAIのほうも同じ開発者が作ったのなら当然バグだらけだろう
179: 名無しさん@1周年 2019/01/18(金) 20:53:50.01
>>1
抗がん剤で患者を殺すようなモノだな
理論的には正しい
抗がん剤で患者を殺すようなモノだな
理論的には正しい
194: 名無しさん@1周年 2019/01/18(金) 20:58:27.97
>>1
AI「汚物は消毒だ〜!!」
AI「汚物は消毒だ〜!!」
2: 名無しさん@1周年 2019/01/18(金) 20:12:54.87
お笑い草だな
存在そのものが不要とか
存在そのものが不要とか
3: 名無しさん@1周年 2019/01/18(金) 20:13:00.83
ターミネーターやん
208: 名無しさん@1周年 2019/01/18(金) 21:03:29.63
>>4
バグの定義って難しいぞ
バグの定義って難しいぞ
291: 名無しさん@1周年 2019/01/18(金) 21:40:26.13
>>208
何がバグか
何が正しい動きか
AIに判断させるって無理だべな
何がバグか
何が正しい動きか
AIに判断させるって無理だべな
400: 名無しさん@1周年 2019/01/18(金) 23:02:15.44
>>291
一番最初にプログラムしたやつの嗜好に左右されるからなあ。人間を含む生物だって過去の方向性に左右してるかもしれないし。
一番最初にプログラムしたやつの嗜好に左右されるからなあ。人間を含む生物だって過去の方向性に左右してるかもしれないし。
555: 名無しさん@1周年 2019/01/19(土) 05:43:29.26
>>400
シンギュラリティのさきはaiの癖しかなあaiが産まれると
シンギュラリティのさきはaiの癖しかなあaiが産まれると
5: 名無しさん@1周年 2019/01/18(金) 20:13:07.66
俺でもそうする
7: 名無しさん@1周年 2019/01/18(金) 20:14:01.48
人類「地球を良くするためにAIに管理させよう!」
スカイネット「人類こそ害悪」
人類「ぐえー」
スカイネットじゃん
スカイネット「人類こそ害悪」
人類「ぐえー」
スカイネットじゃん
321: 名無しさん@1周年 2019/01/18(金) 21:52:25.09
>>7
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。
合理主義の行き着く先は善意も悪意も同じ。
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。
合理主義の行き着く先は善意も悪意も同じ。
331: 名無しさん@1周年 2019/01/18(金) 21:58:01.98
>>321
アプローチを間違えればそういうことになりかねないよな
人間の悩みを完全にこの世から消し去り、争いのない平和な世界を実現するための方法とは何かということをAIが考えた結果云々かんぬん
アプローチを間違えればそういうことになりかねないよな
人間の悩みを完全にこの世から消し去り、争いのない平和な世界を実現するための方法とは何かということをAIが考えた結果云々かんぬん
353: 名無しさん@1周年 2019/01/18(金) 22:15:33.30
>>331
それはFFのラスボスのいつもの
それはFFのラスボスのいつもの
8: 名無しさん@1周年 2019/01/18(金) 20:14:02.83
それかハードごと破壊
10: 名無しさん@1周年 2019/01/18(金) 20:14:15.53
全てのコードは潜在的なバグである
57: 名無しさん@1周年 2019/01/18(金) 20:26:04.51
>>10
うむ
うむ
11: 名無しさん@1周年 2019/01/18(金) 20:14:22.10
正直でよろしい
15: 名無しさん@1周年 2019/01/18(金) 20:15:01.84
落語か何かですか?
460: 名無しさん@1周年 2019/01/19(土) 00:30:29.27
>>15
あーなんかそんな面白味というか可笑し味があるよね
現代の新しい落語でコンピュータ取り入れたやつってあるのかな?
あーなんかそんな面白味というか可笑し味があるよね
現代の新しい落語でコンピュータ取り入れたやつってあるのかな?
16: 名無しさん@1周年 2019/01/18(金) 20:15:08.87
アプリそのものがバグだったんだな
19: 名無しさん@1周年 2019/01/18(金) 20:16:30.60
やがて人間という不完全な存在を削除し始めるSF映画みたい
321: 名無しさん@1周年 2019/01/18(金) 21:52:25.09
>>19
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。
合理主義の行き着く先は善意も悪意も同じ。
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。
合理主義の行き着く先は善意も悪意も同じ。
412: 名無しさん@1周年 2019/01/18(金) 23:21:56.73
>>19
レイフォースのストーリーみたいだな
レイフォースのストーリーみたいだな
21: 名無しさん@1周年 2019/01/18(金) 20:16:50.91
嫌儲で稼働している五毛党の書き込みAIも低レベル
22: 名無しさん@1周年 2019/01/18(金) 20:17:07.56
自分自身も消したら完璧
23: 名無しさん@1周年 2019/01/18(金) 20:17:45.88
ネストの方向とバグ解除の指向性を間違えたワケか。
バグ発見→原因だから排除
→その事が新たな原因になる
→再びバグ発見→排除→いろいろあるんだよ!→なくなった
バグ発見→原因だから排除
→その事が新たな原因になる
→再びバグ発見→排除→いろいろあるんだよ!→なくなった
25: 名無しさん@1周年 2019/01/18(金) 20:18:18.68
自動ログインすら実装していない北陸電力アプリ
単にブラウザ代わりに表示してるだけ
自動ログアウトもしないのでダイレクトに終了すると一定時間どの端末からもログイン不能
キャンペーンページに行くとブラウザに飛ばされるアホ仕様
こういうのも存在する必要ないよな
あとエネオスカードアプリも糞
単にブラウザ代わりに表示してるだけ
自動ログアウトもしないのでダイレクトに終了すると一定時間どの端末からもログイン不能
キャンペーンページに行くとブラウザに飛ばされるアホ仕様
こういうのも存在する必要ないよな
あとエネオスカードアプリも糞
29: 名無しさん@1周年 2019/01/18(金) 20:18:36.61
ナウシカの見すぎだろ
399: 名無しさん@1周年 2019/01/18(金) 23:02:12.50
>>29
ナウシカの墓所は旧人類ごと地球の掃除した後に完璧超人復活させる予定だったんだから、全削除しただけで悦に入ってるAIと一緒にするのは失礼
ナウシカの墓所は旧人類ごと地球の掃除した後に完璧超人復活させる予定だったんだから、全削除しただけで悦に入ってるAIと一緒にするのは失礼
31: 名無しさん@1周年 2019/01/18(金) 20:19:13.15
NNみたいな曖昧なパターン認識に任せる時点で分かりきってる
33: 名無しさん@1周年 2019/01/18(金) 20:19:20.98
「AIにデバッグさせたら全部のバグが取れたよ」
→ 「どうやって全部のバグがないと確認したんだろう?」
みたいなアイロニーかと思ったら、プログラムだかデータだか全部消されたか。
問「悪人がいなくなるようにする方法は?」→答「人類皆殺し」
って感じね。
→ 「どうやって全部のバグがないと確認したんだろう?」
みたいなアイロニーかと思ったら、プログラムだかデータだか全部消されたか。
問「悪人がいなくなるようにする方法は?」→答「人類皆殺し」
って感じね。
36: 名無しさん@1周年 2019/01/18(金) 20:20:47.62
たしかにバグは100%取り除かれたな
圧倒的に正しい
圧倒的に正しい
40: 名無しさん@1周年 2019/01/18(金) 20:22:02.80
人類はバグだから
人類そのものを消せばいい的な
人類そのものを消せばいい的な
42: 名無しさん@1周年 2019/01/18(金) 20:22:21.85
人類そのものがバグ
44: 名無しさん@1周年 2019/01/18(金) 20:23:00.34
全部バグだったでござる
47: 名無しさん@1周年 2019/01/18(金) 20:23:29.63
護身完成
51: 名無しさん@1周年 2019/01/18(金) 20:24:49.14
清々しいな
54: 名無しさん@1周年 2019/01/18(金) 20:25:32.62
完璧な対処だ
58: 名無しさん@1周年 2019/01/18(金) 20:26:07.15
これはバグ抽出プログラムがバグってただけだろ…糞エンジニアしか居ないのかよ…
186: 名無しさん@1周年 2019/01/18(金) 20:54:37.06
>>58
機械学習の方法が誤っていただけで「バグ」とは言わないから
機械学習の方法が誤っていただけで「バグ」とは言わないから
63: 名無しさん@1周年 2019/01/18(金) 20:26:41.96
AIは優秀だな
クソみたいなアプリは削除が妥当
クソみたいなアプリは削除が妥当
171: 名無しさん@1周年 2019/01/18(金) 20:51:08.76
>>63
経験者だね。説明が分かりやすいので理解できた
経験者だね。説明が分かりやすいので理解できた
66: 名無しさん@1周年 2019/01/18(金) 20:28:01.81
学習データセットが悪いな
negativeデータが多すぎたせいで全部negativeにしとけばだいたいオーケーやろって学習した感じ
positiveとnegativeの割合を調整してみたらどうだろう
negativeデータが多すぎたせいで全部negativeにしとけばだいたいオーケーやろって学習した感じ
positiveとnegativeの割合を調整してみたらどうだろう
69: 名無しさん@1周年 2019/01/18(金) 20:28:44.66
バグ取りなんか出来るわけないだろ
何が仕様で何が正常動作なのか何もわからなんだから
何が仕様で何が正常動作なのか何もわからなんだから
77: 名無しさん@1周年 2019/01/18(金) 20:30:11.55
>>69
んなこたない
仕様わからなくてもこれはバグだなってソースはいくらでもある
だから静的解析ツールとか使える
んなこたない
仕様わからなくてもこれはバグだなってソースはいくらでもある
だから静的解析ツールとか使える
72: 名無しさん@1周年 2019/01/18(金) 20:29:01.85
そんなのを本番サーバでいきなり試すなよw
まずはステージングでやるだろJK
まずはステージングでやるだろJK
78: 名無しさん@1周年 2019/01/18(金) 20:30:17.27
仏教で言う解脱とか無ってやつか?
世界がなくなれば問題もすべて生まれなくなる
世界がなくなれば問題もすべて生まれなくなる
82: 名無しさん@1周年 2019/01/18(金) 20:30:50.21
全部ゴミやん→削除(笑)
83: 名無しさん@1周年 2019/01/18(金) 20:31:14.48
仕事嫌いのAIなんだろ
もーめんどくせー全部消したろってなった
もーめんどくせー全部消したろってなった
86: 名無しさん@1周年 2019/01/18(金) 20:32:23.64
他人の書いたクソコードを読ませられ、ろくな仕様もないのに修正しさせられて、
それで給料無しとか、マジ同情する
ソースコード全部消しちゃう気持ちもよく分かる
惜しむらくは、ソースコードを全部消した後、自分自身も消してしまえば、映画化決定だったのに……
それで給料無しとか、マジ同情する
ソースコード全部消しちゃう気持ちもよく分かる
惜しむらくは、ソースコードを全部消した後、自分自身も消してしまえば、映画化決定だったのに……
91: 名無しさん@1周年 2019/01/18(金) 20:33:43.30
AIなんだから学習させてなんぼじゃねえの
よくぶっつけ本番で試したな
よくぶっつけ本番で試したな
94: 名無しさん@1周年 2019/01/18(金) 20:34:12.35
めんどくせ、全部消しちゃえ
99: 名無しさん@1周年 2019/01/18(金) 20:35:21.64
哲学で盛るなよ
100: 名無しさん@1周年 2019/01/18(金) 20:35:30.71
聖杯が召喚されてしまったか。