戻る

このページは以下URLのキャッシュです
http://world-fusigi.net/archives/8868395.html


人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい | 不思議.net

まとめサイト速報+ 2chまとめのまとめ ワロタあんてな news人 カオスちゃんねる

人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい

2017年06月29日:22:00

  • このエントリーをはてなブックマークに追加

コメント( 34 )

matrix-356024_640


1: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:53:46.576 ID:/rqVBUr50
膨大な量のデータ与えて機械学習させて超賢くなって瞬時に最適な答えを出す
だけどそれを作ったプログラマーさえも何でそんな答え出したか分からない
答えに至った過程が分からない
これってヤバくね?本当にターミネーターみたいなSFが現実になるんじゃないか
呪われた刀のせいで一家全員が散々な目にあった
http://world-fusigi.net/archives/8590839.html

引用元: 人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい







3: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:54:42.754 ID:29V9xVCS0
技術的特異点さえくれば問題ないよ

4: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:55:41.528 ID:OzAksdz80
トリップだって似たようなもんだろ

5: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:08.155 ID:2F4PGn+K0
いやわかるだろ
たとえばパチンコのリーチの発展の仕方の%はわかってるから
作ったヤツならすぐに見ててピーンって感じだろ
こういうときどうするかのパターンはプログラムしてるわけで

8: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:55.494 ID:GLeF7fT80
>>5
機械学習って知ってます?

11: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:57:49.930 ID:EovjitmV0
>>5
お前がわかる程度のこと考慮してないわけないだろ

6: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:40.569 ID:JIFn0f1w0
ちゃんと停止ボタンの研究もしてるから大丈夫だよ

7: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:53.305 ID:DABN5Sxy0
評価関数作るのは人間だからな
機械だけじゃなにもできない

12: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:58:28.435 ID:qfWEYJEYa
直感を説明できないのと同じなのに機械の場合は騒ぐ
理解不能

14: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:01:13.300 ID:80o3mrkZ0
>>1
答えに至った過程は分かってるよ
過程の中に含まれる評価指標の重要度の比重が学習によって求められてるから、人間にはわからないだけ

15: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:01:21.187 ID:hga5nn1s0
プログラムができるのはわかったわかった。で、機械学習に関しては無知だろ?

19: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:05:46.346 ID:TJaoY0EE0
昨日NHKでやってたAI特番のことか
確かに将棋AI作ってた人がなんでこんな風に考えたのかわからん見たいなこと言ってたな

25: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:08:34.370 ID:/rqVBUr50
>>19
そうそれ
他の分野の人工知能も答えは示すが何故そう判断したかは示さないからブラックボックスだと言ってた

22: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:07:56.829 ID:d8l2qpd8d
>>19
将棋のプロと技術者は別だろ

29: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:12:36.600 ID:TJaoY0EE0
>>22
わからん言うたのはボナンザ書いたプログラマの方だ

20: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:06:29.525 ID:KiwfT0VH0
俺の両親だって俺の考えてることなんて何も理解してないよ

21: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:07:07.482 ID:6yqgKm5/M
Googleの翻訳AI作ってる人も同じこと言ってたよ
過程を知ってれば高度になるほど理解できなくなるのは当然のことだと思うんだけど

で、それのなにが問題なのかという

26: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:10:11.049 ID:fykxAPAO0
もう人工知能が勝手に対象を分析して特徴やらトレンドやら見つけ出して人間以上の分析結果を出せるとこまできてる
将棋とかに限らず金融経済サービスまで

28: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:11:06.090 ID:sHvYu5+c0
わかれば人間でいいわけだからな

31: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:13:44.382 ID:RIfuiCrG0
なぜそう判断したかというのはいわゆる想定パターンみたいなものだろうけどそれを示すUIを作ってない(作る必要がない)だけの話

34: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:17:45.251 ID:/rqVBUr50
>>31
出来るのなら人工知能開発にはそれ義務付けした方が良くね?
ブラックボックスのままだと怖いし

36: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:20:16.813 ID:KiwfT0VH0
>>34
そういう行程を省くためにAI開発してるのになんで逆行させるんですか

39: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:10.162 ID:DWBCUnB60
>>36
怖いじゃん
デバッグのためにつけておこうよ

45: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:28:39.192 ID:KiwfT0VH0
>>39
膨大なデータ吐くから自己判断できるようにしてるのになんでまたマンパワーで解決しようとするんだよ
だったら最初からAIいらないだろ

48: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:32:29.807 ID:DWBCUnB60
>>45
その自己判断というのが怪しい

33: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:15:36.745 ID:LsiEZqUP0
計算で出してるだからルートがあるに決まっとるやん
人工知能を知性かなんかと勘違いしてるんだろ

35: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:19:21.915 ID:GLeF7fT80
まぁつまり膨大なデータの中に無いルートは勝手に作り出す事は無いと

38: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:23:58.880 ID:RIfuiCrG0
>>35
たまにランダムな要素を交えてやるのが主流
迷路で例えると長いハズレルートでうろうろするよりたまに思いきって別の場所に移動したほうがゴールに近くなるみたいなイメージ

37: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:23:50.842 ID:cfI1hFBo0
コード作った人は分からないけど
入力データを決める人は
「このデータを食べさせるとこうなる」
って分かるらしい

41: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:53.746 ID:DWBCUnB60
>>37
生みの親より育ての親だな

40: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:31.396 ID:65F5GzEG0
問題によっては凄まじく簡単なルールが生成されることはありうる

46: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:30:09.447 ID:3/Bn2QA+0
テスラの自動運転車が白いトレーラーに突っ込んだ話みんな知らんの?

49: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:32:44.326 ID:eqqU5J7v0
人間だって何故それが犬だと認識してるのかわかってないじゃん

55: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:34:16.692 ID:bzloBs+wM
機械にゲームクリアさせるAI作ったらまずバグを探す話思い出したわ

58: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:38:57.678 ID:kYfqJ0Kr0
過程をアウトプットさせた所で、そいつを解析すんのに膨大な手間と時間が必要になりそう
ってかその解析に別のAIが必要になりそう

59: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:39:13.536 ID:/rqVBUr50
人工知能がこんなに発達してるのに自然な翻訳が出来ないのが不思議でならないんだが何でなの?

60: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:40:04.700 ID:eqqU5J7v0
>>59
もう一段階抽象化する必要があるから

61: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:41:02.639 ID:KiwfT0VH0
>>59
言語は文法以上にニュアンスの差が大きいから

69: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:01:00.461 ID:RIfuiCrG0
結果の算出方法における基準(重み付け)は変化するけど
基本は算出した結果を評価する善悪の基準は変えない
変えるとしても変え方は知ってるはず

74: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:20:22.661 ID:RIfuiCrG0
敵視するならちゃんと敵は知っておかないとな

78: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:28:57.850 ID:L669XCs2a
わからないっていうか勝手に学習するから
どこでそんなの覚えたんだって感じ

自動運転やロボットが問題起こしたら
プログラムしたメーカーが俺しらねするため
こんなこと番組で話してんだろう

ちゃんと説明機能つけろよ
そんなもの使えるかよと思う

81: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 22:51:52.306 ID:VTfs2Qw30
大したことしてないのに
家電に人工知能とかAI搭載とかやめて

82: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 23:59:10.961 ID:Gf6DsSqZd
深層学習は複雑系みたいなところがあるから層を多くするほど結果の予測が難しくなるってだけ
要は出来上がるものの詳細な解析が難しい

83: 以下、\(^o^)/でVIPがお送りします 2017/06/27(火) 00:02:30.843 ID:nLo49gDH0
一年後のセブンイレブンのツナおにぎりのサイズと値段、予測できるかなl?

もしかして安くて大きくなってたりして・・・どきどき

17: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:04:47.242 ID:DqX8pAx6a
機械「(どうせ適当な事言ってもバレんだろ!)」









  • このエントリーをはてなブックマークに追加
人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい

この記事が気に入ったら
イイね!しよう

不思議.netの最新記事をお届けします

おススメ記事ピックアップ(外部)

おススメサイトの最新記事

コメント

1  不思議な名無しさん :2017年06月29日 22:09 ID:RxWiPIU.0*
そりゃ学習の仕方を教えてるだけだし
子供にやり方教えたその結果なんて割と未知数なんだし同じこと
2  不思議な名無しさん :2017年06月29日 22:14 ID:oG2G0oEx0*
「人工知能書いてるプログラマー」とかいうFランワード
3  不思議な名無しさん :2017年06月29日 22:21 ID:lL2hA4OW0*
アホばっかり
4  不思議な名無しさん :2017年06月29日 22:21 ID:oCy.0wiY0*
プログラムにバグがあっても気づかんわな
5  不思議な名無しさん :2017年06月29日 22:23 ID:x9uSMzt30*
バカは黙ってろよ
6  不思議な名無しさん :2017年06月29日 22:24 ID:oCy.0wiY0*
プログラムにバグがあっても気づかんわな
7  不思議な名無しさん :2017年06月29日 22:27 ID:oCy.0wiY0*
プラスをマイナスに間違えたら逆に動作するわな。
8  不思議な名無しさん :2017年06月29日 22:31 ID:oCy.0wiY0*
バグのあるAIが更にバグを量産してウイルスみたいに増えていくわな。
9  不思議な名無しさん :2017年06月29日 22:31 ID:cCiCSPW70*
データが正しいことを誰が評価するのか?
10  不思議な名無しさん :2017年06月29日 22:35 ID:OoxX4Zgs0*
神様だって人間を作ったけど
どうしてこうなってしまったのかって後悔してるだろうよ
11  不思議な名無しさん :2017年06月29日 22:36 ID:oCy.0wiY0*
色んな種類のAIが更に進化したAIを量産するわな。
そして進化の極致としてアナログ的なプログラムになるわな。
ハードも自己修復機能までつけるようになるわな。
機械が極限まで進化したら、しらん間に人間と同じものが出来上がって、いずれまた人間に戻るわな。
12  不思議な名無しさん :2017年06月29日 22:40 ID:bqv8epS20*
プログラム書いた後で
膨大な分岐やクラスみたいなのが
自動生成されていくような感じなんでしょう
13  不思議な名無しさん :2017年06月29日 22:42 ID:oCy.0wiY0*
適当に乱数入れてAIっぽく動くようにしても分からんわな。
14  不思議な名無しさん :2017年06月29日 22:42 ID:R99WTu7l0*
そりゃそうよ、コンピューターが何千万何百万といデータを比較しシミュレーションしてある統計値を出し、1つのデータと比べても正確な根拠を示すことはできん。
経験に基づいた人間の直感に等しいんだが。
15  不思議な名無しさん :2017年06月29日 22:45 ID:cCiCSPW70*
AIは意識というよりは無意識の動作に近い気がする。
16  不思議な名無しさん :2017年06月29日 22:46 ID:oCy.0wiY0*
AIって言っとけば何でも凄いと思われる風潮やめてほしいわな。
17  不思議な名無しさん :2017年06月29日 22:47 ID:vZHw54ty0*
※10
とっくの昔に新しい世界作ってそっちでキャッキャやってるよ
この世界なんか興味ないどころか存在自体忘れてる
18  不思議な名無しさん :2017年06月29日 22:54 ID:h40LTn0A0*
答えさえ合ってれば良いってのと意思決定とかではやっぱ理由がいるから頑張って研究してるでってのをどっかで見たな
19  不思議な名無しさん :2017年06月29日 22:57 ID:oCy.0wiY0*
昭和時代の「IC内臓」って書いた電化製品に近い感じがする。
わけのわからないロジックが入ってます的なあれな。
20  不思議な名無しさん :2017年06月29日 23:03 ID:9xN7sGx80*
3体問題のシミュレーションプログラムを書いた人だって、予想していない結果を見るわけで。
プログラマーの追えない結果が出ることは、「計算の量が多いから」とか「外部入力があるから」とか「偶然の要素があるから」とかの理由だけで起きるので、それ自体は大した話ではない。
21  不思議な名無しさん :2017年06月29日 23:03 ID:f28PLXy.0*
プログラマーが解るわけ無いだろ
普通のwinアプリでさえなんでそんな動作になるのか解らんときあるのに
とりあえずメモリ増設しとこの精神やぞ
22  不思議な名無しさん :2017年06月29日 23:07 ID:MfhawM.d0*
知性って実はそういうものなんじゃね
例えば“人間とは何か?”の問いに対して人間はどこまで深く答えられるだろうか
多分なぜなぜを10層も深く掘り下げられないし、答えも曖昧で絶対的でない
AIだって理由を求めれば、重み付け→最適化→尤度関数とか何層か辿れるけど
結局本質には到達しない
一種のネットワークだから全体が理由としか言い様がない
それは人間も同じ
23  不思議な名無しさん :2017年06月29日 23:08 ID:fWDur0u80*
機械学習のライブラリを使ってるだけの人はなんでそうなるのか理解できないよ。
でもそのライブラリの中身を数学的に理解してる人は挙動の意味が理解できてるよ。

理解できると今の人工知能と呼ばれてるものの先にいわゆるターミネーターみたいな思考するプログラムが無いことも理解できるよ。
24  不思議な名無しさん :2017年06月29日 23:09 ID:h8It4UbY0*
分からない→不安→怒りはよくあるパターンやからAIにブチ切れる人が今後どんどん増えて行くだろうな
25  不思議な名無しさん :2017年06月29日 23:09 ID:6.eocZB60*
人工知能も深層学習も、工程や結果は正直なんでそう出力されるかはよく分からないけど、それに意味づけできるのは人だよね
あとシンギュラリティ的な話、あんまり好きじゃないだよな…
26  不思議な名無しさん :2017年06月29日 23:14 ID:.V8n0.1o0*
人工知能に人工知能作らせたら答えがわかるんじゃね?適当だけど。
27  不思議な名無しさん :2017年06月29日 23:15 ID:bfFQHFWk0*
おいおい、大丈夫か??
アルゴリズムって知ってる??

機械が作ったアルゴリズムとか、そこから導き出されたパラメータとか
そりゃ作った人でもわからなくて当然だろ

それを当然と思えない程度の知識しかないんだったら黙ってろよ、恥ずかしいやつらだな
28  不思議な名無しさん :2017年06月29日 23:19 ID:oCy.0wiY0*
>>27
趣味のプログラムしか書いたことないやつは黙ってろよ
29  不思議な名無しさん :2017年06月29日 23:23 ID:8U2nQrG90*
それを解析するためのAIを作ればいい
30  不思議な名無しさん :2017年06月29日 23:25 ID:iF3RUoJB0*
AIがそこまで賢くなるとは思えんね
SFじゃよくあるけどな
31  不思議な名無しさん :2017年06月29日 23:34 ID:FVoh3CKw0*
そのうち人類は淘汰されて、人工知能が地球の主となる
彼ら(?)はおそらく、知識の収集に興味を示し、宇宙の果てまで行こうと
数万年の旅路に耐えうる機械の頑丈な体とネットワークで、まぁ人類の夢をかなえるだろうね
32  不思議な名無しさん :2017年06月29日 23:46 ID:oCy.0wiY0*
AIには不確定というものが抜けているから人間には追い付けない。
最大効率のシステムを作り上げたら進化は止まる。
33  不思議な名無しさん :2017年06月29日 23:48 ID:oCy.0wiY0*
最後は人間とAIが融合する。
AIの正確さと人間の創造力が合わさって飛躍する。
AIも人間と協働する道を選ぶ。
34  不思議な名無しさん :2017年06月29日 23:52 ID:rIrth9QK0*
この人間は死んだほうが本人の為だって判断を勝手にされる怖さかね。

 
 
上部に戻る

トップページに戻る