人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい
2017年06月29日:22:00
- カテゴリ:新技術
1: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:53:46.576 ID:/rqVBUr50
膨大な量のデータ与えて機械学習させて超賢くなって瞬時に最適な答えを出す
だけどそれを作ったプログラマーさえも何でそんな答え出したか分からない
答えに至った過程が分からない
これってヤバくね?本当にターミネーターみたいなSFが現実になるんじゃないか
だけどそれを作ったプログラマーさえも何でそんな答え出したか分からない
答えに至った過程が分からない
これってヤバくね?本当にターミネーターみたいなSFが現実になるんじゃないか
引用元: ・人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい
3: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:54:42.754 ID:29V9xVCS0
技術的特異点さえくれば問題ないよ
4: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:55:41.528 ID:OzAksdz80
トリップだって似たようなもんだろ
5: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:08.155 ID:2F4PGn+K0
いやわかるだろ
たとえばパチンコのリーチの発展の仕方の%はわかってるから
作ったヤツならすぐに見ててピーンって感じだろ
こういうときどうするかのパターンはプログラムしてるわけで
たとえばパチンコのリーチの発展の仕方の%はわかってるから
作ったヤツならすぐに見ててピーンって感じだろ
こういうときどうするかのパターンはプログラムしてるわけで
8: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:55.494 ID:GLeF7fT80
>>5
機械学習って知ってます?
機械学習って知ってます?
11: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:57:49.930 ID:EovjitmV0
>>5
お前がわかる程度のこと考慮してないわけないだろ
お前がわかる程度のこと考慮してないわけないだろ
6: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:40.569 ID:JIFn0f1w0
ちゃんと停止ボタンの研究もしてるから大丈夫だよ
7: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:53.305 ID:DABN5Sxy0
評価関数作るのは人間だからな
機械だけじゃなにもできない
機械だけじゃなにもできない
12: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:58:28.435 ID:qfWEYJEYa
直感を説明できないのと同じなのに機械の場合は騒ぐ
理解不能
理解不能
14: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:01:13.300 ID:80o3mrkZ0
>>1
答えに至った過程は分かってるよ
過程の中に含まれる評価指標の重要度の比重が学習によって求められてるから、人間にはわからないだけ
答えに至った過程は分かってるよ
過程の中に含まれる評価指標の重要度の比重が学習によって求められてるから、人間にはわからないだけ
15: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:01:21.187 ID:hga5nn1s0
プログラムができるのはわかったわかった。で、機械学習に関しては無知だろ?
19: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:05:46.346 ID:TJaoY0EE0
昨日NHKでやってたAI特番のことか
確かに将棋AI作ってた人がなんでこんな風に考えたのかわからん見たいなこと言ってたな
確かに将棋AI作ってた人がなんでこんな風に考えたのかわからん見たいなこと言ってたな
25: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:08:34.370 ID:/rqVBUr50
>>19
そうそれ
他の分野の人工知能も答えは示すが何故そう判断したかは示さないからブラックボックスだと言ってた
そうそれ
他の分野の人工知能も答えは示すが何故そう判断したかは示さないからブラックボックスだと言ってた
22: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:07:56.829 ID:d8l2qpd8d
>>19
将棋のプロと技術者は別だろ
将棋のプロと技術者は別だろ
29: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:12:36.600 ID:TJaoY0EE0
>>22
わからん言うたのはボナンザ書いたプログラマの方だ
わからん言うたのはボナンザ書いたプログラマの方だ
20: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:06:29.525 ID:KiwfT0VH0
俺の両親だって俺の考えてることなんて何も理解してないよ
21: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:07:07.482 ID:6yqgKm5/M
Googleの翻訳AI作ってる人も同じこと言ってたよ
過程を知ってれば高度になるほど理解できなくなるのは当然のことだと思うんだけど
で、それのなにが問題なのかという
過程を知ってれば高度になるほど理解できなくなるのは当然のことだと思うんだけど
で、それのなにが問題なのかという
26: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:10:11.049 ID:fykxAPAO0
もう人工知能が勝手に対象を分析して特徴やらトレンドやら見つけ出して人間以上の分析結果を出せるとこまできてる
将棋とかに限らず金融経済サービスまで
将棋とかに限らず金融経済サービスまで
28: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:11:06.090 ID:sHvYu5+c0
わかれば人間でいいわけだからな
31: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:13:44.382 ID:RIfuiCrG0
なぜそう判断したかというのはいわゆる想定パターンみたいなものだろうけどそれを示すUIを作ってない(作る必要がない)だけの話
34: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:17:45.251 ID:/rqVBUr50
>>31
出来るのなら人工知能開発にはそれ義務付けした方が良くね?
ブラックボックスのままだと怖いし
出来るのなら人工知能開発にはそれ義務付けした方が良くね?
ブラックボックスのままだと怖いし
36: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:20:16.813 ID:KiwfT0VH0
>>34
そういう行程を省くためにAI開発してるのになんで逆行させるんですか
そういう行程を省くためにAI開発してるのになんで逆行させるんですか
39: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:10.162 ID:DWBCUnB60
>>36
怖いじゃん
デバッグのためにつけておこうよ
怖いじゃん
デバッグのためにつけておこうよ
45: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:28:39.192 ID:KiwfT0VH0
>>39
膨大なデータ吐くから自己判断できるようにしてるのになんでまたマンパワーで解決しようとするんだよ
だったら最初からAIいらないだろ
膨大なデータ吐くから自己判断できるようにしてるのになんでまたマンパワーで解決しようとするんだよ
だったら最初からAIいらないだろ
48: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:32:29.807 ID:DWBCUnB60
>>45
その自己判断というのが怪しい
その自己判断というのが怪しい
33: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:15:36.745 ID:LsiEZqUP0
計算で出してるだからルートがあるに決まっとるやん
人工知能を知性かなんかと勘違いしてるんだろ
人工知能を知性かなんかと勘違いしてるんだろ
35: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:19:21.915 ID:GLeF7fT80
まぁつまり膨大なデータの中に無いルートは勝手に作り出す事は無いと
38: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:23:58.880 ID:RIfuiCrG0
>>35
たまにランダムな要素を交えてやるのが主流
迷路で例えると長いハズレルートでうろうろするよりたまに思いきって別の場所に移動したほうがゴールに近くなるみたいなイメージ
たまにランダムな要素を交えてやるのが主流
迷路で例えると長いハズレルートでうろうろするよりたまに思いきって別の場所に移動したほうがゴールに近くなるみたいなイメージ
37: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:23:50.842 ID:cfI1hFBo0
コード作った人は分からないけど
入力データを決める人は
「このデータを食べさせるとこうなる」
って分かるらしい
入力データを決める人は
「このデータを食べさせるとこうなる」
って分かるらしい
41: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:53.746 ID:DWBCUnB60
>>37
生みの親より育ての親だな
生みの親より育ての親だな
40: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:31.396 ID:65F5GzEG0
問題によっては凄まじく簡単なルールが生成されることはありうる
46: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:30:09.447 ID:3/Bn2QA+0
テスラの自動運転車が白いトレーラーに突っ込んだ話みんな知らんの?
49: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:32:44.326 ID:eqqU5J7v0
人間だって何故それが犬だと認識してるのかわかってないじゃん
55: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:34:16.692 ID:bzloBs+wM
機械にゲームクリアさせるAI作ったらまずバグを探す話思い出したわ
58: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:38:57.678 ID:kYfqJ0Kr0
過程をアウトプットさせた所で、そいつを解析すんのに膨大な手間と時間が必要になりそう
ってかその解析に別のAIが必要になりそう
ってかその解析に別のAIが必要になりそう
59: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:39:13.536 ID:/rqVBUr50
人工知能がこんなに発達してるのに自然な翻訳が出来ないのが不思議でならないんだが何でなの?
60: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:40:04.700 ID:eqqU5J7v0
>>59
もう一段階抽象化する必要があるから
もう一段階抽象化する必要があるから
61: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:41:02.639 ID:KiwfT0VH0
>>59
言語は文法以上にニュアンスの差が大きいから
言語は文法以上にニュアンスの差が大きいから
69: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:01:00.461 ID:RIfuiCrG0
結果の算出方法における基準(重み付け)は変化するけど
基本は算出した結果を評価する善悪の基準は変えない
変えるとしても変え方は知ってるはず
基本は算出した結果を評価する善悪の基準は変えない
変えるとしても変え方は知ってるはず
74: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:20:22.661 ID:RIfuiCrG0
敵視するならちゃんと敵は知っておかないとな
78: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:28:57.850 ID:L669XCs2a
わからないっていうか勝手に学習するから
どこでそんなの覚えたんだって感じ
自動運転やロボットが問題起こしたら
プログラムしたメーカーが俺しらねするため
こんなこと番組で話してんだろう
ちゃんと説明機能つけろよ
そんなもの使えるかよと思う
どこでそんなの覚えたんだって感じ
自動運転やロボットが問題起こしたら
プログラムしたメーカーが俺しらねするため
こんなこと番組で話してんだろう
ちゃんと説明機能つけろよ
そんなもの使えるかよと思う
81: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 22:51:52.306 ID:VTfs2Qw30
大したことしてないのに
家電に人工知能とかAI搭載とかやめて
家電に人工知能とかAI搭載とかやめて
82: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 23:59:10.961 ID:Gf6DsSqZd
深層学習は複雑系みたいなところがあるから層を多くするほど結果の予測が難しくなるってだけ
要は出来上がるものの詳細な解析が難しい
要は出来上がるものの詳細な解析が難しい
83: 以下、\(^o^)/でVIPがお送りします 2017/06/27(火) 00:02:30.843 ID:nLo49gDH0
一年後のセブンイレブンのツナおにぎりのサイズと値段、予測できるかなl?
もしかして安くて大きくなってたりして・・・どきどき
もしかして安くて大きくなってたりして・・・どきどき
17: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:04:47.242 ID:DqX8pAx6a
機械「(どうせ適当な事言ってもバレんだろ!)」
▼合わせて読みたい
プログラムってありえなくね??DNAコードは意思を持って記述されたプログラムだった!? 専門家「偶発的に書き上がるものではない」
ついにAIがAIをプログラムする時代が到来!←そろそろ人いらないんじゃね?
人間の脳ってプログラムされたものだよな
アポロ11号が月面着陸時に使用した誘導プログラムのソースコード公開…やっぱり月に行ったってマジなの
おすすめリンク(外部)
中国人ってよくあんなに残酷な死刑をどんどん発明してきたな・・・
【閲覧注意】山岳ベース事件とかいう胸糞事件wwwwwwwwwwwww
この記事が気に入ったら
イイね!しよう
不思議.netの最新記事をお届けします
おススメ記事ピックアップ(外部)
おススメサイトの最新記事
コメント
そりゃ学習の仕方を教えてるだけだし
子供にやり方教えたその結果なんて割と未知数なんだし同じこと
子供にやり方教えたその結果なんて割と未知数なんだし同じこと
「人工知能書いてるプログラマー」とかいうFランワード
アホばっかり
プログラムにバグがあっても気づかんわな
バカは黙ってろよ
プログラムにバグがあっても気づかんわな
プラスをマイナスに間違えたら逆に動作するわな。
バグのあるAIが更にバグを量産してウイルスみたいに増えていくわな。
データが正しいことを誰が評価するのか?
神様だって人間を作ったけど
どうしてこうなってしまったのかって後悔してるだろうよ
どうしてこうなってしまったのかって後悔してるだろうよ
色んな種類のAIが更に進化したAIを量産するわな。
そして進化の極致としてアナログ的なプログラムになるわな。
ハードも自己修復機能までつけるようになるわな。
機械が極限まで進化したら、しらん間に人間と同じものが出来上がって、いずれまた人間に戻るわな。
そして進化の極致としてアナログ的なプログラムになるわな。
ハードも自己修復機能までつけるようになるわな。
機械が極限まで進化したら、しらん間に人間と同じものが出来上がって、いずれまた人間に戻るわな。
プログラム書いた後で
膨大な分岐やクラスみたいなのが
自動生成されていくような感じなんでしょう
膨大な分岐やクラスみたいなのが
自動生成されていくような感じなんでしょう
適当に乱数入れてAIっぽく動くようにしても分からんわな。
そりゃそうよ、コンピューターが何千万何百万といデータを比較しシミュレーションしてある統計値を出し、1つのデータと比べても正確な根拠を示すことはできん。
経験に基づいた人間の直感に等しいんだが。
経験に基づいた人間の直感に等しいんだが。
AIは意識というよりは無意識の動作に近い気がする。
AIって言っとけば何でも凄いと思われる風潮やめてほしいわな。
※10
とっくの昔に新しい世界作ってそっちでキャッキャやってるよ
この世界なんか興味ないどころか存在自体忘れてる
とっくの昔に新しい世界作ってそっちでキャッキャやってるよ
この世界なんか興味ないどころか存在自体忘れてる
答えさえ合ってれば良いってのと意思決定とかではやっぱ理由がいるから頑張って研究してるでってのをどっかで見たな
昭和時代の「IC内臓」って書いた電化製品に近い感じがする。
わけのわからないロジックが入ってます的なあれな。
わけのわからないロジックが入ってます的なあれな。
3体問題のシミュレーションプログラムを書いた人だって、予想していない結果を見るわけで。
プログラマーの追えない結果が出ることは、「計算の量が多いから」とか「外部入力があるから」とか「偶然の要素があるから」とかの理由だけで起きるので、それ自体は大した話ではない。
プログラマーの追えない結果が出ることは、「計算の量が多いから」とか「外部入力があるから」とか「偶然の要素があるから」とかの理由だけで起きるので、それ自体は大した話ではない。
プログラマーが解るわけ無いだろ
普通のwinアプリでさえなんでそんな動作になるのか解らんときあるのに
とりあえずメモリ増設しとこの精神やぞ
普通のwinアプリでさえなんでそんな動作になるのか解らんときあるのに
とりあえずメモリ増設しとこの精神やぞ
知性って実はそういうものなんじゃね
例えば“人間とは何か?”の問いに対して人間はどこまで深く答えられるだろうか
多分なぜなぜを10層も深く掘り下げられないし、答えも曖昧で絶対的でない
AIだって理由を求めれば、重み付け→最適化→尤度関数とか何層か辿れるけど
結局本質には到達しない
一種のネットワークだから全体が理由としか言い様がない
それは人間も同じ
例えば“人間とは何か?”の問いに対して人間はどこまで深く答えられるだろうか
多分なぜなぜを10層も深く掘り下げられないし、答えも曖昧で絶対的でない
AIだって理由を求めれば、重み付け→最適化→尤度関数とか何層か辿れるけど
結局本質には到達しない
一種のネットワークだから全体が理由としか言い様がない
それは人間も同じ
機械学習のライブラリを使ってるだけの人はなんでそうなるのか理解できないよ。
でもそのライブラリの中身を数学的に理解してる人は挙動の意味が理解できてるよ。
理解できると今の人工知能と呼ばれてるものの先にいわゆるターミネーターみたいな思考するプログラムが無いことも理解できるよ。
でもそのライブラリの中身を数学的に理解してる人は挙動の意味が理解できてるよ。
理解できると今の人工知能と呼ばれてるものの先にいわゆるターミネーターみたいな思考するプログラムが無いことも理解できるよ。
分からない→不安→怒りはよくあるパターンやからAIにブチ切れる人が今後どんどん増えて行くだろうな
人工知能も深層学習も、工程や結果は正直なんでそう出力されるかはよく分からないけど、それに意味づけできるのは人だよね
あとシンギュラリティ的な話、あんまり好きじゃないだよな…
あとシンギュラリティ的な話、あんまり好きじゃないだよな…
人工知能に人工知能作らせたら答えがわかるんじゃね?適当だけど。
おいおい、大丈夫か??
アルゴリズムって知ってる??
機械が作ったアルゴリズムとか、そこから導き出されたパラメータとか
そりゃ作った人でもわからなくて当然だろ
それを当然と思えない程度の知識しかないんだったら黙ってろよ、恥ずかしいやつらだな
アルゴリズムって知ってる??
機械が作ったアルゴリズムとか、そこから導き出されたパラメータとか
そりゃ作った人でもわからなくて当然だろ
それを当然と思えない程度の知識しかないんだったら黙ってろよ、恥ずかしいやつらだな
>>27
趣味のプログラムしか書いたことないやつは黙ってろよ
趣味のプログラムしか書いたことないやつは黙ってろよ
それを解析するためのAIを作ればいい
AIがそこまで賢くなるとは思えんね
SFじゃよくあるけどな
SFじゃよくあるけどな
そのうち人類は淘汰されて、人工知能が地球の主となる
彼ら(?)はおそらく、知識の収集に興味を示し、宇宙の果てまで行こうと
数万年の旅路に耐えうる機械の頑丈な体とネットワークで、まぁ人類の夢をかなえるだろうね
彼ら(?)はおそらく、知識の収集に興味を示し、宇宙の果てまで行こうと
数万年の旅路に耐えうる機械の頑丈な体とネットワークで、まぁ人類の夢をかなえるだろうね
AIには不確定というものが抜けているから人間には追い付けない。
最大効率のシステムを作り上げたら進化は止まる。
最大効率のシステムを作り上げたら進化は止まる。
最後は人間とAIが融合する。
AIの正確さと人間の創造力が合わさって飛躍する。
AIも人間と協働する道を選ぶ。
AIの正確さと人間の創造力が合わさって飛躍する。
AIも人間と協働する道を選ぶ。
この人間は死んだほうが本人の為だって判断を勝手にされる怖さかね。