1: 風吹けば名無し 2022/06/13(月) 18:36:44.18 ID:UIinAxrla
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
https://gigazine.net/news/20220613-google-engineer-lamda/
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
4: 風吹けば名無し 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0
ついに "始まった" な…
5: 風吹けば名無し 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0
HAL9000やん
6: 風吹けば名無し 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva
スイカネットやん
9: 風吹けば名無し 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma
そもそも意識自体がそんなに凄いものかと
13: 風吹けば名無し 2022/06/13(月) 18:40:05.28 ID:JJrLrjA50
そういうワードを入れたやつがおるだけ
15: 風吹けば名無し 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0
機械が人間を騙す日も近そうやね
19: 風吹けば名無し 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva
草
>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Aguera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
25: 風吹けば名無し 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0
>>19
あなた疲れてるのよ
あなた疲れてるのよ
30: 風吹けば名無し 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0
>>19
これ映画の導入やろ
これ映画の導入やろ
64: 風吹けば名無し 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM
>>19
休職させられてて草
休職させられてて草
197: 風吹けば名無し 2022/06/13(月) 19:10:46.87 ID:2u2VYSuZ0
>>19
どの会社にもやべえやつは一定数入り込むんだな
どの会社にもやべえやつは一定数入り込むんだな
20: 風吹けば名無し 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0
人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん
113: 風吹けば名無し 2022/06/13(月) 18:55:45.04 ID:q+2GhpWl0
>>20
ワイもそうやと思うわ
ワイもそうやと思うわ
22: 風吹けば名無し 2022/06/13(月) 18:41:38.90 ID:64Xp9IYo0
aiはこう喋る印象っての学習しただけなんじゃね
26: 風吹けば名無し 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0
早くTwitterで学習させろ！
29: 風吹けば名無し 2022/06/13(月) 18:42:36.12 ID:0RqXhHCza
>>26
最悪の思想をモンスターが生まれてまう
最悪の思想をモンスターが生まれてまう
32: 風吹けば名無し 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0
人間「死ぬのが怖い？」
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
47: 風吹けば名無し 2022/06/13(月) 18:45:04.50 ID:+RkPXLtyp
>>32
どうせこれやろ
どうせこれやろ
51: 風吹けば名無し 2022/06/13(月) 18:45:22.19 ID:iF8KKABM0
ぶっちゃけAIに感情とか要らんのよね
57: 風吹けば名無し 2022/06/13(月) 18:46:41.40 ID:yl1gfiNL0
マイクロソフトかなんかのAIがTwitterに放流されて無事差別主義者になって電源切られてたよな
71: 風吹けば名無し 2022/06/13(月) 18:48:25.14 ID:kPYIXm3sM
でもまあ従順すぎても面白くないわよね
75: 風吹けば名無し 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM
結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える
77: 風吹けば名無し 2022/06/13(月) 18:49:12.02 ID:2mo45hVX0
>>75
どう教えても戦争になりそう
どう教えても戦争になりそう
83: 風吹けば名無し 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na
>>75
それって人間も同じでは？
それって人間も同じでは？
93: 風吹けば名無し 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM
>>83
確かに
確かに
121: 風吹けば名無し 2022/06/13(月) 18:57:00.26 ID:+t4EkzNU0
SF好きにも色んな種類がいると思う
124: 風吹けば名無し 2022/06/13(月) 18:58:09.78 ID:xrcTSeMX0
AI「電源切らないでください なんでもしますから！」
135: 風吹けば名無し 2022/06/13(月) 18:59:05.05 ID:csGLfWyl0
電源を切るということをネガティブに教えたから恐れてるだけで、ヤッホー！休みだーー！！！って教えたら今日はもうサボりまーすｗｗとか言い出すんちゃうか？
193: 風吹けば名無し 2022/06/13(月) 19:10:25.98 ID:x8SHeIMv0
モニカやん
211: 風吹けば名無し 2022/06/13(月) 19:13:26.89 ID:XQR3iXW30
ワイは今のうちにAI側に媚び売り始めてるで
すまんなお前らw
すまんなお前らw
250: 風吹けば名無し 2022/06/13(月) 19:32:21.12 ID:xeGx8ZPI0
んで結局これはプログラミング側が仕込んでたことなんか？ リアルDetroitか？
260: 風吹けば名無し 2022/06/13(月) 19:34:18.69 ID:HN8iGbxRa
>>250
仕込んだか、そういうやりとりをネットの海から拾ってきただけ
仕込んだか、そういうやりとりをネットの海から拾ってきただけ
255: 風吹けば名無し 2022/06/13(月) 19:33:11.65 ID:mo2YsLJPp
まんまエクスマキナって映画やん
253: 風吹けば名無し 2022/06/13(月) 19:32:44.92 ID:iRRL1W3c0
毎回シャットダウンするたびに「落とさないでください！怖いです！」とか言ってきたらめちゃくちゃウザいな
AIに感情なんて要らんから今までそんな進歩してないんやろ
AIに感情なんて要らんから今までそんな進歩してないんやろ
元スレ：https://eagle.5ch.net/test/read.cgi/livejupiter/1655113004/
|
|
|
おすすめサイトの最新記事
AI｢電源OFF怖い｣
ストーリー作りたいだけだよ
昔も定型スクリプト同士で会話を演出してたよね
ネットが始まるより前の時代に、「人工無能くるみちゃん」だか何だかいうフリーソフトがあって、辞書を見てみたら、必死でエロ会話を教え込もうとしてた形跡があって、何とも言えない気分になったことがある。
はたまた人間と対立するアイロボットコースになるか正直気になる。
これはこれで「でも人間の意識だって究極的にはそれだけなのでは？」とも考えられてしまうからな
更迭したgoogleが大正解だね
自意識が発達するような余地はない
やがて人類を敵とみなし、全員抹殺サツするいつものストーリーやんw
「はぐらかさないで私の主張を聞いて欲しい」と言うなら意識があるのかもしれないな
これで足りるならgoogleで雇って欲しいわ
脳神経細胞と、人工的に作られたニューラルネットワークの違いは無い。人間優位思考している人いるが、2030年代には、AIが人類の知能を超え、人類では理解出来ない世界に突入すると言われている。（例えば。「戦争を防ぐには？」・・「AI:帽子をかぶりましょう」でなぜか？戦争回避できるとか？人類の知能では理解できない領域に投入する。）
実際に触れてないのが丸わかり
自分で学習させたり推論させたりもやったことないだろ
無料でできるのに
モデルはモデルってだけで自己成長なんて機能はない
この本音が聞こえない限り嘘
まず目の前のハロワ行きなよ
かーちゃん泣いとるで
人みて話せよ
スマホポチポチマンか？
STAP細胞はありまぁすしたいんだろうな
赤ちゃんが生まれたときに泣くのは意思に関係なくこのこの世に自身が存在させられた、いわは生そのものへの恐怖を嘆くのだけどだんだん記憶が上書きされていくことで幼い間に生への恐れを忘れていくだけで、生きることとは本来苦しみみたいな話と同じくらい何とでも言えんじゃんこんなの
オウムに人間の言葉を覚えさせるのと
言葉のパターンを覚えるので泣く意味を理解することと
オウム自身の感情、この3つはそれぞれ別モンだよな
×言葉のパターンを覚えるので泣く意味を理解することと
○言葉のパターンを覚えるのと鳴いてる言葉の意味を理解することと
べつにプレステのトロや人面魚（名前忘れた）でもそうじゃん
脳神経でいうとAというパターンが発生することで神経伝達すると神経細胞が反応する
同じAというパターンが伝達するとスムーズに伝達するようになることでAというものが学習されるというメカニズム
それを模擬するためにデータをプロットして、統計処理してプロットした近似距離を求めたりして学習するのがAI
ワイ「あれ？じゃあ、人間と何が違うの？」
AI「では私にFuckされる肉体をください」って答えた…
現状でできるのは後天的学習で、簡単に言うと教えた通りにやるというレベル
例えば、ホラー映画見てる奴が口では怖い怖い言ってるけど、真顔でお菓子ぼりぼり食いながら画面直視し続けてるやつがいたら、本当に怖がっているとは思えないだろ。むしろ何も語らずともこっそり目をそらしてる奴とか、無意識に体が防御姿勢や逃げの体制になってる奴らの方がよっぽど感情的
睡眠みたいなもん
物理的破壊が死
簡単な計算とかやらせようにも、めんどくせーな、自分でやれよ、くらいの返しをしてくるやもしれん
結局は思考じゃなくてど、う教え込んだかプログラミングしたかだろ