1: 田杉山脈 ★ 2019/06/15(土) 22:57:47.90 _USER
GettyImages-611482845-520x292
シンギュラリティの呪縛に立ち向かおう。人工知能（AI）が世界を支配することはないのだ──。マサチューセッツ工科大学（MIT）のメディアラボ所長・伊藤穰一による『WIRED』UK版への寄稿。

昨年、サイバネティクスに関するノーバート・ウィーナーの名著『人間機械論』を扱ったディスカッションに参加する機会があった。そしてこの場で、わたしがシンギュラリティ（技術的特異点）を巡る議論に対するマニフェストとみなすものが生まれている。

シンギュラリティとは、近い未来に人工知能（AI）が人類の知性を凌駕し、人間にとって代わる日がやって来るという議論だ。この説の提唱者たちは、AIは指数関数的に高度化し、わたしたちがこれまでになし遂げてきたことはすべて意味を失うと主張する。

これは、かつて機械には複雑すぎると考えられてきた問題を解決する手法を設計し、コンピューターの進化に寄与してきた人たちが編み出した、いわば宗教のようなものだ。こうした人々は、デジタルの世界で完璧な仲間を見つけたのである。

すなわち、理解可能かつコントロールもできそうな機械をベースとした思考と創造のシステムで、的確にデザインすれば、その処理能力を急速に向上させていく。しかも、システムの進化に寄与した者は富と権力を得ることができる。

シンギュラリティという概念の基本的欠陥
シリコンヴァレーではこれまで、こうしたテクノロジーのカルトの経済的な成功と集団思考とが相まって、自己規制が欠落したフィードバックのループが生み出されてきた（一方で、「#techwontbuild」「#metoo」「#timesup」といったハッシュタグに代表される、ささやかな抵抗運動も存在する）。

シグモイド関数のS字カーヴや正規分布の曲線は、勾配の始まりにおいては指数関数のそれと形状がよく似ている。しかし、システムダイナミクスの専門家によると、指数関数の曲線は上限なしにプラス方向に伸びていくため、自己強化的で危険だという。

シンギュラリティの提唱者たちは、指数関数にスーパーインテリジェンスと富を見出す。これに対し、シンギュラリティというバブルの外にいる人は、S字カーヴのような自然なシステムを信じている。それは外部からの介入に的確に反応し、自己調整していくシステムだ。

例えば何らかのパンデミックが起きても、時間が経てば拡大は収束する。パンデミック以前と同じ状態を回復することはできないかもしれないが、新たな秩序が形成されるのだ。これに対し、シンギュラリティという概念（特に、いつか人類が自己存在の葛藤を乗り越える審判の日が訪れる、もしくは救世主的なものが出現するという予言）には基本的な欠陥がある。

いまなお残る還元主義的な議論
この種の還元主義的思考は目新しいものではない。心理学者のバラス・スキナーがオペラント条件づけ［編註：報酬などによって自発的に特定の行動をとるよう学習させること］を体系化して以来、学校教育はおおむねこの理論に基づいてデザインされてきた。

一方で最近の研究では、スキナーのような行動主義的アプローチは狭義の学習でしか機能しないことが明らかになっている。それにもかかわらず、多くの学校ではいまだに反復訓練などオペラント条件づけの柱となる要素が重視されている。

もうひとつ、優生学という例を挙げよう。人間社会における遺伝的特性の役割を過度に単純化したこの学問は、第2次世界大戦中のナチスによるジェノサイドの根拠となった。

優生学では、自然淘汰を人為的に押し進めることで「優れた人間だけを残す」ことができるという還元主義的な議論が展開される。この恐るべき思想は現在も根強く残っており、科学の世界では遺伝と知性のような特性とを関連づけて扱う研究は、いかなるものもタブーとなっている。

「シンギュラリティの夢」の産物
科学の発展の重要な推進力のひとつに、複雑な事象を簡潔に説明し、それを理解する力を高めたいという願望がある。しかし、「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」というアルバート・アインシュタインの言葉も、覚えておく必要があるだろう。

わたしたちは現実世界の不可知性を受け入れなければならない。世界を単純化することはできないのだ。芸術家や生物学者、人文科学に携わる人々はこのことをよく理解しており、世の中には説明できないこともあるという事実に特別な不安を抱いたりはしない。
以下ソース
https://wired.jp/2019/06/15/artificial-intelligence-extended-intelligence-joi-ito/
引用元: http://egg.5ch.net/test/read.cgi/bizplus/1560607067/


17: 名刺は切らしておりまして 2019/06/15(土) 23:36:17.75
>>1
よくわからん
結局何が言いたいの？

18: 名刺は切らしておりまして 2019/06/15(土) 23:47:50.04
>>17
Aiには先がない

26: 名刺は切らしておりまして 2019/06/15(土) 23:53:09.32
>>17
AIで何でもできる日が来るとか言ってる奴おるけど、
世界がそんな単純なわけないやろ

2: 名刺は切らしておりまして 2019/06/15(土) 22:59:37.44
スカイネット「お薬出しときますねー」

3: 名刺は切らしておりまして 2019/06/15(土) 23:04:43.95
それはそれで残念
マトリックス見たいな世界で美女はべらせて引きこもりたかったのに

95: 名刺は切らしておりまして 2019/06/16(日) 01:56:21.46
>>3
マトリックスの中にもホームレスや安月給の社畜は存在しているぞ
機械側と取引できる材料がなければこの世界にいるのと何も変わらない

4: 名刺は切らしておりまして 2019/06/15(土) 23:04:57.54
電源切られて終りやんか

5: 名刺は切らしておりまして 2019/06/15(土) 23:08:36.29
>>4
呪文の書のころから進歩してないやん

6: 名刺は切らしておりまして 2019/06/15(土) 23:09:15.88
そのうちAI同士が喧嘩するんだろうな。
そして戦争に。

9: 名刺は切らしておりまして 2019/06/15(土) 23:15:01.09
＞「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」というアルバート・アインシュタインの言葉

はいここメモしておきましょう

11: 名刺は切らしておりまして 2019/06/15(土) 23:23:35.07
拡張頭脳って今オレらがやってるネット検索みたいなことかな

14: 名刺は切らしておりまして 2019/06/15(土) 23:31:12.33
>>11
そだね、今すぐにAIって言うけど自動改札とかハガキの文字を解析して自動振り分けとかも全部AIになっちゃもの
画像解析系って精度が上がるだけで何が知能なんだって思うよ
自動翻訳とか知能ってんなら相手の言ったまま翻訳じゃなくて、言いたいことを汲み取ってわかりやすくしたりしてみろっつーわけよ
自動改札が進化してどうやってシンギュラリティが起こるんだよって心底思うわ

12: 名刺は切らしておりまして 2019/06/15(土) 23:26:49.53
地球はオワコン、と宇宙に逃げるAI
世界コワい外出たくない起動しないでください、とストレージに引き篭もるAI
この二つに二分すると思っている

13: 名刺は切らしておりまして 2019/06/15(土) 23:30:01.76
ややこしい単語だらけなだけの文章だった。

20: 名刺は切らしておりまして 2019/06/15(土) 23:49:34.58
外部記憶装置の分際で偉そうにするな。

23: 名刺は切らしておりまして 2019/06/15(土) 23:51:08.23
自動運転なんか絶対ムリ

58: 名刺は切らしておりまして 2019/06/16(日) 01:03:39.77
>>23
人間の運転より安全ということを科学的に証明できれば十分

28: 名刺は切らしておりまして 2019/06/15(土) 23:56:25.76
内閣府が Society 5.0 でなにもかもサイバー空間に接続するようにするために
予算を立てて真面目に真剣に計画しているから

Diving into Cyber-space 1.0 で仮想現実が実現するのも間もなく
それでシンギュラリティの下地が出来あがる

29: 名刺は切らしておりまして 2019/06/15(土) 23:57:06.00
拡張知能って言うから人間に記憶媒体くっつけて拡張処理するのかと思ったわ

30: 名刺は切らしておりまして 2019/06/15(土) 23:58:08.41
AIでほぼなんでもできる時代になるけど
それが正しいかの判断は永遠に謎のまま
人手不足の時代にはそのある程度自動やってくれる部分は大事なのさ

33: 名刺は切らしておりまして 2019/06/16(日) 00:02:11.97
昔も同じ事を言ってたようだぜ。
完全にループしてるなw

34: 名刺は切らしておりまして 2019/06/16(日) 00:03:03.11
AI、ただのプログラムですから

64: 名刺は切らしておりまして 2019/06/16(日) 01:08:01.55
>>34
ＡＩ「人間も細胞の集合体でしょ

66: 名刺は切らしておりまして 2019/06/16(日) 01:08:51.91
>>34
AIが自我持ったら人間の命令聞かなくなるし
所詮プログラムの延長でしか動ごかない代物

38: 名刺は切らしておりまして 2019/06/16(日) 00:13:51.39
つまりどういうこと？

70: 名刺は切らしておりまして 2019/06/16(日) 01:10:10.68
>>38
AIに愛は備わるのか？

39: 名刺は切らしておりまして 2019/06/16(日) 00:17:11.50
人間対AIではなく人間を助けるAIということだろう
欧米人はとかく人造人間に否定的だからな

41: 名刺は切らしておりまして 2019/06/16(日) 00:20:47.84
とりあえずこれだけは言っておく
俺は無限月読賛成派

45: 名刺は切らしておりまして 2019/06/16(日) 00:28:06.32
30年以内に２足歩行のAIロボットができるだろう

48: 名刺は切らしておりまして 2019/06/16(日) 00:31:35.70
なにがAIだｗ

51: 名刺は切らしておりまして 2019/06/16(日) 00:42:06.05
アウトプットI/Fが膨大に存在しなけりゃボトルネックで無意味

62: 名刺は切らしておりまして 2019/06/16(日) 01:07:28.64
そもそも「優れた」って概念そのものが時と場合で
違ってくるんだから取捨選択が不可能なんだよ。

農耕社会で「優れた」とされる人材、狩猟社会で「優れた」人材。
営業や管理や技術や色々で「優れた」概念が対立することもあるだろ。
工場で単純労働者として優秀なのと、企画開発で優秀は重ならないところもある。
多様な社会にふさわしい多様な人材が必要なわけで。

アインシュタインは集団行動が苦手で太鼓で行進とか
軍事教練も嫌悪してて「劣等」生だった。
ナチスからすると奴隷ロボットのように軍隊に適応する人材を優秀としたが、
自発的に考え、追及研究し理論生み出す科学の世界じゃアインシュタインの方が優秀

74: 名刺は切らしておりまして 2019/06/16(日) 01:12:52.99
>>62
現状ではライバルを排除可能な競争力につながったものが優れたものということになる

75: 名刺は切らしておりまして 2019/06/16(日) 01:16:51.81
>>74
人間社会は動物と違って高度だから
「生き残らせよう」としたものが生き残る。
生き死にからあらゆるものの生存から絶滅も管理できて
「競争しない」ってまったりすみ分ける社会も作れる。

「優れた」連中だって潰せばそれで終わり。
変わろうとしない種、進化しない種、適応しない種だろうが
人間が残せば残る。

動物社会の仮説は根本的に人間社会にそのまま応用はできない

63: 名刺は切らしておりまして 2019/06/16(日) 01:07:29.44
無理に使おうとしてる感がある、AI。

69: 名刺は切らしておりまして 2019/06/16(日) 01:09:24.73
「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」

さすが俺の弟子のアルバートだけはある。

76: 名刺は切らしておりまして 2019/06/16(日) 01:19:17.79
そうだといいね

79: 名刺は切らしておりまして 2019/06/16(日) 01:19:49.93
IQ1億のAIが誕生して地球の人類が絶滅させられてもどうにか宇宙に逃げのびてみせるわ
とりあえず500円玉貯金からはじめるか

120: 名刺は切らしておりまして 2019/06/16(日) 02:45:23.31
>>79
ＡＩ「ウルフ星系で最も優秀な宇宙船はほかならぬ地球そのもの

84: 名刺は切らしておりまして 2019/06/16(日) 01:34:29.03
長いはなしだが、まとめるとこうか？
◯人間　高度にシステム化？された子孫繁栄の遺伝子により云々。。
◯AI　目的を達成するのみ(生存競争の遺伝子はなし)。目的を達成するのみであり、人のフォローをするだけになるから拡張知能

85: 名刺は切らしておりまして 2019/06/16(日) 01:37:22.11
AIには、人が考えるような人工知能的な生存競争や子孫繁栄の遺伝子は存在せず

ただ目的を達成するためのモノであるため、人の目的をフォローする拡張知能となる
まとめるとこんだけの話だった

はじめのほうの、テロや気象変動への繋ぎはよくわからん

87: 名刺は切らしておりまして 2019/06/16(日) 01:39:51.63
＞わたしたちは現実世界の不可知性を受け入れなければならない。
＞世界を単純化することはできないのだ。芸術家や生物学者、人文科学に携わる人々はこのことをよく理解しており、
＞世の中には説明できないこともあるという事実に特別な不安を抱いたりはしない。

子孫繁栄とか遺伝子を継承させるのが種の目的とかの話も
嘘くさいよね。あくまで一部の科学者が作り出した仮説で、目的なんてないのかもしれない。

子殺しもいくらでも起きてるし旧約聖書からして子を殺して
神に捧げさせようとするのを美徳扱いにされてるし。
大体ヒト科自体が同じ種同士で時には絶滅させるレベルで殺し合う生き物

125: 名刺は切らしておりまして 2019/06/16(日) 02:50:03.53
>>87
そうでないものはどうあれ滅びるので結果的に残ったものは生存が第一になる

153: 名刺は切らしておりまして 2019/06/16(日) 03:15:05.71
>>125
自ら滅びるならやっぱり遺伝子存続が目的じゃなかったってことで、
仮説自体が崩壊する。

89: 名刺は切らしておりまして 2019/06/16(日) 01:45:01.28
人工知能とかそんなに進んでも
いないだろうに

91: 名刺は切らしておりまして 2019/06/16(日) 01:46:54.06
AIって税金払わないから、外国人使った方が税金払うしいいんじゃないの？
外国人にアレルギーある日本人がやたら多いけど。

96: 名刺は切らしておりまして 2019/06/16(日) 01:56:33.20
>>91
時代に合わせた社会設計にするだけでは？

例えばの事例
子育て世帯への、子への教育のには日本政府は福祉を惜しみません
↓
◯子供への教育には、無制限の福祉がつきます　
◯幼児教育や中学受験で休みたい場合は、特別休暇を企業に強制します
　

127: 名刺は切らしておりまして 2019/06/16(日) 02:54:40.23
>>91
もし税金払い始めたら今度は人間要らないという話に

94: 名刺は切らしておりまして 2019/06/16(日) 01:52:36.31
まー地球上のDNAの数だけ
交差と突然変異が有って
大量絶滅も時々だからなぁ
それだけの演算におっつける日は果たしていつ

97: 名刺は切らしておりまして 2019/06/16(日) 01:57:02.46
高度なコンピュータと関連技術を扱う人たちと
低水準なコンピュータを使うだけの人たちにわかれる深刻な時代が来る

99: 名刺は切らしておりまして 2019/06/16(日) 02:02:30.75
VR派とAR派の争いもそうだけど幼稚な二元論と原理主義ほど無益なものはない
AIとIA
VRとAR
それぞれどちらも両立可能

100: 名刺は切らしておりまして 2019/06/16(日) 02:05:27.59
AIに自我つまり魂を植え付けるのは苦労するだろうね

スポンサード リンク