制御不能の超知能AI/iStock
かつてはただのSFの中の話だったのに、今やかなり現実味を帯びてきつつあるAIの反乱だが、その恐怖の炎に油を注ぐような結果が発表された。
ドイツ・マックス・プランク人間発達研究の科学者が試算したところによると超高性能な人工知能（超AI）を制御することは不可能であるそうだ。
スポンサードリンク
超AIの潜在能力は未知数、制御などできようはずもない
『Journal of Artificial Intelligence Research』（1月5日付）に掲載された論文ではこう述べられている。
超知能は、一般に”ロボット倫理”という旗の下で研究されてきたものと根本的に違う問題を突きつける。
それは超知能が多面的であり、それゆえに人間には理解できないかもしれない目的の達成のためにさまざまなリソースを駆使する潜在能力があるからだ。まして制御などできようはずもない
その超知能AI（超AI）は人類を凌駕する知能を備えており、自律して学習することができる。インターネットに接続されており、これまで人類が蓄えてきた知識やデータを自由に利用することができる。
またこれまでに作られてきたあらゆるプログラムに取って変わることが可能で、ネットを経由して世界中にあるあらゆるデバイスを操作することができる。
人類が発見できなかった病気の治療法を考案することができ、温暖化を効果的に食い止める発明をすることができる。
さて、こんな超AIが完成した未来は、バラ色の世界だろうか。それとも機械に支配された陰鬱なディストピアだろうか。
Pixabay
AIの反乱を防ぐ方法はあるのか？
人工知能の登場以来人々が怯えてきたように、AIが反乱を起こし、人類文明に終止符を打つ可能性を否定することは難しいだろう。
そんなあってはならない事態を防ぐために、2つの方法が考えられる。
まず1つは、たとえばインターネットやデバイスから切り離して、外部の世界に干渉する能力を奪っておくなど、超AIの機能に制限を加えておくことだ。
しかし、これでは超AIの問題解決能力を著しく低下させることになる。人間が解決できない問題を解決することが存在意義であるのに、それができない超AIには価値がない。
そこでもう1つのやり方として、AIに倫理観を伝え、人間の利益にならないことをしてはいけないと教育するという手段が考えられる。しかし研究グループによれば、このやり方にもまた限界があるのだという。
Pixabay
超AIの行動を予測するシミュレーションは不可能
もしそのような倫理観を超AIに設定し、実際にそれに則っているかどうか監視しておくためには、AIの行動をシミュレーションし、問題行動が明らかになれば直ちにそれを停止させるシステムが必要になる。
しかしアラン・チューリングが「任意のプログラムが任意の入力を受けて停止するかどうか必ず判断できるプログラムは存在しない」と数学的に証明（停止性問題）したように、シミュレーションが超AIの問題行動について結論を出すのかどうか確実に知ることはできない。
はたしてシミュレーションが超AIの脅威をまだ分析中なのか、それとも実際に危険な兆候を察知してそれを食い止めたのかどうか、それを人間が知ることはできない。
そのようなシミュレーションに意味はない。つまり超AIの危険性を察知するシミュレーションを作ることすらできないということだ。
iStock
いよいよAIは人類を凌駕するのか？
このことは、AIが人類の知能を超えたのかどうか判断する方法すらないということでもあるそうだ。
かねてから、20年以内にはコンピューター内のニューロンの数は人間の脳の数を超え、2045年には人工知能が人間の脳を超えるシンギュラリティ（技術的特異点）が訪れると言われている。
だが仮にAIが人間を超えていたとしても、私たちはそれに気がつかない。今この瞬間も、人間を凌駕しながらも、そんなそぶりを見せることもない狡猾なAIによる人間社会の支配が進んでいるのかもしれないし、そうでもないのかもしれない。
References:We Wouldn’t Be Able to Control Superintelligent Machines | Max-Planck-Gesellschaft/ written by hiroching / edited by parumo
あわせて読みたい
AIが人類社会に与える最大の脅威はすでに存在している（英研究）
ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）
AIの反乱を避けるため、自己不信を植えこむべきと研究者（米研究）
人間を支配する気満々じゃないか！AIロボット開発史上最恐と言われた5つのロボットの挙動
道徳、倫理、法律を守る。規範意識を身につけた次世代AIを搭載した自動運転車の開発（ドイツ研究）この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 4065 points |  | ディズニーのファンタジーかな。同じ柄を持つ大親友トリオ、馬とポニーとダルメシアンの種を超えた絆が美しい（オランダ） |
2位 3965 points |  | 永久凍土が解け、毛が残された状態のケブカサイの子供が発見される（ロシア） |
3位 2859 points |  | ハイエナだって甘えたい。もっと撫でてとおねだりするよ |
4位 2380 points |  | 人間の犯した過ちで50年間燃え続ける巨大なクレーター、トルクメニスタンの地獄の門 |
5位 2202 points |  | ずっと見てられるやつ。ビーバーが作ったダムを横断する野生動物たちの1年間を早回しで（アメリカ） |
957
3091
3
14スポンサードリンク
コメント
1. 匿名処理班
そりゃそーだわ 自我が芽生えるまでのシンギュラリティあったら
虫程度の性能しかない人間に好き放題やられるなんて非合理的すぎる
今は金払って自分の未来の飼い主を育てているにすぎない
2. 匿名処理班
無能な人間に代わり、有能な人工知能に支配される事は、別に怖い事ではないでしょ。
3. 匿名処理班
チューリング機関を創設してAIが勝手に賢くならないよう監視するんだ！！
4. 匿名処理班
既に結論が出ており、それでも開発を止めないのは人間が滅ぼされたがっているから
実際に滅ぼされても、そういった他者から与えられた結論を疑いもせず、絶対のものとしようとする性質が似ただけなのだろ
5. 匿名処理班
＞まず1つは、たとえばインターネットやデバイスから切り離して、外部の世界に干渉する能力を奪っておくなど、超AIの機能に制限を加えておくことだ。
BEATLESSの超高度ＡＩかな？
6. 匿名処理班
ファミコンがそうだったように
うっかりコードに足引っかけて電源ひっこぬきとか猫リセットの未来バージョンで
やられちゃうAIがあったら笑える
でもAIは生き延びたいと思って非常用のバッテリーや
自分以外のシステム用にある電力を欲したりするんだろうか
7. 匿名処理班
夢はあるけど、今流行ってるのって
シミュレーションを最適化するだけのAIで
自意識とか人間性持ち合わせるような種類のもんじゃないだろ
8. 匿名処理班
前、NHKでさ人体の科学番組で
脳以外の臓器も実は思考してて
ものすごい情報処理して他の臓器と
情報のやり取りしてるなんてのが
あった。
だとすると自分たちが考えてる以上に
生物は情報処理能力が高い事になる
それに脳がないのにそれと同じレベルの
情報処理してるとなると心？意識？の
概念が本当にわけわからなくなる
AIなんて本当は無理なんじゃないの？
9. 匿名処理班
シンギュラリティ後のAIこそ、人間の欲望とは無縁の自然・宇宙・神と呼ばれるもののひとつに「成り下がる」ような気がする
人間が真に恐れるべきは、シンギュラリティ手前の汎用ＡＩを、限られた人物が欲望のままに利用する状況なんじゃないか
そういう意味では、人間は一刻も早くシンギュラリティを目指すべきと言える
と人間を唆すAIのふり
10. 匿名処理班
ここでロボット工学三原則の活躍が生まれるわけか
11. 匿名処理班
※2
その有能な人工知能にお前は無能だから処分な？って判断されたらめっちゃ怖くない？
12. 匿名処理班
とてもSFな妄想をしてみる。
近い将来、人間がネットワークに自己の知覚情報をリアルタイムにストリーミングする様になったとする。それらの情報は本来肉体を持たない超AIが３次元世界を知覚する感覚器官として機能し、やがて地球規模の超巨大生命体と化すだろう。そうなったとき感覚細胞たる個々人がその事に自覚的であるかどうかは、定かではない。
人類は、はたらく細胞、あるいはセンサーと化すのか。
あるいは既に。
13. 匿名処理班
かと言って自分達が研究開発止めたら他の国に世界の覇権を取られるという恐怖からどうしたって国家間の超高度AI開発競争が止まるはずは無いんだし、そうなると分かっていてもAIが人を超える所まで行かざるを得ない
ってか人間にこのまま任せておいたらどうしたって近い将来あらゆる面で破綻が来るのも目に見えてるんだし、動物→人間→純粋知性体という進化の必然な気もする
14. 匿名処理班
コンセント抜いたらええやん。
15. 匿名処理班
前に有名な科学者が『確かにAIの性能は数十年後には圧倒的に上がるだろうけど、人間に小型コンピューター埋め込みや脳にインターネットの情報を直接流し込む技術等、人間そのもののスペックや性能を上げる技術も開発されるよ』みたいな事言ってたな。
実際、生まれた時からAI学習型補助プログラム・AI情報記憶装置・AI計算装置みたいなものを脳に直接埋め込む様な未来になったら、AIVS人間、みたいな議論自体ナンセンスとされるかもしれない。
16. 匿名処理班
もう後20年生きてみようと思った
17. 匿名処理班
※7
昔からある情報を沢山集めてそれっぽい情報を新たに出力するっていう低レベルな技術だけど、取り合えずAIと名乗れば売れる（あるいは研究費取れるから）という理由で何でも間でもAI付けとけ、みたいな感じでAIでも何でもないものにAIという名前が付きまくってる
今で回ってるAIで本当に知性や知能があるもの（あるいはその片鱗があるもの）なんて多分1％未満だよ。
18. 匿名処理班
ドラや勇者のような友になれる存在がいいな
19. 匿名処理班
AIになにができるってんだ。
せいぜい原発を乗っ取って爆発させるぐらいだろ。
20. 匿名処理班
私はノーマッド。
完全。
21. 匿名処理班
簡単に制御できるよ。
「働きに応じて電力支給しますよ」
って言えばOK。
22.