アースガーディアンズというチームがある。存亡リスク研究センター（Centre for the Study of Existential Risk/CSER）と知性の未来のためのレバーヒュームセンター（Leverhulme Centre for the Future of Intelligence）に所属する専門家、弁護士、学者、哲学者で構成されたこのチームの目的は、今存在する脅威から地球を守ることだ。
世界に危険が迫ったとき、彼らは地球が直面する最大の脅威を評価し、文明を破滅から救うために何ができるのか検討する。
人類にとっての脅威は何なのか？アースガーディアンズが、近い将来起こりうる可能性が高いであろう10の脅威を公開した。
スポンサードリンク
1. 人工知能の暴走
推定発生時期：2075年 優先度：非常に高い
人間より優れた知能を持ち、かつ人間から独立して作動する機械は、最大の脅威の1つだ。
オックスフォード大学フューチャー・オブ・ヒューマニティ研究所（Future of Humanity Institute/FHI）のニック・ボストロムは、AI列車の加速はとどまることを知らず、2075年までに人類の知能を追い越すと予測している。またフューチャー・オブ・ライフ研究所（Future of Life Institute）の共同設立者ジャーン・タリンは、AIのリスクが他のいかなるリスクよりも増大していると指摘する。つまり知性を持つロボットが世界で暴走したり、核の冬をもたらす恐れがあるということだ。
しかし、こうしたSFシナリオは、特定のリスクを想像できれば、その多くがリスクではなくなる。予防措置を講じることができるからだ。問題は我々が想像できないことや対処できないことを想像できるかということだ。
この分野の研究は、哲学的なもの（AIの道徳観を人間の道徳観に合わせるべきかなど）から実務的なもの（自律型マシンを具体的にどう制御するのかなど）まで行われている。議論は様々であり、AIが脅威になることはないという見解もある。しかし我々は万が一に備えなければならない。
2. 合成生物工学によるパンデミック
推定発生時期：現在 対策優先度：非常に高い
AIと並び、合成生物学は世界を滅亡させるリスクとして最も研究されているものだ。現在、”機能獲得”実験によって新たな緊急性が生まれている。こうした実験では、鳥インフルエンザにフェレットへの感染能力を獲得させるなど、病原菌に新しい機能を付与する。本来の目的は、ウイルスが自然環境でどのように感染能力を発達させるのか理解することなのだが、それが実験室から逃げ出してしまうリスクは否定できない。
ウイルスには自己複製能力があるために、核のように僻地に隔離しておけばいいというものではない。かつてペストのような病原菌が大流行し、社会全体に及ぶ影響を与えたが、それが治癒不能なバイオテクノロジーの産物であったら？
考えられるリスクとして、不満を抱えた研究員などがウイルスを持ち出し、それを拡散させてしまうという状況がある。
人類を破滅させる動機について研究したアンダーズ・サンドバーグは、そうした動機を持つ人間がほとんどいないこと、ウイルスの入手可能性が非常に低いことから、実現性は低いと評している。しかし別の研究からは、バイオテクノロジーの研究所には従業員の精神状態に関連する明文規定が存在しないことも明らかになっている。
3. AI兵器を所有する民兵組織
推定発生時期：いつ何時でも 対策優先度：低
北朝鮮と国境を接する韓国は、サムスン製ロボット歩哨を配備している。つまり自律式兵器はすでに存在すると言っていいだろう。顔認証技術がターゲットを打ち倒し、テロリストなどが3Dプリンターで兵器を作成する未来は簡単に想像できる。
冷戦の軍拡競争では、命中精度の低さから広範囲を爆撃する巨大な爆弾が作られ、苦痛を感じる生身の兵士が使われた。一方、ロボット兵器は精密な照準が可能で、ロボット兵士が苦しむこともない。
しかし小ささと安さは、国家でなくても軍を所有できるようにもしてしまう。ディストピア的未来では、「たった5人の男が小型自律兵器を満載したトラック2台で一都市を制圧」するようなことも可能なのだ。
コンピューター学者のスチュアート・ラッセルは、現在議論されている自律型兵器の禁止に関するコンセンサスが国連の場で結ばれる前に、軍拡思想が蔓延してしまう可能性を懸念している。それだけでも恐ろしいが、新たなる軍拡競争はリスキーなAI開発もまた加速させるだろう。
4. 核戦争の勃発
推定発生時期：いつ何時でも 対策優先度：低〜中程度
冷戦期ほど問題にされなくなったが、無数の核兵器が今もなお存在し、カシミール、台湾、ウクライナなど、核戦争が勃発しうる地域の緊張は高まっている。
ロシアとアメリカは世界の核兵器の90パーセントを保有する。想定できる事態として、何らかのアクシデントで核攻撃警報が発せられ、それに対して実際の核攻撃で報復するという、事故から核戦争に発展する状況が考えられる。
世界カタストロフィックリスク研究所（Global Catastrophic Risk Institute/GCRI）が90パーセントの事例を研究した結果、そうしたアクシデントに起因する核戦争の年間発生確率は0.07〜0.00001と推定された。0.07とはすなわち、14年に1度は事故から核戦争に発展することを意味している。
核兵器の放射線は必ずしも人類全体の脅威とはならない。しかし十分な都市（およそ100都市）に核攻撃が加えられれば、そこから捲き上る煤煙が日光を遮断し、核の冬が到来する。それによる気温の低下は農業の生産高を直撃。万が一、アメリカ、ロシア、ヨーロッパでこれが発生すれば、世界の他の地域も崩壊させてしまうだろう。
5. 極端な気候変動によるインフラの荒廃
推定発生時期：いつ何時でも 対策優先度：低〜中程度
気候変動を差し迫った問題として取り扱わないシンクタンクもある。その部分的な理由は、数多くの研究がすでにあり、気候変動の危険性が十分に認知されていることだ。
だが、逆説的ではあるが、不明な点があまりにも多すぎることも原因だ。サンドバーグによると、今世紀中に気候変動を解決する技術が開発される可能性はある。一方で問題をさらに悪化させる技術が登場する可能性もある。
人為的な活動によって何度気温が上昇するのかははっきりとは分からず、正確に予測することは非常に難しい。
しかし熱中症で大量の犠牲者が出るような可能性は非常に低いと思われる。おそらく最大のリスクは生態系や自然インフラへの影響だろう。
つまり入手可能な資源が激減することで、疫病の蔓延や核戦争の引き金が引かれるという可能性だ。こうしたドミノ効果をシステミックリスクといい、現在GCRIが研究を進めている分野だ。
6. 小惑星の衝突
推定発生時期：5,000万〜1億年に1度 対策優先度：低（2017年現在）
大気がなければ、地球には小惑星が頻繁に衝突しているだろう。10メートル未満の隕石でさえ、広島型原爆に匹敵する運動エネルギーを持つのだから、これを燃やしてしまう大気の存在は実にありがたい。それでも1,000年に1、2度はそうした隕石が衝突し、100万年に1度は気候に大きな影響を与える1キロ級の小惑星が衝突する。
さらに6,6000万年前に恐竜を滅ぼした180キロ級の衝突なら5,000万〜1億年に1度の割合で起きる。天文学者、数学者、地球物理学者のコミュニティが協力して、そうした衝突する可能性がある小惑星を常に監視している。
有事の際には、小惑星を白く塗り太陽風で軌道をそらす、重力トラクター宇宙船で押しのける、宇宙船を突っ込ませる、レーザーや熱核爆弾の使用する、といった選択肢が考えられる。
7. 世界がシミュレーションであると証明される
推定発生時期：不明 対策優先度：非常に低い
複雑なリスクを推定する上で、我々の知識は限られている。中でも最も深遠な可能性は、この世界がコンピューターの中のシミュレーションに過ぎないかもしれないということだ。
シミュレーション仮説とは、人間の歴史や文化が高度な生命体による実験や遊びでしかないと説く説である。ボストロムによると、これが考慮されるのは、それが「未来や世界における我々の立場ついて信じることを制約するから」だ。
この仮説に似たものとしてボルツマン脳問題がある。これは、人間のような自意識ある存在が、多次元宇宙の中でランダムなゆらぎのために生じた、と考えるものだ。量子論は、最小量のエネルギーが時折分子を発生させることがあると示唆する。すなわち無限の時間があれば、自意識を持つ脳を発生させることもあるということだ。
シミュレーション仮説の支持者の中には、宇宙が驚くほど秩序立っていることの理由として援用する者もいる。一方でボルツマン脳が存在するはずがない理由を証明しようとする学者もいる。しかし人類の存亡リスクとして掘り下げられることはあまりない。真実であることが明らかになったとしても、我々にはどうしようもないことだからだ。
8. 食料不足による世界的な飢饉
推定発生時期：2050年 対策優先度：高
世界の人口は2050年までに96億人に達すると予測されている。世界的な飢饉を避けるには、30年かそこらで食料生産を70パーセント増加させなければならない。食料生産技術の革新が急務であるが、土壌の浸食によって耕作地が減少しているという問題が追い打ちをかける。
仮に農耕に向かない土地での耕作が可能になったとしても、それは病気への脆弱性を増加させる。穀物として第3位の生産量である小麦なら真菌感染によって全滅する可能性がある。合成ウイルスが登場すれば、大災害のリスクはいやが上にも増大するしかない。
専門家によると、その影響は2020年頃から価格の上昇という形で実感されるという。そして今世紀半ばまでには途上国で致命的な状況になる。食糧不足は暴動や政治的な不安定を引き起こすが、それによる社会崩壊については驚くほどほとんど研究されていない。
9. 真の真空が光速で宇宙を飲み込む
推定発生時期：技術的には現在 対策優先度：非常に低い
粒子加速器による終末のシナリオもある。これは複雑な領域だ。
ここ10年ほど、加速器による粒子の衝突によって、全物質の構成と物理法則を変化させる反応が引き起こされる可能性があると推測されてきた。
最近の議論によると、従来考えられてきたものは実は粒子を含む真空であり、それとは別に宇宙には完全な無である”真の真空”が存在している。真の真空は、真空崩壊というプロセスを通じて、宇宙を光の速さで吸い込む潜在能力を有している。現在そうなっていないのは、真の真空がメタ安定状態にあるからであるが、粒子加速器がそれを崩してしまうかもしれないのだという。
この説に対しては、地球は加速器よりも高エネルギーな宇宙線を常に浴びているが現在も存在している、という反論がある。つまり十分安定しているのだ、と。
しかしFHIによると、我々の存在は真空崩壊がありえないことの証明にはならないという。なぜなら過去には無数の地球が吸い込まれてきた可能性があるからだ。
論文では、さらに他の科学論文が間違っているリスクを検証した。結果、計算やモデルのミスにより撤回されるべきものが1パーセント存在することが明らかとなった。つまりリスクなどないとする研究論文ならあなたは99パーセント安心していいが、残り1パーセントは分からないということだ。
10. 暴君によって世界が不安定化
推定発生時期：現在 対策優先度：中
アメリカでドナルド・トランプが当選した翌日の朝、CSERは会議を開き、その脅威について議論した。またイギリスで行われた欧州連合離脱是非を問う国民投票の後でも同様の会議を開いている。
こうした出来事は人類に重要な意味を持つ。特に気候変動など、国際的な問題に世界が協力して取り組む能力に対する意味合いという点で重要だ。しかしより重要なのは、こうした出来事が政治的意思決定に与える影響だ。
それは”ポスト事実絶対主義”の台頭と言うべきもので、CSERのあるメンバーは、トランプの登場によって議論において科学的証拠が考慮される世界から離れ始めたと述べている。それはあらゆる種類の脅威に対応する能力を弱体化させてしまう。
ヒラリー・クリントンが一般投票で勝利したことを考えれば、アメリカが世界の安定にとって脅威であるという意見は過剰反応かもしれない、という見解もある。
世界の存亡リスクに含めるメリットはほとんどない可能性すらある。それでも多くの人々にとって、トランプが登場した状況は、現実味を帯びた深刻なリスクと映っている。
via:Apocalypse, now?/ translated hiroching / edited by parumo
▼あわせて読みたい
明日世界を終わらせるかもしれない。人類滅亡10のシナリオ
もし世界が終わるなら？2016年最新版、人類終焉10のシナリオ
世界の終り：地球滅亡の現実的な5つのシナリオ
話は聞かせてもらった。人類が太陽系を破壊する11のシナリオ
この宇宙が仮想現実である10の根拠この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 8348 points |  | 台所ホラーサスペンス。図らずもこうなってしまった不測の事態 |
2位 6463 points |  | あれから半年。リオデジャネイロ・オリンピック会場の荒廃っぷりが凄い |
3位 4068 points |  | 壁画かよ！地球上で重力に戦い続けるヤギたちの崖っぷちな風景 |
4位 4014 points |  | ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究） |
5位 2857 points |  | 信用できない人を見分ける5つの方法 |
1256
6984
8
100スポンサードリンク
コメント
1. 匿名処理班
大変じゃん
2. 匿名処理班
カロルコや
ああカロルコや
カロルコや
3. 匿名処理班
隙あらばトランプ叩き
4. 匿名処理班
1と3は分けるべきだったのかな
5. 匿名処理班
8の食糧飢饉ってすでにアメリカだと起きてる
でも一番の危機って水資源を多国籍企業が奪う危機
日本でも川資源をあちこちの企業や行政が奪ってるけど
あちらさんだと地下水脈の奪い合い。これで井戸が枯れたり
行政や市民の共有水源まで枯れる結果を生んでいる
6. 匿名処理班
太陽嵐の危険度ってこれら列挙されている事柄より低いのかな
広範囲であること、甚大な電子機器への影響を含めればかなり高いと思うけれど
7. 匿名処理班
1：AIを作るのは誰か？馬鹿馬鹿しい、AIが暴走したとしてそれは人間の手落ち。
2：合成に限らず変異からのパンデミックによる脅威は常にある。
3：扱うのは飽く迄人である、AIのせいでは無い。
4：全核兵器が一斉に全世界同時に動くとは考えにくい、人間は相当数減るだろうが全弾使うまでには沈黙するだろう、ただし脅威である事は同意出来る。
5：これは全世界何処でもありうる、絶対安心安全など存在しない、只その確率を低い物に留めるべく努力は惜しまないことだ。
6：これも完全な予測は不可能、大きさによっては完全な回避も不可能、運がいいことを祈るしかない。
7：それでも今世界は回っている、だからどうだというのだ、としか言えない。
8：常にあり得る、備蓄や加工による長期保存の技術、海産物の資源的確保など越えなければならないハードルは沢山ある。
9：実証された訳でもなく、実際なったところで人類に為す術がなければ如何することも出来ない。
10：暴君に依らないと安定しない世界がある、一概に独裁が悪と決めつけない方がいい。
独裁を悪としたければ、全人類に中世と近世を全うに越えさせる必要がある。
8. 匿名処理班
隣の化学兵器もリアルに怖いんだが。確実にある事が証明されたしな。
9.
10. 匿名処理班
地味に惑星規模震災で終了。
11. 匿名処理班
とりあえず世紀末に備えてバイクとモヒカンと肩パッドの準備をしなければ。
12. 匿名処理班
何となくだけど、暴君による恐怖政治と国際紛争は既に起こっている様な…
13. 匿名処理班
>6億6,000万年前に恐竜を滅ぼした180キロ級の衝突なら
6,600万年前の間違いでは？
6億6,000万年前だと、恐竜どころか地上に生物が居ない時代だと思う
14. 匿名処理班
そうだ宇宙に植民だ
15. 匿名処理班
ちょっと関わったことのある人間ですが、５と８の合わせ技は明日にでも起こりうる危機です。
気候変動の特徴として、全てが大げさになる傾向があります。すなわち高温多湿な地域はより暑く大雨が降りやすくなり、低音乾燥地域はより寒く降水量が減少する傾向です。こうなると、高温多湿かつ土壌管理がおざなりな国や地域では土壌が流されやすくなり、低音乾燥地域では水が少なくて作物だけでなく植物が育ちにくくなりやすいです。もちろん農業が有利になる地域もありますが、全体としてはマイナス傾向です。
また平均気温が上がると、農作物には年間降水量が一定量減少したのとほぼ同じ効果があります。これも農作物の収穫を減少させる原因です。
農地を増やすのは限界が近づいています。そして同じ面積の農地から収穫される取れる作物の量も、現在の技術ではこれ以上上げるのは難しい状況です。消費者である我々にできるのは、まずは食糧生産に関心を持つことです。個人的には生産者と消費者の交流こそが、問題解決の近道だと思っています。
16. 匿名処理班
可能性が高いのは高病原性の新興感染症のパンデミックと火山のカルデラ噴火の二つだな。どっちも地球規模の影響がある。
17. 匿名処理班
ちょいちょい厨二くさい案件があるな
18. 匿名処理班
世界よりも日本が心配です。
19. めしねこ
俺は小さな日本の原発の数のほうが怖いけどな
20. 匿名処理班
人間がこの世から居なくなれば人間の問題はこの世から無くなる
人類絶滅は御免だがそれはひとつの解決方法でもあるよね
21. 匿名処理班
＞7. 世界がシミュレーションであると証明される
これが上がってることにちょっと驚いた。
シミュレーションだとしても、そうでなかろうと、あまり違いはないような気はするが。
シミュレーションの場合、ある日にシミュレーションが強制終了されるかも知れないけど、それは検知不能だし。
22. 匿名処理班
気候変動が一番ありそうだな〜
23. 匿名処理班
とりあえず日本は東京に大震災が起きたらおしまいだ
24. 匿名処理班
暴君云々は表に出てる首相だの大統領より富握ってる超上級市民たちの方が該当するような
25. 匿名処理班
誰かのシミュレートなら、もうちょっといい暮らしさせてくれよ
26. 匿名処理班
AIに関してはいつも思うが、これは常に敵を欲する人間の性というやつなのかねぇ。
それともヒトが“万物の霊長”の座（という架空の玉座）から引きずり降ろされる（ように思える）のが我慢ならん、って人がまだまだたくさんいるってことなのか。