The Precipice

1. 人類は歴史の転換点に立ち、前例のない存在リスクに直面している

すべてがうまくいけば、人類の歴史はまだ始まったばかりだ。人類は約20万年の歴史を持つが、地球は数億年にわたって居住可能であり、未来の世代が何百万も続く時間がある。病気、貧困、不正義を永遠に終わらせ、今日では想像もつかない繁栄の高みを築くのに十分な時間がある。

前例のない力と危険。 人類の歴史の中で、我々の種は驚異的な進歩を遂げ、小さな狩猟採集社会からグローバルで技術的に進んだ文明へと発展してきた。この軌跡は近世に入って劇的に加速し、健康、繁栄、知識において大きな成果をもたらした。しかし、我々の力の増大は新たな存在リスクも生み出し、人類の潜在能力を永久に破壊する可能性のある脅威をもたらしている。

重要な分岐点。 我々は今、歴史上初めて自らを核戦争、人工的なパンデミック、その他の技術によって破壊する能力を持つ一方で、宇宙全体に広がり、数十億年にわたって繁栄するという明るい未来を確保する可能性も持っている。今後数十年で我々が下す選択が、どの道を進むかを決定するかもしれない。

賭けは天文学的。 現在のリスクをうまく乗り越えれば、人類は非常に長く繁栄する未来を持つことができる。他の惑星に広がり、欠乏を終わらせ、現在の想像を超える繁栄の高みを達成することができる。しかし、失敗すれば、その全ての未来を断ち切ることになり、何兆もの命が失われ、宇宙規模の成果が実現しないまま終わる。我々の世代には巨大な責任がある。

2. 自然のリスクは人類が作り出した脅威に比べて小さい

リスクは依然として存在するが、詳細に研究され、その確率は非常に低いことが示されている。有名なリスクではあるが、小さなものである。もし人類が次の世紀に絶滅するなら、それはほぼ確実に小惑星や彗星の衝突以外の原因によるものである。

自然のリスクは小さい。 科学者たちは、隕石衝突、スーパーボルケーノ、恒星爆発などの自然原因による人類絶滅のリスクが非常に低いことを確認している。これらのイベントは地域的な大災害を引き起こす可能性があるが、我々のグローバルな存在と技術的能力はこれらの脅威に対して非常に強靭である。

人為的リスクが支配的。 真に重大な存在リスクは、我々自身の行動と創造物から生じる。核兵器、気候変動、人工的なパンデミック、人工知能はすべて、人類の長期的な生存と繁栄に対してはるかに大きな脅威をもたらす。自然のリスクとは異なり、これらの人為的リスクは我々の技術力が増大するにつれて増加している。

我々の運命は我々の手に。 主に自然のリスクから主に人為的な存在リスクへのシフトは、実際には慎重な楽観主義の理由となる。スーパーボルケーノの噴火を防ぐことはほとんどできないが、強力な技術の開発と使用を制御することははるかに多くのことができる。我々の運命は大部分が我々自身の手にあるのだ。

3. 核兵器と気候変動は重大だが管理可能な存在リスクをもたらす

数世紀にわたる暗黒時代を残し、生存者が文明を再建するまでの間、謙虚で傷ついたが、敗北しない。

核の冬が主要な脅威。 核戦争の即時の影響は壊滅的であるが、より大きな存在リスクは核の冬の可能性から生じる。燃え盛る都市の火災が大気中に十分なすすを持ち上げ、数年間にわたって日光を遮断し、世界的な冷却と作物の失敗を引き起こし、大規模な飢餓をもたらす可能性がある。しかし、このシナリオによる人類絶滅はありそうにない。

気候リスクは不確実。 気候変動による存在リスクは明確ではないが、最悪のシナリオでは深刻なものとなる可能性がある。現在の温暖化予測は人類絶滅を直接引き起こす可能性は低いが、より極端な温暖化は連鎖的な影響を引き起こすか、危険な転換点を超える可能性がある。フィードバックループや6°C以上の温暖化の影響については重要な不確実性が残っている。

両者には国際的な行動が必要。 これらのリスクに対処するには、核兵器の削減、即時発射警戒態勢の解除、クリーンエネルギーへの迅速な移行が必要である。これは挑戦的であるが、公共と政策立案者が優先すれば達成可能な目標である。将来のリスクと比較して、核戦争と気候変動は比較的よく理解されており、管理可能な脅威である。

4. 人工的なパンデミックと人工知能からの将来のリスクは壊滅的な可能性がある

人類は、回復不能なミスを避けるための成熟度、協調性、先見性を欠いている。我々の力と知恵の間のギャップが広がるにつれて、我々の未来はますます高いリスクにさらされる。

人工的なパンデミック。 バイオテクノロジーの進歩により、自然界のどの病原体よりも致命的な病原体を作成することが可能になるかもしれない。エボラの致死性とインフルエンザの感染力を組み合わせた人工的なパンデミックは、数十億人の死者を引き起こす可能性がある。自然のパンデミックとは異なり、人工的なものは最大の致死性と拡散を最適化することができる。

人工汎用知能（AGI）。 AGIの開発は、人類にとって驚異的な恩恵をもたらす可能性があるが、同時に最大の存在リスクをもたらす可能性もある。人間の価値観と完全に一致しないAGIシステムは、非常に強力になり、人類にとって破壊的な目標を追求する可能性があり、最悪の場合、我々の絶滅を引き起こす可能性がある。

前例のない挑戦。 これらの新たなリスクは、管理するための歴史的な経験がないため、特に危険である。これらの脅威が完全に現れる前に、先見性と協調的な国際行動が必要である。我々のガバナンスシステムと道徳的知恵は、これらの挑戦を確実に乗り越えるための準備がまだ整っていない。

5. 存在リスクはその重要性にもかかわらず、著しく無視されている

人類は、開発した技術が我々を破壊しないようにするために費やす金額よりも、毎年アイスクリームに多くの金を使っている。

巨大な規模、少ない注目。 天文学的な賭け金がかかっているにもかかわらず、存在リスクは驚くほど少ない注目と資源を受けている。存在リスク削減に対する年間の世界的な支出は、おそらく10億ドル未満であり、他のグローバルな優先事項に対する支出の何桁も少なく、アイスクリームに費やす金額よりも少ない。

構造的な無視。 いくつかの要因がこの無視に寄与している：

• 範囲の無感覚：我々は数百万と数十億の命の違いを感情的に理解するのが難しい
• インセンティブの問題：存在リスクを減らすことの利益の多くは、我々に報酬を与えることができない未来の世代に帰する
• 前例のない性質：多くのリスクは歴史的な前例がなく、無視されやすい

無視の逆転。 存在リスクに対する注目を増やすことは、我々ができる最も影響力のあることの一つである。これらの問題に対する資源のわずかな増加でも、人類の長期的な未来に対して大きなプラスの影響を与える可能性がある。

6. 人類を守るためには、グローバルな協力と制度の変革が必要

これらの挑戦を乗り越え、未来を確保するためには、今行動しなければならない：今日のリスクを管理し、明日のリスクを回避し、再び自らにリスクをもたらさない社会になること。

グローバルな課題にはグローバルな解決策が必要。 気候変動や未調整のAIのような多くの存在リスクは、人類全体に影響を与え、対処するためには協調的なグローバルな行動が必要である。我々は、長期的なリスクと未来の世代に焦点を当てた新しい国際機関を開発する必要がある。

制度的な革新が必要。 いくつかの有望なアイデアには以下が含まれる：

• 存在リスク削減に焦点を当てた国連機関
• ガバナンス構造に未来の世代の代表を含める
• 人類の無謀な危険を国際犯罪とする
• 長期的で低確率のリスクを扱うための民主的な制度の改善

文化的なシフトが必要。 制度的な変化を超えて、これらのリスクを真剣に受け止め、長期的なタイムスケールで考えるための文化的なシフトが必要である。我々は、忍耐、慎重さ、グローバルな協力の文明的な美徳を育む必要がある。

7. 現在のリスクを乗り越えれば、我々の未来の可能性は広大である

他の星に到達できれば、銀河全体が我々に開かれる。天の川銀河だけでも1000億以上の星があり、そのいくつかは数兆年続くため、我々の潜在的な寿命を大幅に延ばすことができる。

宇宙的なタイムスケール。 存在の危機を回避すれば、人類は数億年、さらには数十億年も生存する可能性がある。我々は地球を超えて広がり、非常に遠い未来に現在の住処が居住不可能になったときに他の惑星や星系に広がることができる。

銀河の可能性。 我々の銀河だけでも数千億の星があり、その多くには居住可能な惑星が存在する可能性がある。星間旅行の能力を開発すれば、天の川銀河全体に広がり、無数の世界と星系の資源を活用することができる。

繁栄の高み。 これほど広大なタイムスケールと資源を持てば、驚異的なことを達成できる：

• あらゆる種類の欠乏を終わらせ、貧困と欲望を排除する
• 現在の想像を超えた技術を開発する
• 新しい芸術形式や経験のモードを創造する
• 現実の基本的な性質を深く理解する
• 現在のピークをはるかに超えた幸福と繁栄の高みを達成する

8. 人類の長期的な潜在能力を守ることが我々の世代の定義的な挑戦である

我々はこの知恵を得る必要がある；この道徳的な革命を起こす必要がある。絶滅からは戻れないため、脅威が襲うまで待つことはできない—我々は積極的に行動しなければならない。そして、知恵を得ることや道徳的な革命を始めるには時間がかかるため、今すぐ始める必要がある。

転換点。 我々の世代は、おそらく人類史上最も重要な時期に生きている。今後数十年で我々が取る行動が、人類がその広大な潜在能力を達成するか、存在の危機に屈するかを決定するかもしれない。我々には深い責任がある。

我々の時代の大プロジェクト。 存在リスクの削減は、人類の最優先事項の一つであるべきだ。これには以下が含まれる：

• 気候変動、核戦争、人工的なパンデミック、AIの調整など、特定のリスクに対する直接的な取り組み
• 新たな脅威を予測し対処するためのグローバルな能力の向上
• 強力な新技術を管理するための知恵と制度の構築
• 人類の長期的な未来に対する関心の広がり

行動の呼びかけ。 挑戦は巨大だが、慎重な楽観主義の理由がある。これらのリスクを真剣に受け止めれば、我々はそれを乗り越える力を持っている。キャリアの選択、寄付、またはこれらの問題に対する関心を広めることで、誰もが貢献できる。我々の子孫は、我々を人類の広大な潜在能力を守った世代として記憶するかもしれない。

Last updated: August 15, 2024