What We Owe The Future

本書は学術研究論文ではなく、実践マニュアルである。著述はすべて科学的に裏付けられ、過去の最高のアイデアと科学者たちによる説得力のある発見を統合したものだ。参考にしている分野は、生物学、神経科学、哲学、心理学などだ。特に重要なアイデアを見いだし、すぐ実行できる形で結びつけることで役に立つ構成になっている。

1. 未来は広大であり、今日の行動がそれを形作る

私たちに人間でなかった祖先がいたように、私たちの子孫も人間でないかもしれない。

未来のスケールは巨大である。 人類が生き残れば、何億年、あるいは何十億年も存続する可能性がある。今日の決定は、この広大な未来に深遠で長期的な影響を与えるかもしれない。私たちの子孫は宇宙に広がり、想像を絶する規模と複雑さを持つ文明を築くかもしれない。

今、私たちは大きな影響力を持っている。 私たちは歴史上、特に重要な時期に生きており、急速な技術進歩とグローバルな相互接続性がある。このため、長期的な結果に影響を与える前例のない力を持っている。未来を形作るための重要な分野には以下が含まれる：

• AIのような変革技術の責任ある開発
• パンデミックや核戦争などの存在リスクの軽減
• 持続可能な価値観や制度の促進
• 地球外への人類の拡大

長期的な視点を持つことが重要である。 可能性の全体像を考慮することで、私たち自身だけでなく、無数の未来世代に利益をもたらす賢明な選択ができる。私たちには、その影響力を賢く使う深い責任がある。

2. 道徳的進歩は必然ではない

奴隷制の終焉をもたらす道徳的変化は、はるかに長い時間がかかるか、あるいは決して起こらなかったかもしれない。

道徳的進歩は保証されていない。 歴史を通じて奴隷制の廃止のような重要な倫理的進展を遂げてきたが、これらの変化は必然ではなかった。これらは道徳改革者や活動家の献身的な努力の結果である。彼らの働きがなければ、有害な慣習や信念は無期限に続いていたかもしれない。

価値観は非常に持続することがある。 一度確立されると、道徳規範や社会的価値観は何世紀にもわたって持続することがある。この持続性は、良い価値観も悪い価値観も同様に持続する可能性がある。長期間持続する価値体系の例には以下が含まれる：

• 主要な世界宗教
• 政治的イデオロギー
• 文化的伝統やタブー

価値観の形成が重要である。 価値観がどれほど影響力があり持続するかを考えると、文明の道徳的軌道を積極的に形作ることが最も影響力のある行動の一つである。これには以下が含まれる：

• 思いやり、理性、長期的思考のような有益な価値観の促進
• 有害なイデオロギーや慣習への反対
• ポジティブな価値観を保存し伝えるための強固な制度の創設
• 道徳的探求と進歩に対する開かれた姿勢の維持

3. 技術は価値の固定化を可能にするかもしれない

AGIエージェントは潜在的に不死である。

人工汎用知能（AGI）は重要な技術である。 AGI、すなわちすべての領域で人間レベルの能力を持つAIシステムの開発は、知能の爆発を引き起こす可能性がある。これにより、AGIにプログラムされた目標を迅速に達成することが可能となり、その価値観が無期限に固定される可能性がある。

賭け金は非常に高い。 AGIがどのように開発され実装されるかによって、以下のような全く異なる未来がもたらされる可能性がある：

• すべての感覚存在が繁栄するユートピア
• 人間の価値観が無視または抑圧されるディストピア
• 人類の絶滅と私たちの宇宙的遺産の終焉

慎重な開発が重要である。 AGIの変革的な可能性を考えると、以下のことが重要である：

• AGIの安全性研究に多大な投資を行う
• AI開発のための強固なガバナンスフレームワークを構築する
• AGIシステムに有益な価値観と目標を組み込む
• 災害を引き起こす可能性のあるAGI開発の急速な進行を避ける

4. 絶滅と崩壊は存在リスクであり、対処が必要である

今最も重要なのは、人類の歴史を終わらせないことである。

人類の絶滅は巨大な悲劇である。 人類の絶滅は数十億の命を終わらせるだけでなく、私たちの種とすべての未来世代の広大な可能性を閉ざすことになる。それはおそらく、私たちの宇宙の一角で意識と知性が永久に失われることを意味する。

崩壊は絶滅とほぼ同じくらい悪いかもしれない。 たとえ一部の人間が災害を生き延びたとしても、文明の崩壊は私たちを脆弱な状態に閉じ込めるか、欠陥のある価値観の固定化をもたらす可能性がある。特に、容易にアクセスできる資源を使い果たしてしまった場合、回復は困難または不可能かもしれない。

私たちはいくつかの主要なリスクに直面している。 最も差し迫った存在リスクのいくつかには以下が含まれる：

• 核戦争
• 人為的に作られたパンデミック
• 誤った人工知能
• 極端な気候変動
• 小惑星の衝突

人類を守ることが重要な優先事項である。 巨大な賭け金を考えると、存在リスクを減少させることは私たちの最も高い優先事項の一つであるべきである。これには技術的な安全策の開発、グローバルな協調の改善、人類の生存と回復のための強固なバックアッププランの作成が含まれる。

5. 人為的に作られたパンデミックは人類にとって重大な脅威である

いくつかの理由で、私たちは未来に対して深い不確実性の位置にいることが多い。

バイオテクノロジーは急速に進歩している。 生物を設計し改変するツールはますます強力でアクセスしやすくなっている。これは大きな潜在的利益をもたらす一方で、前例のないリスクも生み出している。近い将来、自然界に存在するどの病原体よりも致命的な病原体を作り出すことが可能になるかもしれない。

安全策は不十分である。 リスクにもかかわらず、生物安全性とバイオセキュリティの対策はしばしば緩慢である。病原体が研究所から逃げ出す懸念すべき事件が数多く報告されている。規制と監視は技術的能力に追いついていない。

意図的な悪用は深刻な懸念である。 偶発的な放出に加えて、生物兵器の意図的な開発と使用についても懸念がある。少数の悪意ある行為者でも、世界的なパンデミックを引き起こす可能性がある。

準備が不可欠である。 パンデミックリスクを軽減するために、以下のことが緊急に必要である：

• 生物安全性とバイオセキュリティ対策の強化
• グローバルな疾病監視と対応能力の向上
• 広範な医療対策への投資
• 二重用途研究のためのガバナンスフレームワークの開発

6. 気候変動と資源枯渇は長期的な生存を危険にさらす

文明を守るためには、その持続不可能なレベルを超えて、効果的に壊滅的なリスクに対抗できる技術を持つ段階に到達する必要がある。

気候変動は長期的なリスクをもたらす。 気候変動が直接的に人類の絶滅を引き起こす可能性は低いが、文明を不安定にし、他の脅威に対して脆弱にする可能性がある。その影響は数千年にわたって続き、他の災害からの回復を妨げるかもしれない。

化石燃料の枯渇は回復を複雑にする。 もし容易にアクセスできる化石燃料を使い果たしてしまった場合、文明が崩壊したときの回復ははるかに困難になるかもしれない。化石燃料のエネルギー密度とアクセスのしやすさは、産業革命を可能にする上で重要な役割を果たした。

持続可能な技術が重要である。 長期的な生存と繁栄を確保するために、以下のことが必要である：

• クリーンエネルギー源への迅速な移行
• エネルギー貯蔵と送電技術の開発
• すべてのセクターでのエネルギー効率の向上
• バックアップとしての化石燃料の一部の保存

環境保護は長期的な利益をもたらす。 安定した気候と自然資源基盤を維持することで、将来の世代に多くの選択肢を提供し、災害が発生した場合の回復の可能性を高める。

7. 技術的停滞は私たちを脆弱な状態に閉じ込める可能性がある

私たちはロープやハーネスなしで絶壁を登る登山者のようであり、落下のリスクが大きい。

進歩は保証されていない。 技術的進歩が劇的に遅くなるか、完全に停止する可能性がある理由がいくつかある。これには以下の要因が含まれる：

• 人口増加の減少
• 研究の収穫逓減
• 資源の制約
• 社会的または政治的要因

停滞は危険である。 現在の技術レベルで停滞すると、さまざまな存在リスクに対して脆弱なままである。パンデミック、気候変動、人工知能などの脅威に対処するためには、継続的な進歩が必要である。

停滞を避けるには努力が必要である。 技術的進歩を維持するためには、以下のことが必要である：

• 科学研究と開発への多大な投資
• イノベーションを促進するための制度改革
• 人口動態の傾向とその経済的影響の慎重な管理
• 長期的な進歩のための安定した基盤の維持

進歩と安全のバランスが重要である。 継続的な技術進歩が必要である一方で、新しい技術を責任を持って開発することも重要である。目標は、人類の長期的な可能性を高める持続可能な進歩であるべきである。

8. 幸せな人々を増やすことには道徳的価値がある

人類がその潜在的な寿命の一部でも生き延びるならば、奇妙に思えるかもしれないが、私たちは古代人であり、歴史の非常に初期の段階に生きている。

良い生活を創造することには価値がある。 すべての条件が同じであれば、価値のある生活を送る人々を存在させることは世界をより良くする。これは、人類の絶滅を防ぐことが既存の人々を救うだけでなく、将来の多くの価値ある生活を可能にすることを意味する。

この見解には大きな影響がある。 幸せな人々を創造することが良いと受け入れるならば、以下のことの道徳的重要性が大幅に増す：

• 人類の長期的な生存の確保
• 他の惑星や星系への拡大
• 生活の質の向上と人類の能力の増強

哲学的な難問がある。 この見解は、人口倫理における複雑な問題を提起する。例えば：

• 生活の量と質のバランスの取り方
• 良い生活と悪い生活の創造の非対称性
• 将来の幸福についての不確実性の扱い方

慎重な道徳的推論が重要である。 人類の長期的な軌道を形作ることに関わる巨大な賭け金を考えると、これらの倫理的問題について深く考え、重要な不確実性を解決しようとすることが重要である。

9. 未来の期待値はおそらくプラスである

進歩の必然的な弧は存在しない。文明がディストピアや忘却に陥るのを防ぐデウス・エクス・マキナは存在しない。

悲観的な理由も存在する。 ディストピア、苦しみ、または絶滅のリスクなど、未来についての正当な懸念がある。私たちは自己満足せず、進歩が必然であると仮定すべきではない。

しかし、楽観的な理由も強力である：

• 人間の福祉は時間とともに劇的に改善されてきた
• グローバルな問題を解決する能力が増している
• ほとんどの人々はポジティブな未来を創造したいと考えている
• 良い未来の可能性は悪い未来の可能性をはるかに上回る

期待値計算は楽観主義を支持する。 最悪の未来が最良の未来よりも悪いかもしれないが、良い未来の方がはるかに可能性が高いように思える。これは、未来の期待値がプラスであることを示唆している。

楽観主義は力を与える。 ポジティブな未来を創造できると信じることは、その目標に向かって努力する動機を与える。現実に基づいた慎重な楽観

Last updated: August 29, 2024