The Precipice

1. L'humanité se trouve à un moment charnière de l'histoire, face à des risques existentiels sans précédent

Si tout se passe bien, l'histoire humaine ne fait que commencer. L'humanité a environ deux cent mille ans. Mais la Terre restera habitable pendant des centaines de millions d'années encore—suffisamment de temps pour des millions de générations futures; assez pour éradiquer la maladie, la pauvreté et l'injustice à jamais; assez pour atteindre des sommets de prospérité inimaginables aujourd'hui.

Pouvoir et péril sans précédent. Au cours de l'histoire humaine, notre espèce a réalisé des progrès remarquables, passant de petites bandes de chasseurs-cueilleurs à une civilisation mondiale technologiquement avancée. Cette trajectoire s'est accélérée de manière spectaculaire ces derniers siècles, apportant d'énormes gains en matière de santé, de prospérité et de connaissances. Cependant, notre pouvoir croissant a également créé de nouveaux risques existentiels - des menaces qui pourraient détruire définitivement le potentiel de l'humanité.

Un carrefour critique. Nous nous trouvons maintenant à un point unique et précaire de l'histoire. Pour la première fois, nous avons la capacité de nous détruire par une guerre nucléaire, des pandémies artificielles ou d'autres technologies. Pourtant, nous avons également le potentiel de garantir un avenir incroyablement brillant, en nous répandant dans le cosmos et en prospérant pendant des milliards d'années. Les choix que nous ferons dans les décennies à venir pourraient déterminer le chemin que nous prendrons.

Les enjeux sont astronomiques. Si nous naviguons avec succès à travers les risques actuels, l'humanité pourrait avoir un avenir incroyablement long et prospère devant elle. Nous pourrions nous étendre à d'autres planètes, mettre fin aux pénuries et atteindre des sommets de prospérité bien au-delà de notre imagination actuelle. Mais si nous échouons, nous pourrions couper court à cet avenir entier - des trillions de vies qui auraient pu être vécues, et des réalisations à l'échelle cosmique qui ne verront jamais le jour. Notre génération porte donc une responsabilité immense.

2. Les risques naturels pour l'humanité sont éclipsés par les menaces anthropiques que nous avons créées

Bien qu'il existe encore un risque réel, il a été étudié en détail et s'est avéré extrêmement faible. C'est un risque célèbre, mais minime. Si l'humanité devait disparaître au cours du prochain siècle, ce serait presque certainement à cause de quelque chose d'autre qu'un impact d'astéroïde ou de comète.

Les risques naturels sont faibles. Grâce à des études minutieuses, les scientifiques ont déterminé que le risque d'extinction humaine due à des causes naturelles comme les impacts d'astéroïdes, les supervolcans ou les explosions stellaires est très faible - probablement moins de 0,1 % par siècle. Bien que de tels événements puissent causer des dévastations régionales majeures, notre présence mondiale et nos capacités technologiques rendent l'humanité assez résiliente face à ces menaces.

Les risques causés par l'homme dominent. Les risques existentiels vraiment significatifs proviennent désormais de nos propres actions et créations. Les armes nucléaires, le changement climatique, les pandémies artificielles et l'intelligence artificielle posent des menaces bien plus grandes à la survie et à la prospérité à long terme de l'humanité. Contrairement aux risques naturels, ces risques anthropiques augmentent avec le temps à mesure que notre pouvoir technologique croît.

Nous contrôlons notre destin. Le passage de risques existentiels principalement naturels à principalement anthropiques est en fait une source d'optimisme prudent. Bien que nous puissions faire peu pour prévenir une éruption supervolcanique, nous avons beaucoup plus de contrôle sur le développement et l'utilisation de technologies puissantes. Notre destin est en grande partie entre nos mains - si nous pouvons apprendre à manier nos pouvoirs croissants de manière responsable.

3. Les armes nucléaires et le changement climatique posent des risques existentiels significatifs mais gérables

Une guerre qui laisserait derrière elle un âge sombre durant des siècles, avant que les survivants ne puissent éventuellement reconstruire la civilisation à ses hauteurs d'antan; humiliés, marqués - mais invaincus.

L'hiver nucléaire est la menace clé. Bien que les effets immédiats d'une guerre nucléaire seraient dévastateurs, le plus grand risque existentiel vient de la possibilité d'un hiver nucléaire. Les tempêtes de feu dans les villes en flammes pourraient projeter suffisamment de suie dans l'atmosphère pour bloquer la lumière du soleil pendant des années, provoquant un refroidissement global et des échecs de récoltes qui pourraient entraîner une famine massive. Cependant, l'extinction humaine dans ce scénario semble peu probable.

Les risques climatiques sont incertains. Les risques existentiels liés au changement climatique sont moins clairs, mais potentiellement graves dans les scénarios les plus extrêmes. Bien que les projections actuelles de réchauffement soient peu susceptibles de causer directement l'extinction humaine, un réchauffement plus extrême pourrait potentiellement déclencher des effets en cascade ou nous pousser au-delà de points de basculement dangereux. Des incertitudes clés subsistent quant aux boucles de rétroaction potentielles et aux impacts d'un réchauffement supérieur à 6°C.

Les deux nécessitent une action mondiale. Pour faire face à ces risques, une coopération internationale est nécessaire pour réduire les arsenaux nucléaires, retirer les armes de l'alerte rapide et passer rapidement à une énergie propre. Bien que cela soit difficile, ce sont des objectifs réalisables si le public et les décideurs politiques les priorisent. Comparés aux risques futurs, la guerre nucléaire et le changement climatique sont des menaces relativement bien comprises et gérables.

4. Les risques futurs des pandémies artificielles et de l'intelligence artificielle pourraient être catastrophiques

L'humanité manque de la maturité, de la coordination et de la prévoyance nécessaires pour éviter de commettre des erreurs dont nous ne pourrions jamais nous remettre. À mesure que l'écart entre notre pouvoir et notre sagesse se creuse, notre avenir est soumis à un niveau de risque toujours croissant.

Pandémies artificielles. Les avancées en biotechnologie pourraient bientôt permettre la création de pathogènes bien plus mortels que tout ce qui existe dans la nature. Une pandémie artificielle combinant la létalité d'Ebola avec la contagiosité de la grippe pourrait potentiellement causer des milliards de morts. Contrairement aux pandémies naturelles, les pandémies artificielles pourraient être optimisées pour une létalité et une propagation maximales.

Intelligence Artificielle Générale (IAG). Le développement de l'IAG - des systèmes d'IA avec une intelligence générale au niveau humain - pourrait être une bénédiction incroyable pour l'humanité. Mais cela pose également peut-être le plus grand risque existentiel. Un système d'IAG qui n'est pas parfaitement aligné avec les valeurs humaines pourrait rapidement devenir extrêmement puissant et poursuivre des objectifs destructeurs pour l'humanité, pouvant même causer notre extinction.

Défi sans précédent. Ces risques émergents sont particulièrement dangereux car nous n'avons aucune expérience historique de leur gestion. Ils nécessitent de la prévoyance et une action mondiale coordonnée avant que les menaces ne se matérialisent pleinement. Nos systèmes de gouvernance et notre sagesse morale ne sont pas encore à la hauteur de la tâche de naviguer de manière fiable à travers ces défis.

5. Le risque existentiel est gravement négligé malgré son importance capitale

L'humanité dépense plus chaque année en crème glacée qu'en s'assurant que les technologies que nous développons ne nous détruisent pas.

Échelle massive, peu d'attention. Malgré les enjeux astronomiques en jeu, le risque existentiel reçoit étonnamment peu d'attention et de ressources. Les dépenses mondiales annuelles pour la réduction des risques existentiels sont probablement inférieures à 1 milliard de dollars - des ordres de grandeur inférieurs à ce que nous dépensons pour d'autres priorités mondiales, et moins que ce que nous dépensons en crème glacée.

Négligence structurelle. Plusieurs facteurs contribuent à cette négligence :

• Insensibilité à l'échelle : Nous avons du mal à saisir émotionnellement la différence entre des millions et des milliards de vies
• Problèmes d'incitation : Une grande partie des bénéfices de la réduction des risques existentiels revient aux générations futures qui ne peuvent pas nous récompenser
• Nature sans précédent : De nombreux risques n'ont pas de précédent historique, ce qui les rend faciles à écarter

Renverser la négligence. Augmenter l'attention portée au risque existentiel est l'une des choses les plus impactantes que nous puissions faire. Même de petites augmentations des ressources consacrées à ces questions pourraient avoir un impact positif disproportionné sur l'avenir à long terme de l'humanité.

6. Sauvegarder l'humanité nécessite une coopération mondiale et un changement institutionnel

Pour survivre à ces défis et garantir notre avenir, nous devons agir maintenant : gérer les risques d'aujourd'hui, éviter ceux de demain et devenir le type de société qui ne posera plus jamais de tels risques pour elle-même.

Les défis mondiaux nécessitent des solutions mondiales. De nombreux risques existentiels, comme le changement climatique ou l'IA non alignée, affectent toute l'humanité et nécessitent une action mondiale coordonnée pour être abordés. Nous devons développer de nouvelles institutions internationales axées sur les risques à long terme et les générations futures.

Innovations institutionnelles nécessaires. Quelques idées prometteuses incluent :

• Un organe de l'ONU axé sur la réduction des risques existentiels
• Inclure des représentants des générations futures dans les structures de gouvernance
• Faire de la mise en danger imprudente de l'humanité un crime international
• Améliorer la capacité des institutions démocratiques à gérer les risques à long terme et à faible probabilité

Changement culturel requis. Au-delà des changements institutionnels, nous avons besoin d'un changement culturel pour prendre ces risques au sérieux et penser à des échelles de temps plus longues. Nous devons développer les vertus civilisationnelles de patience, de prudence et de coopération mondiale.

7. Notre potentiel futur est vaste en échelle, en durée et en qualité si nous naviguons les risques actuels

Si nous pouvons atteindre d'autres étoiles, alors toute la galaxie s'ouvre à nous. La Voie lactée seule contient plus de 100 milliards d'étoiles, et certaines d'entre elles dureront des trillions d'années, prolongeant considérablement notre durée de vie potentielle.

Échelles de temps cosmiques. Si nous évitons la catastrophe existentielle, l'humanité pourrait potentiellement survivre pendant des centaines de millions voire des milliards d'années. Nous pourrions survivre à la Terre, en nous répandant sur d'autres planètes et systèmes stellaires à mesure que notre maison actuelle deviendra inhabitable dans un avenir très lointain.

Potentiel galactique. Notre galaxie seule contient des centaines de milliards d'étoiles, dont beaucoup avec des planètes potentiellement habitables. Si nous développons la capacité de voyager entre les étoiles, nous pourrions nous répandre dans toute la Voie lactée, exploitant les ressources de mondes et de systèmes stellaires innombrables.

Sommets de prospérité. Compte tenu de ces échelles de temps et de ressources vastes, nous pourrions réaliser des choses incroyables :

• Mettre fin aux pénuries de toutes sortes, éliminant la pauvreté et le besoin
• Développer des technologies bien au-delà de notre imagination actuelle
• Créer de nouvelles formes d'art et de modes d'expérience
• Acquérir une compréhension profonde de la nature fondamentale de la réalité
• Atteindre des sommets de bien-être et de prospérité bien au-delà de nos pics actuels

8. Préserver le potentiel à long terme de l'humanité est le défi déterminant de notre génération

Nous devons acquérir cette sagesse; avoir cette révolution morale. Parce que nous ne pouvons pas revenir de l'extinction, nous ne pouvons pas attendre qu'une menace frappe avant d'agir - nous devons être proactifs. Et parce que gagner en sagesse ou commencer une révolution morale prend du temps, nous devons commencer maintenant.

Un moment charnière. Notre génération vit à un moment peut-être le plus important de l'histoire humaine. Nos actions au cours des décennies à venir pourraient déterminer si l'humanité réalise son vaste potentiel ou succombe à une catastrophe existentielle. Nous portons une responsabilité profonde.

Le grand projet de notre temps. Réduire le risque existentiel devrait être l'une des principales priorités de l'humanité. Cela inclut :

• Travailler directement sur des risques spécifiques comme le changement climatique, la guerre nucléaire, les pandémies artificielles et l'alignement de l'IA
• Améliorer notre capacité mondiale à anticiper et à aborder les menaces nouvelles
• Développer la sagesse et les structures institutionnelles pour gérer les nouvelles technologies puissantes
• Diffuser la préoccupation pour l'avenir à long terme de l'humanité

Un appel à l'action. Bien que le défi soit immense, il y a des raisons d'être prudemment optimiste. Nous avons le pouvoir de naviguer à travers ces risques si nous les prenons au sérieux. Chacun peut contribuer, que ce soit par ses choix de carrière, ses dons ou simplement en diffusant la préoccupation pour ces questions. Nos descendants pourraient se souvenir de nous comme la génération qui a sauvegardé le vaste potentiel de l'humanité.

Dernière mise à jour: August 15, 2024