The Precipice

1. Die Menschheit steht an einem entscheidenden Punkt in der Geschichte und sieht sich beispiellosen existenziellen Risiken gegenüber

Wenn alles gut geht, beginnt die menschliche Geschichte gerade erst. Die Menschheit ist etwa zweihunderttausend Jahre alt. Aber die Erde wird noch Hunderte von Millionen Jahren bewohnbar bleiben – genug Zeit für Millionen zukünftiger Generationen; genug, um Krankheiten, Armut und Ungerechtigkeit für immer zu beenden; genug, um Höhen des Wohlstands zu erreichen, die heute unvorstellbar sind.

Beispiellose Macht und Gefahr. Im Verlauf der Menschheitsgeschichte hat unsere Spezies bemerkenswerte Fortschritte gemacht, sich von kleinen Gruppen von Jägern und Sammlern zu einer globalen, technologisch fortgeschrittenen Zivilisation entwickelt. Diese Entwicklung hat sich in den letzten Jahrhunderten dramatisch beschleunigt und enorme Fortschritte in Gesundheit, Wohlstand und Wissen gebracht. Doch unsere wachsende Macht hat auch neue existenzielle Risiken geschaffen – Bedrohungen, die das Potenzial der Menschheit dauerhaft zerstören könnten.

Ein kritischer Wendepunkt. Wir befinden uns jetzt an einem einzigartigen und prekären Punkt in der Geschichte. Zum ersten Mal haben wir die Fähigkeit, uns selbst durch einen Atomkrieg, künstlich erzeugte Pandemien oder andere Technologien zu zerstören. Gleichzeitig haben wir das Potenzial, eine unglaublich strahlende Zukunft zu sichern, uns im Kosmos auszubreiten und Milliarden von Jahren zu gedeihen. Die Entscheidungen, die wir in den kommenden Jahrzehnten treffen, könnten bestimmen, welchen Weg wir einschlagen.

Die Einsätze sind astronomisch. Wenn wir die aktuellen Risiken erfolgreich meistern, könnte die Menschheit eine unglaublich lange und wohlhabende Zukunft vor sich haben. Wir könnten uns auf andere Planeten ausbreiten, Knappheiten beenden und Höhen des Wohlstands erreichen, die weit über unsere derzeitige Vorstellungskraft hinausgehen. Aber wenn wir scheitern, könnten wir diese gesamte Zukunft abschneiden – Billionen von Leben, die hätten gelebt werden können, und kosmische Errungenschaften, die niemals verwirklicht werden. Unsere Generation trägt daher eine immense Verantwortung.

2. Natürliche Risiken für die Menschheit werden von anthropogenen Bedrohungen, die wir geschaffen haben, in den Schatten gestellt

Während es immer noch ein reales Risiko gibt, wurde es eingehend untersucht und als verschwindend gering eingestuft. Es ist ein bekanntes Risiko, aber ein kleines. Wenn die Menschheit im nächsten Jahrhundert aussterben würde, wäre es fast sicher etwas anderes als ein Asteroiden- oder Kometeneinschlag.

Natürliche Risiken sind gering. Durch sorgfältige Studien haben Wissenschaftler festgestellt, dass das Risiko des menschlichen Aussterbens durch natürliche Ursachen wie Asteroideneinschläge, Supervulkane oder Sternexplosionen sehr gering ist – wahrscheinlich weniger als 0,1 % pro Jahrhundert. Während solche Ereignisse große regionale Verwüstungen verursachen könnten, macht unsere globale Präsenz und technologische Fähigkeiten die Menschheit ziemlich widerstandsfähig gegenüber diesen Bedrohungen.

Von Menschen verursachte Risiken dominieren. Die wirklich bedeutenden existenziellen Risiken kommen jetzt von unseren eigenen Handlungen und Schöpfungen. Atomwaffen, Klimawandel, künstlich erzeugte Pandemien und künstliche Intelligenz stellen weitaus größere Bedrohungen für das langfristige Überleben und Gedeihen der Menschheit dar. Im Gegensatz zu natürlichen Risiken nehmen diese anthropogenen Risiken mit dem Wachstum unserer technologischen Macht zu.

Wir kontrollieren unser Schicksal. Der Übergang von hauptsächlich natürlichen zu hauptsächlich anthropogenen existenziellen Risiken ist tatsächlich ein Grund für vorsichtigen Optimismus. Während wir wenig tun können, um einen Supervulkanausbruch zu verhindern, haben wir viel mehr Kontrolle über die Entwicklung und Nutzung mächtiger Technologien. Unser Schicksal liegt weitgehend in unseren eigenen Händen – wenn wir lernen, unsere wachsenden Kräfte verantwortungsvoll zu nutzen.

3. Atomwaffen und Klimawandel stellen bedeutende, aber beherrschbare existenzielle Risiken dar

Ein Krieg, der ein dunkles Zeitalter hinterlassen würde, das Jahrhunderte andauert, bevor die Überlebenden die Zivilisation wieder zu ihren früheren Höhen aufbauen könnten; gedemütigt, gezeichnet – aber unbesiegt.

Nuklearer Winter ist die Hauptbedrohung. Während die unmittelbaren Auswirkungen eines Atomkriegs verheerend wären, liegt das größere existenzielle Risiko im Potenzial für einen nuklearen Winter. Feuerstürme in brennenden Städten könnten genug Ruß in die Atmosphäre schleudern, um das Sonnenlicht jahrelang zu blockieren, was zu globaler Abkühlung und Ernteausfällen führen könnte, die zu Massenhungersnöten führen könnten. Ein menschliches Aussterben durch dieses Szenario erscheint jedoch unwahrscheinlich.

Klimarisiken sind unsicher. Die existenziellen Risiken des Klimawandels sind weniger klar, aber in den schlimmsten Szenarien potenziell schwerwiegend. Während die aktuellen Erwärmungsprognosen wahrscheinlich nicht direkt zum Aussterben der Menschheit führen, könnte eine extremere Erwärmung potenziell Kaskadeneffekte auslösen oder uns über gefährliche Kipppunkte hinausdrängen. Wichtige Unsicherheiten bestehen hinsichtlich potenzieller Rückkopplungsschleifen und der Auswirkungen einer Erwärmung von über 6°C.

Beide erfordern globales Handeln. Die Bewältigung dieser Risiken erfordert internationale Zusammenarbeit, um Atomwaffenarsenale zu reduzieren, Waffen von der Alarmbereitschaft zu nehmen und schnell auf saubere Energie umzusteigen. Obwohl herausfordernd, sind dies erreichbare Ziele, wenn die Öffentlichkeit und die politischen Entscheidungsträger sie priorisieren. Im Vergleich zu zukünftigen Risiken sind Atomkrieg und Klimawandel relativ gut verstandene und beherrschbare Bedrohungen.

4. Zukünftige Risiken durch künstlich erzeugte Pandemien und künstliche Intelligenz könnten katastrophal sein

Der Menschheit fehlt die Reife, Koordination und Weitsicht, um Fehler zu vermeiden, von denen wir uns nie erholen könnten. Da die Kluft zwischen unserer Macht und unserer Weisheit wächst, ist unsere Zukunft einem immer höheren Risiko ausgesetzt.

Künstlich erzeugte Pandemien. Fortschritte in der Biotechnologie könnten bald die Schaffung von Krankheitserregern ermöglichen, die weitaus tödlicher sind als alles in der Natur. Eine künstlich erzeugte Pandemie, die die Tödlichkeit von Ebola mit der Ansteckungsfähigkeit der Grippe kombiniert, könnte potenziell Milliarden von Todesfällen verursachen. Im Gegensatz zu natürlichen Pandemien könnten künstlich erzeugte optimiert werden, um maximale Tödlichkeit und Verbreitung zu erreichen.

Künstliche Allgemeine Intelligenz (AGI). Die Entwicklung von AGI – KI-Systemen mit allgemeiner menschlicher Intelligenz – könnte ein unglaublicher Segen für die Menschheit sein. Aber sie stellt auch möglicherweise das größte existenzielle Risiko dar. Ein AGI-System, das nicht perfekt mit menschlichen Werten übereinstimmt, könnte schnell extrem mächtig werden und Ziele verfolgen, die für die Menschheit zerstörerisch sind, möglicherweise sogar unser Aussterben verursachen.

Beispiellose Herausforderung. Diese aufkommenden Risiken sind besonders gefährlich, weil wir keine historischen Erfahrungen im Umgang mit ihnen haben. Sie erfordern Weitsicht und koordinierte globale Maßnahmen, bevor die Bedrohungen vollständig materialisieren. Unsere Regierungssysteme und unsere moralische Weisheit sind noch nicht in der Lage, diese Herausforderungen zuverlässig zu meistern.

5. Existenzielle Risiken werden trotz ihrer überragenden Bedeutung stark vernachlässigt

Die Menschheit gibt jedes Jahr mehr für Eiscreme aus als dafür, sicherzustellen, dass die Technologien, die wir entwickeln, uns nicht zerstören.

Massiver Umfang, wenig Aufmerksamkeit. Trotz der astronomischen Einsätze erhalten existenzielle Risiken überraschend wenig Aufmerksamkeit und Ressourcen. Die jährlichen globalen Ausgaben für die Reduzierung existenzieller Risiken betragen wahrscheinlich weniger als 1 Milliarde Dollar – Größenordnungen weniger als wir für andere globale Prioritäten ausgeben und weniger als wir für Eiscreme ausgeben.

Strukturelle Vernachlässigung. Mehrere Faktoren tragen zu dieser Vernachlässigung bei:

• Umfangsinsensitivität: Wir haben Schwierigkeiten, emotional den Unterschied zwischen Millionen und Milliarden von Leben zu erfassen
• Anreizprobleme: Ein Großteil des Nutzens der Reduzierung existenzieller Risiken kommt zukünftigen Generationen zugute, die uns nicht belohnen können
• Ungewohnte Natur: Viele Risiken haben keinen historischen Präzedenzfall, was es leicht macht, sie abzutun

Die Vernachlässigung umkehren. Die Erhöhung der Aufmerksamkeit für existenzielle Risiken ist eine der wirkungsvollsten Dinge, die wir tun können. Selbst kleine Erhöhungen der für diese Themen aufgewendeten Ressourcen könnten einen überproportional positiven Einfluss auf die langfristige Zukunft der Menschheit haben.

6. Die Sicherung der Menschheit erfordert globale Zusammenarbeit und institutionelle Veränderungen

Um diese Herausforderungen zu überleben und unsere Zukunft zu sichern, müssen wir jetzt handeln: die Risiken von heute managen, die von morgen abwenden und die Art von Gesellschaft werden, die sich nie wieder solchen Risiken aussetzt.

Globale Herausforderungen erfordern globale Lösungen. Viele existenzielle Risiken, wie der Klimawandel oder nicht ausgerichtete KI, betreffen die gesamte Menschheit und erfordern koordinierte globale Maßnahmen zu ihrer Bewältigung. Wir müssen neue internationale Institutionen entwickeln, die sich auf langfristige Risiken und zukünftige Generationen konzentrieren.

Erforderliche institutionelle Innovationen. Einige vielversprechende Ideen umfassen:

• Eine UN-Organisation, die sich auf die Reduzierung existenzieller Risiken konzentriert
• Einbeziehung von Vertretern zukünftiger Generationen in Regierungsstrukturen
• Die fahrlässige Gefährdung der Menschheit zu einem internationalen Verbrechen machen
• Verbesserung der Fähigkeit demokratischer Institutionen, langfristige, unwahrscheinliche Risiken zu bewältigen

Kultureller Wandel erforderlich. Über institutionelle Veränderungen hinaus brauchen wir einen kulturellen Wandel, um diese Risiken ernst zu nehmen und in längeren Zeiträumen zu denken. Wir müssen die zivilisatorischen Tugenden der Geduld, Vorsicht und globalen Zusammenarbeit entwickeln.

7. Unser potenzielles Zukunft ist in Umfang, Dauer und Qualität gewaltig, wenn wir die aktuellen Risiken meistern

Wenn wir andere Sterne erreichen können, öffnet sich uns die ganze Galaxie. Allein die Milchstraße enthält mehr als 100 Milliarden Sterne, und einige davon werden Billionen von Jahren bestehen, was unsere potenzielle Lebensdauer erheblich verlängert.

Kosmische Zeiträume. Wenn wir eine existenzielle Katastrophe vermeiden, könnte die Menschheit potenziell Hunderte von Millionen oder sogar Milliarden von Jahren überleben. Wir könnten die Erde überdauern, uns auf andere Planeten und Sternensysteme ausbreiten, wenn unser derzeitiges Zuhause in ferner Zukunft unbewohnbar wird.

Galaktisches Potenzial. Unsere Galaxie allein enthält Hunderte von Milliarden Sternen, viele mit potenziell bewohnbaren Planeten. Wenn wir die Fähigkeit zur interstellaren Reise entwickeln, könnten wir uns in der gesamten Milchstraße ausbreiten und die Ressourcen unzähliger Welten und Sternensysteme nutzen.

Höhen des Wohlstands. Angesichts solcher gewaltigen Zeiträume und Ressourcen könnten wir unglaubliche Dinge erreichen:

• Knappheiten aller Art beenden, Armut und Not eliminieren
• Technologien entwickeln, die weit über unsere derzeitige Vorstellungskraft hinausgehen
• Neue Kunstformen und Erfahrungsmodi schaffen
• Ein tiefes Verständnis der grundlegenden Natur der Realität erlangen
• Höhen des Wohlstands und des Wohlbefindens erreichen, die weit über unsere derzeitigen Gipfel hinausgehen

8. Die Bewahrung des langfristigen Potenzials der Menschheit ist die entscheidende Herausforderung unserer Generation

Wir müssen diese Weisheit erlangen; diese moralische Revolution haben. Denn wir können nicht aus dem Aussterben zurückkehren, wir können nicht warten, bis eine Bedrohung zuschlägt, bevor wir handeln – wir müssen proaktiv sein. Und da es Zeit braucht, Weisheit zu erlangen oder eine moralische Revolution zu starten, müssen wir jetzt anfangen.

Ein entscheidender Moment. Unsere Generation lebt zu einer der wohl wichtigsten Zeiten in der Menschheitsgeschichte. Unsere Handlungen in den kommenden Jahrzehnten könnten bestimmen, ob die Menschheit ihr gewaltiges Potenzial erreicht oder einer existenziellen Katastrophe erliegt. Wir tragen eine tiefgreifende Verantwortung.

Das große Projekt unserer Zeit. Die Reduzierung existenzieller Risiken sollte eine der obersten Prioritäten der Menschheit sein. Dies umfasst:

• Direkte Arbeit an spezifischen Risiken wie Klimawandel, Atomkrieg, künstlich erzeugten Pandemien und KI-Ausrichtung
• Verbesserung unserer globalen Fähigkeit, neuartige Bedrohungen vorherzusehen und zu bewältigen
• Entwicklung der Weisheit und institutionellen Strukturen, um mächtige neue Technologien zu managen
• Verbreitung der Sorge um die langfristige Zukunft der Menschheit

Ein Aufruf zum Handeln. Obwohl die Herausforderung immens ist, gibt es Grund für vorsichtigen Optimismus. Wir haben die Macht, diese Risiken zu meistern, wenn wir sie ernst nehmen. Jeder kann beitragen, sei es durch seine Berufswahl, Spenden oder einfach durch die Verbreitung der Sorge um diese Themen. Unsere Nachkommen könnten uns als die Generation in Erinnerung behalten, die das gewaltige Potenzial der Menschheit gesichert hat.

Last updated: August 15, 2024