Puntos clave
1. La humanidad se encuentra en un momento crucial de la historia, enfrentando riesgos existenciales sin precedentes
Si todo va bien, la historia humana apenas está comenzando. La humanidad tiene alrededor de doscientos mil años. Pero la Tierra seguirá siendo habitable durante cientos de millones más, tiempo suficiente para millones de generaciones futuras; suficiente para acabar con la enfermedad, la pobreza y la injusticia para siempre; suficiente para alcanzar niveles de prosperidad inimaginables hoy en día.
Poder y peligro sin precedentes. En el transcurso de la historia humana, nuestra especie ha hecho un progreso notable, desarrollándose desde pequeñas bandas de cazadores-recolectores hasta una civilización global y tecnológicamente avanzada. Esta trayectoria se ha acelerado dramáticamente en los últimos siglos, trayendo enormes avances en salud, prosperidad y conocimiento. Sin embargo, nuestro creciente poder también ha creado nuevos riesgos existenciales: amenazas que podrían destruir permanentemente el potencial de la humanidad.
Un punto crítico. Ahora nos encontramos en un punto único y precario de la historia. Por primera vez, tenemos la capacidad de destruirnos a nosotros mismos a través de una guerra nuclear, pandemias diseñadas o otras tecnologías. Sin embargo, también tenemos el potencial de asegurar un futuro increíblemente brillante, expandiéndonos por el cosmos y prosperando durante miles de millones de años. Las decisiones que tomemos en las próximas décadas pueden determinar qué camino tomamos.
Las apuestas son astronómicas. Si navegamos con éxito los riesgos actuales, la humanidad podría tener un futuro increíblemente largo y próspero por delante. Podríamos expandirnos a otros planetas, acabar con las escaseces y alcanzar niveles de prosperidad mucho más allá de nuestra imaginación actual. Pero si fallamos, podríamos cortar todo ese futuro: billones de vidas que podrían haberse vivido y logros a escala cósmica que nunca se materializarán. Nuestra generación, por lo tanto, tiene una inmensa responsabilidad.
2. Los riesgos naturales para la humanidad son superados por las amenazas antropogénicas que hemos creado
Aunque todavía existe un riesgo real, ha sido estudiado en gran detalle y se ha demostrado que es extremadamente bajo. Es un riesgo famoso, pero pequeño. Si la humanidad se extinguiera en el próximo siglo, casi con certeza sería por algo distinto a un impacto de asteroide o cometa.
Los riesgos naturales son pequeños. A través de estudios cuidadosos, los científicos han determinado que el riesgo de extinción humana por causas naturales como impactos de asteroides, supervolcanes o explosiones estelares es muy bajo, probablemente menos del 0.1% por siglo. Aunque tales eventos podrían causar una devastación regional importante, nuestra presencia global y capacidades tecnológicas hacen a la humanidad bastante resiliente a estas amenazas.
Los riesgos causados por el hombre dominan. Los riesgos existenciales verdaderamente significativos ahora provienen de nuestras propias acciones y creaciones. Las armas nucleares, el cambio climático, las pandemias diseñadas y la inteligencia artificial representan amenazas mucho mayores para la supervivencia y prosperidad a largo plazo de la humanidad. A diferencia de los riesgos naturales, estos riesgos antropogénicos están aumentando con el tiempo a medida que nuestro poder tecnológico crece.
Controlamos nuestro destino. El cambio de riesgos existenciales principalmente naturales a principalmente antropogénicos es en realidad motivo de un optimismo cauteloso. Mientras que podemos hacer poco para prevenir una erupción supervolcánica, tenemos mucho más control sobre el desarrollo y uso de tecnologías poderosas. Nuestro destino está en gran medida en nuestras propias manos, si podemos aprender a manejar nuestros crecientes poderes de manera responsable.
3. Las armas nucleares y el cambio climático representan riesgos existenciales significativos pero manejables
Una guerra que dejaría atrás una era oscura que duraría siglos, antes de que los sobrevivientes pudieran eventualmente reconstruir la civilización a sus antiguas alturas; humillados, marcados, pero no derrotados.
El invierno nuclear es la amenaza clave. Aunque los efectos inmediatos de una guerra nuclear serían devastadores, el mayor riesgo existencial proviene del potencial de un invierno nuclear. Las tormentas de fuego en ciudades en llamas podrían elevar suficiente hollín a la atmósfera para bloquear la luz solar durante años, causando enfriamiento global y fallos en las cosechas que podrían llevar a una hambruna masiva. Sin embargo, la extinción humana por este escenario parece poco probable.
Los riesgos climáticos son inciertos. Los riesgos existenciales del cambio climático son menos claros, pero potencialmente severos en los peores escenarios. Aunque las proyecciones actuales de calentamiento son poco probables que causen directamente la extinción humana, un calentamiento más extremo podría desencadenar efectos en cascada o empujarnos más allá de puntos de inflexión peligrosos. Persisten incertidumbres clave en torno a los posibles bucles de retroalimentación y los impactos de un calentamiento superior a 6°C.
Ambos requieren acción global. Abordar estos riesgos requiere cooperación internacional para reducir los arsenales nucleares, desactivar las armas en alerta máxima y transitar rápidamente hacia energías limpias. Aunque es un desafío, estos son objetivos alcanzables si el público y los responsables de políticas los priorizan. Comparados con los riesgos futuros, la guerra nuclear y el cambio climático son amenazas relativamente bien entendidas y manejables.
4. Los riesgos futuros de pandemias diseñadas e inteligencia artificial podrían ser catastróficos
La humanidad carece de la madurez, coordinación y previsión necesarias para evitar cometer errores de los que nunca podríamos recuperarnos. A medida que la brecha entre nuestro poder y nuestra sabiduría crece, nuestro futuro está sujeto a un nivel de riesgo cada vez mayor.
Pandemias diseñadas. Los avances en biotecnología pronto podrían permitir la creación de patógenos mucho más mortales que cualquier cosa en la naturaleza. Una pandemia diseñada que combine la letalidad del Ébola con la contagiosidad de la gripe podría causar potencialmente miles de millones de muertes. A diferencia de las pandemias naturales, las diseñadas podrían optimizarse para una letalidad y propagación máximas.
Inteligencia Artificial General (IAG). El desarrollo de la IAG, sistemas de IA con inteligencia general a nivel humano, podría ser una bendición increíble para la humanidad. Pero también representa posiblemente el mayor riesgo existencial. Un sistema de IAG que no esté perfectamente alineado con los valores humanos podría volverse extremadamente poderoso rápidamente y perseguir objetivos destructivos para la humanidad, potencialmente incluso causando nuestra extinción.
Desafío sin precedentes. Estos riesgos emergentes son especialmente peligrosos porque no tenemos experiencia histórica en manejarlos. Requieren previsión y acción global coordinada antes de que las amenazas se materialicen completamente. Nuestros sistemas de gobernanza y nuestra sabiduría moral aún no están a la altura de la tarea de navegar estos desafíos de manera confiable.
5. El riesgo existencial está gravemente descuidado a pesar de su importancia primordial
La humanidad gasta más en helado cada año que en asegurar que las tecnologías que desarrollamos no nos destruyan.
Escala masiva, poca atención. A pesar de las apuestas astronómicas involucradas, el riesgo existencial recibe sorprendentemente poca atención y recursos. El gasto global anual en reducción de riesgos existenciales probablemente sea menos de $1 mil millones, órdenes de magnitud menos de lo que gastamos en otras prioridades globales, y menos de lo que gastamos en helado.
Negligencia estructural. Varios factores contribuyen a esta negligencia:
- Insensibilidad al alcance: Nos cuesta emocionalmente comprender la diferencia entre millones y miles de millones de vidas
- Problemas de incentivos: Gran parte del beneficio de reducir el riesgo existencial recae en generaciones futuras que no pueden recompensarnos
- Naturaleza sin precedentes: Muchos riesgos no tienen precedentes históricos, lo que los hace fáciles de descartar
Revertir la negligencia. Aumentar la atención al riesgo existencial es una de las cosas más impactantes que podemos hacer. Incluso pequeños aumentos en los recursos dedicados a estos temas podrían tener un impacto positivo desproporcionado en el futuro a largo plazo de la humanidad.
6. Salvaguardar el potencial a largo plazo de la humanidad requiere cooperación global y cambios institucionales
Para sobrevivir a estos desafíos y asegurar nuestro futuro, debemos actuar ahora: gestionando los riesgos de hoy, evitando los de mañana y convirtiéndonos en la clase de sociedad que nunca se pondrá en tal riesgo nuevamente.
Los desafíos globales requieren soluciones globales. Muchos riesgos existenciales, como el cambio climático o la IA desalineada, afectan a toda la humanidad y requieren acción global coordinada para abordarlos. Necesitamos desarrollar nuevas instituciones internacionales centradas en los riesgos a largo plazo y las generaciones futuras.
Innovaciones institucionales necesarias. Algunas ideas prometedoras incluyen:
- Un organismo de la ONU centrado en la reducción del riesgo existencial
- Incluir representantes de las generaciones futuras en las estructuras de gobernanza
- Hacer del peligro imprudente para la humanidad un crimen internacional
- Mejorar la capacidad de las instituciones democráticas para manejar riesgos a largo plazo y de baja probabilidad
Cambio cultural requerido. Más allá de los cambios institucionales, necesitamos un cambio cultural para tomar estos riesgos en serio y pensar en escalas de tiempo más largas. Debemos desarrollar las virtudes civilizacionales de paciencia, prudencia y cooperación global.
7. Nuestro potencial futuro es vasto en escala, duración y calidad si navegamos los riesgos actuales
Si podemos llegar a otras estrellas, entonces toda la galaxia se abre para nosotros. Solo la Vía Láctea contiene más de 100 mil millones de estrellas, y algunas de estas durarán billones de años, extendiendo enormemente nuestra vida potencial.
Escalas de tiempo cósmicas. Si evitamos una catástrofe existencial, la humanidad podría potencialmente sobrevivir durante cientos de millones o incluso miles de millones de años. Podríamos sobrevivir a la Tierra, expandiéndonos a otros planetas y sistemas estelares a medida que nuestro hogar actual se vuelva inhabitable en un futuro muy lejano.
Potencial galáctico. Nuestra galaxia sola contiene cientos de miles de millones de estrellas, muchas con planetas potencialmente habitables. Si desarrollamos la capacidad para el viaje interestelar, podríamos expandirnos por toda la Vía Láctea, aprovechando los recursos de innumerables mundos y sistemas estelares.
Alturas de prosperidad. Dadas tales escalas de tiempo y recursos, podríamos lograr cosas increíbles:
- Acabar con las escaseces de todo tipo, eliminando la pobreza y la necesidad
- Desarrollar tecnologías mucho más allá de nuestra imaginación actual
- Crear nuevas formas de arte y modos de experiencia
- Obtener una comprensión profunda de la naturaleza fundamental de la realidad
- Alcanzar niveles de bienestar y prosperidad mucho más allá de nuestros picos actuales
8. Preservar el potencial a largo plazo de la humanidad es el desafío definitorio de nuestra generación
Necesitamos adquirir esta sabiduría; tener esta revolución moral. Porque no podemos regresar de la extinción, no podemos esperar hasta que una amenaza golpee antes de actuar: debemos ser proactivos. Y porque adquirir sabiduría o iniciar una revolución moral lleva tiempo, necesitamos comenzar ahora.
Un momento crucial. Nuestra generación vive en posiblemente el momento más importante de la historia humana. Nuestras acciones en las próximas décadas podrían determinar si la humanidad alcanza su vasto potencial o sucumbe a una catástrofe existencial. Tenemos una responsabilidad profunda.
El gran proyecto de nuestro tiempo. Reducir el riesgo existencial debería ser una de las principales prioridades de la humanidad. Esto incluye:
- Trabajo directo en riesgos específicos como el cambio climático, la guerra nuclear, las pandemias diseñadas y la alineación de la IA
- Mejorar nuestra capacidad global para anticipar y abordar amenazas novedosas
- Desarrollar la sabiduría y las estructuras institucionales para manejar nuevas tecnologías poderosas
- Difundir la preocupación por el futuro a largo plazo de la humanidad
Un llamado a la acción. Aunque el desafío es inmenso, hay razones para un optimismo cauteloso. Tenemos el poder de navegar estos riesgos si los tomamos en serio. Todos pueden contribuir, ya sea a través de sus elecciones de carrera, donaciones o simplemente difundiendo la preocupación por estos temas. Nuestros descendientes podrían recordarnos como la generación que salvaguardó el vasto potencial de la humanidad.
Última actualización:
Questions & Answers
What's The Precipice: Existential Risk and the Future of Humanity about?
- Focus on existential risks: Toby Ord's The Precipice explores existential risks that threaten humanity's long-term potential, emphasizing the critical moment in history where technological power surpasses our wisdom.
- Humanity's future at stake: The book argues that safeguarding humanity's future is the defining challenge of our time, as we face self-destruction due to our own actions.
- Call to action: Ord urges readers to recognize the importance of managing current risks and preventing future catastrophes to ensure a flourishing future for generations to come.
Why should I read The Precipice?
- Urgent and relevant topic: The book addresses critical issues affecting both the present and future of humanity, making it essential reading for those concerned about global challenges.
- Interdisciplinary approach: Ord combines insights from ethics, science, and history, providing a comprehensive understanding of the risks we face and potential solutions.
- Empowerment through knowledge: By reading this book, you will gain a deeper awareness of existential risks and be inspired to take action to safeguard our future.
What are the key takeaways of The Precipice?
- Existential risks defined: Ord defines existential risks as those threatening the destruction of humanity's long-term potential, including extinction and irreversible societal collapse.
- Humanity's unique moment: The book highlights that humanity is at a critical juncture where technological advancements could lead to either unprecedented flourishing or catastrophic failure.
- Moral responsibility: Ord emphasizes the moral imperative to act now, as our choices today will shape the future for countless generations.
What are the best quotes from The Precipice and what do they mean?
- "We stand at a crucial moment in the history of our species.": This quote underscores the urgency of addressing existential risks, as our current actions will have lasting impacts on future generations.
- "The greatest risks are caused by human action, and they can be addressed by human action.": Ord emphasizes that while we face significant threats, we also have the power to mitigate these risks through collective action and responsible decision-making.
- "Safeguarding humanity through these dangers should be a central priority of our time.": This quote encapsulates the book's central message, urging readers to prioritize the protection of humanity's future amidst growing risks.
What is existential risk according to The Precipice?
- Definition provided: Ord defines existential risk as a risk that threatens the destruction of humanity's long-term potential, which includes extinction or a permanent collapse of civilization.
- Broader implications: The concept encompasses not just the end of human life but also scenarios where civilization collapses irreversibly, locking humanity into a diminished future.
- Moral urgency: Understanding existential risk is crucial for recognizing the stakes involved in our current choices and the need for proactive measures to safeguard our future.
How does The Precipice categorize risks?
- Natural risks: Ord discusses risks from natural events, such as asteroid impacts, supervolcanic eruptions, and stellar explosions, which have historically threatened life on Earth.
- Anthropogenic risks: The book examines risks arising from human actions, including nuclear weapons, climate change, and environmental degradation, which pose significant threats to our future.
- Future risks: Ord highlights emerging technologies, such as artificial intelligence and biotechnology, that could lead to new forms of existential risk if not managed carefully.
How does Toby Ord quantify existential risks in The Precipice?
- Estimates for various risks: Ord provides specific probabilities for different existential risks, such as a 1 in 30 chance of engineered pandemics and a 1 in 10 chance of unaligned artificial intelligence causing catastrophe within the next century.
- Comparative analysis: The author compares these risks to highlight their relative likelihood and potential impact, making it easier for readers to understand which risks warrant more attention.
- Uncertainty acknowledgment: Ord emphasizes that while these estimates are based on current knowledge, there is significant uncertainty involved, and the actual probabilities could vary widely.
What is the concept of "existential security" in The Precipice?
- Definition of existential security: Existential security refers to a state where humanity is protected from existential risks, ensuring that the potential for human flourishing is preserved over the long term.
- Two strands: Ord outlines two key components: preserving humanity's potential by addressing immediate risks and protecting it by establishing lasting safeguards against future threats.
- Long-term vision: Achieving existential security is seen as a foundational step for humanity to reflect on its values and aspirations, allowing for a more thoughtful approach to future challenges.
How does The Precipice address the role of technology in existential risks?
- Dual nature of technology: The book discusses how technology can both pose significant risks (e.g., artificial intelligence, biotechnology) and offer solutions to mitigate those risks (e.g., renewable energy, advanced safety measures).
- Need for responsible governance: Ord emphasizes the importance of developing robust governance frameworks to ensure that technological advancements are aligned with human values and do not exacerbate existential risks.
- Call for foresight: The author advocates for a proactive approach to technology development, urging society to consider the long-term implications of new technologies and to prioritize safety and ethical considerations.
What strategies does Toby Ord suggest for reducing existential risk in The Precipice?
- Global cooperation: Ord stresses the need for international collaboration to address existential risks, as they often transcend national borders and require coordinated responses.
- Investment in research: The book advocates for increased funding and research into understanding and mitigating existential risks, particularly in areas like AI safety, biosecurity, and climate resilience.
- Public awareness and engagement: Ord encourages individuals to engage in discussions about existential risks and to advocate for policies that prioritize safeguarding humanity's future.
How does The Precipice relate to the concept of longtermism?
- Longtermism defined: Longtermism is the ethical perspective that emphasizes the importance of the long-term future in moral decision-making. Ord argues that our actions today can have profound effects on future generations, making longtermism a crucial consideration.
- Moral responsibility: The book posits that we have a moral obligation to consider the well-being of future generations. This perspective encourages individuals and societies to prioritize actions that promote a flourishing future for all.
- Implications for policy: Ord suggests that longtermism should inform public policy and decision-making. By adopting a longtermist approach, policymakers can create frameworks that prioritize the reduction of existential risks and the safeguarding of humanity's potential.
What are the potential consequences of ignoring existential risks, according to The Precipice?
- Catastrophic outcomes: Ignoring existential risks could lead to catastrophic outcomes, including extinction or irreversible damage to humanity's potential. Ord emphasizes that the stakes are incredibly high, and the consequences of inaction could be dire.
- Loss of future potential: The book argues that failing to address existential risks could result in the loss of humanity's long-term potential. This would mean missing out on the opportunity for future generations to thrive and achieve great things.
- Moral failure: Ord frames the neglect of existential risks as a moral failure. He believes that we have a responsibility to protect the future, and ignoring these risks undermines our ethical obligations to both current and future generations.
Reseñas
El Precipicio recibe en su mayoría críticas positivas por su exhaustivo examen de los riesgos existenciales que enfrenta la humanidad. Los lectores aprecian los argumentos claros de Ord, su escritura accesible y las ideas provocadoras sobre el potencial futuro de la humanidad. Muchos encuentran el libro inspirador y lo consideran una contribución importante a las discusiones sobre el riesgo existencial. Algunos críticos argumentan que ciertos riesgos están exagerados o que el enfoque en las generaciones futuras distantes está fuera de lugar. En general, los críticos elogian el enfoque académico del libro y su llamado a la acción para salvaguardar el futuro a largo plazo de la humanidad.
Similar Books
