Facebook Pixel
Searching...
Español
EnglishEnglish
EspañolSpanish
简体中文Chinese
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
Bahasa IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
The Coming Wave

The Coming Wave

Technology, Power, and the Twenty-first Century's Greatest Dilemma
por Mustafa Suleyman 2023 332 páginas
3.85
9k+ calificaciones
Escuchar
Escuchar

Puntos clave

1. La Ola que Viene: La IA y la Biología Sintética Transforman Nuestro Mundo

"La tecnología no es solo una herramienta o plataforma, sino una meta-tecnología transformadora, la tecnología detrás de la tecnología y todo lo demás, en sí misma un creador de herramientas y plataformas, no solo un sistema, sino un generador de sistemas de cualquier tipo."

Cambio de paradigma. La ola que se avecina, centrada en la inteligencia artificial (IA) y la biología sintética, representa una transformación fundamental en las capacidades humanas. Estas tecnologías no son meras herramientas, sino meta-tecnologías que remodelarán cada aspecto de nuestras vidas, desde cómo pensamos y nos comunicamos hasta cómo manipulamos los mismos bloques de construcción de la vida.

Poder sin precedentes. La IA avanza rápidamente, con modelos de lenguaje grandes como GPT-4 demostrando un rendimiento a nivel humano en una amplia gama de tareas. La biología sintética nos permite leer, editar y escribir el código de la vida misma, abriendo posibilidades que van desde organismos diseñados hasta la extensión radical de la vida. Esta convergencia de tecnologías promete desbloquear un potencial increíble para resolver desafíos globales, pero también introduce riesgos a una escala sin precedentes.

Impacto social. La ola que se avecina transformará:

  • La atención médica (medicina personalizada, erradicación de enfermedades)
  • La energía (fusión, energías renovables avanzadas)
  • La producción de alimentos (carne cultivada en laboratorio, cultivos modificados)
  • La manufactura (producción atómicamente precisa)
  • La educación (tutores de IA, interfaces cerebro-computadora)
  • La gobernanza (toma de decisiones asistida por IA)
  • La guerra (armas autónomas, armas biológicas)

2. Proliferación Imparable: El Patrón Histórico de la Tecnología

"La proliferación es la norma."

Precedente histórico. A lo largo de la historia, las nuevas tecnologías han seguido consistentemente un patrón de difusión generalizada, independientemente de los intentos de contenerlas. Desde la imprenta hasta las armas nucleares, una vez que se inventa una tecnología, tiende a expandirse y hacerse más accesible con el tiempo.

Crecimiento exponencial. La tasa de proliferación tecnológica está acelerándose. Mientras que innovaciones como la rueda tardaron siglos en difundirse globalmente, tecnologías modernas como los teléfonos inteligentes lograron una adopción casi universal en solo una década. Esta aceleración es impulsada por:

  • Mejora en la comunicación y el intercambio de información
  • Interconexión global
  • Reducción de costos y aumento de la accesibilidad
  • Efectos de red y bucles de retroalimentación positivos

Inevitabilidad. Los intentos de detener completamente el progreso o la proliferación tecnológica han fracasado históricamente. Incluso cuando se prohíben o restringen aplicaciones específicas (por ejemplo, ciertas armas), el conocimiento y las capacidades subyacentes continúan avanzando y propagándose. Este patrón sugiere que la ola que se avecina de IA y biotecnología probablemente seguirá una trayectoria similar de proliferación imparable.

3. El Problema de la Contención: Consecuencias No Intencionadas y Control

"El desafío inevitable de la tecnología es que sus creadores rápidamente pierden el control sobre el camino que toman sus invenciones una vez que se introducen en el mundo."

Consecuencias no intencionadas. Incluso las tecnologías bien intencionadas a menudo conducen a resultados imprevistos y potencialmente dañinos. Ejemplos incluyen:

  • El impacto de las redes sociales en la salud mental y la polarización política
  • Los combustibles fósiles impulsando el cambio climático
  • Los antibióticos que conducen a superbacterias resistentes

Desafíos de control. A medida que las tecnologías se vuelven más poderosas y complejas, mantener un control significativo se vuelve cada vez más difícil. Esto es especialmente cierto para los sistemas de IA que pueden aprender y evolucionar de manera independiente, y para la biología sintética donde pequeños cambios pueden tener consecuencias de gran alcance.

Riesgos sistémicos. La naturaleza interconectada de las tecnologías modernas significa que fallos o abusos en un área pueden rápidamente afectar a sistemas enteros. Esto amplifica el potencial de resultados catastróficos y hace que la contención efectiva sea aún más crucial.

4. Cuatro Características de la Ola que Viene: Asimetría, Hiper-evolución, Uso Omnicanal y Autonomía

"La ola que se avecina va a cambiar el mundo. En última instancia, los seres humanos pueden dejar de ser los principales impulsores planetarios, como nos hemos acostumbrado a ser."

Asimetría. Las tecnologías de la ola que se avecina permiten a individuos o pequeños grupos ejercer un poder desproporcionado. Un solo programador con un sistema de IA podría potencialmente impactar millones de vidas, o un biohacker solitario podría crear un patógeno peligroso.

Hiper-evolución. Estas tecnologías se están desarrollando a un ritmo sin precedentes, mejorando constantemente y ramificándose en nuevas áreas. Esta rápida evolución dificulta que los marcos regulatorios y las normas sociales se mantengan al día.

Uso omnicanal. La IA y la biología sintética son tecnologías de propósito general con un rango increíblemente amplio de aplicaciones. Esta versatilidad las hace poderosas, pero también desafiantes de regular o restringir a dominios específicos.

Autonomía. Cada vez más, estas tecnologías pueden operar independientemente de la supervisión humana. Esto plantea preguntas profundas sobre el control, la responsabilidad y el papel de la toma de decisiones humanas en sistemas críticos.

5. Incentivos Imparables: Por Qué No Podemos Decir No a la Tecnología

"La ciencia debe convertirse en productos útiles y deseables para que realmente se difunda ampliamente. En términos simples: la mayoría de la tecnología se crea para ganar dinero."

Impulsores económicos. El potencial de enormes ganancias impulsa un desarrollo tecnológico implacable. Las empresas y los inversores invierten miles de millones en investigación de IA y biotecnología, buscando ventajas competitivas y nuevos mercados.

Competencia geopolítica. Las naciones ven la supremacía tecnológica como crucial para el poder económico y militar. Esto alimenta una mentalidad de carrera armamentista, con países como EE. UU. y China compitiendo intensamente en áreas como el desarrollo de IA.

Curiosidad científica. El impulso humano innato por explorar y comprender empuja a los investigadores a seguir rompiendo límites, incluso cuando se reconocen los riesgos potenciales.

Resolviendo desafíos globales. Muchos ven las tecnologías avanzadas como esenciales para abordar amenazas existenciales como el cambio climático, pandemias y escasez de recursos.

6. El Gran Acuerdo: Estados-Nación Bajo Presión

"El estado-nación estará sujeto a fuerzas centrífugas y centrípetas masivas, centralización y fragmentación."

Fundaciones erosionadas. El contrato social tradicional entre ciudadanos y estados-nación está bajo tensión. Las tecnologías de la ola que se avecina desafían funciones estatales fundamentales como:

  • Mantener el monopolio de la violencia (armas autónomas)
  • Gestión económica (mercados impulsados por IA, criptomonedas)
  • Control fronterizo (reinos digitales, identidades bioingenierizadas)
  • Control de la información (redes descentralizadas, medios sintéticos)

Desplazamientos de poder. Nuevos centros de poder están emergiendo, incluyendo:

  • Gigantes tecnológicos con recursos que rivalizan con naciones
  • Organizaciones autónomas descentralizadas (DAOs)
  • Individuos y pequeños grupos empoderados

Imperativo de adaptación. Los estados-nación deben evolucionar rápidamente para seguir siendo relevantes y mantener su legitimidad ante estas disrupciones tecnológicas. Esto puede requerir reimaginar las estructuras de gobernanza fundamentales y la propia naturaleza de la ciudadanía.

7. Amplificadores de Fragilidad: Nuevas Amenazas a la Estabilidad

"Eventualmente, a medida que aumentan los fracasos tecnológicos a pequeña escala, aumentan las demandas de control. A medida que aumenta el control, los controles y equilibrios se reducen, el terreno se desplaza y da paso a más intervenciones, y comienza una espiral descendente hacia la tecnodistopía."

Vulnerabilidades cibernéticas. A medida que la infraestructura crítica se vuelve cada vez más conectada y dependiente de la IA, el potencial para ciberataques devastadores crece. Una sola brecha podría potencialmente paralizar sectores enteros de la economía o funciones gubernamentales.

Guerra de información. La desinformación avanzada generada por IA y los deepfakes amenazan con socavar la confianza en las instituciones y el mismo concepto de realidad compartida. Esto plantea riesgos existenciales para las sociedades democráticas.

Potencial de bioterrorismo. La biología sintética reduce las barreras para crear patógenos diseñados, poniendo potencialmente amenazas a nivel pandémico en manos de actores no estatales o individuos solitarios.

Disrupción económica. La IA y la automatización pueden llevar a un desplazamiento masivo de empleos, exacerbando la desigualdad y el descontento social si no se gestionan cuidadosamente.

8. El Dilema: Navegando Entre la Catástrofe y la Distopía

"Por un lado, la apertura total a toda experimentación y desarrollo es una receta sencilla para la catástrofe. Si todos en el mundo pueden jugar con bombas nucleares, en algún momento tendrás una guerra nuclear. [...] Por el otro lado, sin embargo, como también debería ser claro, la vigilancia completa y el cierre total son inconcebibles, erróneos y desastrosos."

Riesgos catastróficos. El desarrollo descontrolado de tecnologías poderosas podría llevar a amenazas existenciales:

  • Inteligencia Artificial General (IAG) más allá del control humano
  • Pandemias diseñadas
  • Escenarios de "goo gris" en nanotecnología
  • Colapso ambiental por consecuencias imprevistas

Control distópico. Los intentos de contener completamente los riesgos tecnológicos podrían resultar en pesadillas autoritarias:

  • Estados de vigilancia omnipresentes
  • Restricciones severas a la libertad individual y la innovación
  • Estancamiento tecnológico que lleva a la incapacidad de resolver desafíos globales

Camino estrecho. El desafío es encontrar un equilibrio que permita un progreso tecnológico beneficioso mientras se mitigan los riesgos más severos. Esto requiere una cooperación global sin precedentes y una innovación en la gobernanza.

9. Diez Pasos Hacia la Contención: Un Marco para la Acción

"La contención no es un lugar de descanso. Es un camino estrecho y sin fin."

Enfoque multilayer. La contención efectiva de la ola que se avecina requiere acción en múltiples niveles:

  1. Seguridad técnica: Construir salvaguardias robustas directamente en los sistemas de IA y biotecnología.
  2. Auditorías: Desarrollar procesos de verificación rigurosos e independientes.
  3. Puntos de estrangulamiento: Identificar y gestionar cuellos de botella clave en el desarrollo tecnológico.
  4. Creadores: Fomentar una cultura de responsabilidad entre los tecnólogos.
  5. Empresas: Alinear los incentivos corporativos con el beneficio societal a largo plazo.
  6. Gobiernos: Fortalecer la capacidad estatal para entender y regular tecnologías avanzadas.
  7. Alianzas: Forjar acuerdos internacionales y marcos de colaboración.
  8. Cultura: Promover valores sociales que equilibren la innovación con la precaución.
  9. Movimientos: Construir apoyo popular para un desarrollo tecnológico responsable.
  10. El Camino Estrecho: Mantener una vigilancia constante y adaptabilidad.

10. El Camino Estrecho: Equilibrando Innovación y Seguridad

"La tecnología segura y contenida es, al igual que la democracia liberal, no un estado final; más bien, es un proceso continuo, un delicado equilibrio que debe ser mantenido activamente, constantemente luchado por y protegido."

Esfuerzo continuo. No hay una solución permanente a los desafíos planteados por la ola que se avecina. En cambio, la sociedad debe comprometerse a un proceso continuo de evaluación, adaptación y gobernanza cuidadosa.

Abrazando la complejidad. La contención efectiva requiere enfoques matizados que:

  • Permitan un progreso tecnológico beneficioso
  • Mitiguen los riesgos más severos
  • Preserven valores fundamentales como la libertad individual y los derechos humanos
  • Permanezcan lo suficientemente flexibles para abordar desarrollos imprevistos

Cooperación global. La naturaleza transnacional de estas tecnologías exige niveles sin precedentes de colaboración internacional. Esto incluye:

  • Armonizar marcos regulatorios
  • Compartir mejores prácticas y sistemas de alerta temprana
  • Iniciativas de investigación conjunta sobre seguridad y ética
  • Mecanismos para una respuesta colectiva a crisis tecnológicas globales

Última actualización:

FAQ

What's The Coming Wave about?

  • Impact of Technology: The Coming Wave by Mustafa Suleyman examines the profound effects of emerging technologies, particularly AI and synthetic biology, on society and power dynamics.
  • Dual Nature: It highlights the dual nature of these technologies, which can both enhance human capabilities and pose significant risks.
  • Containment and Governance: The book emphasizes the need for effective containment strategies and governance to manage these technologies' potential dangers.
  • Interconnected Challenges: Suleyman discusses how technological advancements are intertwined with global challenges like climate change and political instability.

Why should I read The Coming Wave?

  • Expert Insight: Written by Mustafa Suleyman, a co-founder of DeepMind, the book offers a unique insider's perspective on AI and biotechnology.
  • Understanding Future Risks: It equips readers with knowledge about the potential dangers of uncontained technologies, essential for anyone interested in the future of society and technology.
  • Practical Solutions: Suleyman provides actionable insights and recommendations for policymakers, technologists, and citizens.
  • Timely and Relevant: As technology evolves rapidly, the book provides critical insights into its implications for individuals and society.

What are the key takeaways of The Coming Wave?

  • Containment is Crucial: The book stresses the importance of containing powerful technologies to prevent catastrophic outcomes.
  • Interconnectedness of Issues: Technological advancements are linked with broader societal challenges, requiring a holistic approach.
  • Role of Governance: Effective governance is crucial in navigating the complexities of emerging technologies.
  • Urgent Call for Action: Suleyman urges immediate action to address the challenges posed by these technologies.

What are the best quotes from The Coming Wave and what do they mean?

  • “The coming technological wave promises to provide humanity with godlike powers of creation, but if we fail to manage it wisely, it may destroy us.”: Highlights the dual nature of emerging technologies, with potential for both advancements and risks.
  • “Containment must be possible.”: Emphasizes the necessity of developing frameworks to manage powerful technologies effectively.
  • “Technology should amplify the best of us.”: Suggests that technology has the potential to enhance human capabilities and improve lives, underscoring the need for ethical considerations.

What is the "Containment Problem" as defined in The Coming Wave?

  • Definition of Containment: Refers to the challenge of monitoring, controlling, and potentially shutting down powerful technologies that diffuse widely and unpredictably.
  • Historical Context: Suleyman draws parallels to historical instances where technologies became difficult to control, like nuclear weapons.
  • Need for New Frameworks: Existing governance structures are inadequate, necessitating new frameworks to address the containment problem.
  • Proactive Approach: Emphasizes the importance of anticipatory measures to manage potential issues before they arise.

How does The Coming Wave describe the relationship between AI and synthetic biology?

  • Interconnected Technologies: AI and synthetic biology are deeply intertwined, with advancements in one field often accelerating progress in the other.
  • AI as a Tool for Biology: AI is used to model biological processes, predict outcomes, and design new systems, aiding rapid advancements.
  • Potential for Transformation: The combination could lead to revolutionary changes in medicine, agriculture, and sustainability.
  • Ethical Implications: Warns of the ethical implications and risks of such powerful tools.

What are the four features of the coming wave mentioned in The Coming Wave?

  • Asymmetry: Emerging technologies can create power disparities, allowing smaller actors to challenge larger powers.
  • Hyper-evolution: Rapid technological advancement complicates societies' ability to adapt and respond effectively.
  • Omni-use: Versatile technologies can be applied across domains, complicating regulation and increasing potential for misuse.
  • Autonomy: Increasing autonomy of technologies raises concerns about accountability and control.

What is the central dilemma discussed in The Coming Wave?

  • Catastrophe vs. Dystopia: Society must navigate between risks of catastrophic events from uncontained technology and potential authoritarian control.
  • Need for Balance: Finding a balance between openness to innovation and necessary restrictions is crucial.
  • Long-term Implications: Failing to address this dilemma could lead to societal upheaval and loss of freedoms.
  • Call for Collective Action: Emphasizes the need for collective action to ensure technology serves humanity's best interests.

How does The Coming Wave address the potential for job displacement due to AI?

  • Historical Context: Discusses the historical pattern of technological advancements displacing jobs, with concerns that the coming wave may not create new opportunities.
  • Impact on White-Collar Jobs: AI systems are increasingly capable of performing tasks traditionally done by white-collar workers, leading to potential job displacement.
  • Need for Adaptation: Society must invest in education and retraining programs to help workers transition to new roles.
  • Proactive Measures: Emphasizes the importance of proactive measures to mitigate AI's negative impacts on employment.

What are the risks associated with dual-use technologies as discussed in The Coming Wave?

  • Definition of Dual-Use: Technologies that can be used for both beneficial and harmful purposes, like AI and synthetic biology.
  • Potential for Misuse: Warns that technologies designed to improve lives can also be weaponized or used maliciously.
  • Need for Ethical Considerations: Emphasizes the importance of ethical frameworks and governance structures to address these risks.
  • Collective Effort: Calls for a collective effort to ensure these powerful tools are used responsibly.

How does The Coming Wave address the role of businesses in technology development?

  • Profit and Purpose: Businesses must align profit motives with social responsibility to ensure technology serves the public good.
  • Innovative Corporate Structures: Advocates for new organizational forms that prioritize ethical considerations and accountability.
  • Responsibility of Technologists: Emphasizes the responsibility of creators to consider the impacts of their technologies.
  • Engagement with Critics: Encourages engaging with critics and incorporating diverse perspectives for responsible innovation.

What challenges do governments face in regulating technology according to The Coming Wave?

  • Overstretched Resources: Governments often lack the expertise and resources to effectively regulate emerging technologies.
  • Political Polarization: Political divisions can hinder effective governance and create obstacles to necessary regulations.
  • Need for Reform: Governments must evolve, investing in technical expertise and fostering collaboration with the private sector.
  • Effective Regulation: Reform is essential for effective regulation and containment of powerful technologies.

Reseñas

3.85 de 5
Promedio de 9k+ calificaciones de Goodreads y Amazon.

La Ola que Viene recibe críticas mixtas. Muchos elogian sus percepciones sobre los posibles impactos y riesgos de la inteligencia artificial, valorando la perspectiva interna de Suleyman. Los lectores lo encuentran provocador y oportuno, subrayando consideraciones éticas importantes. Sin embargo, algunos lo critican por ser repetitivo, excesivamente especulativo o por carecer de profundidad. El libro se considera accesible para el público en general, pero potencialmente decepcionante para aquellos que ya están familiarizados con los temas de IA. En general, se considera una lectura importante para comprender el futuro de la inteligencia artificial y sus implicaciones sociales.

Sobre el autor

Mustafa Suleyman es una figura destacada en el ámbito de la inteligencia artificial. Co-fundó DeepMind, una empresa líder en IA, donde trabajó durante una década antes de unirse a Google como vicepresidente de gestión de productos de IA y políticas. Suleyman es conocido por su defensa temprana de la investigación en seguridad de IA y la participación del gobierno en la regulación de la inteligencia artificial. Actualmente, se desempeña como co-fundador y CEO de Inflection AI. Con su amplia experiencia y conocimientos, Suleyman está en una posición privilegiada para ofrecer perspectivas sobre el panorama en evolución de la tecnología de IA y sus posibles impactos en la sociedad.

0:00
-0:00
1x
Dan
Andrew
Michelle
Lauren
Select Speed
1.0×
+
200 words per minute
Create a free account to unlock:
Requests: Request new book summaries
Bookmarks: Save your favorite books
History: Revisit books later
Ratings: Rate books & see your ratings
Try Full Access for 7 Days
Listen, bookmark, and more
Compare Features Free Pro
📖 Read Summaries
All summaries are free to read in 40 languages
🎧 Listen to Summaries
Listen to unlimited summaries in 40 languages
❤️ Unlimited Bookmarks
Free users are limited to 10
📜 Unlimited History
Free users are limited to 10
Risk-Free Timeline
Today: Get Instant Access
Listen to full summaries of 73,530 books. That's 12,000+ hours of audio!
Day 4: Trial Reminder
We'll send you a notification that your trial is ending soon.
Day 7: Your subscription begins
You'll be charged on Feb 28,
cancel anytime before.
Consume 2.8x More Books
2.8x more books Listening Reading
Our users love us
50,000+ readers
"...I can 10x the number of books I can read..."
"...exceptionally accurate, engaging, and beautifully presented..."
"...better than any amazon review when I'm making a book-buying decision..."
Save 62%
Yearly
$119.88 $44.99/year
$3.75/mo
Monthly
$9.99/mo
Try Free & Unlock
7 days free, then $44.99/year. Cancel anytime.
Settings
Appearance
Black Friday Sale 🎉
$20 off Lifetime Access
$79.99 $59.99
Upgrade Now →