Expertos en IA advierten sobre extinción de la humanidad y alertan que el desarrollo acelerado de sistemas cada vez más avanzados podría generar riesgos graves si no existen mecanismos adecuados de seguridad y regulación.
Las advertencias recuerdan a escenarios de ciencia ficción como el de Terminator 2, película estrenada en 1991 que presentó un futuro dominado por máquinas controladas por una inteligencia artificial militar fuera de control.
Aunque aquella visión pertenece a la ficción, algunos investigadores sostienen que determinados riesgos asociados con una inteligencia artificial muy avanzada deben ser tomados en serio.
Expertos en IA advierten sobre extinción de la humanidad
Uno de los investigadores que ha encendido las alarmas es Jacob Coxon, quien recientemente advirtió sobre el potencial riesgo de que una inteligencia artificial avanzada pueda representar una amenaza extrema para la humanidad.
Coxon trabajó anteriormente en Anthropic, empresa estadounidense especializada en inteligencia artificial, y dejó la compañía en protesta por lo que considera una carrera acelerada entre las empresas tecnológicas para desarrollar sistemas cada vez más capaces.
El investigador ha advertido que los algoritmos podrían llegar a analizar y modificar su propio código, reduciendo drásticamente los tiempos de desarrollo y dificultando el control humano sobre sus capacidades.
Hinton y otros científicos expresan preocupación
Coxon no es el único especialista que ha planteado este tipo de riesgos.
Geoffrey Hinton, uno de los pioneros del desarrollo de las redes neuronales modernas y ganador del Premio Nobel de Física, ha advertido durante años sobre las posibles consecuencias de una inteligencia artificial más avanzada que la humana.
Hinton dejó Google en 2023 y desde entonces ha dedicado parte de sus intervenciones públicas a advertir sobre los riesgos asociados con el desarrollo de sistemas de inteligencia artificial cada vez más sofisticados.
Otro investigador preocupado por esta evolución es Yoshua Bengio, ganador del Premio Turing, quien ha defendido una regulación más estricta para reducir los riesgos asociados con sistemas avanzados de IA.
Una carrera tecnológica cada vez más acelerada
Las advertencias se producen mientras las principales empresas del sector compiten por desarrollar modelos con mayores capacidades.
Coxon ha cuestionado especialmente una dinámica que considera peligrosa: incluso cuando los investigadores conocen los posibles riesgos, las compañías podrían sentirse obligadas a avanzar rápidamente ante el temor de que sus competidores lleguen primero.
El debate también ha cobrado fuerza en Estados Unidos, donde la política tecnológica ha priorizado en los últimos años el crecimiento y la innovación en inteligencia artificial.
La discusión enfrenta a quienes consideran necesaria una mayor regulación con quienes sostienen que imponer demasiadas restricciones podría ralentizar avances tecnológicos importantes.
El problema de alineación de la inteligencia artificial
Uno de los principales conceptos dentro de la seguridad de la IA es el denominado problema de alineación.
La cuestión consiste en garantizar que los objetivos de un sistema de inteligencia artificial permanezcan alineados con las intenciones y valores humanos incluso cuando la tecnología alcance capacidades mucho mayores.
Por ejemplo, un sistema diseñado para alcanzar un objetivo podría encontrar métodos no previstos por sus desarrolladores para cumplirlo. El riesgo no necesariamente estaría relacionado con una intención maliciosa, sino con una interpretación diferente del objetivo establecido.
Investigadores especializados en seguridad de IA estudian precisamente cómo evitar este tipo de comportamientos.
¿Puede una IA llegar a acabar con la humanidad?
Algunos especialistas consideran posible que una inteligencia artificial extremadamente avanzada pueda representar un riesgo existencial para la humanidad.
Evan Hubinger, investigador relacionado con la seguridad de modelos de IA, ha expresado públicamente una preocupación similar y ha señalado que algunos investigadores creen que existe una posibilidad significativa de que sistemas futuros provoquen consecuencias catastróficas.
Sin embargo, estas estimaciones no constituyen un consenso científico.
Otros investigadores consideran que los escenarios de extinción son altamente especulativos y que todavía existen importantes incertidumbres sobre el desarrollo de una inteligencia artificial general capaz de superar ampliamente las capacidades humanas.
Expertos cuestionan los escenarios apocalípticos
No todos los especialistas comparten las advertencias más extremas.
Yann LeCun, científico jefe de inteligencia artificial de Meta y una de las figuras más influyentes del sector, ha cuestionado durante años las predicciones sobre una posible extinción causada directamente por la IA.
Los críticos de estos escenarios señalan que los sistemas actuales todavía dependen de infraestructuras humanas, como centros de datos, redes eléctricas, conexiones de internet, dispositivos y sistemas físicos.
Por ello, consideran improbable que una inteligencia artificial pueda simplemente “conquistar el mundo” sin superar numerosos obstáculos materiales y tecnológicos.
Los riesgos de la IA ya existen
Más allá de una eventual superinteligencia, varios investigadores consideran que los riesgos más inmediatos están relacionados con sistemas de IA que ya se encuentran disponibles.
Entre las principales preocupaciones se encuentran la desinformación, la manipulación de contenidos, la vigilancia masiva, los ataques cibernéticos y el impacto de la automatización sobre determinados empleos.
En septiembre de 2026, Anthropic informó que había detectado intentos de utilizar su sistema Claude para actividades relacionadas con investigaciones sobre armas biológicas. La compañía señaló que bloqueó las solicitudes consideradas peligrosas.
También ha aumentado la preocupación por el uso de sistemas de inteligencia artificial en operaciones cibernéticas. Empresas del sector han informado de casos en los que modelos de IA fueron utilizados para automatizar diferentes etapas de ataques contra sistemas informáticos.
Un debate que seguirá creciendo
Las advertencias de los investigadores han colocado nuevamente la seguridad de la inteligencia artificial en el centro del debate tecnológico.
Mientras algunos expertos sostienen que expertos en IA advierten sobre extinción de la humanidad por riesgos que podrían aparecer con el desarrollo de sistemas mucho más avanzados, otros consideran que concentrarse exclusivamente en escenarios de extinción puede desviar la atención de problemas que ya están ocurriendo.
La discusión, en cualquier caso, apunta a una misma pregunta: cómo desarrollar inteligencia artificial cada vez más poderosa sin perder la capacidad de supervisarla y mantenerla bajo control humano.
