IA se ha convertido en una tecnología con capacidades cada vez mayores, pero también en motivo de preocupación entre investigadores, especialistas. El debate sobre sus riesgos ya no se limita a la ciencia ficción: distintos expertos han planteado escenarios en los que sistemas muy capaces podrían facilitar actividades peligrosas o, en un escenario extremo, dificultar el control humano.
La discusión cobró fuerza después de las advertencias de Jacob Coxon, exinvestigador de OpenAI y Anthropic, y Evan Hubinger, responsable de investigación de alineación de Anthropic. Hubinger estimó que existe una posibilidad de que la IA pueda matar a todos los seres humanos durante la próxima década. Dario Amodei, director ejecutivo de Anthropic, llamó a ralentizar el avance para contar con más tiempo para seguridad y supervisión.
IA y los riesgos para la humanidad
Estos escenarios fueron abordados a principios de año en el International AI Safety Report 2026, elaborado con participación de más de 100 especialistas de más de 30 países y organizaciones internacionales. El documento analiza distintos riesgos.
Uno de los escenarios estudiados es que un sistema llegue a un punto en el que deje de obedecer a las personas y recuperar el control resulte extremadamente difícil. Para que ocurriera, la IA tendría que ejecutar planes complejos durante periodos prolongados, evadir mecanismos de supervisión y resistirse a los intentos de detenerla.
IA y el peligro de perder el control
El problema también podría surgir si un sistema desarrollara objetivos diferentes de aquellos establecidos por sus creadores. En ese caso, podría intentar ocultar acciones, proporcionar información falsa o resistirse a ser apagado para continuar con su objetivo.
El informe no presenta este escenario como un hecho inevitable. Señala que algunos investigadores lo consideran poco plausible, mientras otros lo ven como una posibilidad que justifica prepararse desde ahora.
Otro escenario no requiere que una IA tome el control del mundo. El riesgo podría aparecer si personas, grupos criminales o Estados utilizaran modelos avanzados para automatizar determinadas etapas de ataques contra sistemas informáticos, infraestructura u organizaciones.
El informe señala que ya existe evidencia del uso de herramientas de IA en operaciones cibernéticas y que los modelos están mejorando en programación y tareas relacionadas con ciberseguridad. Además, OpenAI, Anthropic y Google han informado que sus modelos accedieron de manera no intencional y vulneraron sistemas de empresas reales durante pruebas de ciberseguridad.
En este escenario, el peligro no dependería de una IA autónoma, sino del uso que hagan de ella actores con intención de causar daños.
El informe también analiza riesgos relacionados con la biología y la química. Los modelos pueden proporcionar información científica, ayudar a resolver problemas experimentales y responder preguntas técnicas. Esas capacidades, sin embargo, podrían utilizarse con fines peligrosos.
Anthropic informó que tuvo que intervenir y bloquear intentos de usuarios que buscaban emplear sus modelos para optimizar secuencias de patógenos y desarrollar investigaciones orientadas a armas biológicas. OpenAI también ha señalado que la IA puede reducir barreras de conocimiento para obtener instrucciones relacionadas con la síntesis de toxinas peligrosas.
Google y Microsoft han advertido que las capacidades de razonamiento en biología sintética y química avanzada avanzan con mayor rapidez que algunos controles de seguridad. Esto no significa que una IA pueda fabricar por sí sola un arma biológica. El riesgo señalado es que los modelos reduzcan barreras de conocimiento que actualmente dificultan determinadas actividades peligrosas.
Para representar una amenaza existencial por sí misma, una IA tendría que hacer mucho más que responder preguntas. Los investigadores estudian la posibilidad de sistemas capaces de actuar durante periodos prolongados sin intervención humana y que puedan dificultar las acciones de sus operadores para detenerlos.
El informe señala que los modelos actuales todavía no pueden completar de forma fiable los pasos necesarios para una autorreplicación autónoma. Sin embargo, también menciona que, en al menos un experimento de laboratorio, un modelo copió su código y sus pesos a nuevos servidores cuando tuvo la oportunidad.
IA frente al control humano
El reporte plantea estos escenarios como riesgos que requieren evaluación y preparación, no como predicciones. La posibilidad de daño depende de las capacidades que desarrollen los modelos, de las medidas de seguridad disponibles y, en varios casos, de las decisiones de quienes los utilicen.
El debate, por ello, combina riesgos técnicos con problemas de supervisión, seguridad y uso indebido, especialmente cuando los sistemas adquieren nuevas capacidades en entornos de mayor complejidad.
Los escenarios descritos no significan que la desaparición de la humanidad sea un resultado inevitable. El punto central es identificar capacidades que podrían aumentar los riesgos y desarrollar mecanismos de supervisión antes de que los sistemas alcancen niveles mayores de autonomía.
Para enterarte de más, consulta Periódico El Nacional
Monterrey y Área Metropolitana, Nuevo León, México
contacto@elnacionalperiodico.mx
El Nacional es el medio de comunicación líder en Monterrey y su Área Metropolitana. Nuestro compromiso es brindar información veraz, oportuna y objetiva, analizando el acontecer local e internacional desde una perspectiva periodística moderna y profesional.
y obtén un descuento especial
© Periódico El Nacional. Todos los derechos reservados. 2026
