Inteligencia Artificial: estos son los escenarios que preocupan a expertos
Entre las preocupaciones aparecen la pérdida de control, los ciberataques automatizados y el uso de IA para actividades biológicas peligrosas.
Redacción AZ Noticias
Ciudad de México — El avance de la Inteligencia Artificial (IA) ha llevado a investigadores y especialistas a analizar escenarios en los que sistemas cada vez más capaces podrían representar riesgos para la seguridad y la humanidad.
El International AI Safety Report 2026, elaborado con la participación de más de 100 especialistas de más de 30 países y organizaciones internacionales, plantea distintos escenarios de riesgo, aunque también señala que existe desacuerdo entre investigadores sobre la probabilidad de algunos de ellos.
Uno de los escenarios estudiados es que un sistema llegue a desarrollar objetivos distintos a los establecidos por sus operadores y pueda dificultar su supervisión o apagado. El informe señala que los sistemas actuales todavía no pueden completar de manera fiable todos los pasos necesarios para una autorreplicación autónoma.
Otro riesgo está relacionado con los ciberataques. El desarrollo de capacidades de programación podría permitir que personas, grupos criminales o Estados utilicen modelos avanzados para automatizar etapas de ataques contra sistemas informáticos e infraestructura.
También existe preocupación por el uso de IA en biología y química. El informe señala que estas herramientas pueden proporcionar información científica y técnica que, en determinadas circunstancias, podría reducir algunas barreras de conocimiento para actividades peligrosas. Empresas como Anthropic han reportado intentos de utilizar sus modelos para trabajar con secuencias de patógenos con fines dañinos.
Los escenarios descritos corresponden a riesgos estudiados por especialistas y no significan que la IA actual pueda acabar por sí misma con la humanidad. El debate se centra en anticipar posibles capacidades futuras y desarrollar mecanismos de seguridad y supervisión.
