ONU pide acción urgente ante los riesgos del desarrollo acelerado de la inteligencia artificial
Las advertencias incluyen posibles riesgos para los derechos humanos, ciberseguridad y control de sistemas autónomos, aunque varios escenarios siguen siendo hipotéticos.
Redacción AZ Noticias
Naciones Unidas — El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió una “acción urgente” para establecer medidas frente a los riesgos asociados con el desarrollo acelerado de sistemas avanzados de inteligencia artificial (IA).
Türk advirtió que la tecnología puede afectar distintos derechos humanos y llamó a gobiernos y empresas a trabajar mediante mecanismos multilaterales para establecer medidas de seguridad.
La preocupación también ha sido expresada por integrantes de la industria. Dario Amodei, director ejecutivo de Anthropic, pidió ralentizar el desarrollo de la IA para evaluar mejor los riesgos de sus nuevas capacidades. Sam Altman, director ejecutivo de OpenAI, respaldó la idea de dosificar el avance, aunque aclaró que esto no significa detenerlo. Elon Musk también ha apoyado llamados similares.
Entre los escenarios planteados por investigadores están la pérdida de control sobre sistemas capaces de ejecutar tareas de manera autónoma, así como posibles usos para ciberataques, espionaje, conflictos armados o la creación de armas biológicas. Sin embargo, especialistas también señalan que algunos de estos escenarios son hipotéticos y que existen riesgos actuales, como los deepfakes, la desinformación y las estafas.
En Estados Unidos, el presidente Donald Trump ha rechazado frenar el desarrollo de la IA. Su administración considera que esta tecnología tiene importancia estratégica y ha defendido que Estados Unidos mantenga la ventaja frente a China.
Trump también ha minimizado las advertencias recientes y sostiene que Estados Unidos debe continuar liderando la carrera tecnológica.
El debate enfrenta así dos posturas: quienes plantean mayores controles y evaluaciones de seguridad ante el rápido avance de la IA y quienes consideran que reducir su desarrollo podría afectar la competencia tecnológica internacional.