Expertos de IA reconocen riesgos ante posible automejora de modelos
Un responsable de seguridad de Anthropic respaldó parte de la preocupación y estimó en más de 10% el riesgo de que la IA mate a humanos en la próxima década.
Redacción AZ Noticias
San Francisco — Un ex investigador de OpenAI y Anthropic dejó la industria de inteligencia artificial y cuestionó la forma en que ambos laboratorios avanzan en el desarrollo de sistemas cada vez más capaces.
Jacob Coxon, británico de 27 años, trabajó durante tres años en el área de preentrenamiento de modelos de IA. Primero estuvo en OpenAI y posteriormente se incorporó a Anthropic, empresa a la que había considerado más prudente frente a los riesgos de esta tecnología.
A través de X, Coxon afirmó que ninguna de las dos compañías actúa de manera responsable y sostuvo que ambas avanzan hacia una posible superinteligencia capaz de mejorarse a sí misma.
El ex investigador también señaló que algunas personas involucradas en el desarrollo de inteligencia artificial consideran posible que esta tecnología represente un riesgo extremo para la humanidad antes de que termine la década.
Sus declaraciones se producen mientras Anthropic prepara su salida a bolsa. Ninguna de las dos empresas respondió de inmediato a las consultas de AFP.
Evan Hubinger, responsable de seguridad en Anthropic, coincidió públicamente con una parte de las advertencias de Coxon. A título personal, estimó en más de 10% el riesgo de que la inteligencia artificial pueda matar a humanos durante la próxima década.
La preocupación también ha sido expresada por otros integrantes de la industria. En julio, más de mil trabajadores del sector pidieron a autoridades de Estados Unidos preparar mecanismos de frenado, mientras que el jefe científico de OpenAI, Jakub Pachocki, llamó recientemente a actuar con extrema precaución y fortalecer la coordinación internacional.
El debate se centra en los riesgos de sistemas que eventualmente pudieran desarrollar capacidades de automejora y superar las posibilidades de supervisión humana.