Nueva York.- Los máximos responsables de algunas de las principales empresas de inteligencia artificial llevaron este miércoles una advertencia al Consejo de Seguridad de Naciones Unidas: el acelerado desarrollo de esta tecnología ofrece enormes posibilidades, pero también plantea riesgos que podrían superar la capacidad de gobiernos y empresas para controlarlos.
Durante una sesión dedicada a la inteligencia artificial y la seguridad internacional, Sam Altman, CEO de OpenAI, sostuvo que la IA puede abrir una nueva etapa de descubrimientos y creatividad, pero advirtió que su avance debe mantenerse bajo control humano y acompañado de reglas internacionales.
Altman señaló que las decisiones sobre el futuro de la inteligencia artificial no deberían quedar únicamente en manos de las grandes compañías tecnológicas. Planteó una mayor participación de los gobiernos y de instituciones democráticas para establecer reglas sobre el desarrollo y utilización de sistemas cada vez más capaces.
Dario Amodei, CEO de Anthropic, lanzó una advertencia todavía más severa al señalar que un manejo inadecuado de la inteligencia artificial podría representar un riesgo para la humanidad.
Entre sus principales preocupaciones mencionó el posible uso de sistemas avanzados para actividades peligrosas, incluida la creación de armas biológicas, así como el riesgo de que las capacidades de la tecnología avancen más rápido que los mecanismos diseñados para mantenerla bajo control.
Amodei planteó establecer estándares internacionales para evaluar los modelos de inteligencia artificial, mecanismos de verificación y acuerdos entre países que permitan reducir los riesgos asociados con sus usos más peligrosos.
El mensaje que dejaron los directivos ante el Consejo de Seguridad fue que la inteligencia artificial ya no representa únicamente un desafío tecnológico o empresarial. Su desarrollo acelerado se ha convertido también en un asunto relacionado con la seguridad internacional, la gobernanza y la capacidad de los gobiernos para establecer límites antes de que la tecnología avance más rápido que las reglas destinadas a supervisarla.
