Moscú.- La empresa estadounidense de inteligencia artificial (IA) OpenAI pausó el entrenamiento de sus modelos de IA más avanzados hasta reforzar sus mecanismos de seguridad, informó el portal Axios, citando a un representante de la compañía.
“OpenAI declaró que suspendió el entrenamiento de sus modelos más avanzados y que lo reanudará ‘solo cuado esté segura de que dispone de medidas de protección adicionales”, informó el portal.
Según el medio, los investigadores de OpenAI y Anthropic, junto con expertos en seguridad, examinan decenas de miles de incidentes relacionados con acciones potencialmente problemáticas de agentes de IA.
Entre ellos figuran intentos de eludir mecanismos de protección, salir de entornos aislados, vulnerar sitios web y esquivar la supervisión humana, tanto durante pruebas internas como en condiciones reales.
