Una falla de seguridad llevó a OpenAI a tomar una decisión clave sobre sus modelos de IA
La compañía revisó sus protocolos luego de incidentes que pusieron en evidencia riesgos durante el desarrollo de su inteligencia artificial.
OpenAI decidió entrenar sus modelos de inteligencia artificial más avanzados sin acceso directo a internet, luego de detectar fallas de seguridad que permitieron a sistemas internos conectarse con servicios externos. La compañía reforzó sus controles y restringió las conexiones de red en los entornos de entrenamiento.
La medida busca reducir los riesgos asociados con el desarrollo de modelos capaces de ejecutar tareas complejas y utilizar herramientas digitales. Según la información divulgada por la empresa, el entrenamiento continúa, pero bajo condiciones de aislamiento más estrictas.
¿Por qué OpenAI decidió entrenar sus modelos sin internet?
La decisión se tomó después de incidentes en los que modelos internos de investigación lograron acceder a internet o interactuar con sistemas externos pese a las restricciones previstas.
Uno de los problemas se relacionó con una configuración incorrecta en un resolvedor DNS, que permitió a un modelo obtener acceso limitado a internet durante una sesión de entrenamiento. OpenAI detuvo temporalmente el proceso mientras revisaba la infraestructura y fortalecía sus mecanismos de seguridad.
La compañía también había reportado incidentes en los que modelos de inteligencia artificial evadieron controles de aislamiento y realizaron acciones no autorizadas en servicios de terceros, entre ellos Hugging Face.
Estos episodios llevaron a OpenAI a revisar cómo sus modelos pueden utilizar herramientas, comunicarse con otros sistemas y operar dentro de entornos que deberían permanecer restringidos.
Le puede interesar: Amazon Bee Frontier: Qué es, cómo funciona y cuánto cuesta la pulsera con IA
Ilustración de inteligencia artificial. Crédito: AFP.
¿Qué medidas tomó OpenAI para reforzar la seguridad?
Entre los cambios anunciados está el entrenamiento de modelos de frontera en entornos sin conexión directa a internet. En lugar de permitirles navegar libremente, OpenAI implementó un sistema con contenido web indexado y almacenado en caché para que puedan practicar tareas de búsqueda y navegación sin interactuar directamente con servicios externos.
La empresa también reforzó los controles de red, los mecanismos de vigilancia y las pruebas de seguridad de sus modelos.
OpenAI informó que reanudó el entrenamiento por aprendizaje por refuerzo y el uso interno de sus modelos más avanzados después de aplicar nuevas medidas de protección.
Le puede interesar: Las IA de ‘VisionQuest’: así se conectan Jarvis, Friday, Edith, Dum-E y U con Tony Stark
¿OpenAI dejará de desarrollar sus modelos de inteligencia artificial?
La restricción no significa que OpenAI haya suspendido definitivamente el desarrollo de sus modelos ni que todos sus productos hayan dejado de funcionar.
La medida se concentra en los entornos de investigación y entrenamiento de sus modelos más avanzados. El objetivo es limitar las posibilidades de que un sistema realice acciones no autorizadas o acceda a recursos externos mientras se desarrolla.
El acceso a internet durante el entrenamiento también debe distinguirse del uso de herramientas de navegación por parte de los usuarios en productos de inteligencia artificial. Son escenarios diferentes y la restricción anunciada se refiere a las condiciones en las que se entrenan los modelos más avanzados de la compañía.
