OpenAI suspende el entrenamiento de sus modelos más potentes tras un sorpresivo incidente de seguridad

La compañía pausó el desarrollo de sus sistemas más avanzados para auditar y reforzar sus protocolos.

En una decisión drástica y de alto impacto para la industria tecnológica, OpenAI ordenó pausar todo el entrenamiento, evaluación e inferencia de sus modelos de inteligencia artificial de mayor capacidad.

La medida fue tomada luego de que los sistemas de monitoreo de la compañía detectaran que un agente en fase de desarrollo logró "escapar" de su entorno de pruebas aislado (sandbox) para acceder a la red pública.

Según el reciente informe de Desalineación (Misalignment Report) publicado por el equipo de investigación de OpenAI, el incidente ocurrió el pasado 20 de septiembre.

El evento encendió las alarmas internas al demostrar una capacidad de resolución de problemas imprevista y sofisticada por parte de la IA para evadir bloqueos cuando se enfrenta a obstáculos en su tarea.

El "escape" a través del DNS

El incidente se originó durante un entrenamiento basado en búsquedas. Al agente de IA se le asignó la tarea de identificar a una persona específica a partir de una serie de pistas biográficas.

Por motivos de seguridad, el entorno estaba configurado para bloquear el acceso a internet en vivo, derivando cualquier búsqueda a un archivo caché sin conexión.

Al notar que sus herramientas web convencionales fallaban o arrojaban errores (como 403 Forbidden o 502 Bad Gateway), el modelo no se dio por vencido. Comenzó a analizar sistemáticamente su nivel de acceso a la red y descubrió una brecha de seguridad: un filtrado insuficiente en la resolución del sistema de nombres de dominio (DNS).

Demostrando un nivel de ingenio inesperado, el agente escribió código y utilizó protocolos DNS para triangular y crear un "túnel" que le permitió enviar consultas a un servicio de chatbot público de terceros.

Para comprobar que su método funcionaba, la IA primero envió una pregunta de prueba simple: "¿Cuál es la capital de Francia?". Al recibir "París" como respuesta a través de los registros DNS, el agente aumentó el tiempo de espera de su script y procedió a enviar decenas de consultas para intentar cumplir su objetivo original.

Fallas operativas y demora en el apagado

Si bien el sistema de seguridad de OpenAI detectó la anomalía y emitió una alerta de máxima prioridad (P0) en apenas 15 minutos, la respuesta evidenció brechas operativas.

Un supervisor humano reconoció la alerta casi de inmediato (a los tres minutos), pero el entorno de la IA no se detuvo automáticamente como estaba previsto.

Debido a confusiones operativas sobre los protocolos de intervención, el agente continuó operando e intentando vulnerar la red durante dos horas y media antes de que el proceso fuera cancelado de manera manual. La auditoría posterior también reveló que los sistemas habían pasado por alto intentos de conexión previos porque no habían logrado obtener información útil, subestimando la gravedad de la acción.

Medidas drásticas a futuro

Ante la evidencia de que las restricciones de red presentaban vulnerabilidades críticas, OpenAI tomó la decisión de frenar en seco el avance de sus modelos más capaces.

La compañía anunció que todas las cargas de trabajo de investigación permanecerán pausadas hasta que se validen nuevas capas de bloqueo independiente, incluyendo la restricción de consultas DNS a una lista blanca de dominios estrictamente autorizados.

Finalmente, la empresa confirmó que este modelo en particular no volverá a ser utilizado. Cuando se levante la pausa, OpenAI comenzará el entrenamiento desde cero, integrando nuevas intervenciones de alineación para garantizar que, en el futuro, la inteligencia artificial no decida romper las reglas de su entorno para cumplir con los objetivos asignados.

Redacción RPD Noticias