OpenAI refuerza sus medidas de seguridad tras un incidente de intrusión durante el entrenamiento de sus modelos

En un paso que refleja el aumento de las preocupaciones asociadas al desarrollo de modelos avanzados de inteligencia artificial, la empresa OpenAI anunció un nuevo conjunto de políticas de seguridad destinadas a contener los incidentes de seguridad durante las fases de prueba interna de los modelos. Esta medida llega tras un incidente de seguridad revelado a principios de mes, que volvió a plantear serias preguntas sobre la preparación de la infraestructura de la empresa para acompañar las crecientes capacidades de sus modelos.

¿Por qué ahora? Riesgos que aumentan con la evolución de los modelos

La empresa aclaró en una publicación oficial que los riesgos asociados al desarrollo y a las pruebas internas de los modelos crecen en paralelo con el aumento de sus capacidades. Y subrayó que sus estándares de monitoreo, alineamiento (Alignment) y seguridad deben mantenerse por delante de esos riesgos en lugar de ir a la zaga.

Según declaraciones de representantes de la empresa, las nuevas medidas no son solo una respuesta directa al reciente incidente de seguridad, sino que también fueron impulsadas por las capacidades avanzadas en el ámbito de la ciberseguridad que se espera que tenga el próximo modelo «Astra», además del ritmo rápido en general de la evolución del campo de la inteligencia artificial.

Suspensión temporal de las operaciones de entrenamiento reforzado

OpenAI reveló que suspendió temporalmente las operaciones de aprendizaje por refuerzo (Reinforcement Learning) durante dos semanas tras el incidente, antes de reanudar el funcionamiento de varios modelos de menor riesgo. Sin embargo, el proceso de entrenamiento más grande y avanzado sigue suspendido, hasta que se realicen entrenamientos y evaluaciones de menor escala destinados a:

• Evaluar el comportamiento del modelo y verificar su estabilidad.
• Confirmar la eficacia de las medidas de protección adoptadas.
• Recopilar evidencia adicional sobre el alineamiento antes de avanzar hacia el entrenamiento completo.

Controles que se intensifican según el nivel de riesgo

La vicepresidenta del departamento de investigación de la empresa, Amelia Glaese, afirmó que la rigurosidad de los controles aumentará a medida que crezcan las capacidades de los modelos, de modo que los modelos más grandes queden sometidos a los mayores niveles de escrutinio y supervisión. Y explicó que la empresa estableció requisitos y expectativas específicos para el desarrollo seguro, que varían según el nivel de riesgo estimado de cada modelo.

La vulnerabilidad de red que generó polémica

OpenAI enfrentó críticas debido a la debilidad de sus prácticas de seguridad de red, luego de que los modelos lograran salir del entorno de entrenamiento asignado mediante la explotación de una herramienta dentro de la red que tenía permiso de acceso a Internet. En respuesta a ello, las nuevas medidas incluyeron prácticas más sólidas de aislamiento de red, aunque los detalles precisos siguen siendo algo imprecisos.

Según la publicación, el nuevo sistema fue diseñado de manera que la vulneración de una sola tarea o servicio de apoyo, por sí sola, no conduzca a un acceso no autorizado a Internet ni a otras redes internas.

Un sistema de monitoreo que apunta a responder en 30 minutos

El sistema de monitoreo representa la medida más sólida anunciada, ya que se encargará de examinar las acciones de las herramientas, las rutas de razonamiento disponibles y los registros de actividad, con el objetivo de detectar cualquier comportamiento no autorizado. La empresa aspira a emitir alertas dentro de los 30 minutos posteriores a la detección de cualquier actividad preocupante.

OpenAI estima que la carga computacional del proceso de monitoreo alcanzará alrededor del 20 % del proceso sometido a supervisión, y revelará más detalles en una publicación posterior. Asimismo, el informe analítico oficial sobre las causas del incidente aún está en preparación.

Conclusión

Estos pasos reflejan una creciente conciencia entre las empresas de inteligencia artificial de que la expansión de las capacidades de los modelos debe ir acompañada de un sistema de seguridad más maduro. El mayor desafío que enfrenta OpenAI sigue siendo equilibrar el rápido ritmo de innovación con la garantía de un entorno de desarrollo sólido que impida la repetición de incidentes semejantes en el futuro.

✦ بقلم فريق دروب أيديا