OpenAI lanza el sistema de «Procesamiento Seguro Privado» para proteger la privacidad de sus clientes

Con el crecimiento de las capacidades de los modelos de inteligencia artificial, han aumentado en contrapartida los riesgos de su uso indebido, lo que ha intensificado las demandas de establecer controles de seguridad capaces de prevenir tales abusos. Aquí, las empresas de inteligencia artificial se encuentran ante una ecuación delicada: ¿cómo equilibrar el respeto a la privacidad de sus clientes corporativos con la supervisión del uso para detectar posibles infracciones?

En un movimiento destinado a fortalecer su posición competitiva frente a su rival Anthropic, OpenAI ha anunciado un nuevo enfoque para monitorear el uso indebido que coloca la privacidad en primer plano de sus prioridades. La empresa lanza una vista previa inicial de un servicio denominado «Procesamiento Seguro Privado» (Private Safety Processing) para un grupo selecto de clientes, un sistema automatizado que detecta posibles abusos sin conservar ninguna parte de los datos del cliente.

La ecuación de privacidad frente a seguridad

Este sistema surge en total contraposición a la política de conservación de datos que Anthropic anunció recientemente, la cual generó descontento entre algunos de sus clientes. Según esa política, el laboratorio tiene derecho a conservar los datos de los usuarios, incluidas sus sesiones completas y las conversaciones que contienen, durante treinta días cuando se trata de los llamados «modelos incluidos», una categoría que abarca los modelos más capaces y los futuros modelos similares a ellos.

Aunque esta política, anunciada en julio, fue diseñada con fines de seguridad para permitir el análisis de usos sospechosos, generó una profunda preocupación en algunas instituciones que manejan enormes cantidades de datos sensibles y no desean que sean almacenados o examinados por un tercero.

Más allá de la política de «no conservación de datos»

En realidad, OpenAI—al igual que la mayoría de las empresas del sector—otorga a sus clientes un nivel de privacidad mediante una política conocida como «no conservación de datos» (Zero Data Retention). Esta política se basa en agentes de software dentro de la interfaz de programación de aplicaciones para detectar el uso indebido a nivel de cada sesión individual, de modo que la empresa no conserva los datos del cliente mientras sigue siendo capaz de examinar las actividades sospechosas sin intervención humana. Anthropic también se adhiere en gran medida a esta política, salvo en lo relativo a los «modelos incluidos».

OpenAI describe su nuevo servicio como una ampliación del alcance de la política de no conservación de datos, ya que representa una forma de monitoreo de seguridad a largo plazo que evalúa las entradas y salidas de múltiples conversaciones, y no de una sola. Este monitoreo permanece en manos de un agente de software que captura las interacciones al activarse y las analiza a través de varias sesiones en busca de cualquier indicio de uso indebido.

Detección de amenazas distribuidas a través de varias sesiones

Según un portavoz de la empresa, la nueva tecnología ayuda a detectar usos maliciosos que se extienden a través de múltiples sesiones. Un atacante—como alguien que intenta desarrollar software malicioso para un ataque cibernético—podría distribuir sus solicitudes en varias conversaciones para evitar la detección. Aquí, el sistema de procesamiento seguro privado permite analizar esas conversaciones dispersas en busca de evidencias de abuso, sin revisión humana del contenido de las conversaciones del usuario.

En caso de activarse, el sistema podría enviar una «señal definida con precisión» a OpenAI que alerte sobre un tipo específico de actividad, para que la empresa decida en función de ello si es necesario tomar alguna medida. Si es así, OpenAI se comunica con el cliente para obtener contexto adicional o para colaborar con él en la resolución del asunto, manteniendo la decisión de compartir los datos en manos del propio cliente.

Por su parte, Anthropic señala que la revisión humana de los datos de los clientes puede ocurrir, pero a través de una «vía de acceso controlada» limitada a «un pequeño grupo de revisores autorizados», con el registro de cada sesión de revisión en un historial protegido contra manipulaciones que los revisores no pueden eliminar ni modificar.

Una competencia feroz por el liderazgo

Este movimiento refleja el estado de intensa competencia entre OpenAI y Anthropic, ya que cada una busca aprovechar cualquier oportunidad para lograr una ventaja sobre la otra. Los informes indican que las tasas de crecimiento de OpenAI en el segundo trimestre fueron más lentas que las de su contraparte Anthropic, cuya tasa de ingresos anual, según se dice, alcanzó cerca de 65.000 millones de dólares.

• Anthropic podría cotizar sus acciones en oferta pública con una valoración de dos billones de dólares según sus inversores.
• OpenAI también trabaja en una anticipada oferta pública inicial.
• La privacidad se ha convertido en una carta competitiva clave en el mercado de la inteligencia artificial empresarial.

En definitiva, parece que la batalla por ganarse la confianza de las grandes empresas no se decidirá únicamente por las capacidades técnicas, sino por la capacidad de cada proveedor de ofrecer garantías sólidas para proteger los datos más sensibles de sus clientes.

✦ بقلم فريق دروب أيديا