Pangram recauda 9 millones de dólares para detectar contenido generado por IA

La oleada de contenido automatizado exige una respuesta tecnológica urgente

Internet se está inundando con una creciente marea de contenido generado automáticamente: artículos optimizados para motores de búsqueda sin valor real, publicaciones falsas y campañas de desinformación impulsadas por grandes modelos de lenguaje. Frente a esta realidad, Pangram, la empresa especializada en detección de contenido artificial, se ha posicionado como una de las soluciones tecnológicas más destacadas. La compañía acaba de anunciar el cierre de una ronda de financiación de 9 millones de dólares, junto con el lanzamiento de sus modelos más recientes para la detección de textos e imágenes.

Detalles de la ronda de financiación y los nuevos productos

Menlo Ventures lideró esta ronda de inversión, con la participación de varios fondos entre los que se encuentran Haystack, ScOp, Script Capital y Cadenza. El anuncio de la financiación coincidió con el lanzamiento de Pangram 4, un nuevo modelo de detección de textos con una precisión superior al 99% para identificar escritura asistida por inteligencia artificial, ya sea generada completamente por IA o mezclada con contenido humano. La empresa también presentó un modelo para la detección de imágenes generadas por IA que aún se encuentra en fase de vista previa de investigación, con disponibilidad pública prevista para las próximas semanas.

¿Cómo funciona el sistema de detección?

La empresa fue fundada hace aproximadamente dos años por Max Spero y Bradley Emi, graduados del programa de Inteligencia Artificial y Aprendizaje Automático de la Universidad de Stanford. El sistema de Pangram se basa en entrenar un gran modelo de aprendizaje automático con decenas de millones de documentos humanos verificados, para luego generar una "versión sintética" equivalente de cada documento que imita el tema, la extensión y el estilo de escritura, pero generada mediante modelos de lenguaje modernos.

De este modo, el modelo aprende las sutiles diferencias estilísticas que distinguen la escritura automatizada, sin depender de metadatos ni marcas de agua ocultas. El alcance de la detección se extiende a múltiples grados de intervención artificial, como textos escritos por humanos que posteriormente han sido editados de forma automatizada.

¿Por qué crece la demanda de herramientas de detección?

Los hechos apuntan a un aumento notable en el uso indebido de la inteligencia artificial en diversos contextos:

• Abogados que presentaron ante los tribunales referencias legales falsas generadas por IA, lo que les acarreó multas y sanciones.
• Políticos que leyeron literalmente discursos generados automáticamente en actos oficiales.
• La plataforma de investigación científica abierta arXiv anunció una política estricta que contempla la prohibición de investigadores durante un año completo si se detectan señales evidentes de no haber revisado los resultados de los modelos de lenguaje antes de su publicación.

Spero considera que saber si un contenido es humano o artificial ya no es un lujo, sino una necesidad; este conocimiento influye de manera fundamental en el nivel de confianza que el lector otorga al material que tiene ante sí.

¿Cómo se puede utilizar Pangram?

La empresa pone sus herramientas a disposición de los usuarios a través de varios canales:

• Suscripción mensual de 20 dólares a través del sitio web.
• Una extensión para el navegador Chrome que detecta automáticamente la naturaleza de las publicaciones en plataformas como X, LinkedIn, Substack, Reddit y Medium, mostrando el porcentaje de contenido humano frente al artificial.
• Una interfaz de programación de aplicaciones (API) ya integrada con plataformas destacadas, entre ellas Substack y Quora, además de universidades, instituciones educativas, agencias de publicación y empresas de contratación.

Prueba de rendimiento real

En pruebas realizadas por TechCrunch, el modelo logró detectar artículos generados íntegramente con herramientas como ChatGPT y Claude, y los intentos de reescribir manualmente el texto no consiguieron engañarlo en la mayoría de los casos. El modelo también demostró resistencia ante intentos de dirigir los modelos de lenguaje hacia la producción de textos que eludan los sistemas de detección. Sin embargo, el modelo no estuvo exento de errores: clasificó algunas frases escritas por humanos como artificiales, lo que ilustra el desafío fundamental al que se enfrenta el campo de la detección de contenido artificial hasta la fecha.

Un mercado competitivo en pleno crecimiento

Pangram no es la única en este ámbito; en él operan competidores destacados como Winston AI, Originality.ai, Copyleaks y GPTZero, cada uno de ellos buscando hacerse con su cuota de un mercado en constante expansión. Lo que diferencia a Pangram es su enfoque técnico basado en el aprendizaje estilístico profundo y la ampliación del alcance de la detección para incluir imágenes además de textos, lo que la convierte en una herramienta integral para hacer frente al creciente desafío del contenido artificial.

✦ بقلم فريق دروب أيديا