Substack presenta una herramienta para detectar contenido escrito por inteligencia artificial

Una nueva transparencia en el mundo de los boletines digitales

La cuestión de la transparencia en el uso de la inteligencia artificial para redactar contenido preocupa cada vez más tanto a lectores como a editores. En medio de este debate creciente, Substack, la plataforma especializada en boletines independientes, ha anunciado un paso significativo: la integración de la herramienta Pangram para detectar contenido generado automáticamente directamente dentro de su aplicación, con el objetivo de ofrecer a los usuarios una visión más clara sobre la naturaleza de lo que leen.

¿Cómo funciona la nueva herramienta?

Esta función permite a cualquier usuario analizar publicaciones, comentarios y respuestas dentro de la aplicación de Substack, ofreciendo una estimación del porcentaje de contenido escrito por una persona real frente al producido por inteligencia artificial. La herramienta abarca cualquier pieza de contenido que supere los cien caracteres, ya sea un artículo completo, una nota breve o simplemente la respuesta a un comentario.

Además, los propios escritores pueden ejecutar la herramienta sobre sus borradores antes de publicarlos, lo que les permite revisar los resultados del análisis e impugnarlos si consideran que son incorrectos. También tienen la opción de añadir una nota aclaratoria en la que expliquen su proceso de escritura y el grado en que se apoyan en herramientas de inteligencia artificial.

No es una herramienta de sanción, sino una invitación a la credibilidad

Substack ha subrayado que el objetivo de esta función no es restringir el uso de la inteligencia artificial ni penalizar a quienes recurren a ella, sino fomentar una cultura de transparencia y credibilidad entre escritores y lectores. En este contexto, la plataforma anima a los editores a incluir una especie de "declaración metodológica" en la que expliquen su forma de trabajar y de producir contenido.

Este enfoque quedó resumido por uno de los responsables de Substack durante una conversación con el fundador de Pangram, Max Spero, quien señaló que la plataforma siempre se encarga de todo por los escritores excepto de la parte difícil: tener una idea que valga la pena leer, que genere interés y que invite a compartirla. Esa idea genuina es algo que ningún programa puede crear.

Riesgos a corto plazo y beneficios a largo plazo

Esta decisión no está exenta de riesgos en el corto plazo; podría revelar que varios boletines populares de la plataforma no están escritos íntegramente por sus autores, lo que podría erosionar la confianza de los suscriptores y empañar la reputación de la plataforma como espacio de contenido de calidad.

Sin embargo, a largo plazo, es probable que esta iniciativa contribuya a:

• Depurar la plataforma del contenido automatizado de baja calidad conocido como «AI Slop»
• Incentivar a los escritores a comprometerse con la originalidad y la distinción
• Construir una confianza más sólida entre los lectores y el contenido que consumen
• Consolidar el estándar de la transparencia en el ecosistema de la publicación independiente

Substack, parte de una tendencia más amplia hacia la transparencia digital

Substack no recorre este camino en solitario; se suma a un conjunto de plataformas digitales que han comenzado a identificar y etiquetar el contenido generado por inteligencia artificial. Las redes sociales ya señalan las imágenes y los vídeos creados de forma automatizada, y los servicios de streaming musical se han incorporado recientemente a esta tendencia, con algunos que incluso han llegado a imponer restricciones sobre las composiciones que se descubre han sido producidas por máquinas.

Esta tendencia general refleja una convicción cada vez más extendida en la industria tecnológica: que el usuario merece saber si está interactuando con una creación humana genuina o con el resultado de un algoritmo, y que la transparencia en esta materia dejará de ser un lujo para convertirse en un estándar ineludible en el futuro próximo.

✦ بقلم فريق دروب أيديا