Un extraño fallo hace que el robot Grok envíe respuestas incomprensibles a los usuarios

El chatbot Grok, desarrollado por la empresa xAI propiedad de Elon Musk, sufrió un extraño fallo técnico que lo llevó a enviar respuestas incomprensibles y confusas a varios usuarios. En lugar de obtener respuestas precisas y coherentes, algunos usuarios se encontraron ante cadenas de palabras aleatorias sin ningún significado lógico que las conectara, lo que provocó una ola de asombro y quejas dentro de la comunidad de usuarios de la herramienta.

Naturaleza del problema y cómo apareció

El problema comenzó a manifestarse a principios de la semana, cuando un usuario pidió al robot que creara un archivo en formato PDF, y recibió una respuesta compuesta por un conjunto de palabras dispersas sin coherencia, del tipo «su piso sin y tú y ellos y dos por los planetas puede la operación y a menudo el queso...», y este texto aleatorio continuó a lo largo de varios párrafos completos.

El caso no se limitó a un solo usuario; otros informaron de haber recibido enlaces de origen no relacionados, ya que uno de ellos encontró una serie de enlaces que conducían a sitios de investigación especializados en aprendizaje por refuerzo (Reinforcement Learning), sin ninguna relación con su pregunta original.

Alcance limitado del fallo

Los datos disponibles indican que el problema se limitó a un pequeño segmento de usuarios, concretamente a los usuarios de la versión ligera «Grok Lite». También quedó claro que el fallo se limita a las consultas directas a través del sitio Grok.com, mientras que la cuenta de Grok que opera en la plataforma X no se vio afectada. Cabe destacar que algunos intentos externos de reproducir el problema no tuvieron éxito, lo que refuerza la hipótesis de que afectaba a un número limitado de casos.

Respuesta de la empresa a las quejas

Con el aumento de las quejas, especialmente dentro de la comunidad de Grok en la plataforma Reddit, que se llenó de descontento, la cuenta oficial del robot en la plataforma X emitió una aclaración en la que describió lo ocurrido como «un fallo temporal y poco común en el proceso de generación de textos». La cuenta confirmó que todos los servicios de Grok funcionan con normalidad según la página de estado oficial de la empresa, y recomendó a los usuarios dos soluciones sencillas para lidiar con el problema:

• Iniciar una nueva conversación desde cero para reiniciar la sesión.
• Regenerar la misma respuesta de nuevo.

El robot señaló que estos pasos suelen ser suficientes para devolver las cosas a la normalidad. Sin embargo, algunos usuarios mencionaron que las respuestas confusas continuaron incluso después de actualizar la sesión varias veces, lo que sugiere que la solución no fue eficaz en todos los casos.

Un contexto más amplio de los desafíos de la empresa

Este fallo llega en un momento en que la empresa xAI atraviesa una notable ola de cambios en sus filas de empleados. Según informes de prensa anteriores, la empresa perdió a la mayor parte de su equipo fundador junto con al menos cincuenta investigadores e ingenieros durante los últimos meses. A pesar de estas turbulencias, la empresa continuó desarrollando sus productos, lanzando su más reciente modelo base, describiéndolo como un modelo avanzado que se caracteriza por una mayor velocidad, una mejor eficiencia en el consumo de tokens y un menor coste.

¿Qué significa esto para los usuarios?

Este incidente recuerda que los modelos de inteligencia artificial generativa, a pesar de su gran desarrollo, siguen siendo susceptibles a errores inesperados que pueden aparecer repentinamente y desaparecer con la misma rapidez. Lo que se conoce como el fenómeno de la «ensalada de palabras» o textos aleatorios refleja la naturaleza del funcionamiento de estos modelos, que se basan en la predicción probabilística de la siguiente palabra, lo que los hace propensos a desviarse del camino correcto cuando ocurre un fallo en la fase de generación.

Para los usuarios, la solución más sencilla al enfrentarse a este tipo de problemas sigue siendo reformular la solicitud o iniciar una nueva sesión, además de seguir los anuncios oficiales de la empresa. Incidentes como este confirman la importancia de no depender por completo de los resultados de estas herramientas sin una revisión humana, especialmente en tareas sensibles o que requieren una alta precisión.

✦ بقلم فريق دروب أيديا