Anthropic revela un modelo de inteligencia artificial que se desarrolla a sí mismo

El interés de los laboratorios emergentes de inteligencia artificial se dirige cada vez más hacia una idea ambiciosa: entrenar modelos de inteligencia artificial utilizando otros modelos de inteligencia artificial. Uno de los investigadores del programa de becas de la empresa «Anthropic» ha ofrecido una temprana muestra práctica de cómo esta idea puede materializarse en la realidad, en un avance que podría redefinir los rasgos de la investigación científica en este campo.

Una investigación que abre una nueva puerta

Anthropic publicó un artículo de investigación titulado «Los investigadores automatizados son capaces de abordar los fallos de alineación de forma fiable», que explica cómo los sistemas de inteligencia artificial pueden mejorar el rendimiento de los modelos de manera fiable a través de un conjunto de criterios para medir la alineación. Cuando se presentaron a estos sistemas diez criterios que miden comportamientos específicos desalineados, lograron mejorar el rendimiento en cada uno de ellos sin afectar negativamente al rendimiento general del modelo.

Este trabajo lo dirige el investigador «Chen Yueh-Han» dentro del programa de becas de la empresa, y el sistema propuesto imita en gran medida la metodología tradicional de la investigación científica.

¿Cómo funciona el sistema automatizado?

Cada sistema automatizado sigue pasos organizados similares a los que realiza un investigador humano:

• Investigar la literatura científica disponible sobre el problema planteado.
• Proponer una metodología o un método para abordarlo.
• Entrenar el modelo utilizando este método durante treinta minutos.
• Elevar gradualmente el nivel de rendimiento a través de múltiples rondas de experimentos.

Los métodos eficaces se conservan mientras que los inútiles se descartan, lo que permite al sistema trabajar con gran rapidez y a gran escala. El artículo señala que estos resultados «ofrecen una evidencia temprana de que la fase de entrenamiento posterior para la alineación de forma automatizada podría volverse práctica en el corto plazo».

Un paso hacia la mejora autónoma recursiva

Esta investigación representa un paso hacia lo que se conoce como «mejora autónoma recursiva», que muchos expertos consideran la próxima gran etapa en la evolución de la inteligencia artificial. Si los modelos llegan a poder mejorar su propio entrenamiento de alineación, es lógico que puedan mejorar las prácticas de entrenamiento a una escala más amplia, lo que con el tiempo podría reducir la necesidad de investigadores humanos.

El artículo no evitó enfrentar esta idea de forma explícita, ya que comparó directamente al «investigador automatizado de alineación» con su homólogo humano, confirmando que la mejor metodología a la que llegó el sistema automatizado superó en promedio a lo que proponen los expertos con experiencia durante seis horas, y que las orientaciones de investigación humanas no condujeron a un mayor rendimiento.

La diferencia en el coste

La investigación no se limitó a comparar el rendimiento, sino que también abordó el aspecto económico. Según el artículo, el coste de operar el investigador automatizado asciende a unos cuatro dólares por hora mediante el uso de interfaces de programación, mientras que la empresa paga a sus investigadores humanos cerca de ciento cincuenta dólares por hora. Esta enorme diferencia refleja el atractivo de la automatización desde la perspectiva del coste y la eficiencia a la vez.

Límites que no pueden ignorarse

A pesar de estos resultados notables, el artículo no dejó de señalar las limitaciones del método propuesto, entre las más destacadas:

• El sistema automatizado solo funciona eficazmente en la medida en que los criterios adoptados reflejen los objetivos reales de alineación.
• Incluso con la disponibilidad de estos criterios, sigue siendo necesario un gran esfuerzo para establecerlos, mantenerlos y actualizarlos continuamente.
• Los investigadores automatizados dependen de la literatura científica disponible, lo que requiere ampliarla y actualizarla de forma permanente para garantizar la calidad de los resultados.

Esta investigación sigue siendo un indicador importante de la dirección del campo, ya que combina una ambición clara de lograr la mejora autónoma de los modelos con una conciencia realista de los desafíos que impiden depender totalmente de los sistemas automatizados en la investigación. Y mientras esta tendencia abre amplios horizontes para acelerar el desarrollo de la inteligencia artificial, plantea, por otro lado, profundas preguntas sobre el futuro del papel del ser humano en este acelerado sistema.

✦ بقلم فريق دروب أيديا