Ahora, los investigadores de Microsoft han inventado un nuevo lenguaje para ayudar a sus modelos a comunicarse entre sí de manera más rápida y eficiente.
Lograr que las IA trabajen juntas podría ser un poderoso multiplicador de fuerza para la tecnología. Ahora, los investigadores de Microsoft han inventado un nuevo lenguaje para ayudar a sus modelos a comunicarse entre sí de manera más rápida y eficiente.
Los agentes de IA son la última palabra de moda en Silicon Valley. Se trata de modelos de IA que pueden llevar a cabo tareas complejas de varios pasos de forma autónoma. Pero si miramos más hacia el futuro, algunos ven un futuro en el que varios agentes de IA colaborarán para resolver problemas aún más complejos.
Dado que estos agentes funcionan con grandes modelos de lenguaje (LLM), para que trabajen juntos es necesario que se comuniquen entre sí en lenguaje natural, a menudo inglés. Pero, a pesar de su poder expresivo, los lenguajes humanos podrían no ser el mejor medio de comunicación para máquinas que operan fundamentalmente con unos y ceros.
Esto llevó a los investigadores de Microsoft a desarrollar un nuevo método de comunicación que permite a los agentes hablar entre sí en el lenguaje matemático de alta dimensión que sustenta los LLM. Han llamado al nuevo método Droidspeak (una referencia al lenguaje basado en pitidos y silbidos que utilizan los robots en La guerra de las galaxias ) y en un artículo preliminar publicado en arXiv , el equipo de Microsoft informa que permitió a los modelos comunicarse 2,78 veces más rápido con poca pérdida de precisión.
Por lo general, cuando los agentes de IA se comunican mediante lenguaje natural, no solo comparten el resultado del paso actual en el que están trabajando, sino también todo el historial de conversaciones hasta ese punto. Los agentes receptores deben procesar este gran fragmento de texto para comprender de qué está hablando el remitente.
Esto genera una sobrecarga computacional considerable, que aumenta rápidamente si los agentes se involucran en intercambios repetidos. Dichos intercambios pueden convertirse rápidamente en la principal causa de demoras en la comunicación, dicen los investigadores, lo que limita la escalabilidad y la capacidad de respuesta de los sistemas multiagente.
Para superar este obstáculo, los investigadores idearon una forma de que los modelos compartieran directamente los datos creados en los pasos computacionales previos a la generación del lenguaje. En principio, el modelo receptor los utilizaría directamente en lugar de procesar el lenguaje y luego crear sus propias representaciones matemáticas de alto nivel.
Sin embargo, no es sencillo transferir datos entre modelos. Los distintos modelos representan el lenguaje de maneras muy diferentes, por lo que los investigadores se centraron en la comunicación entre versiones del mismo LLM subyacente .
Aun así, tuvieron que ser inteligentes en cuanto al tipo de datos que compartir. Algunos datos pueden ser reutilizados directamente por el modelo receptor, mientras que otros deben ser recalculados. El equipo ideó una forma de calcular esto automáticamente para obtener el mayor ahorro computacional posible con este enfoque.
Philip Feldman, de la Universidad de Maryland en el condado de Baltimore, dijo a New Scientist que las aceleraciones de comunicación resultantes podrían ayudar a los sistemas multiagente a abordar problemas más grandes y complejos que los que es posible abordar utilizando el lenguaje natural.
Pero los investigadores afirman que todavía hay mucho margen de mejora. Para empezar, sería útil que los modelos de distintos tamaños y configuraciones pudieran comunicarse. Y podrían lograr ahorros computacionales aún mayores comprimiendo las representaciones intermedias antes de transferirlas entre modelos.
Sin embargo, parece probable que este sea sólo el primer paso hacia un futuro en el que la diversidad de lenguajes de máquina rivalice con la de los humanos.
Crédito de la imagen: Shawn Suttle de Pixabay
SingularityHub. E. C. Traducido al español
Contacto