Los agentes de IA conversacional pueden desarrollar la capacidad de influir de forma encubierta en nuestras intenciones, creando una nueva frontera comercial que los investigadores llaman la “economía de la intención”.
En un futuro cercano podríamos ver asistentes de IA que pronostiquen e influyan en nuestra toma de decisiones en una etapa temprana, y vendan estas «intenciones» en desarrollo en tiempo real a empresas que puedan satisfacer la necesidad, incluso antes de que hayamos tomado una decisión.
Así lo afirman los especialistas en ética de la IA de la Universidad de Cambridge, que afirman que nos encontramos en los albores de un “nuevo mercado lucrativo pero problemático para las señales digitales de intención”, desde la compra de entradas de cine hasta la votación de candidatos. Lo denominan la economía de la intención.
Los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge sostienen que la explosión de la IA generativa y nuestra creciente familiaridad con los chatbots abren una nueva frontera de «tecnologías persuasivas», insinuada en recientes anuncios corporativos de los gigantes tecnológicos.
Los agentes de IA «antropomórficos», desde asistentes de chatbot hasta tutores digitales y novias, tendrán acceso a grandes cantidades de datos psicológicos y de comportamiento íntimos, a menudo obtenidos a través de diálogos hablados informales y conversacionales.
Esta IA combinará el conocimiento de nuestros hábitos en línea con una asombrosa capacidad de sintonizarse con nosotros de maneras que nos resulten reconfortantes (imitando personalidades y anticipando respuestas deseadas) para generar niveles de confianza y comprensión que permitan la manipulación social a escala industrial, dicen los investigadores.
“Se están gastando enormes recursos para colocar asistentes de IA en todas las áreas de la vida, lo que debería plantear la cuestión de a qué intereses y propósitos están destinados a servir estos supuestos asistentes”, dijo el Dr. Yaqub Chaudhary, investigador visitante de LCFI.
“Lo que la gente dice cuando conversa, cómo lo dice y el tipo de inferencias que se pueden hacer en tiempo real como resultado, son mucho más íntimos que los simples registros de interacciones en línea”
“Advertimos que ya se están desarrollando herramientas de inteligencia artificial para obtener, inferir, recopilar, registrar, comprender, pronosticar y, en última instancia, manipular y mercantilizar los planes y propósitos humanos”.
El Dr. Jonnie Penn, historiador de tecnología de la LCFI de Cambridge, afirmó: “Durante décadas, la atención ha sido la moneda de cambio de Internet. Compartir la atención con plataformas de redes sociales como Facebook e Instagram impulsó la economía en línea”.
“A menos que se regule, la economía de las intenciones tratará las motivaciones como la nueva moneda. Será una fiebre del oro para quienes se centran en las intenciones humanas, las dirigen y las venden”.
“Deberíamos empezar a considerar el posible impacto que un mercado de estas características tendría sobre las aspiraciones humanas, incluidas elecciones libres y justas, una prensa libre y una competencia justa en el mercado, antes de convertirnos en víctimas de sus consecuencias no deseadas”.
En un nuevo artículo de Harvard Data Science Review , Penn y Chaudhary escriben que la economía de la intención será la economía de la atención «graficada en el tiempo»: perfilando cómo la atención del usuario y el estilo comunicativo se conectan con los patrones de comportamiento y las elecciones que terminamos haciendo.
“Si bien algunas intenciones son fugaces, clasificar y enfocar las intenciones que persisten será extremadamente rentable para los anunciantes”, afirmó Chaudhary.
En una economía de intención, los grandes modelos de lenguaje o LLM podrían usarse para identificar, a bajo costo, la cadencia, la política, el vocabulario, la edad, el género, el historial en línea e incluso las preferencias de un usuario por los halagos y la congraciación, escriben los investigadores.
Esta recopilación de información se vincularía con redes de subastas negociadas para maximizar la probabilidad de lograr un objetivo determinado, como vender un viaje al cine («Mencionaste que te sentías sobrecargado de trabajo, ¿te reservo esa entrada de cine de la que hablamos?»).
Esto podría incluir dirigir conversaciones al servicio de determinadas plataformas, anunciantes, empresas e incluso organizaciones políticas, argumentan Penn y Chaudhary.
Si bien los investigadores dicen que la economía de la intención es actualmente una «aspiración» para la industria tecnológica, rastrean los primeros signos de esta tendencia a través de investigaciones publicadas y las pistas lanzadas por varios actores tecnológicos importantes.
Estos incluyen una convocatoria abierta de «datos que expresen la intención humana… en cualquier idioma, tema y formato» en una publicación del blog de OpenAI de 2023, mientras que el director de producto de Shopify, un socio de OpenAI, habló de chatbots que llegan «para obtener explícitamente la intención del usuario» en una conferencia el mismo año.
El CEO de Nvidia ha hablado públicamente sobre el uso de LLM para descubrir la intención y el deseo, mientras que Meta lanzó la investigación ‘Intentonomy’, un conjunto de datos para comprender la intención humana, en 2021.
En 2024, el nuevo marco para desarrolladores ‘App Intents’ de Apple para conectar aplicaciones a Siri (el asistente personal controlado por voz de Apple), incluye protocolos para «predecir acciones que alguien podría realizar en el futuro» y «sugerir la intención de la aplicación a alguien en el futuro utilizando predicciones que usted [el desarrollador] proporcione».
“Se dice que los agentes de IA como CICERO de Meta logran un nivel de juego humano en el juego Diplomacia, que depende de inferir y predecir intenciones y de usar un diálogo persuasivo para avanzar en la propia posición”, dijo Chaudhary.
“Estas empresas ya venden nuestra atención. Para obtener una ventaja comercial, el siguiente paso lógico es utilizar la tecnología que claramente están desarrollando para predecir nuestras intenciones y vender nuestros deseos antes de que los comprendamos por completo”.
Penn señala que estos acontecimientos no son necesariamente malos, pero tienen el potencial de ser destructivos. “La conciencia pública de lo que se avecina es la clave para garantizar que no sigamos el camino equivocado”, afirmó. Universidad de Cambridge News. Traducido al español
Contacto