ChatGPT puede ahora recuerda quién eres, y esa simple actualización puede cambiar la forma en que nos relacionamos con la inteligencia artificial.
El despliegue de las funciones de memoria por OpenAI marca la primera vez que un asistente de IA ampliamente utilizado puede recordar información de manera persistente a través de las interacciones. Si bien la función es opt-in, refleja un cambio más amplio: Los sistemas de IA se están diseñando para retener lo que aprenden sobre los usuarios a lo largo del tiempo. El objetivo es hacer que las interacciones sean más suaves, más relevantes y más eficientes. Pero convertir la memoria en IA también plantea preguntas más profundas sobre la privacidad, la transparencia y el nivel de control que tienen los usuarios.
“Memory es un paso crítico para hacer que la IA sea más adaptativa, útil y humana,” Das Payel, Investigador Principal de IBM Research, dice Thin IBMk en una entrevista. “la memoria AI puede proporcionar una mejor precisión y adaptabilidad, especialmente cuando se combina con mecanismos como módulos de memoria persistentes y episódicos
A diferencia de la memoria humana, que a menudo es subjetiva y selectiva, la memoria AI es una arquitectura técnica, un almacén estructurado de información dentro de redes neuronales o bases de datos externas. La memoria persistente conserva hechos a largo plazo, como el título del trabajo de un usuario, mientras memoria episódica almacena interacciones recientes o información contextual.
La implementación de memoria de OpenAIays ofrece a los usuarios alguna agencia, lo que les permite revisar y eliminar los whathats almacenados. Otras empresas, incluyendo Antrópico y DeepMind Google, están persiguiendo capacidades similares. A pesar de las diferencias en la ejecución, la dirección se comparte: la memoria se está convirtiendo en una característica fundamental de la IA de próxima generación.
Los partidarios argumentan que esta funcionalidad es fundamental para mover la IA más allá de las respuestas estáticas y únicas. Un asistente habilitado para memoria puede continuar las conversaciones a lo largo del tiempo, hacer un seguimiento de las tareas no resueltas y adaptar las respuestas a las preferencias individuales. En casos de uso del mundo real, como atención al cliente, tutoría o atención médica, esta continuidad podría generar ganancias significativas en la efectividad.
IBM está explorando estas posibilidades desde una lente empresarial. “Estamos explorando la memoria a largo plazo de manera que se alinee con los estándares de seguridad empresarial,” Das dijo. “Nuestro trabajo sobre la memoria persistente y episódica se centra en dar a los usuarios claridad y supervisión sobre lo que se conserva y cómo se usa.”
Memoria digital, preocupaciones reales
Aún así, no todos están convencidos de que este camino esté libre de riesgos. Vasant Dhar, un profesor de la Escuela de Negocios Stern de la NYU y un experto desde hace mucho tiempo en el gobierno de datos, ve la tendencia como parte de un patrón más amplio.
“Its the Wild West—companies están acumulando datos sin reglas, y los usuarios tienen poco control real,” Dhar dice IBM Piensa en una entrevista. Las características de la memoria, advirtió, profundizan los riesgos existentes vinculados a la vigilancia y el consentimiento. “Si puedes predecir mejor, el modelo se vuelve más valioso. Entonces, en pocas palabras, eso es lo que está pasando.”
Dhar establece una conexión con las pasadas oleadas de personalización en plataformas como Facebook y Google, que se basaron en el seguimiento del comportamiento para refinar el contenido y la publicidad. Pero con la IA, la entrada del usuario es más matizada. Las conversaciones pueden revelar más que clics, y pueden persistir por más tiempo.
“Claro, la gente debería estar preocupada,” Dhar dijo. “¿Pero qué van a hacer? ¿Apagarlo? E incluso entonces, ¿cómo sabes que está realmente apagado?”
Las implicaciones van más allá del control del usuario. Dhar advierte que la memoria también puede dar forma a los modelos mismos. En algunas arquitecturas, las interacciones de los usuarios no solo se recuerdan, sino que se utilizan para volver a entrenar o adaptar el modelo subyacente.
“De alguna manera, el LLM en sí actúa como un sistema de memoria: sus pesos codifican el conocimiento acumulado, incluidos los patrones potenciales de las interacciones del usuario, dijo— Dhar. “Su memoria a largo plazo no se trata solo de hechos; podría incluir información sobre túy lo que le has dicho.”
Esto plantea preguntas espinosas: ¿Qué califica como datos de entrenamiento? ¿Puede la memoria personal permanecer aislada o podría influir en un comportamiento de modelo más amplio?
Las últimas noticias de IA + Insights
Descubra información y noticias curadas por expertos sobre IA, nube y más en el boletín semanal Think Newsletter.
Equilibrar la innovación con la supervisión
Das enfatizó que IBM trata esta distinción con cuidado. “Las empresas necesitan confianza en que la información propietaria o personal no se filtrará inadvertidamente en los sistemas públicos,”, dice ella. “Nuestro diseño de memoria refleja esa prioridad.”
Algunos investigadores están explorando interfaces donde la memoria está organizada en trozos legibles y editables, como notas digitales, dice Das. Otros están desarrollando sistemas más implícitos, donde la memoria se guía por la importancia o la frecuencia de referencia.
“Hay compensaciones entre la transparencia y la carga cognitiva,” dice Das. “Demasiada visibilidad de la memoria puede abrumar a los usuarios. Pero muy poco socava la confianza.”
Navegando por un mundo donde AI te recuerda
La memoria también podría influir en cómo Razones de IA. Con la memoria persistente, los sistemas pueden operar en flujos de trabajo a más largo plazo o adaptarse de manera más fluida a las necesidades cambiantes de los usuarios. Eso podría abrir puertas en campos como la educación, la terapia o la atención crónica.
Pero los expertos advierten que no asumir que la memoria mejora inherentemente la precisión o la equidad. Si un sistema recuerda mal a—o si se retienen interacciones sesgadas, estos problemas pueden agravarse.
Los reguladores están empezando a responder. El Ley de IA de la UE incluye disposiciones para la transparencia y los derechos de usuario relacionados con el almacenamiento de datos y la memoria. En los Estados Unidos, la FTC tiene expresó preocupación por cómo las empresas manejan los datos personales en contextos de IA.
Los observadores dicen que muchos usuarios pueden no darse cuenta de lo que está sucediendo. “Estamos entrando en una fase en la que la gente asume que la IA está trabajando para ellos, cuando en realidad, se está recuperando de ellos, dice” Dhar.
A pesar de estas preocupaciones, muchos en el campo ven oportunidades. “Esta es una dirección emocionante,” Das afirma. “La clave es hacer que la memoria sea responsable, explicable y alineada con los valores humanos. Ese es el desafío por delante.” IBM Blog. S. B. Traducido al español
Contacto