La agencia humana en la era de la IA
Hace unos días, mientras subía a un avión, miré hacia la cabina del piloto. Era un laberinto de pantallas, diales, palancas y botones, ¡incluso en el techo! Las sonrisas confiadas del piloto y el copiloto me tranquilizaron y aterrizamos sin problemas. En el bolsillo de mi asiento encontré un anuncio de Copilot de Microsoft, una herramienta de inteligencia artificial que prometía resolver problemas empresariales y sociales. Me hizo preguntarme: ¿somos copilotos en este «vuelo de inteligencia artificial», navegando junto a ellos, o somos simplemente pasajeros, que nos conformamos con abrocharnos el cinturón de seguridad?
Lamentablemente, la realidad es que somos en su mayoría pasajeros. Entendemos muy poco sobre cómo funciona la IA, cómo utiliza nuestros datos o incluso cuán confiables son sus resultados. Pero no tiene por qué ser así.
¿Por qué es importante comprender la IA?
La IA no es una herramienta más. En nuestra analogía de los aviones, la IA no es simplemente el avión que nos lleva de una ciudad a otra, sino que también puede decidir por qué y a dónde “deberíamos volar”. La IA se ha convertido en una parte integral de nuestra vida diaria, moldeando decisiones personales y tendencias globales por igual. Impulsa automóviles sin conductor, dispositivos domésticos inteligentes y algoritmos de redes sociales que moldean nuestras opiniones.
Por eso es fundamental comprender la IA. Se trata de ser más que receptores pasivos del impacto de la tecnología: se trata de moldear activamente nuestra realidad y nuestro futuro.
¿Es difícil comprender la funcionalidad de la IA?
No lo es. En esencia, la IA se basa en dos conceptos simples: patrones y probabilidad. Estos son los elementos básicos de todo, desde el aprendizaje automático básico hasta los modelos avanzados. No necesitamos ser expertos para entender que la naturaleza probabilística de la IA puede llevar a alucinaciones o respuestas engañosas. Comprender los conceptos básicos puede ayudarnos a ser más perspicaces y a tener menos probabilidades de que la información generada por la IA nos engañe.
No debemos percibir la IA como una tecnología intocable y misteriosa que nos convierte en pasajeros pasivos que simplemente “se abrochan el cinturón de seguridad”.
¿Cómo podemos convertirnos en verdaderos copilotos de la IA?
En primer lugar, debemos comprender cómo genera la IA sus respuestas : desde el potente hardware que la ejecuta hasta los datos que le introducimos y los algoritmos que transforman esos datos en resultados fáciles de usar. Conocer el camino completo desde la entrada hasta la salida revela las capacidades y limitaciones de la IA.
En segundo lugar, debemos ser conscientes de que las respuestas de la IA están influidas por los «pesos» asignados a los datos que utiliza. Por ejemplo, el futuro sistema de IA de la ONU debe otorgar el mayor peso a la Carta de las Naciones Unidas como documento clave que respalda los valores fundamentales de las organizaciones.
En tercer lugar, debemos garantizar la calidad de los datos que se utilizan en los sistemas de IA. El viejo adagio informático “basura que entra, basura que sale” también se aplica a la IA. La potencia computacional de la IA no sirve de nada si procesa datos defectuosos o sesgados.
En cuarto lugar, debemos reconsiderar nuestra estrategia frente a los sesgos en la IA . Aspirar a una IA completamente libre de sesgos es poco realista y potencialmente peligroso, ya que presupone una única verdad. Si bien debemos condenar los sesgos ilegales o perjudiciales, también debemos reconocer que algunos de ellos reflejan la diversidad y los valores humanos. La transparencia en la IA es crucial para entender qué perspectivas y valores refleja una tecnología. Con la diversidad en los equipos de desarrollo de IA, la transparencia es clave para mitigar los riesgos y, al mismo tiempo, reconocer que ciertos sesgos son parte integral de la experiencia y la toma de decisiones humanas.
¿Próximos pasos?
Para utilizar y gestionar la IA de manera eficaz, debemos comprender sus componentes básicos (computación, datos y algoritmos) y los riesgos que plantean. La computación implica la infraestructura para ejecutar sistemas de IA potentes, mientras que los datos y los algoritmos determinan qué respuestas, imágenes y otros artefactos generan estos sistemas.
Si aprendemos los conceptos básicos, podremos pasar de ser pasajeros pasivos a copilotos activos y tomar el control de nuestras vidas en este mundo impulsado por la IA. Ser copiloto significa más que simplemente entender la tecnología: significa participar en debates sobre cómo se debe desarrollar, regular y utilizar la IA. Significa defender prácticas éticas, apoyar la diversidad y garantizar que la IA sirva al bien común. Solo entonces podremos realmente navegar, no solo viajar, en este viaje de la IA. DiploFoundation. J. K. Traducido al español
Contacto