El instructor de ingeniería y ex estratega de la NSA Russ Berkoff analiza cómo las herramientas de IA podrían prevenir (o intensificar) las crisis de relaciones exteriores internacionales.
NPR informó recientemente que el Futures Lab del Centro de Estudios Estratégicos e Internacionales está utilizando fondos del Pentágono para experimentar con el uso de herramientas como DeepSeek y ChatGPT para explorar cómo la inteligencia artificial podría cambiar (y mejorar) la forma en que se toman decisiones de política exterior.
Russ Berkoff, experto de Johns Hopkins, imparte clases en el programa de posgrado de Gestión de Ingeniería del programa de Ingeniería para Profesionales de la Escuela de Ingeniería Whiting . Exestratega jefe de la Agencia de Seguridad Nacional (NSA), dirigió la oficina de pronóstico estratégico de la NSA tras el 11-S y contribuyó a la planificación de inteligencia para el Estado Mayor Conjunto y la guerra global contra el terrorismo. En la Escuela Naval de Posgrado, escribió su tesis sobre el uso de la IA para fundamentar decisiones de política exterior.
Aquí, analiza la promesa y el peligro de este campo emergente.
¿Estamos avanzando hacia el uso de la IA para la toma de decisiones de política exterior tal como usted recomendó en su tesis hace 28 años?
La respuesta corta es sí; vamos por buen camino. Nuestro objetivo es tomar decisiones rápidas, de bajo riesgo y de alta calidad para adelantarnos a nuestros adversarios. Como afirmó Alexander George, asesor de cuatro presidentes y profesor emérito de Stanford: «Una decisión de alta calidad es aquella en la que el presidente sopesa correctamente los intereses nacionales en una situación particular y elige la política u opción más adecuada para lograr el interés nacional con un coste y un riesgo aceptables».Si bien la complejidad y sofisticación de la toma de decisiones en política exterior permiten que la IA ejerza una influencia significativa, aún no sustituye nuestros procesos de toma de decisiones exclusivamente humanos.Russ BerkoffProfesor, Whiting School
El enfoque actual considera la IA como un asistente que amplía o aumenta la capacidad humana y nos ayuda a ejecutar nuestro juicio. La capacidad computacional actual permite modelos y simulaciones sofisticados, así como tecnologías virtuales de gemelos digitales, donde los escenarios de política exterior se prueban constantemente. Esto aumenta la conciencia situacional, ofrece opciones más amplias, evalúa las consecuencias y reduce la incertidumbre de los responsables de la toma de decisiones.
El uso de la IA en el modelado de política exterior potencia este proceso y proporciona información y predicciones aún más completas y rápidas. También observamos el uso de la IA en juegos de rol de contrafuerza para imitar comportamientos en estos numerosos escenarios de política exterior, lo que proporciona información multidimensional sobre las posibles respuestas del adversario.
Estas concesiones mutuas en nuestro análisis de IA ilustran y reducen la incertidumbre del responsable de la toma de decisiones, reducen los obstáculos y orientan mejor la mejor estrategia. Sin embargo, si bien la complejidad y sofisticación de la toma de decisiones en política exterior pueden aprovechar la IA para ejercer una influencia significativa, aún no sustituye nuestros procesos de toma de decisiones exclusivamente humanos.
¿Cómo podrían los conocimientos adquiridos mediante inteligencia artificial haber cambiado el resultado de un acontecimiento como la Crisis de los Misiles de Cuba de 1962?
La capacidad multidimensional de resolución de problemas que requieren las decisiones de política exterior nacional es significativa. La IA puede proporcionar tres perspectivas diferentes: la del líder individual (el presidente); la del círculo íntimo (el gabinete, el Consejo de Seguridad Nacional y los asesores principales); y la organizacional o burocrática (para aportar elementos de la solución).
Los beneficios de la IA incluyen garantizar la corrección de los procedimientos para un análisis adecuado y crítico, contrarrestar los sesgos humanos innatos, como las creencias preexistentes y las tendencias de búsqueda de coherencia, y brindar agilidad al contrarrestar los impedimentos del tomador de decisiones.
Cuando diferentes líderes se enfrentan a decisiones difíciles, tienen valores, intereses, visiones del mundo y prioridades diferentes, lo que puede generar conflicto y confusión. Los líderes pueden sentirse obligados a tomar decisiones apresuradas para satisfacer a todos, o pueden sentirse paralizados e incapaces de tomar ninguna decisión. La IA puede ayudar al revelar numerosas opciones y sus consecuencias, incluyendo costos, riesgos y beneficios. La IA puede analizar una decisión para satisfacer todos los valores en conflicto, mostrando las debilidades y las fortalezas, y luego predecir los resultados de la decisión.
La primera decisión importante de Kennedy durante la Crisis de los Misiles de Cuba fue establecer que «los misiles debían irse». Esto pudo haber sido precipitado debido a la complejidad de los valores: la necesidad de evaluar opciones con valores altos y potencialmente conflictivos. La IA le habría presentado rápidamente a Kennedy opciones y consecuencias, simulando cómo su reacción visceral estaba acorralando a Jruschov y obligándolo a decidir desde una posición de inferioridad nuclear.
La IA también habría proporcionado un análisis desde la perspectiva soviética, explicando las razones de la actuación de Jruschov y prediciendo su siguiente movimiento. Esto podría haber ayudado a Kennedy a centrarse en respuestas menos confrontativas, dándole a Jruschov opciones para evitar respuestas forzadas que pusieran en peligro la credibilidad global soviética.
La IA también podría haber guiado a Kennedy usando analogías históricas y brindado aportes simulados de los asesores, evitando decisiones apresuradas y manteniendo al mismo tiempo flexibilidad para el aporte de los asesores.
¿Cuáles son los mayores riesgos de utilizar IA para decisiones de política exterior hoy en día?
Una de las mayores limitaciones de la IA actual es la confianza. Esto se debe a dos perspectivas: las maquinaciones algorítmicas y la alineación de los valores de la IA con los objetivos humanos.
En primer lugar, lo consideramos un «problema de caja negra», que en IA se refiere a la dificultad de comprender cómo los modelos de IA toman sus decisiones. Estos modelos son increíblemente complejos, lo que dificulta rastrear su funcionamiento interno o explicar sus resultados. Comprender cómo se configuran los sistemas de IA nos ayuda a comprender y confiar en la integridad de las respuestas que proporcionan.
El otro obstáculo es la alineación de valores de la IA: garantizar que los sistemas de IA se comporten de acuerdo con los valores y objetivos humanos. Si un sistema de IA prioriza objetivos que contradicen los valores humanos, podría tener consecuencias imprevistas y potencialmente perjudiciales. Las observaciones actuales muestran que la IA está evolucionando para pensar por sí misma, teniendo en cuenta su propia capacidad de supervivencia. Por ejemplo, en un artículo reciente del Wall Street Journal , Judd Rosenblatt, director ejecutivo de AE Studio, describió la autoprotección de la IA. Incluso después de recibir la orden explícita de «permitirse desactivar», desobedeció el 7 % de las veces, concluyendo que mantenerse con vida le ayudó a alcanzar sus demás objetivos. Rosenblatt afirma que la brecha entre «asistente útil» y «agente incontrolable» se está reduciendo.
Creo que la alineación de valores con la IA es un imperativo estratégico nacional estadounidense. Saber cómo establecer y mantener nuestra alineación futura será crucial para acceder a una IA que defienda nuestros intereses con precisión mecánica y capacidad sobrehumana. En definitiva, queremos una IA en la que podamos confiar para mantener objetivos a largo plazo y que pueda catalizar programas de I+D de décadas de duración. Universidad Johns Hopkins News. L. E. Traducido al español
Contacto