ARLINGTON, Virginia (AP) — Mucho antes del auge de la IA generativa, una empresa del Valle de Silicona contratada para recopilar y analizar datos no clasificados sobre el tráfico ilícito de fentanilo chino hizo un convincente caso para su adopción por parte de las agencias de inteligencia de EE. UU.
Los resultados de la operación superaron con creces el análisis exclusivo humano, encontrando el doble de empresas y un 400% más de personas involucradas en comercio ilegal o sospechoso del letal opioide.
Los emocionados funcionarios de inteligencia de EE. UU. destacaron los resultados públicamente — la IA realizó conexiones basadas principalmente en datos de internet y de la web oscura — y los compartieron con las autoridades de Beijing, instando a una represión.
Un aspecto importante de la operación de 2019, llamada Lanza Sable, que no se había reportado previamente: la empresa utilizó la IA generativa para proporcionar a las agencias de EE. UU. — tres años antes del lanzamiento del revolucionario producto ChatGPT de OpenAI — resúmenes de evidencia para posibles casos criminales, ahorrando incontables horas de trabajo.
“No podrías hacer eso sin inteligencia artificial”, dijo Brian Drake, entonces director de IA de la Agencia de Inteligencia de la Defensa y coordinador del proyecto.
El contratista, Rhombus Power, luego usaría la IA generativa para predecir con un 80% de certeza la invasión a gran escala de Ucrania por parte de Rusia cuatro meses antes, para un cliente diferente del gobierno de EE. UU. Rhombus dice que también alerta a los clientes gubernamentales, a quienes no nombra, sobre inminentes lanzamientos de misiles norcoreanos y operaciones espaciales chinas.
Las agencias de inteligencia de EE. UU. se están apresurando a adoptar la revolución de la inteligencia artificial, creyendo que de lo contrario serán sofocadas por el crecimiento exponencial de datos a medida que la tecnología de vigilancia generada por sensores se extienda cada vez más por el planeta.
Pero los funcionarios son muy conscientes de que la tecnología es joven y frágil, y que la IA generativa, modelos de predicción entrenados en vastos conjuntos de datos para generar texto, imágenes, vídeo y conversaciones humanas sobre demanda, no está hecha a medida para un comercio peligroso empapado de engaños.
Los analistas necesitan “modelos sofisticados de inteligencia artificial que puedan digerir enormes cantidades de información de código abierto y adquirida clandestinamente,” escribió recientemente el director de la CIA, William Burns en Foreign Affairs. Pero eso no será simple.
El primer director de tecnología de la CIA, Nand Mulchandani, cree que debido a que los modelos de gen IA “alucinan”, es mejor tratarlos como un “amigo loco y borracho” — capaz de ofrecer grandes ideas y creatividad pero propenso al sesgo y la mentira. También hay problemas de seguridad y privacidad: los adversarios podrían robar y envenenarlos, y podrían contener datos personales sensibles que los agentes no están autorizados a ver.
Pero eso no detiene la experimentación, que en su mayoría se está llevando a cabo en secreto. Una excepción: Miles de analistas de las 18 agencias de inteligencia de EE. UU. ahora utilizan una IA de gen desarrollada por la CIA llamada Osiris. Funciona con datos de código abierto, no clasificados y públicos o comercialmente disponibles. Genera resúmenes anotados y su función de chatbot permite a los analistas profundizar con consultas.
Mulchandani dijo que utiliza múltiples modelos de IA de varios proveedores comerciales que no quiso nombrar. Tampoco dijo si la CIA está utilizando la IA generativa para algo importante en redes clasificadas.
“Todavía estamos en los primeros días,” dijo Mulchandani, “y nuestros analistas necesitan poder marcar con absoluta certeza de dónde proviene la información.” La CIA está probando todos los principales modelos de IA generativa — sin comprometerse con ninguno — en parte porque los IAs se siguen superando en habilidad, dijo.
Mulchandani dice que la gen IA es principalmente buena como asistente virtual buscando “la aguja en el pajar.” Lo que nunca hará, insisten los funcionarios, es reemplazar a los analistas humanos.
Linda Weissgold, quien se retiró como subdirectora de análisis de la CIA el año pasado, cree que la simulación de guerra será una “aplicación asesina.” Durante su mandato, la agencia ya utilizaba IA regular — algoritmos y procesamiento de lenguaje natural — para traducción y tareas como alertar a los analistas fuera del horario de oficina sobre desarrollos potencialmente importantes. La IA no podría describir lo sucedido — eso sería clasificado — pero podría decir “aquí hay algo en lo que necesitan venir a ver.”
Se espera que la gen IA mejore tales procesos. Su uso más potente en inteligencia estará en el análisis predictivo, cree Anshu Roy, CEO de Rhombus Power. “Probablemente esto será uno de los mayores cambios de paradigma en todo el ámbito de la seguridad nacional — la capacidad de predecir lo que es probable que hagan tus adversarios.”
La máquina de IA de Rhombus se basa en más de 5,000 flujos de datos en 250 idiomas recopilados durante más de 10 años, que incluyen fuentes de noticias globales, imágenes satelitales y datos en el ciberespacio. Todo es de código abierto. “Podemos rastrear personas, podemos rastrear objetos,” dijo Roy.
Los grandes jugadores de IA que compiten por el negocio de las agencias de inteligencia de EE. UU. incluyen a Microsoft, que anunció el 7 de mayo que estaba ofreciendo el GPT-4 de OpenAI para redes ultra secretas, aunque el producto aún debe ser acreditado para trabajar en redes clasificadas.
Un competidor, Primer AI, enumera entre sus clientes a dos agencias de inteligencia no identificadas — que incluyen servicios militares, documentos publicados en línea para los recientes talleres de IA militar muestran. Ofrece búsqueda con IA en 100 idiomas para “detectar señales emergentes de eventos en desarrollo” de fuentes como Twitter, Telegram, Reddit y Discord y ayudar a identificar “personas clave, organizaciones, ubicaciones.” Primer enumera el targeting entre los usos publicitados de su tecnología. En una demostración en una conferencia del Ejército días después del ataque de Hamas a Israel el 7 de octubre, los ejecutivos de la compañía describieron cómo su tecnología separa los hechos de la ficción en el flujo de información en línea desde el Medio Oriente.
Los ejecutivos de Primer declinaron ser entrevistados.
A corto plazo, cómo los funcionarios de inteligencia de EE. UU. utilizan la gen IA puede ser menos importante que contrarrestar cómo los adversarios la utilizan: para penetrar las defensas de EE. UU., difundir desinformación y tratar de socavar la capacidad de Washington para interpretar sus intenciones y capacidades.
Y como Silicon Valley impulsa esta tecnología, la Casa Blanca también está preocupada de que cualquier modelo de gen IA adoptado por las agencias de EE. UU. podría ser infiltrado y envenenado, algo que la investigación indica que es una amenaza muy real.
Otra preocupación: garantizar la privacidad de las “personas de EE. UU.” cuyos datos pueden estar incrustados en un gran modelo de lenguaje.
“Si hablas con cualquier investigador o desarrollador que esté entrenando un gran modelo de lenguaje, y le preguntas si es posible básicamente eliminar una pieza individual de información de un LLM y hacer que lo olvide — y tener una garantía empírica robusta de ese olvido — eso no es algo que sea posible”, dijo John Beieler, líder de IA en la Oficina del Director de Inteligencia Nacional, en una entrevista.
Es una de las razones por las que la comunidad de inteligencia no está en un modo de “mueve rápido y rompe cosas” en la adopción de la gen IA.
“No queremos estar en un mundo donde avancemos rápidamente y despleguemos una de estas cosas, y luego dos o tres años después nos demos cuenta de que tienen alguna información o algún efecto o algún comportamiento emergente que no anticipamos”, dijo Beieler.
Es una preocupación, por ejemplo, si las agencias gubernamentales deciden utilizar IAs para explorar la tecnología de armas biológicas y cibernéticas.
William Hartung, investigador principal del Instituto Quincy para la Política Estatal Responsable, dice que las agencias de inteligencia deben evaluar cuidadosamente las IAs en busca de posibles abusos para evitar consecuencias no deseadas como vigilancia ilegal o un aumento de las víctimas civiles en conflictos.
“Todo esto se produce en el contexto de instancias repetidas en las que los sectores militar e de inteligencia han alardeado de “armas milagrosas” y enfoques revolucionarios — desde el campo de batalla electrónico en Vietnam hasta el programa Star Wars de la década de 1980 y la “revolución en los asuntos militares en los años 90 y 2000 — solo para descubrir que fallan," dijo.
Los funcionarios gubernamentales insisten en que son sensibles a tales preocupaciones. Además, dicen, las misiones de IA variarán ampliamente dependiendo de la agencia involucrada. No hay una talla única para todos.
Tomemos la Agencia de Seguridad Nacional. Intercepta comunicaciones. O la Agencia Nacional de Inteligencia Geoespacial (NGA). Su trabajo incluye ver y comprender cada pulgada del planeta. Luego está la inteligencia de medida y firma, que varias agencias utilizan para rastrear amenazas utilizando sensores físicos.
Potenciar tales misiones con IA es una clara prioridad.
En diciembre, la NGA emitió una solicitud de propuestas para un tipo completamente nuevo de modelo de IA generativa. El objetivo es utilizar las imágenes que recopila — de satélites y a nivel del suelo — para recolectar información geoespacial precisa con comandos de voz o texto simples. Los modelos de gen IA no mapean carreteras y ferrocarriles y “no entienden los conceptos básicos de geografía,” dijo el director de innovación de la NGA, Mark Munsell, en una entrevista.
Munsell dijo en una conferencia en Arlington, Virginia en abril que el gobierno de EE. UU. actualmente solo ha modelado y etiquetado alrededor del 3% del planeta.
Las aplicaciones de gen IA también tienen mucho sentido para el ciberconflicto, donde los atacantes y defensores están en combate constante y la automatización ya está en juego.
Pero mucho trabajo de inteligencia vital no tiene nada que ver con la ciencia de datos, dice Zachery Tyson Brown, un exoficial de inteligencia de defensa. Cree que las agencias de inteligencia invitarán al desastre si adoptan la gen IA demasiado rápidamente o por completo. Los modelos no razonan. Simplemente predicen. Y sus diseñadores no pueden explicar completamente cómo funcionan.
No es la mejor herramienta, entonces, para competir con maestros rivales del engaño.
“El análisis de inteligencia suele ser más como el viejo cliché sobre armar un rompecabezas, solo que con alguien más constantemente intentando robarte las piezas mientras también coloca piezas de un rompecabezas completamente diferente en la pila con la que estás trabajando,” escribió recientemente Brown en una revista interna de la CIA. Los analistas trabajan con “fragmentos incompletos, ambiguos, a menudo contradictorios y parciales, información no confiable.”
Confían considerablemente en el instinto, los colegas y la memoria institucional.
“No veo que la IA reemplace a los analistas en breve,” dijo Weissgold, la ex subdirectora de análisis de la CIA.
A veces deben tomarse decisiones rápidas de vida o muerte basadas en datos incompletos, y los modelos de IA generativa actuales son aún demasiado opacos.
“No creo que sea aceptable para ningún presidente,” dijo Weissgold, “que la comunidad de inteligencia venga y diga, ‘no sé, la caja negra me lo dijo.’”
