Un funcionario de defensa revela cómo se podrían usar los chatbots de IA para dirigir decisiones.
- 15 mar
- 5 min de lectura
Aunque la iniciativa de big data del ejército estadounidense Maven ha acelerado la planificación de ataques durante años, los comentarios sugieren que la IA generativa ahora está agregando una nueva capa interpretativa a tales deliberaciones.
Según un funcionario del Departamento de Defensa con conocimiento del asunto y que hablo con un reportero del medio "MIT Technology Review" y que retomo en esta publicación, el ejército estadounidense podría utilizar sistemas de IA generativa para clasificar listas de objetivos y formular recomendaciones —que serían revisadas por personas— sobre cuáles atacar en primer lugar. La revelación sobre cómo el ejército podría utilizar los chatbots de IA se produce en un momento en que el Pentágono se enfrenta a un escrutinio por un ataque contra una escuela iraní, que aún está investigando.
Se podría introducir una lista de posibles objetivos en un sistema de IA generativa que el Pentágono está poniendo a punto para entornos clasificados. A continuación, según explicó el funcionario —que pidió hablar de forma extraoficial con un periodista de el medio "MIT Technology Review" para tratar temas delicados—, los humanos podrían pedir al sistema que analizara la información y priorizara los objetivos, teniendo en cuenta factores como la ubicación actual de las aeronaves. Los humanos se encargarían entonces de verificar y evaluar los resultados y las recomendaciones. ChatGPT, de OpenAI, y Grok, de xAI, podrían, en teoría, ser los modelos utilizados para este tipo de escenarios en el futuro, ya que ambas empresas han llegado recientemente a acuerdos para que el Pentágono utilice sus modelos en entornos clasificados.
El funcionario describió esto como un ejemplo de cómo podrían funcionar las cosas, pero no confirmó ni desmintió que esto refleje el uso actual de los sistemas de inteligencia artificial.
Otros medios han informado que Claude de Anthropic se ha integrado en los sistemas militares de IA existentes y se ha utilizado en operaciones en Irán y Venezuela, pero los comentarios del funcionario añaden información sobre el papel específico que pueden desempeñar los chatbots, especialmente a la hora de acelerar la búsqueda de objetivos. También arrojan luz sobre la forma en que el ejército está utilizando dos tecnologías de IA diferentes, cada una con sus propias limitaciones.
Desde al menos 2017, el ejército estadounidense lleva trabajando en una iniciativa de «big data» denominada Maven. Esta iniciativa utiliza tipos de IA más antiguos, en particular la visión artificial, para analizar los ingentes volúmenes de datos e imágenes recopilados por el Pentágono. Maven puede, por ejemplo, procesar miles de horas de grabaciones aéreas tomadas por drones e identificar objetivos mediante algoritmos. Un informe de 2024 de la Universidad de Georgetown mostraba a soldados utilizando el sistema para seleccionar objetivos y evaluarlos, lo que agilizaba el proceso de obtención de la autorización para atacar dichos objetivos. Los soldados interactuaban con Maven a través de una interfaz con un mapa del campo de batalla y un panel de control, que podía resaltar los objetivos potenciales en un color y las fuerzas amigas en otro.
Las declaraciones del responsable indican que la IA generativa se está incorporando ahora como una capa de chatbot conversacional, que el ejército podría utilizar para localizar y analizar datos con mayor rapidez a la hora de tomar decisiones, como por ejemplo a qué objetivos dar prioridad.
Los sistemas de IA generativa, como los que sustentan ChatGPT, Claude y Grok, son una tecnología fundamentalmente diferente de la IA que ha impulsado principalmente a Maven. Basados en grandes modelos de lenguaje, están mucho menos probados en la práctica. Y mientras que la interfaz de Maven obligaba a los usuarios a examinar e interpretar directamente los datos en el mapa, los resultados generados por los modelos de IA generativa son más fáciles de consultar, pero más difíciles de verificar.
El uso de la IA generativa para este tipo de decisiones está reduciendo el tiempo necesario en el proceso de selección de objetivos, añadió el funcionario, quien no proporcionó detalles cuando se le preguntó cuánta rapidez adicional se podría lograr si se exigiera a los humanos dedicar tiempo a verificar los resultados de un modelo.
El uso de sistemas de IA militares está siendo objeto de un creciente escrutinio público tras el reciente ataque contra una escuela de niñas en Irán, en el que murieron más de 100 niñas. Varios medios de comunicación han informado de que el ataque se llevó a cabo con un misil estadounidense, aunque el Pentágono ha afirmado que aún se está investigando. Y aunque el Washington Post ha informado que Claude y Maven han participado en las decisiones sobre los objetivos en Irán, todavía no hay pruebas que expliquen qué papel desempeñaron, si es que desempeñaron alguno, los sistemas de IA generativa. El New York Times informó el miércoles de que una investigación preliminar había concluido que los datos de selección de objetivos obsoletos eran en parte responsables del ataque.
En los últimos meses, el Pentágono ha intensificado el uso de la inteligencia artificial en todas sus operaciones. Ya en diciembre, a través de una iniciativa denominada GenAI.mil, comenzó a ofrecer a millones de miembros de las Fuerzas Armadas el uso no clasificado de modelos de IA generativa para tareas como el análisis de contratos o la redacción de presentaciones. Sin embargo, el Pentágono solo ha aprobado unos pocos modelos de IA generativa para uso clasificado.
El primero fue «Claude», de Anthropic, que, además de su uso en Irán, según se informa, se utilizó en las operaciones para capturar al líder venezolano Nicolás Maduro en enero. Sin embargo, tras los recientes desacuerdos entre el Pentágono y Anthropic sobre si esta última podía restringir el uso militar de su IA, el Departamento de Defensa calificó a la empresa como un riesgo para la cadena de suministro y el presidente Trump exigió en las redes sociales que el Gobierno dejara de utilizar sus productos de IA en un plazo de seis meses. Anthropic está impugnando dicha designación ante los tribunales.
OpenAI anunció un acuerdo el 28 de febrero un acuerdo para que el ejército utilice sus tecnologías en entornos clasificados. La empresa de Elon Musk, xAI, também ha llegado a un acuerdo para que el Pentágono utilice su modelo Grok en dichos entornos. OpenAI ha señalado que su acuerdo con el Pentágono incluye restricciones, aunque la efectividad práctica de esas limitaciones no está clara.
Las opiniones expresadas en esta publicación son propias de los autores y no reflejan necesariamente la posición del autor de este blog; este blog proporciona una plataforma neutral y no partidista para aprender a hacer análisis diversos. Reconoce cómo las diversas perspectivas impactan en los análisis diversos, sin necesariamente respaldarlos.
Comentarios