En el marco del evento TechNetCyber de AFCEA celebrado en Baltimore, el jefe de inteligencia artificial y digital del Pentágono, Craig Martell, realizó una intervención donde, entre otras cuestiones, expresó su temor ante el posible uso indebido de grandes modelos lingüísticos y agentes de inteligencia artificial generativa como ChatGPT. En su discurso en Martell declaró que está “muerto de miedo” por la forma en que estas herramientas podrían causar estragos en la sociedad y la seguridad nacional.
En este sentido, el funcionario del Pentágono también remarcó la posibilidad de confiar en estas herramientas sin dejar de lado las salvaguardias adecuadas o la capacidad de validar la información que producen. Además, advirtió que los adversarios, o aquellos países “no amigos”, podrían utilizar estas herramientas para campañas de desinformación, aprovechando los contenidos redactados por expertos para aparentar autoridad.
Hacia la búsqueda de herramientas
Es por ello que instó a la industria a centrarse en el desarrollo de herramientas de detección que sirvan para ayudar a usuarios y consumidores a diferenciar entre contenidos generados por Inteligencia Artificial y contenidos creados por humanos. Siendo la principal responsabilidad de Martell, como jefe de la Oficina Principal Digital y de Inteligencia Artificial, dirigir los esfuerzos y la infraestructura informática del Departamento de Defensa en materia de IA, apunta a poner en marcha una infraestructura y unas políticas de intercambio de datos que permitan al ejército hacer realidad sus aspiraciones de Mando y Control Conjunto de Todos los Dominios, o JADC2.
Según su opinión, esto permitirá que los datos fluyan correctamente entre los distintos niveles de clasificación, ayudando a los mandos combatientes a comprender mejor los datos que tienen, los que necesitan y los que necesitan compartir. Buscando abordar este activo altamente humano que requiere una cuidadosa supervisión y formación para evitar su uso indebido.
Defense One.
Te puede interesar: El Pentágono busca reanudar programas de alto secreto en Ucrania
