Instituciones vinculados al Ejército Popular de Liberación (EPL) de China utilizaron resultados de modelos de inteligencia artificial (IA) desarrollados por OpenAI y Anthropic para entrenar drones y sistemas propios de reconocimiento. Según una revisión de más de 80 artículos académicos y patentes chinas realizada por Reuters, la investigación identificó múltiples casos de instituciones militares y de seguridad que recurrieron a la denominada destilación de modelos para trasladar capacidades de sistemas avanzados a modelos más pequeños.
En este sentido, la técnica consiste en utilizar las respuestas de un modelo más potente para entrenar otro de menor tamaño, que puede operar localmente con menos capacidad informática. Entre los documentos revisados aparece un estudio de investigadores de la Unidad 96941 del EPL, vinculada a inteligencia militar y guerra cibernética, que describió el uso de GPT-3.5 de OpenAI para procesar código fuente militar sensible. Como los modelos comerciales no podían utilizarse directamente para información clasificada, los investigadores emplearon sus resultados para entrenar posteriormente un sistema nacional que pudiera funcionar dentro de las redes militares chinas.
El uso de esta técnica también aparece en aplicaciones directamente relacionadas con sistemas no tripulados. Un trabajo de la Universidad Nacional de Tecnología de Defensa del EPL describió la reducción de un modelo de procesamiento de imágenes para utilizarlo en vehículos aéreos no tripulados, permitiendo analizar vídeo en tiempo real y apoyar decisiones de navegación y puntería incluso cuando se interrumpen las comunicaciones. Investigadores de la Academia de Ciencias Militares de China utilizaron además la destilación para ejecutar un modelo de reconocimiento de objetivos sobre hardware táctico durante simulaciones marítimas con drones, buques y submarinos no tripulados.
El fenómeno que OpenAI y Anthropic denuncian no se limita solamente a lo militar. China advierte de un “hegemonismo” de EE.UU.
Este fenómeno no se limita al ámbito estrictamente militar. Investigadores de la Universidad del Norte de China, una institución vinculada a la industria de defensa, utilizaron el modelo Claude 3 Haiku de Anthropic para generar datos sintéticos destinados a entrenar un sistema de clasificación de textos utilizado en tareas de monitorización de redes sociales y moderación de contenido. Anthropic señaló que no ofrece acceso comercial a Claude en China ni a empresas controladas por Beijing y advirtió que los modelos obtenidos mediante destilación pueden perder las medidas de seguridad incorporadas en los sistemas originales.
La destilación, por sí misma, es una técnica extendida en la industria y no constituye necesariamente una violación; el conflicto gira alrededor de los casos en los que se utilizan mecanismos de extracción no autorizada para obtener capacidades de modelos cerrados. OpenAI y Anthropic denunciaorn en reiteradas oportunidades este año distintas operaciones de empresas chinas para extraer capacidades de sus sistemas, mientras que el gigante asiático rechazó las acusaciones y calificó de “hegemonismo” las restricciones de Estados Unidos sobre la IA.
Te puede interesar: China reduce la ventaja satelital de EE.UU. y mejora la cadena necesaria para localizar portaaviones en el Pacífico
