Sumar pide cuentas a Defensa en el Congreso por los "contratos millonarios sin publicidad" de IA con Palantir Gotham

El grupo ha solicitado una reunión secreta de la Comisión de Gastos Reservados para analizar los detalles de esos contratos

El portavoz de Izquierda Unida en el Congreso y diputado de Sumar, Enrique Santiago, ha pedido cuentas este lunes la Cámara Baja al Ministerio de Defensa por "los contratos millonarios y sin publicidad" firmados con Palantir Gotham, une empresa ligada a la inteligencia estadounidense que se ha convertido en la compañía de software más influyente en defensa y datos.

Durante su intervención en la 'Jornada Inteligencia artificial y el futuro del Trabajo', Santiago ha mostrado la preocupación de su grupo parlamentario por las situaciones de "alta sensibilidad" y la "creación" de conflictos éticos, sociales, políticos, bélicos que está provocando "el rápido avance" de la Inteligencia Artificial (IA) generativa.

Pero, sobre todo, por su "falta de regulación", lo que está generando una "proliferación de bulos e imágenes falsas" y está poniendo sobre la mesa que la IA es "una sofisticada herramienta de desinformación" que está siendo utilizada por "grupos radicales de extrema derecha" para difundir imágenes "manipuladas" que afectan a cuestiones como la violencia de género, la generación de materiales pornográficos e incluso la participación política.

En este sentido, Santiago ha recordado que Sumar presentó ya al inicio de la legislatura una iniciativa en el Congreso para precisamente regular la utilización de la IA en procesos electorales y sus consecuencias, tanto en el ámbito penal como en el ámbito político.

SU USO EN CONFLICTOS ARMADOS
El diputado de Sumar ha advertido de los riesgos para la democracia que puede tener el uso de la IA en las elecciones pero también de los otros usos que ya se están dando y que están afectando a escenarios de perpetración de crímenes internacionales, violaciones de derechos humanos y, por supuesto, conflictos armados.

Y es que, según ha explicado, la IA se está usando como software de análisis masivo de datos para la identificación de objetivos militares en conflictos como en Gaza y en Afganistán, lo que "en muchos casos" está provocando crímenes contra el derecho internacional. A su juicio, "probablemente también se utilizaron herramientas de IA en la intervención estadounidense en Venezuela, que acabó con el "secuestro" de su presidente, Nicolás Maduro.

Enrique Santiago ha subrayado que la Comisión de Derecho Internacional Humanitario de Naciones Unidas activó un mecanismo de investigación ante la posible utilización de armas hasta ahora desconocidas para apuntar que "no cabe ninguna duda de que el sistema Smart System de Palantir ha sido utilizado en la campaña furia épica de Estados Unidos contra Irán".

SU USO MILITAR ES "INEVITABLE"
Aunque ha reconocido que el uso militar de la IA es "inevitable", el diputado de IU ha apuntado que le preocupa la utilización que se pueda estar haciendo en materia de seguridad y defensa en España, donde, según ha destacado "ha habido ya contratos millonarios sin publicidad del Ministerio de Defensa para la utilización de herramientas de Palantir".

Es por ello que Sumar ha solicitado una reunión de la Comisión de Gastos Reservados del Congreso --más conocida como Comisión de Secretos Oficiales--, para que el Gobierno exponga a puerta cerrada todos los detalles sobre este tipo de contratos porque, "más allá del gasto económico", quieren saber especialmente "qué es lo que se está automatizando en los sistemas de defensa o de seguridad" en España.

Y es que, ha concluido, "en muchos casos" estas herramientas de la IA, que ya son utilizadas por la agencia estadounidense ICE contra la inmigración, son "códigos no abiertos que probablemente permitan el acceso de las empresas tecnológicas a información del Estado y personal de los ciudadanos sin la debida garantía" por parte de nuestro país.