Palantir Declara la 'Era de la Disuasión por IA': ¿Poder Duro o Dilema Ético?

En un movimiento que sacude los cimientos de la ética en la inteligencia artificial, Palantir Technologies, la enigmática empresa de análisis de datos, ha dejado claras sus intenciones: la IA es la nueva base del “poder duro” y la disuasión nacional. Olvídense de los debates teóricos; la compañía de Alex Karp no solo lo dice, sino que lo está poniendo en práctica con contratos millonarios que ya están levantando ampollas.

La firma, conocida por su trabajo con agencias de inteligencia, compartió recientemente 22 puntos que resumen la filosofía de su fundador, Alex Karp, y son cualquier cosa menos neutrales. Entre sus titulares más llamativos, se lee: “La élite de la ingeniería de Silicon Valley tiene la obligación de participar en la defensa de la nación” y “La cuestión no es si se construirán armas de IA, sino quién las construirá y con qué propósito”. Para Karp, la era atómica está terminando y una nueva era de disuasión basada en la IA está a punto de comenzar.

IA al Servicio del Estado: Contratos Millonarios y Controversia

Esta filosofía no se queda en el papel. Palantir ha estado forjando alianzas que demuestran su compromiso con esta visión. Desde 2011, la compañía ha proporcionado tecnología al Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE), una relación que ha sido objeto de escrutinio constante. El año pasado, se le adjudicó un contrato de 30 millones de dólares sin licitación para desarrollar una plataforma de IA que identifica a no ciudadanos y rastrea deportaciones.

Pero su influencia no se limita a EE. UU. En España, Palantir obtuvo en 2023 dos contratos del Ministerio de Defensa, negociados sin publicidad, por un total de 16,5 millones de euros. También tiene presencia en el Reino Unido, donde su tecnología se utiliza en el procesamiento de datos del Servicio Nacional de Salud (NHS). Estos acuerdos, aunque lucrativos, plantean preguntas incómodas sobre la privacidad, el uso de datos y la supervisión ética de la IA en manos de entidades gubernamentales con poder coercitivo.

“Aquí no estamos hablando de IA en general, estamos hablando de grandes modelos del lenguaje, de inteligencia generativa, que es la que ha calado en la sociedad en general y tiene interacción directa con todo tipo de públicos. Y eso hace que lo que antes era ya una necesidad, el uso ético de la IA tradicional, aún es más necesario.” – Idoia Salazar, cofundadora y presidenta de OdiseIA.

Cuando la No Neutralidad de la IA se Vuelve Política

La postura de Palantir no es un caso aislado, pero sí uno de los más explícitos en un momento donde el debate sobre la ética de la IA está más encendido que nunca. Como señala Idoia Salazar, cofundadora del observatorio OdiseIA, la discusión no es sobre la IA en abstracto, sino sobre cómo los grandes modelos de lenguaje y la IA generativa impactan directamente en la sociedad. La idea de que la tecnología es neutral es cada vez más insostenible. Sus características técnicas —opacidad, centralización, potencial de manipulación a escala y vigilancia— facilitan estructuralmente el autoritarismo si no se manejan con cuidado.

Los ejecutivos de Palantir, al igual que otros líderes tecnológicos, están tomando decisiones que tienen implicaciones políticas y sociales profundas, a menudo sin un mandato público claro. La pregunta es si la búsqueda de “poder duro” para la defensa nacional justificará cualquier medio, o si la sociedad exigirá que la ética y la responsabilidad prevalezcan sobre la prisa por armar la próxima generación de sistemas autónomos. ¿Estamos dispuestos a ceder el control de la disuasión a algoritmos que operan bajo una filosofía tan pragmática como controvertida?

LaIA