Metadatos, regulación y derechos humanos: ¿invasiones sin ejércitos?

Las armas algorítmicas 

En 2016 C. O´Neil publica su libro “Armas de destrucción matemática” donde estudia y revela cómo la IA que analiza big data es utilizada en EEUU por fuerzas de seguridad para detener, arrestar y acusar personas basándose en sesgos discriminatorios de base étnica y sociocultural. Las conclusiones de su investigación la conducen a definir los algoritmos como  “serie de reglas opacas que procesan datos de manera de amplificar sesgo y consolidar desigualdades”.

Dos años antes, el general M. Hayden, ex director de la CIA y de la NSA (Agencia de seguridad nacional de EE.UU) en un debate en la Universidad John Hopkins explicita que matan basándose en metadatos . En esa ocasión revela que en realidad la agencia no necesita rastrear ni investigar conversaciones sino registrar quién, cuándo, desde dónde y cómo hace uso del teléfono ( y hoy, de cualquiera de las aplicaciones o de los LLM que usamos a diario). La IA es empleada para mapear sujetos y comunidades y predecir comportamientos en base a los patrones inferidos.

Hoy los metadatos son el insumo principal de Palantir, una empresa creada,luego de los sucesos del 11-S, por P. Thiele y  A. Karp, CEO de la misma desde hace más de dos décadas. Palantir crea los software que usan los organismos de inteligencia estadounidense y de otros países para “registrar y atacar células terroristas”. Ese es el discurso oficial. Hoy también se lo contrata para la persecución de migrantes (ICE) y para los conflictos bélicos. Mata con metadatos. 

Es un sistema de análisis de datos que en segundos crea un perfil completo usando información policial y redes sociales. Las agencias de inteligencia de EEUU lo usan desde hace tiempo. Quienes defienden el sistema sostienen que permite en segundos identificar los autores de actos terroristas.

Invade la privacidad sin ningún tipo de regulación ni traba: deja la soberanía identitaria colectiva y personal en manos de empresas y de agencias policiales. Sus fundadores descreen de la democracia representativa. Karp argumenta que lo que distingue a los humanos (estadounidenses) es la  capacidad de violencia organizada y eso es lo que los hace superiores. Estados Unidos es el mejor ejemplo de ello.

Palantir emplea varios software con diferentes funciones. Su home page se abre con la frase: “Nuestro software potencia la toma de decisiones en tiempo real, impulsadas por IA, en empresas gubernamentales y comerciales críticas de Occidente, desde las plantas de producción hasta las líneas del frente” https://www.palantir.com/. Es decir, se autodefine como una suerte de Dios que cubre desde la orientación y definición de decisiones hasta las acciones. Lo sugestivo es el adjetivo “críticas”. ¿Críticas para quiénes o para qué? 

En la descripción de sus sistemas operativos sólo “Gotham” responde en parte al interrogante previo pero  apela a metáforas para desdibujarlo: “consigue la superioridad en el combate impulsado por IA, desde el espacio hasta el barro”. El software “Apolo” a su vez asegura “implementar, supervisar y gestionar software de forma autónoma en cualquier entorno”. 

Palantir hoy es una de las tecnológicas de primera línea, tanto por su producción como por sus ganancias, que decide la vida (o la muerte) de millones de personas “en situaciones críticas” para los gobiernos que la emplean: desde la guerra entre Rusia y Ucrania, hasta el destino de los migrantes en Minnesota.

Y pronto lo hará en nuestro territorio como software de la agencias de seguridad argentinas,  amparadas por un decreto que desde el 30 de diciembre habilita a aprehender personas, no solo en situaciones de flagrancia o por orden de un juez, sino en el marco de actividades de inteligencia. Para quienes hemos vivido las dictaduras militares argentinas, ese era el modus operandi habitual. La diferencia está en la IA, en el análisis de big data, en el “robo (oculto)” naturalizado de metadatos de nuestros dispositivos, en el procesamiento en segundos de todo ese material y en la relación entre sesgos algorítmicos, ideologías de ciberseguridad, decisiones y acciones. Es claro que necesitamos sistemas de ciberseguridad que amparen ataques como el de la Embajada de Israel y la Amia. No olvidemos, sin embargo, que éstos siguen irresueltos, por más IA que se tenga. Pero se avanza en modelos cuyos verdaderos objetivos siguen siendo  poco claros. 

Y es en ese último aspecto en el que  aparece como crucial y crítico, en el sentido de su impacto en la vida humana, el problema de la regulación. 

¿Regulación o no ? ¿Qué se oculta detrás del dilema?

En la encrucijada entre “libertad de acción tecnológica” y regulación,  el último número de la revista del MIT (https://technologyreview.es/article/la-ia-en-2026-entre-la-burbuja-y-la-expansion/)  afirma que se trata de  un debate aún sin solución. Si volvemos a Estado Unidos, hay un sector (entre el que se cuenta a Trump, sin necesidad de mayores explicaciones) que está en contra de la regulación. Uno de los argumentos explícitos es que podría frenar los desarrollos de la IA y colocarlos a la zaga de China. Desde el otro lado, se contraponen los argumentos éticos, los derechos humanos y la regulación de decisiones humanas sobre la IA para ampararlos. En este contexto, el problema tiene una dimensión política, porque los diferentes estados del país  que quieren impulsar la regulación podrían verse afectados financieramente por el gobierno federal.  

La regulación reclamaría transparentar las operaciones ocultas de extractivismo y uso de metadatos: desde el entrenamiento de modelos hasta su injerencia sobre la libertad y vida humanas. Sin dejar de mencionar las estrategias de manipulación cognitiva y emocional para cooptar personas al servicio de las empresas, particularmente con  los LLM como recursos.

Argentina no tiene una ley de inteligencia artificial. El ministro Sturzenegger ha sido claro al respecto: no hay nada que desregular ni habrá para regular. Argentina, según sus palabras, no va a tener una ley de IA. Y, aunque no lo diga, menos ahora que hay un campo liberado para las agencias de seguridad. 

Al mismo tiempo, se pone en marcha un proyecto piloto en el área de educación nacional para incorporar una asignatura que proporcione a los estudiantes el dominio  de la IA. El programa PAIDEIA está destinado al “uso pedagógico de la inteligencia artificial en los distintos niveles del sistema educativo, con una perspectiva humanista y centrada en el aprendizaje” https://www.argentina.gob.ar/capital-humano/educacion/paideia. La iniciativa es a la vez urgente e indispensable en la formación para el mundo actual. Sin embargo, sólo hay una referencia a aspectos éticos a lo largo de la propuesta educativa. Nos preguntamos: ¿cuándo y cómo se va a advertir y educar a docentes y alumnos sobre los riesgos del extractivismo  de metadatos? ¿Qué estrategias se van a implementar desde un gobierno que se niega a regular la IA para que la educación digital no se constituya en un campo fructífero, no sólo de colonización cognitiva y emocional, sino de control y  amenazada de los derechos  humanos de la comunidad educativa? Quienes hemos transitado  la mayor parte de nuestra educación en dictaduras militares aprendimos a reconocer a los agentes y las prácticas de rastreo y persecución que se llevaban a cabo en las aulas. Pero eran ejercidas por humanos copresentes. Hoy siguen  en manos de humanos, pero con tecnología de recopilación y procesamiento que en segundos puede poner en jaque la vida de las personas. El dominio estratégico de la IA es una condición indispensable de la vida actual, pero también lo es la regulación de sus sistemas de vigilancia y apropiación ilegítima de nuestras identidades y derechos a la pluralidad cognitiva, cognoscitiva, cultural y emocional. Y en este plano, la decisión es de los Estados y organismos gubernamentales. Tal como lo establece nuestra Constitución muchos años antes del desarrollo exponencial de la IA del siglo XXI. ¿No será tiempo ya de complementar algunos artículos para asegurar nuestras garantías en un mundo que ya no es ni siquiera el de la década de nuestra última reforma constitucional? 

Las evidencias se multiplican; los interrogantes, también.

Otro  ejemplo flagrante  de este extractivismo silencioso tiene como protagonista nada menos que a Google: la empresa cuyo buscador empleamos a diario millones.  En un litigio reciente, Google acepta pagar USD 68 millones para resolver una demanda colectiva que acusa a sus dispositivos con asistente virtual de grabar conversaciones privadas sin que los usuarios pronuncien las palabras de activación. El fenómeno, conocido técnicamente como "false accepts", permitiría que parlantes inteligentes, teléfonos y otros dispositivos intercepten conversaciones íntimas en hogares, las transfieran a servidores externos y las cedan a contratistas humanos. Google no niega los hechos ( Caso In re Google Assistant Privacy Litigation, No. 5:19-cv-04286-BLF, U.S. District Court, Northern District of California. Acuerdo propuesto | Sitio oficial del caso)

Los usuarios argentinos de estos mismos dispositivos han quedado excluidos del resarcimiento, pero están expuestos a idénticas prácticas de vigilancia corporativa. 

En un país sin ley de inteligencia artificial y con agencias de seguridad habilitadas para actuar sobre la base de "actividades de inteligencia", la pregunta no es si estos datos serán utilizados, sino cuándo y contra quiénes.

* Alejandro Urueña: Abogado. Diplomado en Derecho del Trabajo y Relaciones Laborales, Universidad Austral; Diplomado en Derecho 4.0, Universidad Austral; Magister en Derecho del Trabajo y Relaciones Laborales, Universidad Austral (T.P); Posgrado de Inteligencia Artificial y Derecho, I.A.L.A.B, U.B.A. Posgrado en Metaverso, U.B.A. Programa (IA) Universidad Austral. Magister en Inteligencia Artificial Centro Europeo de Posgrado. Programa MIT en desarrollo y diseño en productos y servicios en IA con Insignia de Asignación Ejemplar.  Bootcamp internacional inteligencia artificial aplicada al Derecho. Programa  MIT Machine Learning in Business. Program MIT Inteligencia Artificial Agéntica para la Transformación Empresarial. Actualmente, cursando Maestría en Ciencias de Datos, Universidad Austral.

* María S. Taboada: Prof. Titular de “Linguìstica General I” y “Polìtica y Planificación Linguìsticas” de la Fac. de Filosofía y Letras de la UNT. Directora del CIPOLDI (Centro de Investigación sobre Políticas del Lenguaje y la Discursividad `Prof. Roberto Juan García” de la UNT)