Alguien decide descargar desde una plataforma digital una lista de sus temas musicales preferidos. Cuando los reproduce, encuentra “algo raro”. No suenan igual a los originales. A poco de indagar, descubre que han sido procesados con IA. ¿Se trata de una cuestión de mediación tecnológica?
Foto: IA
Alguien decide descargar desde una plataforma digital una lista de sus temas musicales preferidos. Cuando los reproduce, encuentra “algo raro”. No suenan igual a los originales. A poco de indagar, descubre que han sido procesados con IA. ¿Se trata de una cuestión de mediación tecnológica?
En otro lugar, un alto funcionario, en medio de una catástrofe ambiental, aparece en una imagen junto a uno de los trabajadores que están tratando de resolverla. Sin embargo, el funcionario no está en el lugar (ni en el tiempo) de los hechos. La imagen ha sido construida con (¿o “por”?) IA. La “realidad” que muestra la foto no existe. La imagen crea otra realidad. ¿Qué es entonces lo que media la tecnología?
En un importante número de hogares, niños y jóvenes juegan a través de dispositivos tecnológicos. Muchos de esos juegos consisten en matar a enemigos de toda laya. Pasan horas jugando a ganar asesinando. La muerte se vuelve natural, cotidiana, intrascendente en ese espacio digital. Paralelamente, en otras plataformas de videos y películas, se colocan advertencias sobre la edad necesaria para ver determinados contenidos, aludiendo – entre otras prevenciones- a su carga de violencia. ¿A qué estamos jugando? Existen “realidades” donde la violencia es tal y otras en donde se diluye (o es diluida). ¿Matar está admitido en ciertas mediaciones tecnológicas y en otras no? Y luego nos preocupamos indagando las causas acerca de hechos de violencia llevados a cabo por niños y jóvenes en la realidad concreta, material, donde hay humanos que son heridos y mueren en serio. La muerte aquí es el fin de la vida, no la estrella multicolor que desaparece súbitamente de la pantalla cuando un otro es alcanzado por el impacto. ¿Mediación tecnológica o sustitución de la realidad del homicidio por espejitos de colores?
Algunos hablan de posverdad, término acuñado en la década de 1990, para referirse a estas y otras tergiversaciones ideológicas de la realidad, instituidas por lo que hoy se suele designar como “narrativas”. Más allá de los aportes conceptuales y académicos del término, el problema no es si es verdad anterior o posterior, el problema está en el borramiento de la realidad, de los hechos empíricos, y su reemplazo por imágenes que operan un “como si”, esfumando sus consecuencias en la vida cotidiana. No median, sustituyen. No es sólo un problema de fronteras entre lo real y lo digital, porque lo real desaparece en la metáfora, que deja su papel retórico para trasuntarse en lo que es (aunque no sea). Cuando uno dice “estoy muerto de frío”, sabe -y también quién lo escucha- que no está muerto. En la operación de sustitución, deja de saber, porque la “realidad” es lo que ve en la pantalla. No hay tan sólo mediación.
La psicóloga social argentina, Ana Quiroga, acuñó el término “desmentida de la percepción” para referir cómo se instalan visiones de la realidad que aunque los sujetos la perciban en su concreta dimensión, operan haciendo ignorar las propias percepciones. El mundo digital, especialmente el generado por IA, lleva este fenómeno psicosocial más allá de todo límite: la operación digital de sustitución borra la experiencia.
En ese contexto, las personas (humanos de carne y cerebro) van perdiendo la capacidad de interrogarse e interrogar el mundo en que concretamente viven. Por eso los chatbots, especialmente GPT, pueden constituirse en el vínculo privilegiado. O el CEO de Tesla puede tener un robot como pareja. Diluyen la experiencia y con ella los conflictos, las tensiones, los desafíos. La IA muestra “la realidad” que se quiere tener o ver. Y los sujetos se transforman en una imagen más de esta imagen de lo real. De ahí la necesidad de fotografiar o filmar todo el tiempo con el celular, antes que experimentar la realidad, y subir inmediatamente esa imagen a las redes, particularmente en el modo selfie: el “sí mismo” deja de ser el humano para pasar a ser imagen; se instaura así la sustitución digital del sujeto. Esta operación especular pareciera haberse transformado en indispensable para reconocerse siendo o para ostentar ese siendo. En el reemplazo, la identidad es la imagen. Se es multimodal digital o no se es nada. Entonces, por ejemplo, no se ve ni se experimenta el mar para pensar, reflexionar, disfrutar su inmensidad sino para “selfearse”; no se cocina para compartir con los vínculos sino para “selfear” la comida. Si no hay imagen registrada en las redes, la realidad no existe.
Nuestro cerebro tiene el enorme potencial de transformar la percepción y experiencia de la realidad en aprendizaje y conocimiento en constante recreación. Algo que la IA no puede hacer, pero sí puede reproducir los millones de contenidos que representan a través del lenguaje y las imágenes las experiencias humanas que están registradas en la web. No experimenta, reproduce aquello que, a través de códigos matemáticos, puede parametrizar. Esa es “la realidad” que proporciona la IA: de hecho, una experiencia ajena conformada discursivamente. Si esa es “la realidad” que se impone a los sujetos, deriva inevitablemente en procesos de alienación.
La identidad, la autoría, el ser-hacer-pensar-sentir propios se delegan. Tal vez por eso, estudiantes de diversos niveles educativos, desde el primario hasta el superior, le “hacen hacer” a la IA los trabajos; le hacen “leer” a la IA los contenidos, le hacen “resumir”. En suma, es la IA la “que aprende”, aprovecha los datos y se los va fagocitando de acuerdo a los intereses de la empresa que está detrás del modelo utilizado. Y hasta hay jueces, como hemos visto, que delegan las sentencias a la IA. En todos los casos, desde una confianza ciega.
Las empresas tecnológicas nos quieren hacer creer que la IA piensa, crea, discierne mejor que cualquier humano. Y hay no pocas personas que han caído en la trampa. Incluso piensan que la IA puede hacer mejor que ellos cualquier cosa. En esa desmentida de la percepción, la identidad, la autoestima, la autodeterminación, la conciencia reflexiva y crítica se debilitan. Se desperdicia lo que la IA mejor sabe hacer (rastrear información y ordenarla en lapsos de tiempo imposibles para los humanos) se la interpreta desde lo que no es (la fábula empresaria).
En este contexto, resulta imperioso replantearse críticamente el concepto de mediación tecnológica en términos no solo del recurso sino de sus efectos psicosociales sobre las representaciones de la realidad y las prácticas que induce o cercena. Porque si reducimos la cuestión al recurso, el problema empieza y termina en la tecnología, en la IA: el problema es la IA y no el uso y los discursos que sobre ella se montan. Se legitima la idea de que es la IA la que produce (“hecho por IA”), se oculta a los responsables de ese hacer y se reduce la problemática estrictamente al recurso en sí mismo. La IA, como cualquier tecnología, hasta el presente es diseñada y empleada por humanos con determinados fines. Habrá que interrogarse entonces acerca de las causas por las cuales un sinnúmero de usuarios cree ciegamente en sus poderes y le delega su identidad y conciencia del mundo. Y, más allá, habrá que exigir a las políticas de Estado posicionamientos y acciones para resguardarse de estas desviaciones, particularmente en la dimensión educativa institucional y cotidiana, y para instalar el debate crítico al respecto. Porque si bien la regulación es indispensable, sin gestión y sin educación queda en letra muerta.
Debemos romper de una vez la trampa de la "adicción", esa etiqueta que solo sirve para culpar a la víctima y privatizar un malestar que es sistémico. No estamos ante un fallo de nuestra voluntad, sino atrapados en una ficción operativa, una "hiperstición" que no se limita a describir el mundo, sino que lo fabrica a su imagen y semejanza. Este sistema no nos obliga: nos seduce, nos induce y prefigura nuestros deseos, instaurando una atmósfera invisible donde nuestro agotamiento se vuelve la materia prima más rentable. El algoritmo no es está diseñado sólo para ser una herramienta, con él se intenta instalar un clima que vampiriza nuestra atención 24/7. Por eso, la respuesta no es el retiro místico ni el "detox" digital (privilegios de pocos), sino ejercer una verdadera "acción política" contra la máquina: un contra-hechizo colectivo capaz de quebrar la narrativa de la disponibilidad perpetua y devolvernos, finalmente, la soberanía radical sobre nuestro propio tiempo.
Dr. Alejandro Urueña: Abogado. Diplomado en Derecho del Trabajo y Relaciones Laborales, Universidad Austral; Diplomado en Derecho 4.0, Universidad Austral; Magister en Derecho del Trabajo у Relaciones Laborales, Universidad Austral (T.P); Posgrado de Inteligencia Artificial y Derecho, I.A.L.A.B, U.B.A. Posgrado en Metaverso, U.B.A. Programa (IA) Universidad Austral. Magister en Inteligencia Artificial Centro Europeo de Posgrado. Programa MIT en desarrollo y diseño en productos y servicios en lA con Insignia de Asignación Ejemplar. Bootcamp internacional inteligencia artificial aplicada al Derecho. Programa MIT Machine Learning in Business. Actualmente, cursando Maestría en Ciencias de Datos, Universidad Austral. Actualmente cursando Inteligencia Artificial Agéntica para la Transformación Empresarial.
María S. Taboada: Lingüista y Mg. en Psicología Social. Prof. de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.