La columna de Alejandro Urueña y María Taboada: "¿Quién dice la verdad sobre la IA? Pongamos las cosas en su lugar"

La teoría de Altman sobre un mundo en el que la IA realiza todos los trabajos: los humanos ya ni siquiera necesitan decidir sobre las formas de gobernanza. El relato no es novedoso. La literatura lo ha recreado infinidad de veces, particularmente la de Ciencia Ficción, y el cine ha hecho otro tanto.

La diferencia con el discurso de Altman es que  éste da prácticamente por sentado el logro de la AGI (Inteligencia Artificial  General) que generaría máquinas, algoritmos, con todas las capacidades humanas e incluso más. Y no es sólo Altman, como vocero de su empresa OpenAi, el que sostiene esta afirmación falaz. La mayoría de los discursos de los gigantes y las startups de IA transforman en un hecho lo que aún hoy es un proyecto. El argumento viene avalado  en parte por  los exponenciales desarrollos en IA, pero sobre todo responde a la competencia  del mercado: convencer a los usuarios de la omnipotencia de sus productos. Construyen en sus narrativas lo que se denomina una “hipóstasis”: darle entidad material concreta a una idea o concepto. 

La revista de tecnología del MIT, en un reciente artículo, señala que esta operación discursiva está dando lugar a una de “las grandes teorías conspiranoicas de nuestro tiempo”, que recluta tanto fieles adeptos como videntes apocalípticos. 

Precisamente la AGI – o su presunta existencia- fue la motivación para que Ilya Sutskever, cofundador y exdirector científico de OpenAI, abandone la compañía, argumentando que la empresa se alejaba de los fines originarios de generar una IA abierta que beneficie a toda la humanidad. Sutskever funda luego Safe Superintelligence cuyo objetivo es, como el nombre de la compañía lo anuncia, desarrollar una superinteligencia que supere a la AGI, pero con garantías de  autocontrol que eviten una amenaza para  la humanidad. Como se advierte -con diferente perspectiva- ambos dan por hecho una conjetura.

Algo similar ocurre también en los discursos publicitarios en torno a la IA agéntica. Hay quienes señalan que estamos a un paso de robots que realicen de manera autónoma y completa, sin supervisión, tareas como los humanos ( Globant - 2025 Tech Trends report). Y hay otros, como  A. Karpathy, también fundador de OpenAI, y  luego director de IA en Tesla (ahora dedicado a la docencia independiente) que  a la vez que niega la existencia actual de la AGI, sostiene que los empleados digitales, los agentes robots de IA, “capaces”  de llevar a cabo un trabajo de comienzo al fin, autónomo y sin supervisión humana,  requieren un desarrollo tecnológico que demorará al menos diez años.

¿Por qué tanta insistencia en dar por hecho una tecnología que está en  fase de proyecto? 

El mercado de la inteligencia

La hipóstasis de la AGI o de los “empleados digitales” es una estrategia de fetichización, que las empresas de IA utilizan  en la publicidad de sus productos para captar y cooptar usuarios en un mercado de datos que es hoy una de las claves de la economía planetaria. Se trata de convencer al cliente sobre la total fiabilidad, experticia y rapidez con que la IA puede reemplazar en las tareas al humano, ahorrando esfuerzo y tiempo y “haciéndolo mucho mejor”. Es lo que ocurre al presente con el uso de los LLM. Se delegan en éstos tareas que efectivamente realizan con mayor rapidez (búsquedas de información, organización y clasificación de datos, etc.) pero también tareas que requieren discernimiento, metacognición, raciocinio crítico, capacidades específicamente humanas de las que carecen. Se delega libertad de pensamiento, identidad, creatividad, autoría.

¿Por qué esa excesiva confianza? Porque hay una literatura que se multiplica día a día en la que se afirma que los modelos de IA entienden, interpretan, piensan, crean. La misma designación de la tecnología, “Inteligencia Artificial” instituye el supuesto de la analogía con el humano. Gran parte del universo terminológico y conceptual del campo está tomado de las neurociencias, las ciencias cognitivas, las ciencias del lenguaje  (entre otras) pero sin especificar las diferencias o haciéndolo de manera difusa y ambigua. La IA generativa se define por su “capacidad” de “crear” productos “novedosos y originales”. L. Kaiser, uno de los autores del artículo “Atención es todo lo que necesitas”, investigación que marca un antes y un después en el procesamiento de los LLMs, cuando en una entrevista se le pregunta qué es la inteligencia, responde  que no lo sabe y -agrega- que están aprendiendo qué es en base al diseño y evaluación de modelos tecnológicos.

Resulta al menos sugestivo que el campo disciplinar que se propone emular las capacidades humanas desconozca cuál es su especificidad: la que  distingue al homo sapiens del resto de las especies (biológicas o tecnológicas). 

Los LLMs, hasta el presente, carecen de las características inherentes del lenguaje humano: el único lenguaje que existe como tal. Lo demás, son metáforas. Los modelos  codifican matemáticamente el discurso sobre la base de parámetros inducidos y probabilidades estadísticas sobre los datos. Carecen, entre otras, de una propiedad intrínseca  del lenguaje, la reflexividad, que implica metacognición: cuando hablamos o cuando escuchamos,  todo el tiempo monitoreamos, reflexionamos sobre lo que estamos diciendo o escuchando. El lenguaje es al mismo tiempo, en cada acto lingüístico, capacidad , producción y objeto de reflexión. Pensamos, a medida que hablamos y escuchamos, sobre lo que decimos y escuchamos y sobre cómo lo decimos y escuchamos. Somos a cada instante conscientes, críticos, creadores, reflexivos. Las máquinas, los algoritmos no piensan, no son conscientes, no son críticos, ni creadores, ni reflexivos sobre lo que producen. Y es necesario repetirlo una y otra vez. De lo contrario, las máquinas terminarán suplantándonos, no por un supuesto (o real) mayor potencial, sino por aceptar crédulamente  la ficción comercial y cederles – inconscientemente- nuestra condición y evolución  humanas.

Hay que poner las cosas en su lugar. Saber usar la IA para nuestro desarrollo. Para eso, es necesario saber distinguir realmente lo que es verdad de lo que es ficción. A la educación y a las políticas estatales les cabe aquí un rol indelegable.

Dr. Alejandro Urueña: Abogado. Diplomado en Derecho del Trabajo y Relaciones Laborales, Universidad Austral; Diplomado en Derecho 4.0, Universidad Austral; Magister en Derecho del Trabajo у Relaciones Laborales, Universidad Austral (T.P); Posgrado de Inteligencia Artificial y Derecho, I.A.L.A.B, U.B.A. Posgrado en Metaverso, U.B.A. Programa (IA) Universidad Austral. Magister en Inteligencia Artificial Centro Europeo de Posgrado. Programa MIT en desarrollo y diseño en productos y servicios en lA con Insignia de Asignación Ejemplar. Bootcamp internacional inteligencia artificial aplicada al Derecho. Programa MIT Machine Learning in Business. Actualmente, cursando Maestría en Ciencias de Datos, Universidad Austral. Actualmente cursando Inteligencia Artificial Agéntica para la Transformación Empresarial.

*María S. Taboada: Lingüista y Mg. en Psicología Social. Prof. de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.