En todo proceso de investigación y en el de transferencia tecnológica, la IA ocupa hoy un rol insoslayable. A la vez que simplifica y agiliza un sinfín de tareas, especialmente aquellas que tienen que ver con la búsqueda, recolección y procesamiento de datos que requieren tareas repetitivas y altos montos de memoria, favorece la precisión o potencialidad para registrar y percibir más allá de las posibilidades humanas.
Foto: X
Es indudable el aporte que la IA realiza a la ciencia. De hecho, la misma IA es producto del desarrollo de este campo del conocimiento. En todo proceso de investigación y en el de transferencia tecnológica, la IA ocupa hoy un rol insoslayable. A la vez que simplifica y agiliza un sinfín de tareas, especialmente aquellas que tienen que ver con la búsqueda, recolección y procesamiento de datos que requieren tareas repetitivas y altos montos de memoria, favorece la precisión o potencialidad para registrar y percibir más allá de las posibilidades humanas. Un ejemplo ilustrativo es AlPhaFold de Deep Mind, que ha permitido la simulación de proteínas difíciles de producir materialmente. ¿Cuál es entonces el eje de debate?
La polémica se ha suscitado por la posibilidad de que la IA reemplace al científico. James Zou, informático de la Universidad de Stanford, ha abierto el camino al apelar a “científicos virtuales” para encontrar nuevos tratamientos para el COVID 19; investigación que presentará en una conferencia en octubre sobre “Agents4Science”.
Historia y desafíos del planteo
El argumento de Zou tiene su punto de partida en un experimento que, junto a un colega, llevaron a cabo para probar qué tareas y desarrollos científicos podría llevar a cabo por sí solo un “Laboratorio Virtual”. Tomaron como objeto de estudio para hacer su prueba el diseño de terapias para las nuevas cepas de COVID-19. Zou entrenó a 5 “científicos” de IA para operar: a algunos los entrenó en inmunología y biología computacional y a otros, como investigadores principales. Afirma que los agentes “decidieron” por sí solos estudiar nanocuerpos anticovid porque conectaron los recursos computacionales limitados que tenían con el potencial de estas pequeñas moléculas y lograron diseñar anticuerpos eficientes. Los creadores del proyecto admiten, sin embargo, que lo fundamental del Laboratorio Virtual no fue su autonomía sino su condición de herramienta productiva para la automatización,
La investigación se publicó en la Revista Nature. En esa instancia Zou se enfrentó con un dilema. Buena parte del proceso había sido realizado por agentes virtuales pero la mayoría de las revistas científicas no aceptan como coautora a la IA. Es más, muchas prohíben el uso de la IA para la elaboración de los artículos científicos.
Con el afán de revertir este posicionamiento, Zou diseñó la conferencia Agents4Sciencie que, en el otro polo de la polémica, exige que el autor principal de los trabajos sea una IA, así como los evaluadores científicos. Sin embargo, incluye científicos humanos para revisar el proceso final.
La conferencia tiende a evidenciar un nuevo avance de la IA agéntica, esta vez con el objetivo de asumir roles hasta ahora limitados o insospechados para la tecnología. A los efectos de afirmar la dimensión agéntica, se estipula que sea la misma IA la que presente el trabajo mediante tecnología de voz.
El proyecto de “científicos de IA” está basado en el exponencial desarrollo de los LLM (grandes modelos de lenguaje) y de la IA basada en “razonamiento”. De la convergencia de ambos avances tecnológicos surge la idea de que las IA puede asumir los roles de un científico desde el inicial planteo de hipótesis hasta el diseño y ejecución del proyecto, incluida la experimentación.
La perspectiva de Zou cuenta con la anuencia de un sector de pares y de legisladores. En esa dirección, el “Plan de acción de IA” del gobierno estadounidense insiste en la necesidad de inversión en laboratorios automatizados en la nube para desarrollos científicos en varios campos. La fundamentación que se esgrime es que estos “científicos de IA” podrían lograr descubrimientos imposibles para los humanos sin el apoyo de la tecnología y, a la vez, los agentes científicos no tienen las limitaciones biológicas del ser humano y pueden trabajar y estar disponibles 24/7. Asimismo, Zou, a partir de su experiencia en Harvard, advierte que los LLM pueden dominar diferentes idiomas al instante, leer y traducir el discurso y el vasto universo léxico semántico específico de cada área y operar con generalizaciones de gran magnitud. A partir de allí, propone un “Laboratorio Virtual" que consistiría en un equipo de agentes de IA diseñados para emular el equipo de un laboratorio científico. Los agentes contarían con especialización en diversas áreas y podrían interaccionar con diferentes programas como el AlphaFold. Los investigadores humanos asignarían a estos agentes una agenda de tareas para luego indagar cómo se comunican y qué experimentos podrían concretarse en ensayos reales
Hacia laboratorios de “conciencia” distribuida
La visión de Zou de cinco "científicos" de IA especializados podría encontrar en arquitecturas como LangGraph una posibilidad para concretarse. Pero sería necesario que se superen al menos dos limitaciones actuales. Los agentes tendrían que poder mantener un estado persistente en su “razonamiento” y deberían desarrollar una especie de metacognición artificial que le permitiera cuestionar sus propias hipótesis mientras observan y critican el trabajo de sus pares en tiempo real. Cuando los agentes "decidieran" estudiar nanocuerpos anticovid, esa decisión podría emerger de conversaciones internas completamente auditables entre el inmunólogo virtual y el biólogo computacional, donde cada argumento, cada duda, cada salto lógico quedaría registrado como nodos transitables que los investigadores humanos podrían inspeccionar, modificar o redirigir sin romper jamás la continuidad del proceso de descubrimiento. Esta transparencia total podría convertir las temidas "alucinaciones" científicas en oportunidades de refinamiento sistemático donde cada error se vuelve un punto de entrada para mejorar el razonamiento de todo el sistema.
El potencial más revolucionario de aplicar arquitecturas tipo LangGraph a la propuesta de Zou radica en la posibilidad de crear una nueva forma de hacer ciencia donde la potencialidades cognitivas y lingüísticas humanas y la persistencia computacional se potencien mutuamente de maneras antes impensables. En lugar de agentes que operan como cajas negras especializadas, podríamos llegar a diseñar grafos donde cada nodo representara no solo una decisión sino una pregunta que el sistema se hace a sí mismo. Los investigadores humanos podrían intervenir en cualquier punto de este grafo conversacional no como supervisores externos sino como catalizadores que inyectan creatividad precisamente cuando detectan que el sistema está atrapado en bucles de lógica predecible. Podríamos entonces pensar en producir laboratorios virtuales donde la velocidad y precisión computacional se combinen con la capacidad humana de hacer preguntas inesperadas, creando espacios de investigación que amplifiquen el genio científico en lugar de reemplazarlo.
Polémicas e interrogantes en pie
Del otro lado del optimismo de Zou, se encuentran aquellos que insisten en que la IA aún no está capacitada para desarrollar el pensamiento creativo esencial para la producción de ciencia, adolece del riesgo de errores y alucinaciones y, en el plano profesional, amenaza la formación de jóvenes investigadores
Como se advierte, hay un planteo relativo a las potencialidades de la IA que converge con un planteo profesional-laboral.
De hecho las conclusiones de Zou respecto del valor instrumental del Laboratorio y de la necesidad de humanos diagnosticando, monitoreando y evaluando restringe la asimilación entre el científico autónomo y el agente colaborador.
Einstein consideraba a la imaginación como un factor central de la ciencia que le permite al cerebro humano y a la ciencia “correr sin límites ni barreras”. Para imaginar -sin “alucinar”- es necesaria la experiencia en y con el mundo y la constatación de la fiabilidad y validez de esa experiencia, condiciones ambas de las que hasta el momento carece la IA.
La transpolación de términos científicos (“la IA piensa, razona, crea”, etc.) sin más de los campos cognitivos, neurológicos y psicológicos -para sólo señalar algunos – es una de las bases ocultas de la polémica. La apropiación, el aggiornamiento -cuando no el avasallamiento terminológico y semántico- reclama de precisiones y de diferenciación específica. Los gigantes tecnológicos fomentan permanentemente esta “metaforización” terminológica para vender y expandir sus productos en el contexto del mercado planetario de datos y algoritmos. Los científicos de la IA no han mostrado un riguroso celo en la definición de las diferencias de estas extrapolaciones que comienzan por el mismo campo disciplinar: ¿qué autoriza a definir como inteligencia a la disciplina y a la tecnología de la “inteligencia” artificial? ¿Qué se entiende por inteligencia y cuáles son sus diferencias con la humana?¿Cuál es la diferencia entre una red neuronal artificial y una real? ¿Qué diferencia al procesamiento algorítmico con el razonamiento humano?
Son algunas de las preguntas que reclaman un debate riguroso, si vamos a ser científicos. De lo contrario, lejos de distinguir los aportes de la IA y sus limitaciones, se seguirá fomentando la confusión sustentada en ambigüedades y generalizaciones vagas, que suelen conducir ya al mesianismo y fetichismo tecnológico o a su impugnación apocalíptica. Nada más alejado de la ciencia.
No hay que temerle a los interrogantes porque, como él mismo Einstein solía repetir, al referirse a una de las condiciones del conocimiento (humano): “la pregunta, siempre la pregunta”. ¿La IA puede interrogarse a sí misma e interrogar a sus producciones, de manera autónoma y crítica?
*Alejandro Urueña: Ética e Inteligencia Artificial (IA) - Founder & CEO Clever Hans Diseño de Arquitectura y Soluciones en Inteligencia Artificial. Magister en Inteligencia Artificial
*María S. Taboada: Lingüista y Mg. en Psicología Social. Prof. de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.