Derecho Inteligente: Por qué los abogados deben conocer el backstage de la IA

Josh Tenenbaum, investigador del MIT, plantea una distinción fundamental para comprender el momento actual de la inteligencia artificial: existe lo que él denomina "IA en caja negra", pero no una IA real en el sentido más profundo del término.

Esta observación resulta especialmente relevante para quienes ejercen profesiones que requieren comprensión crítica de los sistemas que utilizan. La diferencia entre ambos conceptos radica en cómo estos sistemas procesan información y generan decisiones.

Mientras que la IA actual puede clasificar miles de ejemplos con precisión notable, requiere cantidades masivas de datos para aprender conceptos que un ser humano captaría con un solo ejemplo, como reconocer un Segway (por ejemplo) la primera vez que lo ve o identificar una leva de escalada sin haberla visto antes.

Esta brecha entre el aprendizaje humano y el aprendizaje de máquina no es meramente técnica, sino que tiene implicaciones profundas para cualquier profesional que deba evaluar, regular o utilizar estos sistemas en contextos donde las decisiones impactan derechos y obligaciones.

La distinción cobra particular importancia en el ámbito jurídico, donde las decisiones no pueden fundamentarse únicamente en correlaciones estadísticas derivadas de patrones en grandes volúmenes de datos.

Como señala Tenenbaum en su trabajo en MIT Sloan y MIT CSAIL, los algoritmos convencionales de aprendizaje automático pueden necesitar cientos o miles de ejemplos para aprender un concepto que un humano comprende instantáneamente. Esta diferencia estructural entre cómo razonan las máquinas y cómo razonan los humanos plantea interrogantes esenciales sobre la delegación de funciones decisorias a sistemas algorítmicos, especialmente cuando esas decisiones afectan derechos fundamentales, acceso a oportunidades o la libertad de las personas. Comprender estas limitaciones no es opcional para quienes tienen la responsabilidad de establecer los marcos normativos que regirán el uso de estas tecnologías.

La inteligencia artificial se ha vuelto omnipresente en la vida cotidiana, profesional e institucional. Los algoritmos que la sustentan suelen concebirse como cajas herméticas e impenetrables, pero existe una perspectiva alternativa: es posible instruirse para destaparlas, inspeccionarlas y comprenderlas. Esta aproximación resulta especialmente relevante para quienes ejercen el derecho, ya que enfrentan un doble desafío que combina tanto oportunidades como amenazas.

La doble dimensión: oportunidad y riesgo

Por un lado, la inteligencia artificial representa una oportunidad significativa. Esta tecnología habilita la realización de tareas de modo más eficiente y veloz, permitiendo alcanzar objetivos que antes demandaban extenso tiempo y esfuerzo, tales como  descifrar patrones o extraer conclusiones relevantes. La participación creciente de estos sistemas en el ámbito profesional no es casual, sino que responde a una necesidad real de optimizar procesos y amplificar capacidades humanas.

Sin embargo, existe también una amenaza considerable. Cuando se delega parcial o completamente el proceso decisorio hacia sistemas algorítmicos, ya sea en corporaciones u organismos públicos, pueden generarse fallas, inclinaciones o discriminaciones. Los ejemplos de este riesgo abundan en la práctica: el desconocimiento del aspecto oculto de un puntaje crediticio que afecta a entidades o individuos, una ascensión laboral obstaculizada porque el sistema califica la institución donde estudió el  candidato como carente de prestigio, o un fallo judicial influido por recomendaciones estadísticas automatizadas. En todos estos escenarios, los algoritmos sin control apropiado pueden lesionar gravemente a personas y entidades.

La responsabilidad singular de los operadores del derecho

Los operadores del derecho ocupan una posición singular en este contexto. La sociedad espera de ellos el establecimiento de marcos éticos y normativos que orienten el desarrollo y aplicación de estas tecnologías. Esta responsabilidad implica crear legislación pertinente, redactar acuerdos que contemplen las especificidades de la inteligencia artificial, orientar a clientes sobre sus implicaciones y establecer límites definidos frente a las tecnologías emergentes. Asimismo, incluye dirigir procesos en casos de utilización indebida, fijar criterios de registro para creaciones producidas con IA y determinar responsabilidades cuando las decisiones automatizadas son adoptadas por jueces, secretarios judiciales o relatores.

Este panorama multidimensional exige de los profesionales del derecho un dominio mínimo especializado. Ignorar el funcionamiento de los mecanismos internos de la inteligencia artificial impide participar en una comprensión con perspectiva sólida y crítica. El contacto directo con la herramienta tecnológica resulta fundamental, no como capricho académico, sino como necesidad práctica para ejercer competentemente la profesión.

El problema de las brechas conceptuales

Una cuestión esencial ilustra esta necesidad: el concepto de "sesgo" no significa lo mismo para un jurista que para un científico de datos. Esta diferencia conceptual puede generar malentendidos profundos con consecuencias prácticas importantes. Por este motivo resulta urgente sincronizar definiciones entre disciplinas, entendiendo qué representa un modelo parcializado, cómo se detecta técnicamente y cuándo cobra relevancia jurídica específica. Lo que no se puede construir o comprender en su estructura fundamental, no se puede completar de asimilar en sus implicaciones.

Incorporar conocimientos sobre inteligencia artificial implica captar, experimentar y comprender  cómo funcionan estos mecanismos. No basta con elaborar una buena instrucción o cadena de pensamientos para alimentar un sistema; se requiere comprender la estructura lógica que lo sustenta, las decisiones de diseño que determinan su comportamiento y las limitaciones inherentes a su arquitectura.

El derecho como fenómeno de Big Data

El campo jurídico contemporáneo se ha convertido en un fenómeno de Big Data. El ejercicio profesional se alimenta de una cantidad de documentación, regulaciones, sentencias y pruebas tan abrumadora que excede largamente la capacidad humana de análisis tradicional. En este contexto, la inteligencia artificial no constituye un lujo prescindible, sino una herramienta imprescindible para interpretar y organizar ese océano de información legal. La pregunta no es si utilizarla, sino cómo hacerlo de manera responsable y efectiva.

Esta realidad genera una paradoja: la profesión jurídica necesita imperiosamente de la inteligencia artificial para gestionar la complejidad informacional contemporánea, pero simultáneamente debe regularla para proteger los derechos que constituyen su razón de ser. Esta tensión no puede resolverse desde la ignorancia técnica; exige desde la comprensión profunda de ambos dominios.

La inteligencia artificial necesitará regulación apropiada y, para implementarla adecuadamente, resulta esencial desarrollar una mirada jurídica propia sobre la tecnología. Esto implica construir un derecho de y sobre la tecnología que no sea meramente reactivo, sino que anticipe problemas y establezca marcos de actuación claros. Este objetivo exige estudio riguroso, análisis objetivo y criterios razonables fundamentados en comprensión técnica genuina.

Estudiar la inteligencia artificial de forma profunda, mediante la comprensión de sus fundamentos técnicos y lógicos, permitirá que el derecho la norme sin miedo paralizante pero con autoridad y fundamento sólido. 

Entender cómo funciona esta tecnología no es una opción entre muchas posibles, sino que representa la nueva alfabetización esencial del ámbito jurídico. Quienes aspiren a regular, aplicar o litigar en contextos donde interviene la inteligencia artificial necesitarán transitar este camino de aprendizaje técnico como condición necesaria para el ejercicio competente de su profesión.

La alfabetización tecnológica no implica que todo abogado deba convertirse en programador o científico de datos, pero sí requiere conocer los principios fundamentales que gobiernan estos sistemas, sus capacidades reales más allá del marketing comercial, sus limitaciones estructurales y los puntos críticos donde pueden generarse problemas con relevancia jurídica. Solo desde esta comprensión informada será posible construir el marco normativo que la sociedad contemporánea demanda y que la profesión jurídica está llamada a proveer.

Por: Alejandro Urueña Investigando la IA, su relación con el Derecho y las actividades productivas. Project Management I.A. Abogado. Diplomado en Derecho del Trabajo y Relaciones Laborales, Universidad Austral; Diplomado en Derecho 4.0, Universidad Austral; Magister en Derecho del Trabajo y Relaciones Laborales, Universidad Austral (T.P); Posgrado de Inteligencia Artificial y Derecho, I.A.L.A.B, U.B.A. Posgrado en Metaverso, U.B.A. Programa (IA) Universidad Austral. Magister en Inteligencia Artificial Centro Europeo de Posgrado. Programa MIT en desarrollo y diseño en productos y servicios en IA con Insignia de Asignación Ejemplar.  Bootcamp internacional inteligencia artificial aplicada al Derecho. Programa  MIT Machine Learning in Business. Actualmente, cursando Maestría en Ciencias de Datos, Universidad Austral. Actualmente cursando Inteligencia Artificial Agéntica para la Transformación Empresarial.

Por: María S. Taboada: Lingüista y Mg. en Psicología Social. Prof. Titular de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.