Definir la justicia representa una dificultad ontológica histórica, una tarea que se agrava cuando observamos que, en su nombre, se ha generado una gran cantidad de injusticias. En el ámbito del Derecho, la irrupción de la Inteligencia Artificial (IA) ha polarizado el debate: mientras unos la identifican como una aliada indispensable para la eficiencia, otros la rechazan ante el riesgo de «alucinaciones» y «bazofia», lo que se hace evidente con la proliferación de escritos plagados de datos erróneos, como aquellos que citan con vehemencia sentencias y artículos inexistentes de la Constitución venezolana, aunque ése no es el único caso.
Opacidad algorítmica y la «caja negra»
Referencias cinematográficas como Mercy (Timur Bekmambetov, 2026) ilustran el temor social a un sistema algorítmico capaz de sentenciar y ejecutar de forma automática. Aunque ficcional, esta narrativa actúa como un espejo de nuestra cultura jurídica actual y de la desconfianza ante la pérdida de control humano sobre lo que consideramos autoridad. Este fenómeno de sospecha se vincula directamente con la opacidad algorítmica o la denominada «caja negra» (black box).
El desafío no es solo el resultado, sino la imposibilidad de auditar un proceso lógico que a los humanos nos tomaría cuatrillones de años comprender. Si el razonamiento algorítmico permanece inaccesible, la transparencia, piedra angular del debido proceso y de la legitimidad constitucional, se ve irremediablemente comprometida.
💬 «Si el razonamiento algorítmico permanece inaccesible, la legitimidad constitucional se ve comprometida.»
Desde el materialismo, Mercy es el clásico «por el bien de la trama», aunque científicamente incorrecto. Desde lo humano, es más bien un «semidiós» neuronal cuántico sirviendo a procesos neuronales biológicos. Es una «caja negra» inauditable porque opera con números irracionales y superposición, por lo que puede predecir en minutos lo que humanamente es inabarcable.
Para mitigar este riesgo, es imperativo el human-in-the-loop (humano en el bucle), para que, sin «maquinizar» la labor judicial o deshumanizar al jurista como simple engranaje de validación técnica, se establezca una «reserva de humanidad», principalmente en áreas irreductibles como la responsabilidad criminal o la afectación directa de derechos fundamentales, donde la decisión debe permanecer en la conciencia humana.
En la ficción, los procesos de simulación de empatía o los interrogatorios ralentizados son, a menudo, innecesarios para la lógica de la IA; sirven para ceñirse a los parámetros de la confianza humana. Juzgar es, ante todo, un proceso humano que no puede reducirse a una mera computación de datos. Son organismos biológicos los que son juzgados, no matemáticas perfectas decidiendo nuestro futuro. La responsabilidad jurídica en este nuevo ecosistema también plantea interrogantes sobre los roles de desarrolladores y usuarios, especialmente cuando un algoritmo afecta a terceros que jamás consintieron su uso.
Estos dilemas trascienden lo tecnológico para adentrarse en aguas filosóficas. En este punto, la obra de Paolo Benanti resulta fundamental, proponiendo la «Algorética» y advirtiendo sobre el peligro de delegar la voluntad en el cálculo estadístico. Nos recuerda que, si bien la máquina posee una capacidad de procesamiento inalcanzable para el hombre, la decisión, como acto profundamente vinculado a la libertad, la conciencia y la dignidad, es una facultad exclusivamente humana. En definitiva, la justicia no puede ser el producto de un simple cálculo; debe ser siempre el compromiso inquebrantable de la razón humana con la ética y la verdad.
