A fines de enero, Twitter alojó una controversia jurídica que poco o nada permeó el debate nacional. Un juez colombiano había resuelto una acción de amparo constitucional (similar a nuestro recurso de protección) relativa a la cobertura de gastos de salud de un niño afectado con trastorno del espectro autista, basándose en las respuestas que una herramienta de inteligencia artificial (IA), denominada ChatGPT, suministrara a una serie de preguntas que él mismo le formulara. El juez justificó el recurso a esta herramienta, apelando a una ley colombiana que fomenta el uso de TIC en la administración de justicia.
Aunque, por ahora, la IA no parece tener en Chile la misma recepción que en otros sistemas judiciales, es evidente que está destinada a irrigar toda la red de relaciones, desempeños y funciones sociales. Es incontestable que ella puede administrar, resolver e, incluso, anticipar una serie de problemas para las que otrora solo el cerebro humano estaba adecuadamente premunido. Las máquinas pueden, así, emular el aprendizaje humano y replicar progresivamente otras habilidades y comportamientos. De ahí que su uso ha dejado de ser parte de la ciencia ficción para transformarse en una posibilidad concreta.
Este escenario abre nuevas perspectivas y también interrogantes, morales y jurídicas, sobre sus aplicaciones y riesgos. Entre otras, ¿la IA es compatible con las garantías del debido proceso o con el principio de igualdad? En efecto, algunos estudios muestran que los algoritmos tienden a reproducir sesgos de género, raza, edad o vinculados con la discapacidad. Desde el punto de vista de la rendición de cuentas, ¿es aceptable que sustituya, en todo o parte, la labor hermenéutica de jueces o juezas? En su caso, ¿de qué dependería un uso legítimo?, ¿de su fiabilidad? (el desarrollador de ChatGPT, por ejemplo, advierte que este no es completamente fiable por ahora), ¿de la transparencia de sus algoritmos? (para la mayoría de los usuarios, estos son opacos). Finalmente, ¿se ajusta la IA al ideal canónico de justicia? Para muchos, una justicia mecánica y deshumanizada es un retroceso. Si bien la IA nos aventaja en el procesamiento de información, carece de la campanilla moral en la que ha descansado la evolución jurídica.
Si el destino del derecho es adaptarse a la realidad de cada tiempo y sociedad, pareciera que discutir las condiciones de aplicabilidad de la IA es inevitable. La recientemente adoptada Carta Ética de la Unión Europea sobre la utilización de IA en sistemas judiciales apunta en este sentido; reconoce que la IA puede contribuir a mejorar la eficacia y la calidad del trabajo de los tribunales y prevé principios rectores para evitar impactos negativos, entre estos, el respeto de los derechos fundamentales y del principio de no discriminación, la calidad y la seguridad de fuentes y datos, la transparencia, neutralidad e integridad intelectual en su uso, y el dominio por parte de cada usuario de sus elecciones.
Por Yanira Zúñiga, profesora Instituto de Derecho Público, Universidad Austral de Chile
