Juicios estadísticos vs "clínicos" de nuevo
Aquí se habla de algo de cuya parte más relevante para lo que sigue, ChatGPT ha hecho el siguiente resumen:
La inteligencia artificial (IA) está revolucionando el campo de la penalística, especialmente en lo relacionado con la predicción del comportamiento delictivo. Esta capacidad predictiva de la IA se basa en el análisis de datos y el uso de algoritmos para formular pronósticos de validez en la prevención de conductas criminales. Sin embargo, es necesario tener precaución en su aplicación, ya que la configuración de los algoritmos puede estar influenciada por ideologías y generar resultados sesgados. Además, la utilización de la IA para fundamentar decisiones judiciales plantea interrogantes sobre la neutralidad del sistema y el respeto a los derechos fundamentales del ciudadano, como el derecho a la presunción de inocencia y a un juicio justo.
A pesar de las ventajas y potencialidades de la IA en diversos ámbitos, incluido el campo de la justicia penal, es crucial considerar los posibles impactos en los derechos ciudadanos. El pronóstico de peligrosidad delictiva generado por un sistema cibernético no debe ser utilizado como fundamento exclusivo de una decisión judicial, ya que esto contradice el deber de motivación de las sentencias. Además, existen obstáculos técnicos que limitan las garantías procesales, como la incertidumbre sobre la neutralidad de la IA y la falta de acceso completo a los datos utilizados en el algoritmo. Para remediar estos problemas, se requiere un control riguroso y la participación de expertos juristas para evitar conclusiones parciales o sesgadas. La apreciación de la peligrosidad de un individuo enjuiciado debe recaer en el juzgador, quien no puede sustituir su valoración por la proporcionada por un sistema de IA basado en experiencias ajenas al caso, preservando así el derecho a un juicio justo y con todas las garantías para la persona juzgada.
Y alguien ha respondido:
Es casi lugar común que podríamos ponernos a debatir sobre la democracia, enumerar sus muchos problemas y concluir que es un sistema político, como poco, muy perfectible. Pero todos conocemos la cita al respecto.
Los sistemas basados en la IA son una alternativa a otros: los basados en juicios expertos, comités o como se quiera denominarlos. La pregunta entonces se convierte en: ¿cuáles son preferibles? Afortunadamente, existe una literatura al respecto cuya consulta nos permite trascender la visión unilateral y reduccionista (tan común, también hay que decirlo, en esos tiempos que corren). Recomiendo comenzar el librito de Paul Meehl (¡primera edición de los años 40; última, actualizada, de los 90!) Clinical versus actuarial judgement, que, además, trata expresamente algunos asuntos relacionados directamente con los discutidos en la entrada. En él, se denominan «actuariales» o estadísticos los juicios automáticos generados por lo que hoy se ha dado en llamar muy impropiamente IA; los clínicos son los emitidos por un experto o conjunto de expertos.
