Menores infractores e inteligencia artificial: evaluación criminológica y aplicación de medidas judiciales
Catedrático de Derecho Procesal, Universidad de Salamanca
En plena eclosión de la revolución industrial 4.0, capitaneada por la aplicación de soluciones de inteligencia artificial a prácticamente todas las esferas de la sociedad, podemos llegar a plantearnos, desde el ámbito del derecho procesal y el ejercicio de las funciones jurisdiccionales, si una inteligencia artificial puede llegar a ser más objetiva e imparcial que un humano ejerciendo las funciones de juzgar y hacer ejecutar lo juzgado.
Más aún, en ámbitos tan singulares y específicos como es el de la justicia de menores, ante el menor infractor como sujeto que precisa de un tratamiento penal y procesal diferenciado del de los adultos, podemos valorar si el desarrollo e implantación de herramientas de inteligencia artificial legal pueden, por ejemplo, valorar de forma más completa e integral, la idoneidad de las medidas a imponer al menor, o la procedencia de una mediación o una solución de justicia restaurativa ante la comisión de la infracción penalmente relevante, o si pueden ayudar al personal jurisdiccional a valorar mejor las pruebas (testimonios, periciales que evalúen al menor). En definitiva, la evaluación criminológica del menor infractor, y con ello las decisiones jurisdiccionales de adopción de medidas: ¿puede mejorar cuantitativa y cualitativamente con la ayuda de herramientas de inteligencia artificial diseñadas y aplicadas para esta finalidad?, ¿puede, entonces, integrarse una solución de inteligencia artificial en los Juzgados de Menores, para que valore cuestiones penales y procesales del menor infractor, como por ejemplo, en materia de ejecución de medidas impuestas en sentencia y su posible sustitución, extinción o modificación?.
El punto de partida ha de situarse en determinar, en primer lugar, qué entender por inteligencia artificial a estos efectos. Nos referimos a sistemas de software (y posiblemente también de hardware), diseñados por humanos, y que dado un objetivo complejo, actúan a través unas técnicas concretas, previa adquisición de datos y su posterior tratamiento, y reglas predeterminadas (algoritmos) para generar diversos resultados de contenido, predicciones, recomendaciones o decisiones que influyen en el entorno con el cual interactúan.
Ciertamente, hoy en día, y con carácter previo a valorar la situación expuesta, la utilización de inteligencia artificial en el entorno jurisdiccional, con funciones asistenciales que no sustitutorias del juez/a humano, carece de los tres sostenes básicos que habilitarían su implementación con todas las garantías. A saber:
- norma legal de cobertura -no hay previsión actualmente que considere y disponga su empleo-,
- jurisdiccionalidad -entendida en cuanto al necesario control por el personal jurisdiccional de su utilización y valoración de resultados-
- respeto a los derechos fundamentales -inhabilitando el empleo de cualquier herramienta de inteligencia artificial que pueda menoscabarlos o vulnerarlos-.
Es factible, en todo caso, señalar una serie de premisas básicas aplicables a la utilización de herramientas de inteligencia artificial para la evaluación criminológica del menor en el contexto de un proceso penal frente a un menor infractor. A modo de grandes principios podríamos indicar los siguientes:
- principio de no discriminación: tendente a evitar la aparición o intensificación de cualquier tipo de estigmatización entre individuos o grupos de personas que los prejuzguen por algún tipo de condición o situación. En nuestro particular supuesto sería especialmente relevante que el diseño de una herramienta de inteligencia artificial aplicada a la evaluación criminológica del menor infractor no le discrimine, por ejemplo, por el mero hecho de su minoría de edad a la hora de valorar las medidas a adoptar en sentencia o en su posible ejecución
- principio de calidad y seguridad: referente al procesamiento de decisiones y datos judiciales, desde fuentes certificadas e intangibles, que sean el soporte sobre el cual se datifica la herramienta de inteligencia artificial que se diseñe al efecto, teniendo muy presente, en este caso, todas las previsiones legales en materia de protección de datos personales y de la protección del interés superior del menor
- principio de transparencia: haciendo comprensible y accesible los métodos de procesamiento de datos para evitar indefensión, tanto procesal como tecnológica, a los afectados por la utilización de una herramienta de inteligencia artificial dentro del contexto del proceso penal del menor
- principio de “control por el usuario”: determinando que cualquier decisión o recomendación evacuada en la evaluación de elementos vinculados al procesamiento penal de un menor infractor ha de ser asumida por el titular del Juzgado de Menores, como elemento humano inexcusable que ha de incorporar a su resolución, en su caso, la valoración de los resultados de la herramienta de inteligencia artificial empleada así como la motivación personal de la convicción que con ello le ha generado en su decisión
Adoptando, por tanto, la vertiente asistencial a la función jurisdiccional que puede comportar la disponibilidad de soluciones de inteligencia artificial en la valoración de determinadas circunstancias procesales, señalamos, sin ánimo de exhaustividad, algunas posibilidades que podrían ser de interés en el ámbito de la justicia penal de menores. Podrían tener utilidad funcionalidades que ofrezcan reconstrucciones de los hechos sobre vestigios de la investigación, o que contrasten la certeza de declaraciones testificales sobre datos objetivos, o para la valoración del propio testimonio, o la adecuación del dictamen pericial o la experiencia e idoneidad del perito. En igual sentido funcionalidades de inteligencia artificial que puedan calcular la probabilidad de cumplimiento de una medida cautelar o el riesgo de reincidencia, o de cumplimiento de medidas educativas desde parámetros de evaluación criminológica del menor infractor (en programas adaptados a la particularidad del menor infractor de corte similar a los utilizados, por ejemplo, en Estados Unidos, como COMPAS o el PTRA o el PSA).
Ahora bien, en estos casos siempre desde la concesión de un carácter asistencial al elemento que encarna la herramienta de inteligencia artificial utilizada por el Juzgado de Menores, siendo el titular del órgano jurisdiccional quien debe decidir y ponderar en qué medida asume los resultados y motivando en su resolución, junto a otros posibles elementos de convicción, la repercusión que dicha herramienta ha tenido para su posición. No olvidemos que la Directiva 2016/680 UE, en su art. 11.1 y en relación con la utilización de algoritmos predictivos en justicia y protección de datos personales prohíbe las decisiones basadas únicamente en tratamiento automatizado, que produzcan efectos negativos para el interesado o le afecten significativamente.
En el caso de la flexibilización de medidas impuestas en sentencia, por ejemplo, una inteligencia artificial predictiva del comportamiento del menor infractor, puede aportar al titular del Juzgado de Menores información relevante para ajustar su decisión dentro del marco de posibilidades que permite la Ley Orgánica de Responsabilidad Penal del Menor, debida a la propia discrecionalidad que la ley le otorga en la individualización y forma de ejecución, para una mejor atención de las necesidades reeducadoras del menor. En idéntico sentido, la propia flexibilización en la imposición de medidas en sentencia, desde el amplio catálogo del art. 7.1 de la LORPM, donde el Juez/a de Menores tiene diversas variantes para una respuesta individualizada a las consecuencias penales de la infracción cometida por el menor, atendiendo no sólo a la prueba y valoración jurídica de los hechos, sino especialmente a la edad, circunstancias familiares y sociales, personalidad e interés del menor. Una herramienta de inteligencia artificial, sin sesgos, podría ofrecer predicciones útiles en cuanto a las medidas más idóneas en cada caso, atendiendo a esos y otros parámetros, y ofreciendo una mejor respuesta ante el delito cometido, en consonancia con otros elementos como puede ser el informe aportado por el Equipo Técnico.
De igual forma, en relación con la ejecución de la medida impuesta en sentencia, y de acuerdo con el principio de flexibilidad del art. 13 LORPM, el Juez de Menores puede dejar sin efecto en cualquier momento la medida impuesta, reducir su duración o sustituirla por otra, siempre que la modificación redunde en interés del menor, disponiendo para ello de toda la información posible, dentro de la cual podría emplearse, nuevamente, una herramienta de inteligencia artificial que pueda evacuar predicciones sobre la eventual repercusión que sobre el futuro comportamiento del menor puede tener esta decisión.
Finalmente reiteramos dos elementos esenciales dentro de la situación planteada en el contexto de las presentes reflexiones. El empleo de cualquier herramienta de inteligencia artificial vinculada al enjuiciamiento de menores infractores requiere la observancia y escrupuloso respeto de los derechos del menor (presunción de inocencia, defensa, debido proceso, no discriminación, igualdad) así como el alineamiento con el principio de interés superior del menor, más aún cuando pueden deparar riesgos para sus derechos fundamentales. Debe evitarse, asimismo, la perpetuación de patrones y automatismos a la que puede tender una herramienta de inteligencia artificial, perpetuando sesgos o decisiones incorrectas, e incluso agravándolas sin reconsiderar las particularidades de cada delito y de cada menor infractor y sus circunstancias personales.
