Menors infractors i intel·ligència artificial: avaluació criminològica i aplicació de mesures judicials
Catedrático de Derecho Procesal, Universidad de Salamanca
En plena eclosió de la revolució industrial 4.0, capitanejada per l’aplicació de solucions d’intel·ligència artificial a pràcticament totes les esferes de la societat, podem arribar a plantejar-nos, des de l’àmbit del dret processal i l’exercici de les funcions jurisdiccionals, si una intel·ligència artificial pot arribar a ser més objectiva i imparcial que un humà exercint les funcions de jutjar i fer executar el jutjat.
Més encara, en un àmbit tan singular i específic com és el de la justícia de menors, davant el menor infractor com a subjecte que precisa d’un tractament penal i processal diferenciat del dels adults, podem valorar si el desenvolupament i implementació d’eines d’intel·ligència artificial legal poden, per exemple, valorar de forma més completa i integral, la idoneïtat de les mesures a imposar al menor, o la procedència d’una mediació o una solució de justícia restaurativa davant la comissió de la infracció penalment rellevant, o si poden ajudar el personal jurisdiccional a valorar millor les proves (testimonis, pericials que avaluïn al menor). En definitiva, l’avaluació criminològica del menor infractor, i amb això, les decisions jurisdiccionals d’adopció de mesures: poden millorar quantitativament i qualitativament amb l’ajuda d’eines d’intel·ligència artificial dissenyades i aplicades per a aquesta finalitat? Pot, llavors, integrar-se una solució d’intel·ligència artificial en els Jutjats de Menors, perquè valori qüestions penals i processals del menor infractor, com per exemple, en matèria d’execució de mesures imposades en sentència i la seva possible substitució, extinció o modificació?.
Ciertamente, hoy en día, y con carácter previo a valorar la situación expuesta, la utilización de inteligencia artificial en el entorno jurisdiccional, con funciones asistenciales que no sustitutorias del juez/a humano, carece de los tres sostenes básicos que habilitarían su implementación con todas las garantías. A saber:
El punt de partida ha de situar-se a determinar, en primer lloc, què entendre per intel·ligència artificial a aquest efecte. Ens referim a sistemes de software (i possiblement també de hardware), dissenyats per humans i, que donat un objectiu complex, actuen a través de tècniques concretes (prèvia adquisició de dades i el seu posterior tractament), i regles predeterminades (algorismes) per a generar diversos resultats de contingut, prediccions, recomanacions o decisions que influeixen en l’entorn amb el qual interactuen.
Certament, avui dia i, amb caràcter previ a valorar la situació exposada, la utilització d’intel·ligència artificial en l’entorn jurisdiccional, amb funcions assistencials, que no substitutòries del jutge/essa humà, manca de les tres sustentacions bàsiques que habilitarien la seva implementació amb totes les garanties. A saber:
- norma legal de cobertura -no hi ha previsió, actualment, que consideri i disposi el seu ús-,
- jurisdiccionalitat -entesa quant al necessari control pel personal jurisdiccional de la seva utilització i valoració de resultats-
- respecte als drets fonamentals -inhabilitant l’ús de qualsevol eina d’intel·ligència artificial que pugui menyscabar-los o vulnerar-los-.
És factible, en tot cas, assenyalar una sèrie de premisses bàsiques aplicables a la utilització d’eines d’intel·ligència artificial per a l’avaluació criminològica del menor en el context d’un procés penal enfront d’un menor infractor. A manera de grans principis podríem indicar els següents:
- principi de no discriminació: tendent a evitar l’aparició o intensificació de qualsevol tipus d’estigmatització entre individus o grups de persones que els prejutgin per alguna mena de condició o situació. En el nostre particular supòsit, seria especialment rellevant que el disseny d’una eina d’intel·ligència artificial aplicada a l’avaluació criminològica del menor infractor no li discrimini, per exemple, pel mer fet de la seva minoria d’edat a l’hora de valorar les mesures a adoptar en sentència o en la seva possible execució
- principi de qualitat i seguretat: referent al processament de decisions i dades judicials, des de fonts certificades i intangibles, que siguin el suport sobre el qual es datifica l’eina d’intel·ligència artificial que es dissenyi a aquest efecte, tenint molt present, en aquest cas, totes les previsions legals en matèria de protecció de dades personals i de la protecció de l’interès superior del menor
- principi de transparència: fent comprensible i accessible els mètodes de processament de dades per a evitar indefensió, tant processal com tecnològica, als afectats per la utilització d’una eina d’intel·ligència artificial dins del context del procés penal del menor
- principi de “control per l’usuari”: determinant que qualsevol decisió o recomanació evacuada en l’avaluació d’elements vinculats al processament penal d’un menor infractor ha de ser assumida pel titular del Jutjat de Menors, com a element humà inexcusable que ha d’incorporar a la seva resolució, si escau, la valoració dels resultats de l’eina d’intel·ligència artificial empleada així com la motivació personal de la convicció que amb això li ha generat en la seva decisió
Adoptant, per tant, el vessant assistencial a la funció jurisdiccional que pot comportar la disponibilitat de solucions d’intel·ligència artificial en la valoració de determinades circumstàncies processals, assenyalem, sense ànim d’exhaustivitat, algunes possibilitats que podrien ser d’interès en l’àmbit de la justícia penal de menors. Podrien tenir utilitat funcionalitats que ofereixin reconstruccions dels fets sobre vestigis de la recerca, o que contrastin la certesa de declaracions testificals sobre dades objectives, o per la valoració del propi testimoni, o l’adequació del dictamen pericial o l’experiència i idoneïtat del perit. En igual sentit funcionalitats d’intel·ligència artificial que puguin calcular la probabilitat de compliment d’una mesura cautelar o el risc de reincidència, o de compliment de mesures educatives des de paràmetres d’avaluació criminològica del menor infractor (en programes adaptats a la particularitat del menor infractor de tall similar als utilitzats, per exemple, als Estats Units, com COMPAS o el PTRA o el PSA).
Ara bé, en aquests casos, sempre des de la concessió d’un caràcter assistencial a l’element que encarna l’eina d’intel·ligència artificial utilitzada pel Jutjat de Menors, sent el titular de l’òrgan jurisdiccional qui ha de decidir i ponderar en quina mesura assumeix els resultats i motivant la seva resolució, al costat d’altres possibles elements de convicció, la repercussió que aquesta eina ha tingut per a la seva posició. No oblidem que la Directiva 2016/680 UE, en el seu art. 11.1 i en relació amb la utilització d’algorismes predictius en justícia i protecció de dades personals, prohibeix les decisions basades únicament en tractament automatitzat, que produeixin efectes negatius per a l’interessat o l’afectin significativament.
En el cas de la flexibilització de mesures imposades en sentència, per exemple, una intel·ligència artificial predictiva del comportament del menor infractor, pot aportar al titular del Jutjat de Menors informació rellevant per a ajustar la seva decisió dins del marc de possibilitats que permet la Llei orgànica de Responsabilitat Penal del Menor, deguda a la pròpia discrecionalitat que la llei li atorga en la individualització i forma d’execució, per a una millor atenció de les necessitats reeducadores del menor. En idèntic sentit, la pròpia flexibilització en la imposició de mesures en sentència, des de l’ampli catàleg de l’art. 7.1 de la LORPM, on el Jutge/essa de Menors té diverses variants per a una resposta individualitzada a les conseqüències penals de la infracció comesa pel menor, atenent no sols la prova i valoració jurídica dels fets, sinó especialment a l’edat, circumstàncies familiars i socials, personalitat i interès del menor. Una eina d’intel·ligència artificial, sense biaixos, podria oferir prediccions útils quant a les mesures més idònies en cada cas, atenent a aquests i altres paràmetres, i oferint una millor resposta davant el delicte comès, d’acord amb altres elements com pot ser l’informe aportat per l’Equip Tècnic.
D’igual forma, en relació amb l’execució de la mesura imposada en sentència, i d’acord amb el principi de flexibilitat de l’art. 13 LORPM, el Jutge de Menors pot deixar sense efecte en qualsevol moment la mesura imposada, reduir la seva durada o substituir-la per una altra, sempre que la modificació redundi en interès del menor, disposant per a això de tota la informació possible, dins de la qual podria emprar-se, novament, una eina d’intel·ligència artificial que pugui evacuar prediccions sobre l’eventual repercussió que sobre el futur comportament del menor pot tenir aquesta decisió.
Finalment, reiterem dos elements essencials dins de la situació plantejada en el context de les presents reflexions. L’ús de qualsevol eina d’intel·ligència artificial vinculada a l’enjudiciament de menors infractors requereix l’observança i escrupolós respecte dels drets del menor (presumpció d’innocència, defensa, degut procés, no discriminació, igualtat) així com l’alineament amb el principi d’interès superior del menor, més encara quan poden oferir riscos per als seus drets fonamentals. Ha d’evitar-se, així mateix, la perpetuació de patrons i automatismes a la qual pot tendir una eina d’intel·ligència artificial, perpetuant biaixos o decisions incorrectes, i fins i tot agreujant-les sense reconsiderar les particularitats de cada delicte i de cada menor infractor i les seves circumstàncies personals.
