Algoritmització de la Justícia Penal: Una Reflexió Sobre el Test P-300
Catedrático de Derecho Procesal Universitat de Barcelona
En un context presidit per la digitalització i robotització de la justícia, així com pel desenvolupament de la indústria 4.0 i la neurociència, no són pocs els desafiaments als quals s’enfronta el nostre enjudiciament criminal, des de la perspectiva dels reptes que imposa, amb clares connotacions constitucionals, el seu ús “ètic” i “fiable”. Una intel·ligència artificial que afecta les nostres condicions de vida i l’aplicació del propi dret, amb repercussions evidents en el terreny dels valors democràtics d’un Estat de Dret. Per això, convé no oblidar que no tot el que es pot fer tecnològicament, pot o ha de fer-se jurídicament.
Els sistemes d’IA qualificats d’“alt risc”, com ho són gran part dels que tenen a veure amb l’esdevenir de la investigació i l’enjudiciament criminal, requeriran comptar no només amb un control i registre dels sistemes utilitzats (auditoria de sistemes), sinó també amb el fet que aquests resultin transparents, clars, comprensibles i vinguin sotmesos al control i supervisió humana. Si no es fa així, com bé es reconeix en la darrera versió del Projecte de Reglament sobre la Intel·ligència Artificial de la Unió Europea de 2023, estaríem a les portes d’una deshumanització del procés en què, conscient o inconscientment, s’estaria obviant una realitat: que la tecnologia no és neutral (i molt menys davant l’era de la “gran intel·ligència artificial”, basada en la mineria de dades massives i la consolidació de models fundacionals d’IA no només instrumentals, sinó també decisionals, que giren sobre la utilització de les xarxes neuronals convolucionals (IA generativa).
Això, per descomptat, troba translació en eines de predicció i avaluació de riscos, tant a nivell policial o judicial (vg. Predictive mapping, Place- oriented techniques, Predictive identification systems, Person-oriented techniques, Decision making or Risk assessment relating to individuals, VioGén, reconeixement facial, reconeixement de veu, reconeixement d’emocions, reconeixement d’empremtes dactilars, reconeixement d’ADN, Chatbots Tècniques de Visió Artificial o Computer Vision, RisCanvi, COMPES, així com en l’àmbit de l’auxili que és propi de la Cooperació Judicial Penal Internacional (pensem, per exemple, en l’anàlisi Big Data de documents en altres idiomes, la traducció automatitzada de textos legals, la selecció d’informació clau per a la investigació criminal, la detecció preventiva de ciberdelictes a l’àmbit de les transmissions electròniques, o la lluita contra la delinqüència organitzada a nivell transnacional).
Uns algorismes que presenten avantatges, però també nous perills. Perills que cal controlar en el marc del disseny d’una democràcia “digital” plenament implicada en la defensa dels drets de la ciutadania. En aquest particular context, no són pocs els profunds dubtes que es poden plantejar en relació a l’admissió, en el nostre procés penal, de l’anomenat Test P-300 . Un test (també conegut com a Onda P-300) que, com a mètode propi de la neurociència, pot possibilitar rescatar d’una persona, amb base científica, aquells records que la puguin connectar, en un cas concret, amb hipotètics fets d’aparença delictiva. A aquest efecte, mitjançant l’encefalografia es mesura l’activitat elèctrica del cervell que apareix cada 300 mil·lisegons i, per tant, en funció de “potencials evocats” o “petjades de la memòria”, sembla factible detectar si el subjecte que s’hi sotmet, coneix allò que se li mostra (estimulació sensorial amb sons o imatges). La informació recopilada és examinada, a continuació, per un especialista, que valora la seva coherència i validesa per extreure’n aquelles dades de rellevància que li permetin fundar, amb objectivitat, les seves conclusions.
A primera vista, pot semblar un polígraf o màquina de la veritat, si bé actualitzat per l’ús de noves tecnologies. No obstant això, aquesta Onda P-300, cada vegada més, va adquirint una significació conceptual que l’aproxima, salvant les distàncies, a aquelles tècniques que treballen amb empremtes dactilars o analitzen l’ADN. Una eina que no gaudeix de cobertura legal expressa, avui dia, al nostre sistema processal penal; tot i que per a alguns, podria emparar-se sota el mantell protector dels arts. 363, 454 i 777 de la Llei d’Enjudiciament Criminal.
Tècnica emprada en l’experiència nord-americana, però tampoc desconeguda a Espanya (pensem en les seves aplicacions puntuals en la investigació el crim de Ricla o els intents de localització, un cop condemnat Miguel Carcaño, del cos de Marta del Castillo, o en el cas vinculat amb la recerca del cadàver de l’empresari Publio Cordón, assassinat per GRAPO) i de la qual es diu que es podria aplicar, en relació amb la persona del subjecte passiu del procés penal, en totes les etapes, però també envers testimonis i, fins i tot, víctimes (així s’ha plantejat, no sense polèmica davant la victimització secundària o amnèsia dissociativa, en un procediment per presumpte delicte d’agressió sexual), a fi de mesurar-ne la credibilitat, quan el titular de la potestat jurisdiccional només compta amb versions contradictòries i amb una notable càrrega subjectiva.
Sigui com sigui, si l’aplicació d’aquest instrument s’acceptés en el nostre procés penal, convindria tenir molt clar que no és gens fàcil el seu encaix amb els drets fonamentals. No són pocs els riscos inherents a la seva qualificació com a il·lícit, per la seva estreta relació amb la vulneració dels drets fonamentals esmentats (pensem no només en el dret a la intimitat o a la integritat física, sinó també, des d’una perspectiva processal, en el dret a no declarar contra si mateix i no confessar-se culpable).
Si s’admet l’Onda P-300, s’haurien d’extremar les cauteles perquè, qui se sotmeti a aquest test manifesti, en el cas concret, el seu consentiment exprés (revocable en qualsevol moment) de manera realment lliure. A això s’hauria d’afegir, si es tracta d’una activitat amb finalitats de recerca d’un presumpte delicte, que hauria de comptar també amb la corresponent i oportuna autorització judicial. D’altra banda, la invasió de la personalitat i els pensaments de l’individu posa sobre la taula una important intromissió en la intimitat d’aquesta persona. D’aquí, precisament, que sempre s’hauria de fer en presència de l’advocat defensor, el qual també podria sol·licitar la seva paralització immediata si entén que s’està revelant certa informació que pugui posar en perill l’estratègia defensiva del seu client. Tot això, a més, des de la perspectiva de l’aplicació ponderada i racional dels criteris Daubert, als efectes de reconèixer-ne la particular cientificitat, i amb ple respecte de les garanties més elementals que haurien d’envoltar la seva pràctica (inclosa l’especialització dels professionals, la qualitat dels instruments tècnics utilitzats i la seva gravació per a reproducció en el marc del judici oral).
La pràctica del test P-300, encara que pogués semblar, en una primera aproximació, una activitat que el Projecte de Reglament sobre IA (UE) qualifica com a prohibida, en tant que suposa la inferència de les emocions d’una persona física a l’àmbit de l’aplicació de la llei, és cert que, partint d’una interpretació flexible i harmònica, fundada en el joc combinat dels seus arts. 6.3 i Annex III, es pot concloure que suposa una tècnica d’”alt risc” a utilitzar en l’aplicació de la llei (en tant que així es reconeix per al polígraf i eines similars).
Un terreny on convindria ser cauts, analitzar si la seva incorporació pot tenir sentit a nivell sectorial (per exemple, davant d’activitats delictives en què només es compta amb declaracions contradictòries i especialment subjectives) i, en tot cas, envoltant-la d’un règim jurídic ajustat al model constitucional de judici just que tot procés penal ha de respectar.
Per documentar-se més sobre el tema,, es poden consultar:
Blog Nova Icària Miguel Ángel Presno: https://idpbarcelona.net/una-aproximacion-a-la-inteligencia-artificial-y-su-incidencia-en-los-derechos-fundamentales/respetar .
Blog Nova Icària David Vallespín: https://idpbarcelona.net/inteligencia-artificial-y-proceso-eficiencia-y-garantias/
Blog Nova Icària Fernando Martín Diz: https://idpbarcelona.net/menores-infractores-e-inteligencia-artificial-evaluacion-criminologica-y-aplicacion-de-medidas-judiciales/
Blog Nova Icària Gabriele Vestri: https://idpbarcelona.net/cinco-claves-para-entendre-la-transparència-algoritmica-en-el-sector-publico/
Blog Nova Icària Jorge Castellanos: https://idpbarcelona.net/dret-e-intel·ligència-artificial-atencion-especial-a-los-sesgos-la-privacidad-y-la-proteccion-de-datos/
Bibliografia
BARONA VILAR, S. (2021). Algoritmización del Derecho y de la Justicia. De la inteligencia artificial a la Smart Justice, Tirant lo Blanch, Valencia (726 págs.)
CUATRECASAS MONFORTE, C. (2022). La inteligencia artificial como herramienta de investigación criminal. Utilidades y riesgos potenciales de su uso jurisdiccional, La Ley, Madrid (456 págs).
PRESNO LINERA M.Á. (2022). Derechos fundamentales e inteligencia artificial. Marcial Pons, Madrid (144 páginas).
VALLESPÍN PÉREZ, D. (Dir.). (2023). Inteligencia artificial y proceso: garantías vs eficiencia, Juruá, Porto (279 págs).
