Algoritmos predictivos en la justicia penal

La irrupción de algoritmos predictivos en el sistema de justicia penal plantea desafíos normativos, éticos e institucionales de alta complejidad. Este libro ofrece un análisis riguroso sobre su uso en Chile y España, evaluando su impacto sobre garantías fundamentales como la igualdad ante la ley, la presunción de inocencia y la protección de datos personales. A partir de casos reales, normativa vigente y jurisprudencia comparada, se exponen los riesgos asociados a la automatización de sesgos, la opacidad algorítmica y el debilitamiento del principio de legalidad. Se analizan figuras penales emergentes como la suplantación mediante deepfakes, así como los problemas de subsunción frente a daños estructurales causados por decisiones algorítmicas. El estudio incorpora la reciente Ley N.º 21.675 sobre protección de datos personales en Chile, el AI Act europeo y los proyectos legislativos chilenos sobre inteligencia artificial actualmente en tramitación. Como propuesta original, se plantea un modelo de regulación adaptativa mediante sandboxes penales supervisados. Esta obra combina dogmática penal, teoría de la regulación y análisis técnico de IA, siendo una herramienta clave para los operadores del sistema de justicia penal, legisladores, diseñadores de políticas públicas y académicos interesados en el desarrollo de tecnologías compatibles con los principios del Estado de Derecho.

ABREVIATURAS…………………………. 11
GLOSARIO…………………… 13
PRESENTACIÓN……………………… 17
I. INTRODUCCIÓN………………… 19
II. OBJETIVOS…………………… 21
2.1. Objetivo General………………… 21
2.2. Objetivos específicos………………………. 21
2.3. El sistema de justicia penal como objeto de análisis…………………….. 22
III. ENFOQUE, CRITERIOS DE ANÁLISIS Y PROPUESTA DE LA OBRA 25
Propuesta de la obra……………….. 25
IV. FUNDAMENTOS TEÓRICOS SOBRE INTELIGENCIA ARTIFICIAL Y JUSTICIA PENAL………… 27
4.1. Concepto de Inteligencia Artificial, aprendizaje automático y algoritmo predictivo………………. 27
4.2. Aplicaciones de la inteligencia artificial en el sistema de justicia…….. 34
V. MARCO JURÍDICO APLICABLE AL USO DE ALGORITMOS PREDICTIVOS…………….. 37
5.1 Normativa Europea en materia de IA…………………………………………37
5.1.1. Ley de inteligencia Artificial de la UE………………………………………. 39
5.2 Legislación relevante en España………………………………………………..42
5.2.1 Constitución Española……………………………………………………………… 42
5.2.2 Ley Orgánica 3/2018 sobre Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD)………….. 43
5.2.3. Ley 19/2013, de Transparencia, Acceso a la Información Pública y Buen Gobierno………………. 43
5.2.4. Ley 18/2011 sobre el uso de tecnologías de la información y la comunicación en la Administración de Justicia…….. 45
5.2.5. Estrategia Nacional de IA en España………………………………………… 45
5.3. Legislación relevante en Chile………………………………………………….46
5.3.1. Constitución Política de la República de Chile…………………………. 46
5.3.2. Ley Orgánica Constitucional del Ministerio Público (Ley N.º19.640)……………………………… 48
i. Disposiciones relacionadas con la función del Ministerio Público……………………….. 48
5.3.3. Ley de Protección de Datos Personales (Ley N.º19.628)……………. 49

1. Disposiciones relevantes para el tratamiento de datos en sistemas de IA………… 49
2. Protección de la privacidad y derechos de los individuos………. 50
5.3.4. Ley N.º 21.719, que regula la Protección y el Tratamiento de Datos personales y crea la Agencia de Protección de Datos Personales.. 51
5.3.4.1. Definición de dato sensible……………. 52
5.3.4.2. Principios de licitud, lealtad y finalidad en el tratamiento de datos personales………………. 53
5.3.4.3. Tratamiento de datos personales por parte de los órganos que forman parte sistema de justicia penal, con especial énfasis en el Ministerio Público……. 56
5.3.5. Ley de Transparencia, Acceso a la Información Pública y Buenas Prácticas (Ley N.º 20.285)…………. 60
a. Implicaciones de la transparencia en el uso de algoritmos y toma de decisiones automatizada……….. 60
b. Derecho de acceso a la información generada por sistemas de IA…………………….. 61
5.3.6. Política Nacional IA…………………………………… 62
5.4. Comparativa del Marco Regulatorio de la Inteligencia Artificial en España y Chile………. 63
VI. ESTUDIOS DE CASO…………………………….. 65
6.1. Usos de Inteligencia artificial en materia penal…………………………….. 65
6.2. Usos de algoritmos predictivos en materia penal…………………………… 67
6.3. Implementación de algoritmos predictivos en Chile……………………… 70
6.3.1. Software “Fiscal Heredia”………………….. 70
6.3.2. Algoritmo de Sugerencia de Riesgo en causas de Violencia Intrafamiliar………….. 72
6.3.3. IA aplicada en la preclasificación y tramitación de casos menos complejos…………………. 73
6.3.4. Modelo Predictivo del Delito Urbano de Carabineros de Chile: riesgos de vigilancia territorial no controlada……. 74
6.4. Implementación de algoritmos predictivos en España…………………. 77
6.4.1. Sistemas de vigilancia con reconocimiento de rasgos biométricos.77
6.4.2. Herramientas de policía predictiva………………………………………….. 78
6.4.3. Proyecciones doctrinales sobre el uso de algoritmos predictivos
en la persecución penal del grooming infantil…………………………….. 82
a. Nuevas exigencias en la persecución penal del online child sex grooming………. 82
b. Aportes doctrinales sobre el uso de IA en fase prejudicial…….. 82
c. Delimitación entre agentes encubiertos y simulaciones algorítmicas supervisadas…………… 83
d. Propuesta de incorporación experimental en sandbox penal adaptativo………… 84

6.5. Otros sistemas de IA en Derecho comparado: HART, VALCRI y COMPAS……………………… 86
VII. IMPLICACIONES LEGALES Y ÉTICAS EN EL USO DE ALGORITMOS PREDICTIVOS…………… 89
7.1. Implicaciones éticas en el uso de algoritmos predictivos……………….. 90
7.1.1. Sesgo y discriminación……………………………………………………………. 90
i. Sesgos en los algoritmos propios de las IA…………………………….. 90
ii. Sesgos por una distribución desigual real de las variables……… 91
7.1.2. Falta de transparencia u opacidad algorítmica………………………….. 94
7.1.3. Principio de Explicabilidad y Derecho a la Información……………. 96
7.1.4 Impacto en la confianza pública y la rendición de cuentas……….. 100
7.2. Implicaciones legales en el uso de algoritmos predictivos……………… 101
7.2.1. Privacidad y protección de datos personales…………………………… 101
a. Implicancias en el Derecho chileno…………………………………… 101
b. Jurisprudencia chilena y su proyección al uso de tecnologías predictivas………………. 103
c. Implicancias en el Derecho español…………………………………… 105
d. Jurisprudencia española sobre algoritmos y protección de datos… 107
e. Jurisprudencia europea sobre decisiones automatizadas y protección de derechos fundamentales………. 109
f. Reflexiones sobre el acceso al algoritmo y al código fuente en el contexto penal…………………….. 111
7.2.2 Riesgo de automatización de decisiones en materia penal………… 114
7.2.3. Responsabilidad jurídica derivada del uso indebido de algoritmos predictivos………………. 117
7.2.3.1. Clases de responsabilidad………….. 117
7.2.3.2. Responsabilidad civil y administrativa en el derecho chileno…………………………… 117
7.2.3.3. Responsabilidad penal derivada del uso indebido de algoritmos predictivos………………………. 119
7.2.3.4. Deber de reserva y riesgos de infracción mediante el uso inadecuado de IA generativa………… 128
7.2.3.5. Responsabilidad profesional ante el uso negligente de IA generativa en el sistema de justicia penal………………………. 130
7.3. Hacia la construcción de un marco regulatorio para el uso del Algoritmos predictivos en el Derecho chileno………….. 134
VIII. DESARROLLO DE UN MARCO NORMATIVO ADAPTATIVO PARA LA
INTELIGENCIA ARTIFICIAL APLICADA AL SISTEMA DE JUSTICIA PENAL:
PROPUESTA DE SANDBOXES REGULATORIOS EN CHILE………………. 139
8.1. Regulación marco y estudio de impacto normativo……………………….. 139
8.2. Sandboxes como mecanismos de experimentación regulatoria……… 140
8.2.1. Fundamentos conceptuales del sandbox regulatorio………………. 140

8.2.2. Mecanismos de control y supervisión……………………………………… 146
8.2.3. Experiencias internacionales comparadas………………………………. 148
8.2.4. Propuesta de implementación nacional………………………………….. 150
8.3. Propuesta de Sandbox diferenciados para el Sistema de Justicia Penal… 151
8.3.1. Audiencias de control de detención como espacio de validación experimental………. 154
8.3.2. Ejecución paralela y análisis ex post de resultados predictivos…. 154
8.3.3 Evaluación algorítmica en la función de persecución penal……… 155
8.3.4. Publicidad del informe algorítmico y su incorporación a la carpeta investigativa…………………. 156
8.3.5. Uso jurisdiccional de predicciones algorítmicas en la audiencia de control de detención…………………. 158
8.3.6. De la fase experimental al uso general……………………………………. 159
8.3.7. Ventajas de la aplicación de algoritmos predictivos en la función jurisdiccional……………………. 160
8.3.8. Propuesta normativa habilitante para sandboxes regulatorios con exigencias reforzadas en sectores críticos………………………………….. 161
8.3.9. Necesidad de una cláusula sectorial diferenciada para el sistema de justicia penal………………. 166
8.3.10. Justificación de la propuesta………………………………………………… 167
8.3.11. Proyección latinoamericana de la propuesta: hacia una gobernanza diferenciada del uso de IA en el sistema de justicia penal.167
CONCLUSIONES………………………….. 171
Reflexión final………………………………….. 177
BIBLIOGRAFÍA……………………………. 179
JURISPRUDENCIA.