El Delegado de Protección del Algoritmo (DPA) está a la vuelta de la esquina

La sociedad actual atraviesa una transformación sin precedentes donde las decisiones que afectan a los derechos fundamentales —desde la concesión de una ayuda social hasta un diagnóstico médico— están cada vez más mediadas por sistemas de inteligencia artificial (IA). En este contexto, la Sentencia 1119/2025 del Tribunal Supremo, conocida como el caso "Bosco", ha marcado un punto de inflexión al declarar que los algoritmos no pueden ser "cajas negras" opacas, sino que deben estar sujetos al escrutinio ciudadano y a la transparencia. Este nuevo escenario jurídico y social ha dado nacimiento a una profesión esencial para el siglo XXI: el Delegado de Protección del Algoritmo (DPA), quien absorberá, prácticamente la figura del DPD. Todas las empresas tendrán uno en cuestión de meses.

1. ¿Qué es un Delegado de Protección del Algoritmo?

El DPA no es un mero oficial de cumplimiento técnico; es el "arquitecto de la confianza" en la era digital. Su función principal es actuar como guardián frente a los sesgos algorítmicos y asegurar que los sistemas de IA operen bajo marcos de ética, legalidad y seguridad. A diferencia de otros roles técnicos, el DPA actúa como un puente entre la tecnología y los derechos humanos, garantizando que la innovación no se produzca a costa de las garantías ciudadanas.

Es fundamental distinguir su labor de la del Delegado de Protección de Datos (DPO/DPD). Mientras que el DPO se centra en la privacidad y el tratamiento de datos personales, el DPA lidera la respuesta ante incidentes de equidad (fairness) y gobierna el comportamiento del algoritmo para evitar discriminaciones estructurales. No obstante, ambos roles deben actuar en coordinación constante, ya que los sesgos algorítmicos suelen derivar de problemas en los datos de uso y en el entrenamiento.

2. El Marco Regulatorio: El "Efecto Bruselas"

La figura del DPA se asienta sobre una robusta arquitectura normativa europea que busca la soberanía tecnológica y la protección del individuo. El pilar central es el Reglamento de Inteligencia Artificial (AI Act), que clasifica los sistemas según su riesgo y establece obligaciones estrictas para aquellos considerados de "alto riesgo", como los utilizados en el sector judicial, policial o de servicios públicos esenciales.

Sin embargo, el DPA debe navegar en un "mosaico regulatorio" más amplio que incluye:

• RGPD: Para asegurar la licitud del tratamiento de datos que alimentan la IA.
• Directiva NIS2 y DORA: Que exigen resiliencia y ciberseguridad, especialmente en sectores críticos como el financiero.
• Ley de Datos (Data Act): Facilitando el acceso y la gobernanza de la información generada por dispositivos conectados.
• Reglamento de Europa Interoperable: Crucial para la administración pública digital.

3. Responsabilidades y el "Arsenal" del DPA

La labor del DPA se despliega a lo largo de todo el ciclo de vida de la IA, aplicando una estrategia conocida como "Shifting Governance Left", que consiste en integrar la supervisión desde las etapas de diseño y no solo al final del proceso. Sus funciones clave incluyen:

• Alfabetización en IA (Artículo 4 del RIA): El DPA tiene la misión urgente de formar a los empleados públicos y privados sobre el uso ético y las limitaciones de la IA, combatiendo lo que se denomina "compliance de papel".
• Detección y Mitigación de Sesgos: Identificar si un algoritmo discrimina a grupos demográficos específicos por razones de género, raza o situación socioeconómica.
• Gestión de la Transparencia: Asegurar que existe una documentación técnica completa (memorias, diagramas UML) y que la lógica del algoritmo es explicable en términos humanos.
• Bitácora Algorítmica Inmutable: Implementar registros técnicos que documenten de forma inalterable las versiones del modelo y los resultados de sus evaluaciones mediante tecnologías de sellado de tiempo.

4. La Transparencia como Derecho: El Legado de la Sentencia Bosco

El informe de la sentencia Bosco resalta que el acceso al código fuente no es un "fetiche corporativo", sino una extensión del derecho a la información pública. El DPA es el responsable de gestionar este acceso de manera escalonada: desde la entrega de manuales de usuario y memorias de diseño hasta, en casos justificados, el propio repositorio de código.

Esta transparencia proactiva evita situaciones de indefensión donde un ciudadano recibe una negativa automática de un sistema (como el bono social eléctrico en el caso Bosco) sin poder cuestionar la lógica subyacente. En este sentido, el DPA actúa como un colaborador técnico experto en los canales de denuncia (whistleblowing), investigando infracciones normativas graves detectadas internamente.

5. El DPA en Diferentes Sectores

La necesidad de esta profesión varía según el ámbito de aplicación:

• Sector Público: Se exige un doble mandato de interoperabilidad y transparencia extrema, ya que la Administración no puede ampararse en la propiedad intelectual para ocultar su "normativa algorítmica".
• Sector Sanitario: El enfoque se centra en la precisión de los diagnósticos y la seguridad del paciente.
• Sector Financiero: Bajo el marco de DORA, la prioridad es la resiliencia operativa y evitar crisis sistémicas provocadas por algoritmos de trading o riesgo crediticio.
• Sector Legal: Con el auge de la IA generativa, el DPA debe supervisar la trazabilidad y la notificación obligatoria cuando se utilicen estos sistemas en la práctica jurídica.

6. Conclusión: Hacia una Madurez Algorítmica

La profesión del Delegado de Protección del Algoritmo no es un lujo tecnocrático, sino una necesidad imperiosa para cualquier organización que aspire a la excelencia ética y al cumplimiento normativo. El futuro del DPA pasa por la profesionalización y la certificación, estableciendo estándares claros que permitan a las empresas e instituciones navegar el "efecto Bruselas" (la influencia de la regulación europea a nivel global, digan lo que digan los americanos) con seguridad jurídica.

En definitiva, el DPA es el garante de que, en un mundo gobernado por código, la ley y la ética sigan teniendo la última palabra. Su labor asegura que la transición de la decisión "artesanal" a la "algorítmica por defecto" no signifique una pérdida de control humano, sino una mejora en la eficiencia y la justicia social.

Josep Jover