La llegada del Reglamento Europeo de Inteligencia Artificial (AI Act) marca un punto de inflexión en cómo Europa quiere gobernar la IA. No es solo una norma técnica: es un intento de definir los límites éticos de la inteligencia artificial, clasificando los sistemas según su nivel de riesgo.
Sin embargo, este avance plantea preguntas profundas: ¿quién se protege realmente? ¿Qué significa “discriminación” y por qué la política —que discrimina— no está legislada?
1. Los grupos de riesgo en el AI Act
El AI Act clasifica los sistemas de IA en cuatro categorías:
1.1 Riesgo inaceptable
Sistemas prohibidos por su alto potencial de daño, como IA que manipula el comportamiento humano o sistemas de puntaje social.
1.2 Riesgo alto
Incluye sistemas que impactan derechos fundamentales: evaluación de crédito, selección de personal, reconocimiento biométrico, y —de forma controvertida— el tratamiento de datos socioeconómicos. Esta inclusión es clave y plantea debates: ¿protege a los ciudadanos o limita la capacidad de las administraciones públicas para diseñar políticas justas?
1.3 Riesgo limitado
Sistemas con obligaciones de transparencia, como chatbots o recomendadores, que requieren informar al usuario.
1.4 Riesgo mínimo
IA sin impacto significativo, libre de restricciones especiales.
2. Datos socioeconómicos: ¿quién protege quién?
El AI Act sitúa los datos socioeconómicos en la categoría de alto riesgo por temor a usos indebidos: segmentación, exclusión o discriminación. Pero este planteamiento plantea un dilema:
- Si protegemos estos datos tanto, limitamos la capacidad de la Administración para analizar y actuar en problemas como pobreza, desigualdad o desempleo.
- Por otro lado, no hay legislación específica que regule la discriminación política, es decir, la decisión de priorizar o excluir colectivos para aplicar determinadas políticas públicas.
Esto deja un vacío normativo grave: la política discrimina y no está regulada.
3. Discriminación: selección o daño
Es fundamental distinguir:
- Discriminación como selección: Agrupar o priorizar personas para aplicar políticas, como ocurre en ayudas sociales según criterios socioeconómicos.
- Discriminación como daño: Trato injusto o exclusión que afecta derechos fundamentales.
El AI Act protege contra el segundo tipo, pero ignora el primero, que es inherente a la acción política. Esto abre una paradoja: mientras se prohíbe el uso de ciertos datos por riesgo, no hay un marco que regule la discriminación política que se ejerce abiertamente.
4. El desafío ético y político
La IA refleja y amplifica las decisiones humanas. El AI Act regula el uso técnico de datos, pero no la lógica política que determina quién recibe qué. Esto deja en evidencia un déficit: la falta de legislación sobre discriminación política.
Europa debería plantearse no solo cómo proteger datos, sino cómo regular la forma en que la política discrimina. Porque la verdadera ética digital pasa por incluir ese debate en la gobernanza de la IA.
5. Más allá de la regulación
El AI Act es un avance imprescindible, pero no basta. La discriminación política sigue fuera del marco normativo. Mientras no se legisle, la política seguirá siendo la gran discriminadora, usando datos como herramienta estratégica sin control democrático.
En la era de la IA, proteger los datos no es suficiente: necesitamos un debate político profundo sobre ética, igualdad y derechos, que vaya más allá de la regulación técnica.
El taller de datos 
Deja un comentario