La implantación de la inteligencia artificial (IA) en las instituciones públicas ha dejado de ser una hipótesis futurista para convertirse en una realidad tangible. Uno de los organismos que más rápidamente ha abrazado esta transformación tecnológica en España es la Agencia Tributaria, cuya Estrategia de IA 2024-2027 sienta las bases de un nuevo paradigma fiscal basado en algoritmos, big data y aprendizaje automático.
Sin embargo, la manera en que se está llevando a cabo este despliegue invita a una reflexión crítica que me gustaría compartir hoy sobre sus implicaciones éticas, legales y sociales.
Asistencia ciudadana vs. control fiscal
En primer lugar, se defiende el uso de la IA se con dos propósitos bien diferenciados: mejorar la atención al ciudadanoy reforzar la lucha contra el fraude. En la vertiente de asistencia, se han implementado herramientas como un chatbot basado en IBM Watson para responder consultas sobre el IVA, así como sistemas de alerta en la plataforma Renta Web que detectan inconsistencias en las declaraciones o, por ejemplo, generan un aviso a quienes deban hacer la declaración de la renta y no lo sepan.
Estas medidas, si bien pueden ser eficaces, se basan en tecnologías tradicionales que no van mucho más allá de sistemas expertos o meras comprobaciones lógicas, con lo que es discutible asociarlas al concepto de IA.
La verdadera sofisticación tecnológica se esconde, sin embargo, en los sistemas internos orientados al control y la fiscalización. Ahí sí que vamos a experimentar grandes cambios. La Agencia Tributaria participa actualmente en uno de los principales proyectos de IA de España, llamado "ALIA", un gran modelo de lenguage (conocido por las siglas LLM, en inglés) específicamente entrenado en contenidos fiscales y jurídicos del ámbito español. Esta herramienta ya está siendo utilizada por los funcionarios de Hacienda para consultar normativa y resolver casos complejos, lo que en sí mismo puede considerarse un avance.
¿Vigilancia o prevención?
Sin embargo, hay otro uso más polémico de la IA: el uso intensivo de datos masivos para elaborar perfiles de riesgo fiscal. La Agencia está empezando a cruzar información procedente de cuentas bancarias, registros civiles, historial laboral y, desde el año pasado, redes sociales como Instagram y Facebook. Todo ello con el objetivo de detectar "patrones anómalos" en el comportamiento de gastos e ingresos de los españoles.
Esta práctica plantea interrogantes fundamentales: ¿hasta qué punto es legítimo construir perfiles predictivos que señalen a posibles defraudadores antes de que hayan cometido infracción alguna? ¿Dónde queda el principio de presunción de inocencia? ¿Qué límites existen en el uso de datos personales en la esfera fiscal?
Hay que recordar el precedente del sistema público SyRI en los Países Bajos, que usaba la IA para asociar a cada ciudadano un "perfil social" y que fue declarado ilegal por violar derechos fundamentales y discriminar a determinados colectivos en 2020.
La historia europea reciente demuestra que la aplicación desmedida de tecnologías de vigilancia, aunque bienintencionada, puede derivar en prácticas discriminatorias, opacas y excesivas desde el punto de vista de los derechos civiles.
La paradoja es evidente: el uso de IA se justifica en nombre de la eficiencia y del bien común —reducir el fraude y asegurar el sostenimiento del Estado del bienestar—, pero se corre el riesgo de erosionar garantías básicas del ciudadano. Mientras el Reglamento Europeo de IA prohíbe el uso del reconocimiento facial salvo en casos muy graves, como la persecución de terroristas, en el campo de los impuestos parece que la cosa se relaja un poco.
Al fin y al cabo, seguro que a nadie le importa que le vigilen sus movimientos bancarios o que se le encasille en una lista de posibles defraudadores o delincuentes. En tanto se cumpla la ley de protección de datos, nuestros derechos fundamentales quedarán salvados y todos contentos.
Mientras tanto, en un contexto donde gran parte de la legislación fiscal se mueve en zonas grises —no lo digo yo; ha hecho falta desarrollar una IA en la Agencia Tributaria para que los propios funcionarios sean capaces de entenderla—, donde muchos contribuyentes pueden incumplir la ley sin ser ni siquiera conscientes, la tentación de convertir la fiscalidad en un sistema punitivo automatizado es, cuanto menos, peligrosa.
El uso de algoritmos predictivos para determinar qué ciudadanos serán objeto de inspección puede desembocar en sesgos, errores e indefensión. Además, si el acceso a los datos no está rigurosamente regulado, se abre la puerta a la intrusión ilegítima en la vida privada de las personas.
El principio de transparencia debería aplicarse no solo al contribuyente, sino también al Estado. ¿Quién audita los algoritmos de la Agencia Tributaria? ¿Qué margen tiene un ciudadano para impugnar una decisión automatizada? ¿Con qué criterios se seleccionan los datos a utilizar?
Estamos entrando en un mundo nuevo, uno para el que nadie ha sido preparado —vemos que algunos, en determinados sillones, no están preparados ni siquiera para el de toda la vida— y la aplicación de la IA en el ámbito fiscal requiere un debate profundo y de técnicos cualificados. No se trata de rechazar la tecnología, sino de garantizar que su uso se someta a principios democráticos, proporcionales y legítimos.
La lucha contra el fraude no puede justificar cualquier medio. El riesgo de convertir al Estado en un vigilante omnipresente —el "Gran Hermano fiscal"— no es una distopía de ciencia ficción. Es una posibilidad real si no se establecen límites claros.
La sociedad civil, el legislador y los organismos independientes deben asumir un papel activo en esta cuestión, antes de que los algoritmos —o quienes se escuden tras ellos— "decidan" más de lo que debieran.
Antonio Flores Galea tiene dos ingenierías superiores de Telecomunicación y en Electrónica por la Universidad de Sevilla y es MBA por la escuela de negocios IESE. Es profesor de Inteligencia Artificial y Big Data en la Universidad Francisco de Vitoria.