CUAIS_23_paper_4_Unido

Vista previa del material en texto

13, 14 y 15 de julio de 2023
Sede del CEF.-
Paseo del General Martínez Campos, 5, 
Madrid
Visita la web
https://landing.udima.es/evento/jornadas-inteligencia-artificial?web_origen=Programa_PDF_Jornadas_Inteligencia_Artificial&utm_source=Programa_PDF&utm_medium=referral&utm_campaign=Jornadas_Inteligencia_Artificial
Descanso
Inteligencia Artificial en la informática médica
Inteligencia Artificial: una mirada al futuro
Inauguración de las Jornadas
Inteligencia Artificial en Ciencias Económicas, 
Finanzas y Hacienda (SESIÓN PARALELA I) Cierre
Inteligencia Artificial en el tejido empresarial, 
productivo y de servicios español
Inteligencia Artificial en Ciberseguridad
Descanso
Inteligencia Artificial y soluciones tecnológicas 
(SESIÓN PARALELA II)
Descanso
Inteligencia Artificial en Gobierno y Ayuntamientos
Desafíos de la Inteligencia Artificial en la medicina y la 
salud: entre lo calculado, lo explicado y lo predicho
Apertura
Inteligencia Artificial y Servicio Público (SESIÓN 
PARALELA I) Cierre
Inteligencia Artificial en Tecnologías de la 
Información y la Comunicación (TIC)
Inteligencia Artificial e Ingeniería
Descanso
Inteligencia Artificial y Administración Pública 
(SESIÓN PARALELA II)
Inteligencia Artificial, desafíos y oportunidades
Descanso
Inteligencia Artificial en la investigación 
académica
Apertura
IA en Biomedicina: algunos avances recientes
Clausura de las Jornadas
Inteligencia Artificial en educación
jornadas de inteligencia artificial 13-15 de julio
Participan profesionales punteros de empresas como:
¿Por qué no? Innovar. Diseñar. Crecer | ADIF | AEAT | Ayuntamiento de Alcobendas | Ayuntamiento de Madrid | Banco de España | CEF.- | CSIC | Escuela de Hacienda 
Pública | Fábrica de Moneda y Timbre | Fortinet | Google | Grupo DIA | Hospital Universitario de A Coruña | IBM | Instituto Geográfico Nacional | Integra | Ministerio de 
Hacienda y Función Pública | NANFOR IBÉRICA | Oracle | SEPE | Telefónica S.A. | Trend Micro | UDIMA | Universidad de Rutgers | Universidad de Sevilla | Universidad 
de Zaragoza | Universidad Politécnica de Madrid | Universidad Politécnica de Valencia | Vodafone Business
Jornadas sobre Inteligencia Artificial - CUASI 2023 
 
 
DECONSTRUYENDO LA 
INTELIGENCIA ARTIFICIAL: 
Ni es inteligencia, ni encuentra al 
defraudador ni es justa… 
pero hay que utilizarla 
 
Ignacio González García 
España, igmigonzalezgarcia@gmail.com 
 
 
Introducción 
El creciente interés por el uso de la Inteligencia Artificial en las Administraciones Tributarias hace 
necesario discernir hasta qué punto se trata de un “hype” de una moda, si la excitación por la 
novedad se debe a un sesgo cognitivo clásico como el Dunning–Kruger, si simple y llanamente 
se debe a la falta de información empírica sobre sus costes y sus ventajas o si es el caso que 
sus ventajas están acreditadas. 
El volumen de inversión que requiere, que deben ser detraídos de otros usos, hace conveniente 
revisar las enseñanzas alcanzadas tras más de 25 años de su uso. 
 
Objetivos 
El objetivo de este artículo es reflexionar sobre el uso de la IA en la Administración Tributaria y 
los límites de su aplicación en la actualidad. 
 
Método 
Sobre el contexto de una reflexión filosófica sobre el concepto de I.A se enuncian los desafíos 
existentes para una aplicación completamente respetuosa con los principios con los que se está 
intentando garantizar, en el presente y en el futuro, su uso ético. 
 
Resultados 
Las Administraciones Tributarias han utilizado, desde el siglo XIX la estadística, la Ciencia del 
Estado, en la persecución de sus objetivos. En la segunda mitad del siglo XX, la difusión de los 
ordenadores permitió la utilización de nuevas técnicas econométricas (para la definición y control 
de la política fiscal) y la aplicación de técnicas de inferencia y análisis multivariante. La AEAT 
utilizó, por ejemplo, “análisis de outliers”, para la revisión de ratios tributarios y precios , para el 
control de riesgos de despacho en las Aduanas y técnicas como TDCMD para el control de los 
Impuestos Especiales. Todos los países avanzados y entre ellos España, comenzaron a utilizar 
técnicas multivariantes como la regresión logística, SVC, KNN y otras muchas. 
En aquellos años cobraron pujanza tres ideas: 
a) La conveniencia de digitalizar masivamente y aplicar técnicas de Business Intelligence 
(BI). Su evolución incorporó los conceptos de Big Data y Data Lake. 
b) La posibilidad utilizar analítica avanzada multidimensional (sobre “cubos” de datos) para 
realizar análisis de riesgo. 
mailto:igmigonzalezgarcia@gmail.com
Jornadas sobre Inteligencia Artificial - CUASI 2023 
 
 
c) La posibilidad de utilizar tecnologías emergentes como la IA. 
 
La AEAT desarrolló, siguiendo la primera línea de acción un poderosísimo sistema de 
análisis, cuya tecnología de base ha ido evolucionado. Las primeras versiones utilizaron lógica 
fuzzy, luego se evolucionó hacia el uso de bases de datos orientadas a columnas y luego ha 
integrado conceptos de Big Data y Data Lake. Su actual versión, tras más de 25 años de mejoras 
implementa el estado del arte en tecnologías de análisis y consulta de datos. 
 Buscando ofrecer a los usuarios una visión cada vez más completa de los datos, se 
ofrecieron a éstos herramientas para construir sus propios “cubos”, más adelante para operar 
con ellos, luego herramientas de visualización de las relaciones entre los contribuyentes, luego 
herramientas de Social Network Analysis. Sobre todas ellas se construyó un ecosistema de 
aplicaciones de apoyo al control y de análisis de riesgo integrado en continua evolución. 
En el año 1996 se comenzó a construir el primer sistema de I.A que evolucionó hasta una 
versión en el año 2021 en la que se entrenó una red neuronal, formada por perceptrones, pues 
era el estado del arte en aquella época. Tenía por objeto la detección de fraude en el IVA. Fue 
entrenada con los datos de 1.880.000 contribuyentes referidos a cuatro años. Para el 
entrenamiento se utilizaron los datos de 109.56 actas. Se trataba de una red con 243 neuronas, 
con dos capas ocultas, con 43 clusters y con ella se obtuvo un impresionante resultado del 
98,78% en la detección de empresas con fraude de más de 600€. 
Lo que parecía un resultado extraordinario, luego lo fue menos. Si un paciente está en un 
hospital, de poco sirve ni a él ni a su familia que el hospital pueda decir en un 98,7% de los casos 
con enorme precisión si el paciente va a morir o no. Lo que hace falta es saber las causas de lo 
que sucede y qué es lo mejor que puede hacerse para tratarle. Los inspectores y gestores, como 
los médicos del hospital no necesitan profecías ni estadísticas. Necesitan saber qué es lo mejor 
que se puede hacer. 
En aquellos años todavía no existían IA generativas y se había visto que los sistemas de 
reglas eran limitados, por lo que se apostó por la línea de BI, que era mucho más explicativa. La 
IA permaneció bajo observación 15 años, esperando su momento. 
Las preguntas relevantes, ahora que tecnológicamente se ha apreciado un salto, son: 
 ¿Cuándo la IA tendrá la inteligencia suficiente para poder decidir qué es lo que hay que 
hacer? 
 ¿Cuál es el papel que debe jugar la IA en las administraciones tributarias? 
 ¿Es posible un uso ético de la IA? 
 
¿Inteligencia Artificial? 
El criterio tradicional para admitir si un sistema tiene como atributo la inteligencia ha sido el de 
Turing. Aunque filosóficamente sea insuficiente (una nota RE lo sigue siendo, aunque los que la 
escuchan la confundan con un DO) ha sido un referente útil. Hoy no se sostiene y existen 
docenas de definiciones que pretenden alcanzar la noción del concepto. La inteligencia tiene dos 
dimensiones: la capacidad de deducir (dianonia, Verstand) y la capacidad de comprender 
intuitiva y holísticamente, de alcanzar las ideas (nous, Vernunft). Las IA ejecutan con precisión 
la primera dimensión,el cálculo, la aplicación de silogismos y realizan alguna de las funciones 
propias del ser inteligente, pueden aprender de los datos y símbolos, pero no pueden hacer otras 
muchas cosas como es tener empatía, alcanzar las ideas abstractas, o “ver” las cosas desde la 
perspectiva adecuada. No se puede minusvalorar lo que hacen, pero no se pueden utilizar para 
ciertas cosas, como para impartir justicia, aunque sea tributaria. 
 
¿Capacidad de predecir? 
El mundo manifiesta regularidades. R. Penrose en su memorable El camino a la realidad, narra 
el paso que supuso el que el sabio antiguo, en Egipto se diera cuenta de que el surgimiento del 
Jornadas sobre Inteligencia Artificial - CUASI 2023 
 
 
sol, cada mañana, era una regularidad y no un renacimiento, que era el término de una sucesión 
en una serie y no un acontecimiento. Keynes, en su tesis doctoral desarrolló los conceptos de 
probabilidad e incertidumbre. Señaló que sobre hechos que dependen del albedrío, (el estallido 
de la IIGM) en aquel caso, no se podía utilizar la palabra probabilidad, a diferencia de lo que 
sucede al tratar del lanzamiento de dados. Decía Keynes, refiriéndose a la incertidumbre sobre 
la guerra. “Simplemente no sabemos”. 
Las IA generativas, pueden, por el tratamiento de ingentes cantidades de textos, señalar cual es 
la palabra que, dada una frase en construcción, conviene más para ser puesta en último lugar 
de modo que el conjunto total tenga sentido. Pero una frase es una secuencia no un mundo y la 
palabra que sigue y perfecciona es la hija de la regularidad y no del acontecimiento. Una I.A, 
como la que podría haber escrito La Biblioteca de Babel, la imaginada por Borges, podría haber 
escrito la mitología de los sajones, que Beda “pudo“ escribir pero no escribió, pero en ningún 
caso podría hacer lo que anticipó Phil Dick en Minority Report, predecir un delito. 
 
Comportamiento ético 
Vivimos anestesiados en un mundo simplificado por el uso de heurísticos, por la aceptación de 
cosas que damos por hechas. Estamos acostumbrados a vivir bajo la sombra de los cálculos 
actuariales. La póliza del seguro de enfermedad o de conducir depende de nuestra edad y no de 
si nos cuidamos o somos prudentes. Pagamos los precios que nos requieren en un restaurante 
de lujo por tomar un cierto pescado sin pasar a la cocina a ver la pieza o verla salir de una pecera, 
como, con sabiduría milenaria, se hace en Grecia o China, donde mantienen una esconfianza 
acreditada en las mañas de quien explica el plato. 
Imagine el lector que la póliza de su seguro de vida, fuera un día, súbitamente, incrementada en 
un 40% por el peregrino hecho de que se hubiera construido una residencia de ancianos o un 
oncológico en su barrio, con su mismo código postal. Lo veríamos insensato, pero los sistemas 
de I.A en sus procesos de aprendizaje, incorporan, si no se hace bien, al riesgo tributario, entre 
otros, el introyectado por estas variables aparentemente inocentes y en algunos casos, además, 
son sistemas de caja negra, que no permiten detectarlo. 
 
El dataísmo es pornográfico 
Vivimos en una época marcada por el concepto que el filósofo Byung Chul Han ha llamado 
dataísmo. David Brooks en el New York Times (2023) explicó este concepto. Tenemos la 
capacidad de acumular ingentes cantidades de datos (Big Data) y lo hacemos lo que pone de 
manifiesto un presupuesto cultural. “Todo lo que puede ser medido deber ser medido porque los 
datos son lentes transparentes y fiables que nos permiten filtrar todo emocionalismo y toda 
ideología. Creemos, sin ponerlo en cuestión, que los datos nos permitirán hacer cosas 
significativas como predecir el futuro. Bajo esta premisa las organizaciones tributarias solicitan 
cada vez más datos a los contribuyentes. Tener más datos no es malo en sí, como no lo es para 
el agricultor disponer de más agua para regar pero hay que pensar si su valor es aditivo, es 
extensivo o es intensivo. Si a dos kilos se le añaden 3 se tienen 5 kilos. Pero si a dos litros de 
agua a 30º se le añaden 3 el agua sigue estando a 30º. No siempre acumulando más datos 
(agua) se alcanza más conocimiento (temperatura) 
La sociedad actual encuentra normal compartir datos íntimos en las redes, con ciertas reglas, y 
que las empresas, sin permiso, obtengan datos de geolocalización agregados de las calles Las 
empresas los utilizan para fines que van desde optimizar las plantillas activas de los 
establecimientos de comida rápida (pseudo esclavizando al personal con estrategias como las 
diseñadas para los clopeners), hasta para poner a calentar el pan en los hornos de los 
supermercados midiendo la creciente marea de viajantes en metro que salen de una estación. 
Las administraciones tributarias deben ser sensibles al hecho de que la disposición a que 
nuestros datos formen parte de una estadística anónima no es universal. 
 
Jornadas sobre Inteligencia Artificial - CUASI 2023 
 
 
Las Agencias Tributarias en un mundo en que las reglas de la tributación cambian ante el 
surgimiento de la Gig Economy y de nuevo modelos de negocio como los de los alquileres 
vacacionales deben disponer de un criterio ético, que complemente el jurídico pues su conducta 
debe ser socialmente aprobada. Aunque ahora no se utilizan, es evidente que en el futuro se 
utilizarán, si no es en España, si en los países con los que competimos. El dato ha pasado de 
ser revelado con prudencia, dice Chul Han, al modo erótico a ser expuesto sin limitación al modo 
pornográfico. 
 
El hombre en el laberinto 
En la actualidad el modelo que esta implementado es “man in the loop”. El ser humano es el 
decisor y ocasionalmente está auxiliado por herramientas de inteligencia artificial, lo que hace 
más eficiente el impulso de actos de trámite, pero no existe el caso en que se aplique la IA para 
el ejercicio de potestades discrecionales (lo que de hecho está explícitamente prohibido en 
países como Alemania) ni la Administración tributaria las usa en el ejercicio de potestades 
ablatorias. El uso de la IA en un futuro puede ser concebida de dos formas: 
 
Sustitutivo. 
Como un sustituto del funcionario en la toma de decisiones discrecionales. Actualmente es 
imposible por tres motivos: 
 Técnico. La IA no ha alcanzado el necesario perfeccionamiento técnico. 
 Esencialista. Las maquinas no tienen, ni pueden tener, empatía y esta se considera hoy 
un requisito para impartir justicia 
 Eticos. Para muchos afectaría la dignidad humana. 
 
Complementario. La transición al transfuncionariado 
Como una herramienta que agilice los actos de trámite y auxilie al decisor en los discrecionales. 
Desde este enfoque su ayuda es invalorable y definitiva porque, los avances conceptuales, que 
son muchos y serán más se ejecutarán sobre máquinas más poderosas, que comprimirán más 
y más el tiempo. 
Existen ciertos dispositivos que han hecho pensar en un transhumanismo. Los avances de la IA 
permiten pensar en una actividad transfuncionarial, que exceda lo funcional. Ponemos algunos 
ejemplos: 
Acceso al conocimiento. La legislación es cada vez más complicada y el mundo está cada vez 
más globalizado. Quien quiera leer el código tributario de EE.UU debe leer y recordar, en lo que 
pueda, 10 millones de palabras. En pocos años su volumen se ha quintuplicado: Los fiscalistas 
y muy especialmente los que trabajen en fiscalidad internacional requerían estas herramientas. 
Mejora en la calidad de los datos. Las administraciones requieren cada vez más datos. Por 
ejemplo, en enero de 2019, durante el plazo establecido para recibir de las empresas los datos 
que deben utilizarse para precumplimentar la declaración del IRPF, la AEAT recibió 464.178.746 
registros de 12.479 declarantes, correspondientes a 15 modelos (retenciones, rendimientos de 
productos financieros, subvenciones, etc.). El mayor de estos ficheros contenía 35.543.350 
registros. El número de facturas recibidasen el sistema SII, un proceso simultáneo, diseñado 
para hacer cumplir la declaración del IVA, era de 180 millones mensuales. Muchos de estos datos 
se refieren a terceros, por lo que, mientras que el dato del declarante es fiable (por la firma 
electrónica) el del imputado puede tener errores. Si en un mes se reciben 600 millones de datos 
un 99% de precisión o incluso un 99,9% son insuficientes porque 1/1000 de errores seían 
600.000. La AEAT utiliza Machine Learning y sistemas multilayer con métrica de similaridad y 
Teoría de detección de señales para mejorar la precisión en el reconocimiento de hasta un punto 
hasta hace poco impensable. 
 
Jornadas sobre Inteligencia Artificial - CUASI 2023 
 
 
Selección de patrones. Ciertas unidades de la AEAT están especializadas en la detección de 
modos de “fraude”, de los que son ejemplo el fraude carrusel, las tramas y otras muchas figuras. 
Una vez que se conoce el “modus operandi” la investigación por medios convencionales es 
enormemente laboriosa porque existen 71 millones de contribuyentes y 79 tipos de relaciones 
personales o jurídicas declaradas o deducidas. La AEAT ha avanzado y hoy existe la posibilidad 
de que sistema de I.A encuentre agujas en el pajar, subredes en la gigantesca red de sus datos 
que cumplen ciertos requisitos, incrementando con ello la capacidad de investigación de los 
investigadores. 
Detección de patrones. Una de las características del fraude tributario es su continua adaptación 
a la realidad y a los esfuerzos de la AET por controlarlos. La estadística tradicional acuñó el 
concepto de valor extremo , un valor de tal magnitud que hace sospechar que es tal porque en 
el concurren causas distintas a aquellas que causan la variación observada en los demás 
elementos de una distribución. Si la venta por empleado en restaurantes de una categoría y una 
zona fuese como media de10.000€, con una desviación típica de 400€ en un periodo, la 
declaración de que las ventas por empleado han sido de 2 euros movería a preguntarse cuál es 
la causa y si la causa es un error o un fraude. Los sistemas de detección de patrones encuentran 
anomalías, no en los valores de una variable, sino el tipo número y cuantas de las relaciones 
entre los miembros de grupos de contribuyentes y pueden ser utilizadas para detectar 
comportamientos fraudulentos utilizando conceptos como los k-cores 
 
Conclusiones. Fantasía, ilusión y realidad. 
La AEAT comenzó a investigar sobre las posibilidades del uso de la IA hace más de 25 años 
desarrollando sistemas completos pioneros en su generación. Durante dos decenios ha 
considerado como herramientas básicas de apoyo a sus tareas de gestión e inspección con 
herramientas de Business Intelligence. 
Durante las dos últimas décadas sus investigaciones y desarrollos han permitido dar soporte y 
ayuda a los funcionarios, pero nunca sustituir a la acción humana, en actuaciones de apoyo y 
tramite y en la investigación. 
Durante los últimos tres años se ha producido un “hype” todavía injustificado sobre el posible uso 
de la IA generativa. El hecho de que pueda completar frases con sentido, relacionarlas con 
imágenes y transformar imágenes en otras en contextos creativos, es causa de mucha diversión 
entre los aficionados. Es también un excelente principio para su uso masivo por la Agencias 
cuando se superen problemas técnicos (todavía muchos) conceptuales (que son muy odiosos 
porque deslucen el marketing) y éticos. Como decía Benjamín Disraeli, un buen principio no es 
poco, pero tampoco es mucho. 
Freud distinguió la fantasía, la ilusión y la realidad. A la espera de que llegue el mucho de la IA, 
que algún día llegará, la idea de que la IA puede eliminar sustancialmente el fraude es una 
fantasía. Quien cae en ella huye de la realidad. La ilusión, decía Freud es algo que es muy difícil 
que suceda pero que puede suceder, como la de las personas que fantaseaban con casarse con 
un príncipe o una princesa. Pensar que a corto plazo la IA pueda sustituir al núcleo de la 
Administración Tributaria es una ilusión de los aficionados y los vendedores. 
Creer que la IA permite hoy mejorar de forma radical la atención a los contribuyentes, presencial 
y remota y construir una administracion más eficiente con datos más oportunos y mejores es una 
realidad