Gobernar con la inteligencia artificial

IA en la lucha contra la corrupción y promoción de la integridad pública

Los actores de la integridad, como las agencias anticorrupción (ACA), las entidades fiscalizadoras superiores (EFS), la auditoría interna y otros órganos de supervisión, están cosechando los beneficios de adoptar la IA para mejorar sus operaciones, auditorías e investigaciones. A medida que se intensifica la disponibilidad de datos y aumenta la complejidad digital, estas instituciones se ven obligadas a adaptarse para seguir siendo relevantes. Ante el creciente uso de la tecnología por parte de todos los actores, incluidos aquellos que intentan evadir el escrutinio y la supervisión, es una cuestión de legitimidad que las instituciones de integridad sigan el ritmo de la evolución digital.

En los últimos años, la IA ha sido un tema especialmente importante para los actores relacionados con la integridad. Esto se debe a las rápidas mejoras técnicas que hacen que estas tecnologías estén más disponibles y sean más asequibles, así como a las posibilidades que ofrece la IA para procesar todos los tipos de datos de manera eficiente, descubrir patrones y relaciones complejos, mejorar la precisión y la precisión analíticas y, en general, aumentar las actividades de integridad actuales (OECD, 2024[93]). Al igual que en otras áreas de política pública, la IA es principalmente valiosa para el análisis de conjuntos de datos vastos y complejos, donde las computadoras pueden ser más precisas o más rápidas que los humanos.

Situación actual

Entre los actores de la integridad, la IA tiene numerosas aplicaciones potenciales, que actualmente se están utilizando, probando o que se espera que surjan en los próximos años. Las actividades principales se han clasificado en tres categorías en función de su posible impacto: detección de actividades fraudulentas; aumento de la eficiencia en la gestión y síntesis de conocimientos; y mejora de la analítica predictiva y pronósticos.

Detección de actividades fraudulentas

Una de las primeras y todavía más profundas aplicaciones de la IA por parte de los actores de la integridad radica en detectar actividades fraudulentas, transformando los métodos analíticos tradicionales en enfoques sofisticados basados en datos. Los algoritmos de IA se destacan por aplicar técnicas estadísticas para identificar valores atípicos, patrones, transacciones y comportamientos que se desvían de las normas establecidas que justifican una mayor investigación humana (OECD, 2024[93]; Taşdöken, 2024[94]). Estas herramientas son capaces de analizar datos numéricos de poblaciones enteras, lo que supone un cambio significativo respecto al análisis tradicional basado en muestras, que permite detectar asignaciones erróneas o informes erróneos de fondos, entre otras irregularidades (Köbis, Starke and Rahwan, 2021[95]) (Recuadro 5.27). Como ejemplos cabe citar:

• Recientemente, la OCDE colaboró con la Contraloría General de la Administración del Estado (IGAE) española en una iniciativa de prueba de concepto que empleaba analítica avanzada y ML para detectar anomalías y patrones indicativos de posibles riesgos de corrupción o fraude (OECD, 2021[96]).

• El Tribunal de Cuentas Europeo (TCE), en el marco de una auditoría sobre las actividades de defensa de intereses de la UE, ha utilizado algoritmos ML para comprobar el registro de transparencia de la Comisión Europea e identificar valores atípicos con el objetivo de aislar una muestra más interesante basada en el riesgo para su análisis por los auditores (ECA, 2024[97]).

• En Brasil, la herramienta Alice analiza los procesos diarios de compra y adquisición para detectar áreas de riesgo e incoherencias. Los patrones inusuales activan una alerta que suspende la compra, que se marca para más consultas (Recuadro 5.25).

• En el Reino Unido, el Departamento de Trabajo y Pensiones está utilizando la IA para identificar patrones en las reclamaciones que podrían sugerir fraude o error, de modo que estas reclamaciones puedan ser revisadas por los equipos pertinentes del departamento (Recuadro 5.28).

Recuadro 5.27. La herramienta europea DATACROS para detectar anomalías en la propiedad de empresas

En la Unión Europea, el Proyecto DATACROS ha desarrollado una herramienta innovadora impulsada por IA para detectar anomalías en las estructuras de propiedad de las empresas que puedan indicar riesgos de corrupción, lavado de dinero y otros delitos financieros. Financiado por el Fondo de Seguridad Interior - Policía de la UE y coordinado por Transcrime en la Università Cattolica del Sacro Cuore, el proyecto aborda la necesidad crítica de herramientas analíticas avanzadas en los esfuerzos de supervisión pública e integridad.

El prototipo de la herramienta DATACROS consta de dos componentes principales: el Área Restringida para usuarios autorizados como agencias de aplicación de la ley y anticorrupción; y el Área Pública, accesible a todos la ciudadanía. El Área Restringida emplea algoritmos de IA para analizar las estructuras de propiedad de más de 70 millones de empresas en 44 países europeos, identificando señales de alerta y patrones ocultos que pueden indicar actividades ilícitas. Incorpora datos transfronterizos y aprovecha el amplio conocimiento de las redes delictivas, al tiempo que se adhiere a la normativa sobre privacidad y protección de datos.

La actividad de prueba de la herramienta DATACROS en 2021 ha mostrado resultados prometedores. Los sistemas predictivos identificaron correctamente al 83 % de las empresas sancionadas y al 88 % de las empresas con propietarios sancionados. Las agencias socias informaron de una alta satisfacción (4.3/5) y probabilidad de adopción futura (4.3/5). Al proporcionar tanto capacidades de investigación a las autoridades como datos agregados transparentes para la supervisión pública, DATACROS representa un ejemplo notable de cómo el uso de la IA puede ayudar a mejorar la integridad pública y combatir los delitos financieros.

Fuente: https://www.transcrime.it/wp-content/uploads/2021/10/Datacros_report.pdf.

Recuadro 5.28. Uso de la IA para hacer frente al fraude de beneficios en el Reino Unido

El Departamento de Trabajo y Pensiones del Reino Unido (DWP, por sus siglas en inglés) lleva utilizando sistemas de IA desde 2021-2022 para analizar datos históricos e identificar patrones relacionados con reclamaciones fraudulentas de crédito universal. Está invirtiendo 70 millones de GBP en analítica avanzada entre 2022 y 2025 para reducir el fraude y el error en las solicitudes de beneficios, con un ahorro proyectado de 1.600 millones de GBP para 2030. Los sistemas adoptados evalúan el riesgo en función de las incoherencias en los ingresos declarados, las frecuencias inusuales de las reclamaciones y los desajustes con los registros externos. Las reclamaciones de alto riesgo se marcan para su revisión manual, en la que los pagos pueden interrumpirse hasta que se complete una verificación adicional. Las principales áreas de interés incluyen las solicitudes de empleo por cuenta propia, el fraude en las prestaciones por vivienda y el capital no declarado, ámbitos en los que la detección del fraude ha sido históricamente más difícil.

Si bien estos sistemas mejoran la eficiencia, el DWP reconoce que garantizar la equidad y la transparencia sigue siendo un desafío. Para mitigar este sesgo, realiza un análisis de equidad antes del despliegue y supervisa continuamente las reclamaciones detectadas. Sin embargo, la falta de datos demográficos dificulta la evaluación completa de si determinados grupos se ven afectados de manera desproporcionada. Los trabajadores sociales conservan plena autoridad para tomar decisiones y no se les informa de por qué se ha presentado una reclamación para evitar un sesgo de confirmación. La selección aleatoria de reclamaciones también se utiliza para probar la precisión del sistema y evitar la dependencia excesiva de la automatización.

Para reforzar la confianza pública, el DWP se ha comprometido a publicar informes anuales sobre el impacto de la IA en la detección de fraudes, en particular en lo que respecta a los grupos vulnerables. Se están realizando esfuerzos para perfeccionar el análisis de justicia mejorando la recopilación de datos y ajustando los métodos de clasificación de riesgos cuando sea necesario.

Fuente: (UK National Audit Office, 2023[98]).

El análisis de redes es otra técnica valiosa para detectar posibles fraudes o escenarios de riesgo similar. Implica examinar las interacciones entre las entidades dentro de un sistema, como los funcionarios públicos, los contratistas y los proveedores, para descubrir y representar visualmente relaciones potencialmente ocultas. Este método es especialmente útil para identificar conflictos de intereses, así como para detectar actividades de corrupción que antes eran difíciles o imposibles de detectar (debido al volumen y la complejidad de los datos), y proporciona información crucial que ayuda a mantener la integridad de las operaciones públicas. Por ejemplo, en una licitación, el reconocimiento de patrones puede ayudar a identificar secuencias de transacciones que pueden ser indicativas de colusión o sobornos1. La lucha contra la corrupción en este ámbito se analiza con más detalle en la sección "La IA en la contratación pública".

Mejoramiento de la gestión y síntesis del conocimiento

Para los actores de la integridad, que dedican gran parte de su jornada laboral a leer, procesar y extraer significado de la documentación basada en texto, la IA puede ayudar en la gestión del conocimiento y el análisis de texto. Esto puede incluir, por ejemplo, extraer significado y automatizar la recuperación de hechos de documentos.

Dentro del ámbito de la NLP, el reconocimiento de entidades con nombre permite la detección y clasificación rápidas de información esencial en textos y otros formatos de datos no estructurados, como los nombres de personas, lugares, fechas y organizaciones, a una velocidad y escala que habría sido imposible recuperar manualmente. El reconocimiento de entidades con nombre se utiliza en chatbots, análisis de sentimientos, extracción de información y detección de fraudes. Brasil, por ejemplo, lo integró en el Tribunal Federal de Cuentas (TCU) (Odilla, 2023[99]). La traducción automática también está facilitando el acceso a una mejor información textual con mayor rapidez, mejorando así la efectividad de las auditorías e investigaciones.

El rápido desarrollo de GenAI también se está utilizando para mejorar la eficiencia. Los LLM pueden ser de gran ayuda al permitir la lectura, interpretación, resumen y categorización de grandes cantidades de información textual con un alto grado de precisión y en una fracción del tiempo de un ser humano. Los actores de la integridad están ampliando su uso de los programas de aprendizaje permanente para aplicaciones internas y de cara al público, haciendo que no solo su trabajo sea más eficiente, sino también que el público esté más involucrado y sea más consciente de sus esfuerzos. La creación de ChatTCU en Brasil es un ejemplo (Recuadro 5.29). Otros ejemplos son:

• Los actores de la integridad en Finlandia, Francia, Grecia, Lituania, el Reino Unido y en las instituciones de la UE están utilizando los grandes modelos de aprendizaje para ayudar en la redacción de documentos, el análisis de hojas de cálculo, la síntesis de textos, el tratamiento de informes de corrupción, el análisis de la jurisprudencia y para su descubrimiento en la auditoría de rendimiento (Ugale and Hall, 2024[89]).

• El Tribunal de Cuentas de los Países Bajos está llevando a cabo una prueba piloto de un sistema GenAI para que la ciudadanía y otras partes interesadas puedan desplazarse por los informes públicos y encontrar respuestas y fuentes a sus preguntas sobre el trabajo de auditoría pública2.

• El ECA está llevando a cabo un proyecto piloto con otras tres EFS (Alemania, Países Bajos y Suecia) para mejorar las relaciones interinstitucionales y el intercambio de conocimientos utilizando los grandes modelos de aprendizaje para analizar los informes de auditoría nacionales existentes (en todas las lenguas europeas), automatizar la traducción y crear fichas informativas en inglés y resúmenes orientados3 .

Recuadro 5.29. Brasil mejora sus procesos de auditoría mediante IA generativa con ChatTCU

El Tribunal Federal de Cuentas brasileño (TCU) ha sido pionero en el uso de la IA generativa en actividades de auditoría y supervisión a través de ChatTCU, un asistente impulsado por la IA que se puso en marcha en febrero de 2023. Desarrollado como una iniciativa institucional, ChatTCU se integra con los sistemas internos de TCU, proporcionando a los auditores acceso en tiempo real a resúmenes de casos, orientación regulatoria y apoyo administrativo. A diciembre de 2023, la herramienta contaba con más de 1.400 usuarios, lo que demuestra su rápida adopción en toda la institución.

ChatTCU, que actualmente funciona con el GPT-4 de 32k, mejora la eficiencia al permitir a los auditores recuperar y sintetizar información rápidamente, reduciendo la carga de trabajo manual y manteniendo la precisión y seguridad. Alojada en Microsoft Azure, la plataforma garantiza la protección de los datos y evita el intercambio no autorizado de información confidencial con proveedores externos de IA. Entre los desarrollos futuros se incluyen una mayor integración de los sistemas y la automatización de los flujos de trabajo, así como una mayor integración de la IA en los procesos de auditoría.

Más allá de su aplicación interna, ChatTCU ahora forma parte de un esfuerzo internacional de transferencia de tecnología. En octubre de 2024, la TCU firmó un acuerdo con la Entidad Fiscalizadora Superior (EFS) de Honduras, lo que la convierte en el primer receptor internacional del código fuente de la ChatTCU. Esta alianza, establecida a través de la OLACEFS, refleja una estrategia más amplia para fortalecer la adopción de la IA en las instituciones de auditoría de ALC. Desde su lanzamiento, 33 instituciones brasileñas también han comenzado a adaptar ChatTCU para sus necesidades específicas, destacando su escalabilidad y adaptabilidad.

Fuente: (Ugale and Hall, 2024[89]).

Con la entrada de GenAI en el discurso popular a finales de 2022, los actores de la integridad han tenido poco tiempo para comprender la oportunidad que presenta la IA generativa para su trabajo, por no hablar de integrarla completamente en sus actividades. Cuando la OCDE (2024[89]), encuestó el año pasado a los actores implicados en la lucha contra la corrupción, los encuestados calificaron en general a sus organizaciones como «en fase inicial de madurez» en lo que respecta al uso de la IA generativa y los LLM, en el caso de que se utilizaran, a pesar de que se esté convirtiendo en un área de interés prioritario.

Analítica preventiva y predictiva, pronósticos, prospectiva

Los sistemas de IA predictiva pueden ayudar a anticipar posibles riesgos de corrupción y fraude, entre otros, permitiendo priorizar casos para un examen humano más detallado. Si bien muchos órganos de integridad carecen del mandato para llevar a cabo acciones ex ante, identificar los riesgos crecientes de manera temprana puede ayudar a mitigarlos de manera más efectiva. Aunque las acciones ex ante a menudo están fuera del mandato de muchos órganos de integridad, anticipar un aumento de los riesgos asociados con la corrupción y el fraude antes de que se manifiesten puede ayudar a mitigar estos riesgos. Por ejemplo, en Colombia, la Universidad del Rosario desarrolló VigIA para analizar los contratos de la Alcaldía de Bogotá y señalar a quienes corrían un alto riesgo de corrupción, anticipando posibles conductas ilegales. La herramienta ha sido adoptada por la Ciudad de Bogotá (Salazar, Pérez and Gallego, 2024[100]).

Otros investigadores demostraron cómo se pueden adoptar técnicas de IA y ciencia de datos para predecir la corrupción. Por ejemplo, en Brasil, los investigadores demostraron que, en comparación con las inspecciones aleatorias, un sistema de IA que utilizara datos presupuestarios como predictores podría detectar casi el doble de municipios corruptos con la misma tasa de inspección (Ash, Galletta and Giommoni, 2020[101]). En Italia, los investigadores utilizaron archivos policiales y aplicaron algoritmos de IA para predecir delitos de cuello blanco, demostrando cómo los pronósticos algorítmicos podrían apoyar la política anticorrupción dirigida a objetivos (de Blasio, D’Ignazio and Letta, 2022[102]). En España, un equipo de investigación también desarrolló un sistema de IA que sirve como sistema de alerta temprana para predecir la corrupción pública en función de factores económicos y políticos en las provincias españolas (López-Iturriaga and Sanz, 2017[73]). La transferencia de estos enfoques de la investigación a los gobiernos sigue siendo limitada, pero va en aumento. Por ejemplo, en Lituania, el Servicio Especial de Investigación (STT) está desarrollando una herramienta basada en IA para ayudar a los funcionarios de prevención de la corrupción con sus análisis legislativos (Recuadro 5.30).

Recuadro 5.30. Prevención de la corrupción mediante análisis de proyectos de ley en Lituania

El Servicio Especial de Investigación de la República de Lituania (STT), el principal organismo anticorrupción del país está desarrollando y probando actualmente una herramienta para ayudar a los funcionarios encargados de la prevención de la corrupción a evaluar las leyes promulgadas y a redactar proyectos de ley con fines anticorrupción.

La herramienta utiliza modelos de aprendizaje permanente específicamente formados en datos sobre riesgos de corrupción y metodologías de evaluación de riesgos. Mediante la identificación de posibles factores de riesgo de corrupción legal (por ejemplo, lagunas, procedimientos y medidas insuficientes o débiles), ayuda a los funcionarios a analizar rápida y eficazmente grandes volúmenes de legislación con el fin de identificar posibles deficiencias o vulnerabilidades de los actos jurídicos.

Al utilizar esta herramienta, el STT trata de reforzar las salvaguardias legislativas y garantizar que, cuando se adopte un proyecto de acto jurídico, se consideren cuidadosamente las posibles consecuencias de su aplicación.

Fuente: Trabajo en curso con la OCDE y el STT (informe de próxima publicación).

Evidencia de impacto

La IA es muy prometedora para los actores de la integridad, pero su impacto empírico sigue siendo difícil de medir en esta etapa. La evidencia anecdótica muestra que la IA mejora la eficiencia operativa al ahorrar tiempo, permitir automatizaciones inteligentes y aumentar la precisión de los análisis. Los casos de uso en los que la NLP, incluidos los grandes programas de aprendizaje, resume, traduce o extrae información de fuentes basadas en texto se encuentran entre aquellos en los que el valor añadido de la IA para las actividades relacionadas con la integridad es más fácil de ver y evaluar. Sin embargo, cuantificar el impacto general de la IA en este ámbito es complejo. En primer lugar, la madurez en este ámbito suele ser baja; muchas iniciativas de IA de organismos de integridad siguen en fase exploratoria (prueba de conceptos, proyectos piloto) y todavía no han alcanzado la escala deseada.

Además, la evaluación del estado actual de la IA en este ámbito se ve obstaculizada por la falta de transparencia y por la falta de intercambio de información y de lecciones aprendidas entre instituciones y a través de las fronteras. La información sigue estando muy fragmentada, y el intercambio de casos prácticos, mejores prácticas y conocimientos sobre las herramientas de IA en materia de integridad sigue planteando dificultades. Los desafíos surgen de una combinación de factores, como las cuestiones de confianza en torno a la confidencialidad y la sensibilidad de las actividades de supervisión e investigaciones, y las diferencias culturales, así como los distintos niveles de madurez institucional para adoptar la IA. Además, el rápido ritmo de la evolución tecnológica, unido a los limitados recursos en términos de tiempo y experiencia, complica aún más los esfuerzos por compartir información y aprender de diversos casos prácticos. Esta falta de apertura dificulta la capacidad de evaluar y comprender la efectividad de las aplicaciones de la IA y aprender de diferentes instituciones y contextos.

Gestión de riesgos y desafíos

Riesgos asociados

• Datos inadecuados o sesgados en los sistemas de IA.

• Falta de transparencia y explicabilidad.

• Uso indebido o cuestionable de la IA.

Al desplegar la IA en los esfuerzos de integridad pública y anticorrupción, es fundamental abordar los posibles errores que pueden estar integrados en los sistemas de IA, como los causados por datos inadecuados o sesgados (Köbis, Starke and Rahwan, 2022[103]). Esto es especialmente importante en ámbitos como la detección de fraudes y el análisis de conflictos de intereses, en los que la equidad y la precisión son fundamentales. Continúan los esfuerzos para identificar indicadores objetivos que puedan servir como indicadores de la corrupción, un fenómeno que, por definición, está oculto. Si bien es lo más práctico, la dependencia de datos históricos (casos o decisiones pasadas) para entrenar algoritmos puede perpetuar errores. Esto podría dar lugar a percepciones sesgadas y limitar la posibilidad de descubrir dinámicas nuevas y en evolución de comportamiento corrupto, lo que podría dar lugar a prácticas desleales de selección o supervisión, socavando la credibilidad de los esfuerzos en pro de la integridad. Para contrarrestar este sesgo, los sistemas de IA deben desarrollarse con controles y equilibrios sólidos, que incluyan pruebas rigurosas, un seguimiento continuo y mecanismos de retroalimentación que permitan identificar y rectificar errores involuntarios y los daños resultantes.

La opacidad de muchos sistemas avanzados de IA también plantea importantes desafíos a los actores que se ocupan de la integridad. Si el público percibe que las acciones y decisiones del gobierno son opacas y percibe que se basan en algoritmos de "caja negra" —donde los resultados generados por la IA carecen de explicabilidad y transparencia— es probable que la ciudadanía se resistan al uso de la IA o desconfíen de él (OECD, 2024[93]). En la profesión de auditor, en particular, su uso para generar información que se utilizará como prueba de auditoría sigue siendo un tema controvertido (Mpofu, 2023[104]). Plantea dudas sobre su razonabilidad, confiabilidad y cumplimiento de las normas profesionales y reglamentarias (como las Normas Internacionales de Auditoría o ISAs) que aún no se han actualizado para tener en cuenta los recientes cambios tecnológicos.

La integración de las tecnologías de IA en los organismos de integridad plantea importantes preocupaciones en materia de responsabilidad, ética y protección de datos, especialmente en lo que respecta a los datos personales. El posible uso indebido de los datos, incluida la fusión inadecuada de datos o la divulgación pública de información confidencial, plantea graves desafíos éticos y legales. Es fundamental garantizar la protección de la información sensible, como las declaraciones de intereses. Por lo tanto, las instituciones deberían guiarse por la protección de datos y las normas y regulaciones éticas al implementar la IA. Además, los organismos de integridad deben adoptar marcos sólidos de gobernanza de datos e implementar medidas integrales de protección de datos para mitigar los riesgos de privacidad, incluida la realización de auditorías periódicas, el empleo de técnicas avanzadas de cifrado y el fomento de una cultura de uso ético de los datos en sus organizaciones (véase el Capítulo 4, sección "Crear una base de datos sólida").

Desafíos de implementación

• Brechas de habilidades.

• Falta de datos de alta calidad y capacidad para compartirlos.

• Falta de directrices exhaustivas y marcos prácticos.

• Aversión al riesgo.

• Elevados costos de adopción y escalabilidad de la IA.

El informe de la OCDE (2024[89]) ha puesto de manifiesto que la escasez de habilidades y experiencia relevantes son uno de los mayores desafíos en la adopción de la IA en la integridad y la supervisión públicas. Esto incluye competencias técnicas (tanto avanzadas en el ámbito digital como calificación del personal en general), así como habilidades en materia de gestión del cambio, gobernanza de datos y liderazgo.

El acceso a datos exhaustivos y de alta calidad es un requisito previo para el uso efectiva de la IA por parte de cualquier institución, pero los actores de la integridad a menudo carecen de autonomía en los datos. Si bien algunos actores de la integridad "son dueños" de los datos que utilizan (por ejemplo, las bases de datos de declaraciones de intereses), muchos de ellos, incluidos los ACA y las EFS, suelen depender de datos generados externamente sobre los que tienen poco o ningún control. Dependen de las normas y regulaciones gubernamentales, las prácticas históricas y los memorandos de entendimiento (MoU) con otras instituciones para adquirir los datos necesarios para sus actividades. Esto significa que los organismos de integridad a menudo se enfrentan a retrasos en el acceso a los datos necesarios, lo que dificulta el análisis en tiempo real y la toma de decisiones oportuna.

La incoherencia y la baja calidad de los datos también pueden obstaculizar gravemente el desarrollo y la efectividad de las herramientas de IA, lo que dificulta la creación de sistemas confiables y sólidos. Los organismos de integridad suelen depender de datos de fuentes externas, por lo que la disponibilidad y la precisión de estos datos son fundamentales para lograr una implementación exitosa. La calidad de los datos obtenidos de fuentes externas suele ser desconocida o no estar controlada hasta que se reciben, lo que puede dar lugar a inexactitudes e incoherencias que pueden limitar o complicar el desarrollo de la IA y la formación de los sistemas. Dado que la calidad de los datos es fundamental para el desarrollo y uso efectivos de la IA, es necesario que los marcos regulatorios faciliten el intercambio de datos y la colaboración entre organismos gubernamentales y entre sectores, según proceda y de conformidad con las normas de protección de datos y privacidad, y que se establezcan estrategias y sistemas para garantizar la calidad y la integridad de los datos.

La interoperabilidad de los datos también supone una barrera a la hora de compartirlos o combinarlos. La capacidad para cruzar referencias y analizar las relaciones dentro de los datos es fundamental para descubrir cuestiones como los conflictos de intereses. Sin embargo, en la actualidad, la madurez de la mayoría de las plataformas de datos de los gobiernos significa que la comprobación cruzada de la información es extremadamente difícil, si no imposible. Las limitaciones regulatorias —por motivos de seguridad o protección— pueden obstaculizar aún más la capacidad de integrar diferentes fuentes de datos, limitando así la posibilidad de una supervisión efectiva e integral.

Tal vez debido a la naturaleza del trabajo, las instituciones de integridad suelen ser reacias al riesgo. Muchos actores de la integridad desean integrar tecnologías avanzadas, pero no están seguros de por dónde empezar o cómo proceder. Esta aprensión se ve reforzada por el miedo a cometer errores en el proceso de adopción. Las directrices gubernamentales suelen centrarse en los consejos de precaución, haciendo hincapié en lo que no se debe hacer, en lugar de proporcionar medidas concretas y viables para la implementación efectiva de la IA. Esta falta de asesoramiento práctico y viable deja a muchos órganos de integridad sin una vía clara hacia adelante, lo que estanca el progreso y la innovación. Una orientación exhaustiva y marcos prácticos sobre el uso confiable de la IA para los actores relacionados con la integridad, de los que a menudo carecen, podrían ayudar.

Por último, el costo de implementación y mantenimiento de las herramientas de IA plantea un reto considerable, especialmente para las instituciones con presupuestos y conocimientos técnicos limitados. La complejidad de garantizar medidas sólidas de mitigación de los riesgos cibernéticos complica aún más este panorama. En respuesta, la colaboración entre instituciones se vuelve esencial. Al utilizar recursos centralizados, como entornos de prueba de IA gestionados por el gobierno o herramientas compartidas, los organismos de integridad pueden reducir costos y, al mismo tiempo, acceder a tecnologías avanzadas.

Potencial sin explotar y camino a seguir

De cara al futuro, los sistemas de aprendizaje adaptativo podrían perfeccionar continuamente sus predicciones en función de nuevos datos, ya que pueden desempeñar un papel importante en la actualización dinámica de las evaluaciones de riesgos, lo que permitirá a los organismos de integridad anticiparse a las posibles amenazas en evolución. La IA, en particular su capacidad para analizar y reconocer patrones en datos no numéricos, también puede ser la fuente de futuras mejoras en la lucha contra la corrupción. Al combinarlo con la tecnología de sensores e imágenes (satélites, drones, aeronaves que captan imágenes u otros datos como lecturas térmicas o señales de radar), la IA crea nuevas oportunidades para monitorear y analizar patrones a gran escala y comprender las actividades y dinámicas relacionadas con la corrupción (Zinnbauer, 2025[105]).

Más adelante, el modelado basado en agentes (ABM, por sus sigla en inglés) realizado por entidades modeladoras (funcionarios, empresas, etc.) y sus interacciones, podría simular cómo evolucionan la corrupción y la influencia en diferentes condiciones (U4, 2025[106]). Esto podría ayudar a evaluar el impacto de las políticas, leyes y estrategias anticorrupción o de integridad antes de su implementación.

El análisis de redes impulsado por la IA también podría ayudar a mapear de forma más eficiente y exhaustiva las relaciones entre los grupos de presión, los políticos, las empresas y otros agentes, revelando patrones de influencia, conflictos de intereses y dinámicas de puertas giratorias. Si bien la integración de las tecnologías de IA en los esfuerzos de integridad pública y anticorrupción ofrece un gran potencial, garantizar su uso efectivo y ético requiere una cuidadosa atención a consideraciones políticas clave que promuevan una adopción confiable. Un reciente estudio de la OCDE (2024[89]) proporcionó tres recomendaciones a los agentes responsables de la integridad a la hora de explorar el uso de la IA:

• Empezar por incorporar IA generativa en áreas y procesos de bajo riesgo. Este enfoque puede ayudar a crear capacidad en áreas en las que los errores son menos costosos, ya sea financieramente o desde la perspectiva del cumplimiento, antes de que se amplíen a tareas más arriesgadas y más analíticas, incluidas las que requieren más recursos financieros.

• Considerar los requisitos de TI tanto para el pilotaje como para la ampliación. Considerar qué recursos informáticos y de almacenamiento, capacidades de almacenamiento y gestión de datos pueden ser necesarios y asegurarse de que las decisiones tempranas no complican excesivamente los planes futuros.

• Recurrir a los datos generados internamente o abiertos para demostrar su valor y lograr resultados rápidos. Este enfoque es de bajo costo y ayuda a demostrar los casos de uso con mayor rapidez.

A medida que los gobiernos continúan explorando la IA, deben establecer mecanismos sólidos de transparencia y rendición de cuentas para garantizar que las decisiones impulsadas por la IA no solo sean precisas, sino que también se interpreten y documenten adecuadamente. Por ejemplo, si bien los sistemas de IA pueden proporcionar información valiosa al procesar grandes cantidades de datos, y los sistemas futuros podrían ser cada vez más autónomos, la autoridad última sobre las decisiones sensibles debe permanecer en manos de los operadores humanos para preservar la equidad, el juicio profesional (o el escepticismo) y, en última instancia, mantener la confianza pública. Los organismos de integridad pública deben tratar de garantizar que: el razonamiento detrás de las decisiones sea comprensible tanto para los expertos como para el público general; existan mecanismos de recurso y de impugnación; y, en la medida de lo posible, los procesos de IA sean explicables. Las pruebas generadas por la IA deben cumplir los requisitos de documentación para proporcionar una pista de auditoría adecuada, incluido el cumplimiento de las normas actuales para demostrar cómo se obtuvieron y evaluaron las pruebas.

El intercambio de conocimientos también es crucial para la correcta implementacióny ampliación de las tecnologías de IA en funciones de integridad pública. Las instituciones deben participar y crear plataformas que permitan el intercambio de mejores prácticas, estrategias, lecciones aprendidas e incluso modelos, códigos y datos. El intercambio ayudará a construir una comprensión más integral de la efectividad de la IA en los roles de integridad e impulsará el desarrollo de mejores prácticas que puedan adoptarse ampliamente. Ejemplos de ello son iniciativas como la Comunidad de Práctica en Tecnología y Análisis de la División Anticorrupción del Gobierno de la OCDE o la iniciativa Conexión Tecnológica para la Integridad4. Estos foros reúnen a profesionales de los sectores público y privado para debatir desafíos, explorar soluciones innovadoras y desarrollar estrategias colectivas para mejorar la adopción de la IA y otras tecnologías. Esto puede permitir un mejor flujo de información, la puesta en común de recursos, un aprendizaje rápido y un desarrollo y aplicación más rápidos de metodologías y soluciones.

Sobre la base de las directrices existentes sobre el uso ético y responsable de la IA, los gobiernos deben ir más allá de las directrices generales y proporcionar orientaciones y marcos más detallados y viables para implementar las tecnologías de IA. Esto puede incluir instrucciones detalladas paso a paso, estudios de casos y plantillas que las instituciones puedan adaptar a sus necesidades específicas. Estas orientaciones también podrían servir de orientación para identificar y mitigar los sesgos en los datos, utilizar técnicas explicables de IA, dotar de transparencia a los procesos de toma de decisiones y cómo incorporar mecanismos de reparación.

Una base de datos unificada e interoperable es esencial para el uso efectiva de la IA. Los gobiernos deben racionalizar sus operaciones de datos para garantizar que las bases de datos y los sistemas puedan comunicarse e integrarse sin problemas. Esto implica crear formatos de datos estandarizados, establecer marcos de gobernanza de datos sólidos e invertir en infraestructura que admita la interoperabilidad de los datos. Al promover la estandarización y la integración de los datos, así como políticas para el intercambio y el cruce seguro de datos, los gobiernos pueden mejorar la capacidad de los sistemas de IA para analizar los datos de forma exhaustiva, identificar patrones y proporcionar información procesable en apoyo de la integridad pública.

Notas

← 1.  Véase también la sección de este capítulo sobre el uso de la "IA en la contratación pública".

← 2.  Entrevista con el Tribunal de Cuentas neerlandés.

← 3.  Información facilitada por funcionarios del TCE.

← 4.  Véase https://www.oecd.org/en/about/projects/tech-connect-for-integrity.html.