Gobernar con la inteligencia artificial

Resumen ejecutivo

La inteligencia artificial (IA) es una de las fuerzas más transformadoras del siglo XXI y se está convirtiendo en una parte integral de la transformación digital de los gobiernos de todo el mundo. El uso de la IA por parte de la administración pública puede facilitar procesos internos y servicios públicos automatizados y adaptados, fomentar una mejor toma de decisiones y pronósticos, mejorar la detección del fraude y la calidad del empleo y el aprendizaje de los servidores públicos, todo ello con efectos tangibles. Por ejemplo, el Instituto Alan Turing estima que la IA podría automatizar el 84% de las transacciones repetitivas del servicio público en el Reino Unido, ahorrando el equivalente a 1 200 años-persona de trabajo al año. A pesar de su potencial, el uso de la IA por parte de los gobiernos sigue rezagado respecto al del sector privado.

Principales hallazgos: Cómo puede servir la IA a la ciudadanía

La OCDE realizó una investigación exhaustiva sobre el uso de la IA en 11 funciones centrales de la administración pública, analizando 200 casos prácticos. Los resultados indican que la IA se utiliza con mayor frecuencia en la prestación de servicios públicos, justicia y participación cívica, mientras que su presencia es relativamente menor en áreas como la evaluación de políticas, la administración tributaria y la reforma de la función pública. A medio camino se encuentran la contratación pública, la gestión financiera, la lucha contra la corrupción y la promoción de la integridad pública, y el diseño e implementación de la regulación. Una posible explicación de esta distribución es que algunas funciones abarcan una variedad más amplia de usos (servicios públicos), mientras que otras son más limitadas (reforma de la función pública, administración tributaria). Además, algunas se enfrentan a más limitaciones normativas (por ejemplo, la administración tributaria, dada la normativa sobre el uso de datos fiscales), mientras que otras enfrentan menos desafíos de implementación y pueden madurar más rápido (participación cívica). En algunas funciones, como la administración de justicia, las demandas públicas y los crecientes retrasos en las transacciones podrían precipitar la adopción de la IA como una oportunidad para abordar desafíos urgentes.

El uso de la IA es más frecuente en las operaciones internas y la prestación de servicios públicos, pero menos prominente en la supervisión gubernamental. También se observa un menor uso en la formulación de políticas, consistente con análisis anteriores de la OCDE. Los casos de uso suelen basarse en enfoques clásicos basados en reglas o técnicas de aprendizaje automático (ML) ya establecidas, siendo menos comunes la IA generativa (GenAI), que incluye los modelos extensos de lenguaje (LLM). En cuanto a las ventajas, la mayor parte de los casos se destinan a promover procesos y servicios automatizados, racionalizados y adaptados, seguidos de una mejor toma de decisiones y pronósticos, y de una mayor rendición de cuentas y detección de anomalías. Algunos casos tratan de desbloquear nuevas oportunidades para partes interesadas externas (por ejemplo, la ciudadanía o empresas) mediante el acceso a sistemas de IA proporcionados por el gobierno, pero es posible que se requieran más esfuerzos.

Riesgos del uso de la IA en la administración pública

La adopción de la IA sin riesgos no existe. Liberar los beneficios de la IA requiere mitigar sus riesgos. Los algoritmos sesgados pueden dar lugar a resultados negativos; el uso indebido de la IA puede infringir o impedir el libre ejercicio de los derechos humanos; la insuficiente transparencia, explicabilidad y comprensión pública de la IA puede erosionar la responsabilidad y causar resistencia pública; y la dependencia excesiva de la IA puede ampliar las brechas digitales y permitir que se propaguen errores sistémicos, debilitando la confianza de la ciudadanía en el gobierno. Estos riesgos pueden verse amplificados en países que carecen de los mecanismos necesarios para garantizar el ejercicio, la protección y la promoción de los derechos humanos, o pueden resultar en un uso indebido de la IA por parte de funcionarios públicos a título individual. También podría ocurrir un desplazamiento de la fuerza laboral de la función pública si los gobiernos buscan reemplazar en lugar de aumentar las capacidades de los funcionarios públicos.

El hecho de que los gobiernos no aprovechen la IA también representa un riesgo, que se traduce en oportunidades perdidas para obtener beneficios y en un aumento de la brecha entre las capacidades del sector público y el privado. Para responder eficazmente a las crecientes expectativas ciudadanas y fortalecer la confianza pública, será necesario que los gobiernos implementen soluciones basadas en IA Ignorar la transformación de la IA, o esperar a que se resuelvan todas las incógnitas, relega al gobierno a ser un tomador de la tecnología en lugar de un creador de opciones, incurriendo en costos y desventajas significativas. Si los gobiernos no refuerzan pronto las capacidades internas de IA, podrían tener dificultades para ponerse al día.

Los gobiernos también enfrentan desafíos en la implementación de la IA

Los desafíos que plantea ampliar con éxito las aplicaciones de IA hacen que las iniciativas gubernamentales de IA sigan a menudo en fases piloto. Las brechas de habilidades y dificultades para obtener y compartir datos de calidad se encuentran a lo largo de todas las funciones gubernamentales. Más aún, aunque las estrategias de IA en el gobierno son comunes, la falta de directrices concretas dificulta su puesta en práctica. Estos factores agravan la aversión al riesgo, dificultando la capacidad de los gobiernos para innovar con IA. Además, la insuficiencia de mecanismos de supervisión y evaluación limita su capacidad para medir los avances, detectar riesgos y demostrar el rendimiento de la inversión. Los costos financieros también son un desafío común.

Algunos desafíos son más frecuentes en algunas funciones que en otras. Por ejemplo, la administración tributaria enfrenta leyes y normas complejas en torno a los procesos y datos fiscales, mientras que la contratación pública enfrenta la falta de normas establecidas en torno a la IA. Por último, el uso de la IA en funciones como la gestión de las finanzas públicas está limitado por infraestructuras tecnológicas heredadas y obsoletas que no son adecuadas para el desarrollo o uso de la IA.

Cómo pueden las administraciones públicas garantizar un uso confiable de la IA

Para cosechar los beneficios de la IA y, al mismo tiempo, mitigar sus riesgos y superar los desafíos de implementación, las instituciones públicas deben poner en marcha:

• Habilitadores para promover una adopción confiable, como la gobernanza, los datos, la infraestructura digital, las competencias digitales, las inversiones financieras, la agilidad de los procesos de contratación y la capacidad para asociarse con agentes no gubernamentales.

• Salvaguardas para orientar el uso de la IA, incluidas normas y políticas, directrices y marcos, mecanismos de transparencia y rendición de cuentas que abarquen el ciclo de vida del sistema de IA, y órganos de supervisión y asesoramiento para orientar y evaluar su implementación.

• Participación para impulsar políticas y casos de uso receptivos y centrados en el usuario, que contemplen mecanismos para interactuar con las principales partes interesadas, incluido el público, la sociedad civil y las empresas.

Se necesita más acción para invertir en y adoptar una IA confiable en la administración pública, pero los enfoques existentes ofrecen lecciones e inspiración

En la medida de lo posible, la OCDE incentiva a los gobiernos a dar prioridad a las aplicaciones de IA de alto beneficio y bajo riesgo, sobre todo al construir un nivel inicial de madurez. Sin embargo, la mayoría carece de los procesos para la medición holística de resultados potenciales o logrados, como la eficiencia del gasto, la calidad del servicio o los daños potenciales, que les permitan hacer estas determinaciones. Abordar esto, debería ser una prioridad, garantizando que las implementaciones de la IA sean transparentes, justas y seguras.

Muchos esfuerzos gubernamentales en materia de IA están en sus inicios, pero algunos están generando valiosas lecciones. La OCDE está comprometida con la recopilación y el análisis de evidencia para ampliar la base de conocimiento empírico sobre las políticas y experiencias que funcionan, centrándose en cómo los gobiernos pueden aprovechar una IA confiable para generar valor público.