Gobernar con la inteligencia artificial

IA en la participación cívica y gobierno abierto

Participación de las partes interesadas se refiere a "todas las formas en que la ciudadanía y las partes interesadas pueden participar en el ciclo de políticas públicas y en el diseño e implementación de servicios públicos" (OECD, 2017[140]). La participación cívica, que se centra en la participación de la ciudadanía, puede reportar beneficios tanto a las administraciones públicas como a la ciudadanía. No solo genera confianza en el sector público, sino que también refuerza la democracia al ofrecer oportunidades significativas para que la ciudadanía tengan voz en el diseño e implementación de las políticas y servicios del gobierno (Paunov and Planes-Satorra, 2023[141]; 2024[142]; 2022[143]). En lo que respecta a las políticas y los productos de IA, la participación temprana en el ciclo de desarrollo tecnológico enriquece la comprensión de las cuestiones, ayuda a alinear la innovación tecnológica con las necesidades de la sociedad e influye en la forma en que se mitigan los posibles daños (OECD, 2024[144]; UK Government Office for Science, 2023[145]).

Los gobiernos están utilizando las tecnologías digitales para ampliar las oportunidades de participación cívica al permitir nuevas formas y canales de interacción entre la ciudadanía y las instituciones públicas. Esto contribuye a la creciente tendencia de Civic Tech: el uso de tecnologías digitales para reforzar la democracia al permitir que el público esté informado, participe en la toma de decisiones y la formulación de políticas, y aumente la capacidad de respuesta y la rendición de cuentas de los gobiernos (OECD, 2024[146]). En particular, las herramientas de IA tienen aplicaciones relevantes en la participación cívica y, más ampliamente, en las políticas y prácticas de gobierno abierto, incluido el acceso a la información, la comunicación gubernamental y la protección del espacio cívico.

Situación actual

Mejoramiento de la transparencia y el acceso a la información

La capacidad de la IA para clasificar, filtrar y resumir grandes cantidades de información podría reducir las barreras a la divulgación de información, facilitando así que los gobiernos sean transparentes para el público (OECD, 2024[29]). Por ejemplo, el Gobierno de Estados Unidos está probando una herramienta impulsada por IA para revisar documentos clasificados para su futura divulgación en virtud de la Ley de Libertad de Información (US FOIA, 2023[147]; MITRE, 2023[148]). La IA también puede ayudar a la ciudadanía a comprender los complejos procesos gubernamentales y crear oportunidades para una mayor participación y escrutinio por parte de la ciudadanía y las organizaciones de la sociedad civil (OSC) (Araszkiewicz and Rodríguez-Doncel, 2019[149]).

Los gobiernos pueden ofrecer herramientas basadas en la IA directamente al público para ayudar a las personas a navegar e interpretar grandes cantidades de datos e información, proporcionando así a la ciudadanía un acceso personalizado y accesible a la información pública. Por ejemplo, el Distrito de Columbia (EE. UU.) ha lanzado una versión beta de la plataforma DC Compass1 que utiliza IA para responder a las consultas de los usuarios y generar mapas basados en datos abiertos de la ciudad. En Grecia, la plataforma opencouncil.gr utiliza la IA para transcribir automáticamente las reuniones de los consejos locales y generar resúmenes, contenido de redes sociales y actualizaciones personalizadas de los barrios a través de aplicaciones de mensajería, lo que hace que la gobernanza local sea más accesible y comprensible para la ciudadanía2. Otro ejemplo de Grecia es la plataforma DidaktorikaAI, puesta en marcha por el Centro Nacional de Documentación (EKT), que mejora la accesibilidad del conocimiento académico y científico para los responsables de la formulación de políticas y para la sociedad en general a través de una biblioteca en línea impulsada por la IA que reúne más de 50 000 publicaciones (National Documentation Center (EKT), 2025[150]). Además, el Parlamento Europeo proporciona una herramienta de IA para ayudar a la ciudadanía a acceder a su archivo formulando preguntas en lenguaje natural (Recuadro 5.35).

Recuadro 5.35. Democratizar el acceso a los archivos del Parlamento Europeo

Los archivos del Parlamento Europeo han adoptado la IA generativa para transformar el acceso a sus extensos registros históricos. Desarrollada por la Unidad de Archivos, la innovadora plataforma Archibot integra los grandes modelos de lenguaje con técnicas RAG para permitir a los usuarios interactuar directamente con documentos digitalizados. Los ciudadanos, investigadores y responsables políticos pueden ahora realizar consultas en lenguaje natural para obtener información sobre acontecimientos históricos, cifras clave y avances institucionales a partir de un índice de más de 100 000 documentos que se remontan a 1952. La herramienta emplea métodos RAG para identificar documentos relevantes a partir de las consultas de los usuarios y sintetiza la información extraída en respuestas concisas y fácilmente comprensibles. Accesible a través del sitio web de archivos del Parlamento Europeo, la plataforma admite la traducción automática, ampliando así su alcance a los usuarios en 55 idiomas, a pesar del contenido predominantemente francés.

El proyecto, que reduce el tiempo de búsqueda y análisis de documentos en aproximadamente un 80 %, mejora significativamente la eficiencia de la investigación histórica y el análisis de datos. Además de facilitar un acceso rápido a la información legislativa y normativa, Archibot apoya la creación de informes exhaustivos y productos analíticos, que sirven como un valioso recurso para educadores, investigadores y responsables de la formulación de políticas. Esta transformación digital del acceso a los archivos no solo aborda desafíos de larga data en la navegación por vastas colecciones de registros, sino que también mejora la transparencia y el compromiso público dentro de la Unión Europea.

Fuente: https://historicalarchives.europarl.europa.eu/en/sites/historicalarchive/home/cultural-heritage-collections/news/ai-dashboard.html.

Gracias en parte a la mejora de la transparencia y el acceso a la información, las herramientas de IA ofrecen oportunidades para promover el espacio cívico (OECD, 2023[151]). El espacio cívico es la piedra angular del funcionamiento de las democracias. Consiste en el conjunto de condiciones jurídicas, políticas, institucionales y prácticas que los agentes no gubernamentales necesitan para acceder a la información, expresarse, asociarse, organizarse y participar en la vida pública (OECD, 2022[152]). Por ejemplo, en Israel, la plataforma Kol Zchut (Todos los derechos) —un repositorio exhaustivo de derechos de los residentes desarrollado por la OSC homónima junto con el Ministerio de Justicia y la Agencia Digital Nacional del país— ha integrado recientemente un chatbot de IA para permitir a los usuarios formular sus consultas en hebreo, árabe y ruso (OECD OPSI, 2019[153]). Los expertos en IA han identificado el empoderamiento de la ciudadanía, las OSC y los interlocutores sociales (por ejemplo, los sindicatos) como uno de los beneficios potenciales más críticos del uso de la IA, y han pedido a los gobiernos que tomen más medidas para empoderar a estos actores (OECD, 2024[29]).

La IA también puede ampliar el acceso a la información al ayudar a las personas con discapacidad que pueden enfrentarse a obstáculos para acceder a la información. Por ejemplo, la ciudadanía afectados por deficiencias visuales o cognitivas pueden beneficiarse de la conversión de voz a texto o de imagen a voz aplicada a sitios web y portales gubernamentales, así como de interfaces accesibles impulsadas por IA con textos adaptables, fuentes, colores y contrastes (Welker, 2023[154]). El Reino Unido creó su sitio web gov.uk para que fuera totalmente compatible con las tecnologías que utilizan la IA con el fin de mejorar su accesibilidad. La IA también puede mejorar el acceso a la información superando la brecha lingüística, en particular en los sitios web gubernamentales, mediante la traducción automática de contenidos, que se ha generalizado. Esto puede mejorar la capacidad de participar en procesos participativos al fomentar el diálogo entre los participantes que hablan diferentes idiomas (European Parliament, 2022[155]). La plataforma Bhashini de la India, analizada en el Capítulo 4, es otro ejemplo de cómo se intenta superar las brechas lingüísticas, por ejemplo, mediante el uso de técnicas participativas.

Hacer que los procesos participativos sean efectivos e inclusivos

Los gobiernos pueden utilizar la IA para ayudar a llevar a cabo y facilitar los debates y diálogos públicos. A menudo, estos diálogos se enfrentan a una disyuntiva entre la amplitud (número y variedad de participantes) y la profundidad del debate y la creación de consenso (Landemore, 2022[156]). Si bien Internet ha permitido espacios de comunicación de muchos a muchos, estos espacios no siempre están diseñados para fomentar la deliberación y la creación de consenso (Weyl, Tang and Plurality, 2022[157]). La IA puede proporcionar un espacio deliberativo acogedor y productivo (Landemore, 2022[156]; Ovadya, 2023[158]) al:

• Extraer información significativa de la contribución de muchos participantes, que podría proporcionarse en diferentes formatos, como texto y voz.

• Detectar contenidos nocivos y apoyar a los moderadores humanos en la lucha contra la incitación al odio.

• Facilitar la verificación de datos proporcionando datos e información procedente de fuentes en tiempo real.

• Ayudar a realizar una facilitación en vivo para favorecer múltiples opiniones y crear puentes hacia el consenso y apoyar la deliberación.

La IA también puede mejorar la calidad del diálogo. Por ejemplo, puede ayudar a los organizadores a redactar materiales de aprendizaje accesibles y basados en hechos, así como simplificar documentos burocráticos complejos en un lenguaje fácil de leer para permitir un debate informado. Por ejemplo:

• En Estados Unidos, la herramienta impulsada por IA MAPLE (Plataforma de Massachusetts para la Participación Legislativa) permite a la ciudadanía comprender mejor el contexto y los objetivos de los borradores de textos legales a través de resúmenes generados por la IA que envían sus aportes y comentarios3.

• En España, la plataforma participativa Decide Madrid, basada en el software de código abierto Consul, experimentó con un sistema de NLP para ayudar a la ciudadanía a agregar y desarrollar propuestas (Arana-Catania et al., 2021[159]).

Las investigaciones indican que el uso de herramientas de deliberación basadas en IA podría tener un impacto significativo en la disminución de la polarización (Tsai et al., 2024[160]; OECD, 2020[161]). Los ejemplos en el Recuadro 5.36 ponen de manifiesto que estos instrumentos no solo son beneficiosos para obtener información comprensible sobre un tema específico, sino que también pueden ayudar a reunir los resultados de las múltiples deliberaciones. Pueden garantizar la coherencia preservando al mismo tiempo la riqueza de los debates (Landemore, 2022[156]), así como fortalecer las conexiones entre los participantes y la sociedad en general haciendo que el contenido y los resultados de las discusiones sean más accesibles para el público.

Recuadro 5.36. La IA como facilitadora de procesos deliberativos

Deliberación masiva en línea con Polis

Polis es un software de código abierto impulsado por IA diseñado para permitir a grandes grupos de personas debatir, colaborar y alcanzar consensos sobre cuestiones complejas. Los participantes comparten sus opiniones sobre una pregunta determinada y expresan su acuerdo o desacuerdo sobre las declaraciones de otros participantes. El algoritmo mapea las respuestas de los participantes y agrupa las opiniones, facilitando la identificación de posiciones que son apoyadas por la mayoría de los participantes. El polaco se ha utilizado para facilitar el debate y crear consenso en Austria sobre cuestiones ambientales, en Uruguay sobre un referéndum nacional, en Nueva Zelanda para facilitar el desarrollo de la política gubernamental, en Filipinas para generar política municipal, en Estados Unidos para contrarrestar la polarización a nivel municipal y en Alemania para desarrollar una plataforma de partido político.

En Chile, la IA ayuda a moderar los procesos deliberativos

En 2020, el Senado de Chile se asoció con el Centro de Stanford para la Democracia Deliberativa para involucrar a la ciudadanía en el proceso deliberativo en línea "LXS 400 – Chile Delibera" realizado a través de la Plataforma de Deliberación en Línea de Stanford. La plataforma utilizó una herramienta de IA para mantener el tiempo y distribuir equitativamente los derechos de expresión oral, lo que permitió a los participantes formar colas de expresión y debatir en pequeños grupos con agendas programadas. Más de 500 ciudadanos representativos de la sociedad chilena debatieron en pequeños grupos y en sesiones plenarias sobre las reformas sanitarias y de las pensiones.

Fuente: (The Computational Democracy Project, 2024[162]; Fishkin and al, 2021[163]).

Además de facilitar la participación, la IA puede ayudar a los gobiernos y la ciudadanía a analizar y dar sentido a los aportes de los procesos participativos y deliberativos. Las funciones de IA, como la automatización y el procesamiento de grandes cantidades de datos y texto, pueden facilitar la deliberación y el diálogo en línea masivos y multilingües. Por lo general, los gobiernos se enfrentan al reto de analizar grandes cantidades de insumos cualitativos recibidos en las consultas públicas, que pueden remediarse con la ayuda de la IA. Por ejemplo, la Incubadora de Inteligencia Artificial (i.AI) del Reino Unido ha desarrollado el i.AI Consultation Analyser, cuyo objetivo es ampliar la capacidad del gobierno para analizar los aportes de la ciudadanía en las consultas públicas legales. Se espera que la herramienta reduzca el costo de esta actividad en 80 millones de GBP (AI.GOV.UK, 2024[164])4.

Las herramientas de interpretación con IA permiten la identificación y evolución de temas recurrentes, la agrupación automática de opiniones e ideas, la detección de valores atípicos y el análisis de sentimientos de la percepción de un tema determinado (Arana-Catania et al., 2021[159]; Berditchevskaia and Baeck, 2020[165]; Schneider and Sanders, 2023[166]). Las herramientas de sensibilización pueden ayudar a los servidores públicos a comprender y visualizar las prioridades y opiniones de la ciudadanía sobre cuestiones concretas y ayudarles a traducir grandes volúmenes de aportes en recomendaciones viables que sean representativas de las opiniones de los participantes. Los ciudadanos también pueden utilizar estas herramientas para comprender las perspectivas de los demás, informar y elaborar sus propias aportes, y comprender mejor los resultados de los procesos participativos y deliberativos. Ejemplos de ello son el Gran Debate nacional de Francia, o Gran Debate (Recuadro 5.37), así como:

• El Ayuntamiento de Cambridge, Reino Unido, utilizó la herramienta de interpretación impulsada por IA de la plataforma Go Vocal (anteriormente CitizenLab), que agrupa y prioriza automáticamente las opiniones de la ciudadanía para analizar sus contribuciones a su Código de Diseño, ahorrando un 50 % del tiempo estimado para el procesamiento manual (Fillet, 2024[167])5 .

• El Comité Económico, Social y Medioambiental francés (CESE) organizó un proceso deliberativo (Convención Citoyenne) para informar a la legislación sobre la delicada cuestión política del final de la vida. La herramienta Panorámica, desarrollada por Make.org y desarrollada por IA, permite a la ciudadanía, periodistas y OSC acceder y navegar por los debates y los resultados del proceso deliberativo a través de una interfaz interactiva6.

Recuadro 5.37. Mejoramiento de la participación en el Gran Debate Nacional de Francia

En Francia, el Gran Debate Nacional, lanzado a principios de 2019, es un ejemplo de un esfuerzo pionero para democratizar el debate público a través de la innovación digital. En respuesta al creciente descontento social, el Gobierno Francés estableció esta consulta nacional para reunir la opinión de la ciudadanía sobre cuestiones clave, como el empleo, la fiscalidad y la reforma democrática, utilizando una plataforma en línea dedicada. La inteligencia artificial desempeñó un papel central en la gestión e interpretación de la amplia gama de contribuciones.

Se emplearon técnicas impulsadas por la IA, como la NLP y los algoritmos de clustering, para analizar sistemáticamente millones de propuestas. Al identificar temas recurrentes y sintetizar diversos puntos de vista, estas herramientas permitieron a los responsables de la formulación de políticas poner de relieve puntos de consenso y tendencias emergentes. Este análisis automatizado transformó la información bruta aportada por la ciudadanía en información accesible, lo que propició una toma de decisiones más informada y transparente.

Fuente: https://granddebat.fr.

Por último, la IA puede facilitar la innovación en actividades de participación cívica al generar simulaciones y visualizaciones sobre diversos escenarios y alternativas, incluso en combinación con otras tecnologías inmersivas emergentes como la realidad virtual o aumentada7. Las herramientas generativas de IA pueden ayudar a los gobiernos a interactuar con el público en proyectos complejos relacionados con un espacio físico (por ejemplo, movilidad urbana y rediseño). Estas herramientas pueden simular escenarios futuros y alternativos, permitiendo a la ciudadanía visualizar los resultados finales y proporcionar comentarios para su consideración por parte del gobierno (OECD, 2023[2]). La IA generativa puede reducir significativamente los costos de creación de simulaciones visuales al automatizar el proceso de diseño y generar representaciones realistas. Por ejemplo, la ciudad de Hamburgo, en Alemania, utilizó tecnologías 3D e IA en la plataforma CityScope, desarrollada en el MIT Media Lab, para involucrar a las partes interesadas relevantes en el proceso de toma de decisiones para 161 lugares viables para acoger a los refugiados (Campagnucci et al., 2025[168]). Del mismo modo, Finlandia utilizó la herramienta UrbanistAI para fomentar el debate sobre la peatonalización de las calles (Recuadro 5.38).

Recuadro 5.38. Finlandia utiliza IA generativa para la planificación urbana participativa

En Finlandia, la ciudad de Helsinki utilizó la IA generativa para mejorar la planificación urbana participativa a través de UrbanistAI. Esta plataforma integra herramientas de visualización impulsadas por IA con funciones de diseño conjunto que permiten a residentes y empresas dar forma de forma colaborativa a espacios urbanos. Durante la iniciativa Calles de Verano 2023, Helsinki utilizó la plataforma en talleres comunitarios, donde los participantes tradujeron sus ideas en diseños de calles generados por IA, fomentando procesos de planificación urbana más inclusivos y atractivos.

Al permitir la visualización en tiempo real de las propuestas de la comunidad, UrbanistAI ayudó a reducir la brecha entre la aportación de la ciudadanía y las decisiones finales de diseño. La capacidad de la herramienta para alinear las propuestas con las políticas locales también racionalizó el proceso de planificación, garantizando el cumplimiento de la regulación al tiempo que se mantiene la flexibilidad creativa. El éxito del caso de Helsinki ha inspirado una adopción más amplia de la plataforma, con ciudades como Tallin, Pristina y Berlín integrándola en sus iniciativas participativas de diseño urbano.

Fuente: https://interoperable-europe.ec.europa.eu/collection/public-sector-tech-watch/reimagining-helsinki-participatory-urban-planning-generative-ai.

Apoyo a una comunicación pública efectiva y adaptada

Un software de análisis basado en IA puede ayudar a los comunicadores públicos a monitorear y analizar el debate en línea, las percepciones de la audiencia y las actitudes sobre un tema determinado8. La IA puede ayudarles a mejorar la calidad, cantidad, accesibilidad y pertinencia de la información que los gobiernos facilitan a diferentes segmentos de la población. Además, las herramientas de IA pueden mejorar la eficiencia y efectividad de los comunicadores públicos al ayudar en la lluvia de ideas, automatizar tareas rutinarias como la planificación de medios y garantizar la coherencia del contenido en todos los canales de comunicación. Estas capacidades permiten a los comunicadores interactuar mejor con sus audiencias, adaptar los mensajes a diversos grupos y responder rápidamente a las preocupaciones públicas, fomentando así una ciudadanía más informada y comprometida. Véase el ejemplo en el Recuadro 5.39.

Recuadro 5.39. Innovación en las comunicaciones públicas con IA en el Reino Unido

En el Reino Unido, el Servicio de Comunicación Gubernamental (GCS) ha estado desarrollando y probando GCS Assist, una herramienta conversacional impulsada por IA diseñada para ayudar a los comunicadores gubernamentales a mejorar la eficiencia y efectividad de su trabajo. La herramienta integra directrices profesionales, marcos de comunicación e información sobre la audiencia privada, lo que garantiza que los resultados generados por la IA se ajusten a las normas gubernamentales. Dado que la IA es más efectiva cuando se utiliza como asistente colaborativo, GCS Assist está diseñado para apoyar a profesionales con y sin experiencia racionalizando las tareas rutinarias, mejorando la creatividad y permitiendo más tiempo para el trabajo estratégico.

GCS Assist ha experimentado un proceso de desarrollo iterativo, que comenzó con un prototipo inicial pilotado dentro de la Oficina del Gabinete a finales de 2023. La herramienta fue diseñada para apoyar a los comunicadores gubernamentales generando borradores de textos, planes e ideas estratégicas, garantizando al mismo tiempo la seguridad de los datos dentro de los sistemas gubernamentales. En la evaluación alfa de marzo de 2024 se calificó el progreso de la herramienta como ámbar, reconociendo su potencial y destacando al mismo tiempo las áreas susceptibles de mejora. Actualmente se está llevando a cabo una implementación gradual, que comienza con un grupo limitado de usuarios antes de ampliar el acceso de forma más amplia.

Fuente: https://gcs.civilservice.gov.uk/wp-content/uploads/2024/04/2024-05-GCS-Innovating-with-Impact-Strategy-interactive.pdf.

La producción y difusión de materiales informativos, así como la asistencia y respuesta a las consultas de la ciudadanía, es una función fundamental pero que requiere muchos recursos para permitir una participación efectiva. La IA también puede potenciar las iniciativas de comunicación pública mediante la selección y adaptación de materiales de comunicación. La IA generativa puede, por ejemplo, resumir y sintetizar información y crear contenido para diferentes públicos en diferentes formatos (vídeo, imagen, texto, etc.). Por otra parte, GenAI puede ayudar a los gobiernos a proporcionar a la ciudadanía información accesible y basada en pruebas, permitiéndoles comprender mejor las cuestiones políticas en juego, así como el papel del gobierno en su regulación. Los ejemplos de los Países Bajos y Brasil que figuran en el Recuadro 5.40 ilustran cómo se puede hacer esto en el ámbito gubernamental.

Recuadro 5.40. Prácticas de IA para la conservación de la información en la participación ciudadana

Ayudar a informar sobre las deliberaciones verbales en los Países Bajos

La Cámara de Representantes de los Países Bajos implementó el sistema Speech2Write, que permite a su Oficina de Informes Parlamentarios (PRO) convertir voz en texto, así como traducir voz en informes escritos y producir un informe "casi listo" para su finalización humana. El sistema se basa en un modelo de lenguaje parlamentario que se desarrolló desde cero a partir de más de 2 000 horas de audio de actas y archivos de texto.

Hacer más accesible la información compleja en Brasil

La Cámara de Diputados brasileña está utilizando la IA para mejorar el apoyo prestado a los parlamentarios y construir una institución legislativa más amigable con el público. Su Ulysses AI Suite utiliza un sistema de NLP para clasificar y ayudar a la ciudadanía a navegar por la gran cantidad de información producida por la Cámara, incluidas leyes, discursos, datos y documentos de investigación. Ulises también ayuda a los parlamentarios a redactar textos legislativos y a encontrar proyectos de ley similares ya adoptados o rechazados.

Fuente: https://www.ipu.org/innovation-tracker/story/artificial-intelligence-innovation-in-parliaments, (Arana-Catania et al., 2021[159]),https://www.camara.leg.br/noticias/548730-camara-lanca-ulysses-robo-digital-que-articula-dados-legislativos.

Los asistentes virtuales, como los chatbots, pueden respaldar las iniciativas de comunicación ayudando a la ciudadanía a navegar por la información gubernamental, respondiendo a sus consultas en un lenguaje sencillo y enviando notificaciones y contenido personalizados en función de sus intereses (Androutsopoulou et al., 2019[169]; van Noordt and Misuraca, 2019[170]; Cortés-Cediel, 2023[171]). En algunos casos, se han utilizado chatbots como canal de participación cívica (véanse algunos ejemplos en el Recuadro 5.41).

Recuadro 5.41. Chatbots apoyando la participación en España y Colombia

En 2021, la ciudad de Madrid (España) integró Clara, una asistente virtual basada en IA, en su plataforma participativa existente, Decide Madrid, basada en el software de código abierto Consul. Clara responde a las preguntas de los usuarios sobre el funcionamiento de la plataforma y de los procesos participativos de la ciudad.

En 2022, la ciudad de Bogotá (Colombia) desplegó Chatico. Este asistente virtual apoya la interacción entre la ciudadanía y la administración local mejorando la experiencia de los procedimientos y servicios y permitiendo la participación ciudadana. Chatico está disponible tanto en el sitio web como a través de WhatsApp para mejorar su accesibilidad.

Fuente: https://www.madrid.es/portales/munimadrid/es/Inicio/Actualidad/Noticias/Nace-Clara-el-asistente-virtual-de-Decide-Madrid, https://oecd-opsi.org/innovations/chatico-virtual-agent, https://gobiernoabiertobogota.gov.co.

Fortalecimiento de los procesos electorales

Los debates en materia de políticas sobre el potencial de la IA en el proceso electoral se han centrado en proteger los procesos electorales contra los riesgos de la IA, en concreto, empoderando a la sociedad y creando resiliencia, protegiendo los principios democráticos y promoviendo la integridad de la información. Sin embargo, también existen oportunidades relevantes para que la IA refuerce los procesos electorales evitando el fraude y la privación de derechos, y reduciendo las barreras de entrada para los candidatos con fondos insuficientes (Eisen et al., 2023[172]; OECD, 2024[29]).

Los órganos de gestión electoral (EBM) pueden utilizar las herramientas de IA durante todo el período electoral (Juneja, 2024[173]). Antes de las elecciones, se pueden adoptar herramientas de IA para apoyar la gestión de listas de votantes, el registro de votantes, la planificación de la asignación de recursos, la previsión de costos electorales o la publicidad dirigida. Por ejemplo, en Estados Unidos, el Centro de Información de Registro Electrónico (ERIC) (2024[174]) utiliza ML para analizar el registro de votantes y los registros de vehículos de motor. Esto ayuda a los estados a identificar registros duplicados, votantes fallecidos e individuos elegibles pero no registrados, lo que mejora la precisión del censo electoral. Durante las elecciones, las herramientas de IA pueden contribuir al seguimiento de las campañas y los medios de comunicación, a la verificación de votantes, al seguimiento de los centros de votación y al recuento de votos. Por último, la IA puede ayudar a las autoridades en las auditorías postelectorales detectando incidentes o fraudes (Juneja, 2024[173]).

Gestión de riesgos y desafíos

La IA ofrece importantes oportunidades para empoderar a la ciudadanía y a la sociedad civil y reconfigurar las relaciones entre los gobiernos y su ciudadanía para mejor. Sin embargo, persisten riesgos potenciales, que pueden tener implicaciones directas en los espacios democráticos. Si bien los avances tecnológicos pueden abordar progresivamente estos problemas, los responsables de la formulación de políticas deben tenerlos en cuenta al adoptar herramientas de IA en este ámbito.

Riesgos asociados

• Datos inadecuados o sesgados en los sistemas de IA.

• Dependencia excesiva de la IA.

• Falta de transparencia y explicabilidad.

• Resistencia: falta de comprensión pública sobre el uso de la IA por parte del gobierno.

• Uso indebido o cuestionable de la IA, que genera problemas de vigilancia y privacidad.

• Exacerbación de la exclusión social y las brechas digitales.

Si los sistemas de IA se basan en datos inadecuados o sesgados, podrían producirse resultados inexactos o adversos para algunas personas o grupos. En lo que respecta a la participación cívica y el gobierno abierto, esto podría dar lugar a una consideración inexacta o imprecisa de la aportación de la ciudadanía a los procesos de participación habilitados por la IA.

Además, los procesos deliberativos no solo pretenden aprovechar la inteligencia colectiva y permitir el diálogo social sobre cuestiones políticas específicas, sino también mejorar el conocimiento de los participantes, así como su comprensión mutua y empatía (OECD, 2021[175]). Una dependencia excesiva de las herramientas de IA para mejorar la eficiencia de los procesos deliberativos podría pasar por alto otros aspectos fundamentales de la deliberación.

La falta de transparencia y explicabilidad de la IA, especialmente en sistemas complejos, puede reducir la confianza en las herramientas de IA y, cuando se utilizan en espacios democráticos, puede, a su vez, afectar a la confianza en el proceso participativo y sus resultados. Para hacer frente a este desafío, algunos gobiernos han puesto en marcha registros de algoritmos que divulgan información detallada y técnica sobre los algoritmos, como su finalidad, diseño, entradas de datos, procesos de toma de decisiones y posibles sesgos, entre otros (para más detalles y ejemplos, véase el Capítulo 4, sección "Establecimiento de barreras para orientar la IA estratégica y responsable").

Además, todavía hay muchas incógnitas sobre las percepciones de los usuarios con respecto a la IA en los procesos participativos y la influencia que puede tener en sus contribuciones y su disposición a participar. Se están realizando experimentos para evaluar la reacción de los participantes a la introducción de herramientas de IA como intermediarios en procesos participativos y deliberativos (Hadfi et al., 2021[176]; Kim et al., 2021[177]). El uso de herramientas de IA para ayudar a los participantes a formular sus insumos y aportes debe manejarse con cautela para evitar que comprometan la creatividad en el lenguaje y la reflexión de los participantes, centrándose más bien en la eficiencia y el acuerdo.

Algunos gobiernos han utilizado indebidamente las tecnologías digitales para la vigilancia o incluso para silenciar a la población y a la oposición digital, dañando así el espacio cívico (OECD, 2022[152]). El uso de sistemas de IA con fines de vigilancia, la censura de contenidos y las formas inadecuadas de actuación policial predictiva amenazan el libre ejercicio de las libertades civiles, como el derecho de reunión pacífica y la libertad de expresión. Estos usos inadecuados corren el riesgo de generar desconfianza general entre la ciudadanía con respecto a la adopción y el despliegue de sistemas de IA en las funciones gubernamentales y los servicios públicos. La OCDE (2022[152]) constató que la mayoría de las estrategias nacionales de IA no abordan el impacto de la IA en la capacidad de ejercer libremente sus derechos, aunque alrededor de la mitad propone mecanismos concretos de supervisión y reparación (OECD, 2022[152]).

Por último, muchos idiomas no están suficientemente representados en los sistemas de IA, que se forman principalmente en inglés, español y mandarín (Peixoto, Canuto and Jordan, 2024[178]) (véase el Capítulo 1, sección "Exacerbación de las brechas digitales", para un análisis detallado de la cuestión). En el contexto de la participación ciudadana, esto significa que los insumos presentados en otros idiomas podrían no procesarse y valorarse de la misma manera, creando nuevos desequilibrios democráticos (Romberg and Escher, 2024[179]). Por ejemplo, para abordar la brecha lingüística y preservar el idioma islandés, el Gobierno de Islandia se asoció con OpenAI para formar al LLM GPT-4 en islandés (Government of Iceland, 2023[180]). Del mismo modo, la Universidad de Turku (Finlandia) se asoció en 2023 con la empresa SiloAI para construir el conjunto de sistemas Poro, una familia de LLM multilingües de código abierto para todos los idiomas oficiales europeos (University of Turku, 2023[181]). Iniciativas similares existen en China para otros idiomas, incluidos los indígenas y los amenazados (OECD, 2023[182]).

Desafíos de implementación

• Brechas de habilidades.

• Elevados costos de adopción y escalabilidad de la IA.

La adopción de herramientas de IA por parte de los funcionarios públicos encargados de los procesos participativos y deliberativos, así como por parte de los profesionales de la participación ciudadana, requiere unas competencias adecuadas. Este conjunto de competencias abarca desde la identificación de los usos pertinentes de las herramientas de IA para apoyar las prácticas participativas y deliberativas (OECD, 2025[183]), a la selección y compra o desarrollo de soluciones de IA que cumplan los objetivos definidos, al uso de herramientas de IA en el contexto de procesos participativos y deliberativos, a la evaluación de la calidad de sus resultados.

La adopción, ya sea a través del desarrollo interno o de la contratación pública, y el uso de herramientas de IA para apoyar la participación ciudadana requieren un enfoque flexible que incluya iniciativas piloto, pruebas y ajustes iterativos. Este enfoque conlleva costos considerables y requiere una elevada tolerancia al riesgo. Los desafíos relacionados con los costos y la escala de las herramientas de IA son particularmente relevantes para la participación ciudadana, ya que los gobiernos locales suelen organizar e implementar procesos participativos (OECD, 2022[184]).

Potencial sin explotar y camino a seguir

Dada la novedad del uso de la IA en la participación civil y la habilitación, es difícil evaluar las pruebas de impacto y las lecciones generales aprendidas más allá de los estudios de casos individuales. Los casos prácticos presentados en este capítulo sugieren que la IA tiene el potencial de mejorar la eficiencia, reducir los costos y ampliar el alcance de la participación, reduciendo en última instancia las barreras para que la ciudadanía y las OSC opinen y opinen en las distintas etapas de la formulación de políticas. El uso de herramientas de IA para procesar los aportes de la ciudadanía, automatizar tareas, apoyar la creación de materiales de información y comunicación y proporcionar a la ciudadanía asistencia virtual las 24 horas del día, los 7 días de la semana, podría reducir significativamente algunos de los costos asociados al diseño y la implementación de los procesos pertinentes. Estos ahorros, junto con la creciente disponibilidad de herramientas de código abierto, podrían permitir oportunidades de participación ciudadana en contextos con recursos limitados, como en ciudades más pequeñas y regiones menos desarrolladas.

Las tecnologías digitales han permitido una participación asincrónica y han reducido significativamente la carga de las barreras geográficas, permitiendo una colaboración más amplia (OECD, 2022[184]). La IA tiene el potencial de reducir otras barreras, como la brecha lingüística, permitiendo niveles más altos de participación ciudadana. Además, los asistentes virtuales y los chatbots pueden mejorar aún más la accesibilidad de los procesos participativos y deliberativos al ayudar a los participantes a navegar por información compleja. Por último, las herramientas de IA para la moderación, la facilitación y la interpretación podrían resultar esenciales para abordar el desafío de la escala en los procesos deliberativos (Landemore, 2022[156]).

Los primeros esfuerzos podrían conducir a concepciones a más largo plazo de transparencia y capacidad de respuesta. Las tecnologías digitales han afectado durante mucho tiempo la forma en que las personas se relacionan con nociones como su llamado "derecho a saber" y expresan opiniones sobre operaciones complejas y sus resultados (Margetts, 2011[185]; Song and Lee, 2015[186]). Las tecnologías de IA también ofrecen formas novedosas de mejorar el diseño, la implementación y la transparencia de los servicios. Las personas pueden empezar a considerar que los sistemas operativos actuales son anticuados y difíciles de usar, por lo que pueden expresar sus opiniones sobre cómo los servicios deben integrar tecnologías que puedan mejorar el acceso a la información (Carrasco et al., 2019[187]). Esto podría ayudar a acelerar las reformas institucionales destinadas a mejorar la transparencia y la accesibilidad. Estos cambios pueden estar impulsados no solo por la adopción de tecnologías de IA, sino también por su capacidad para cambiar la percepción pública y las expectativas de capacidad institucional.

De cara al futuro, los gobiernos deberían explorar el potencial de la IA para mejorar los procesos de participación cívica existentes ampliando las capacidades gubernamentales de análisis de las contribuciones de la ciudadanía, permitiendo la deliberación masiva y reduciendo las barreras a la participación. Los gobiernos deben considerar cuidadosamente los desafíos asociados con el uso de la IA en la participación cívica, en particular los relacionados con una mayor intermediación tecnológica en las interacciones entre la ciudadanía y el gobierno, y su impacto en el discurso público y la confianza. La adopción y el despliegue de herramientas de IA para la participación cívica deben seguir estrategias claras que incluyan la transparencia y la rendición de cuentas como principios fundamentales. Los ciudadanos y la sociedad civil deben participar activamente en la elaboración de dichas estrategias para garantizar su alineación con los principios democráticos y aumentar la confianza y la aceptabilidad del proceso (véase el Capítulo 4, sección "Participación para dar forma a una IA estratégica y responsable").

Los servicios públicos y las funciones judiciales

Los servicios públicos y las funciones judiciales son esenciales para satisfacer las necesidades de la ciudadanía y mantener el Estado de derecho. Esto incluye el diseño y la implementación de servicios públicos que sean accesibles, eficientes y receptivos, así como una aplicación efectiva de la ley y una gestión del riesgo de desastres que garantice seguridad y resiliencia. La administración de justicia y el acceso a la justicia son igualmente fundamentales, ya que proporcionan procesos legales justos y oportunos que protegen los derechos y fomentan la confianza pública. Estas áreas son las que tienen mayor impacto en la ciudadanía. Los gobiernos están utilizando IA de diversas maneras para garantizar que sus operaciones sean eficientes y efectivas, y que la ciudadanía y los residentes estén seguros y sean tratados con equidad

Notas

← 1.  https://opendata.dc.gov/pages/compass.

← 2.  https://opencouncil.gr.

← 3.  https://www.mapletestimony.org.

← 4.  https://ai.gov.uk/consultations.

← 5.  https://www.govocal.com.

← 6.  https://panoramic.make.org/customer/cese/event/convention-citoyenne-sur-la-fin-de-vie.

← 7.  Véase https://oe.cd/immersive-brief para consultar el documento informativo de la OCDE sobre tecnologías inmersivas.

← 8.  Las oportunidades clave para la comunicación pública identificadas en este párrafo son los resultados de las entrevistas realizadas por la OCDE en 2023-2024 con miembros de la Red de Comunicación Pública de la OCDE.