Gobernar con la inteligencia artificial

IA en la aplicación de la ley y la gestión del riesgo de desastres

Las herramientas de IA se utilizan en diversos organismos públicos con un papel en la gobernanza de riesgos críticos, como la gestión de catástrofes, la aplicación de la ley y ámbitos interrelacionados como la lucha contra el terrorismo, las aduanas y la gestión de fronteras. Los organismos pertinentes utilizan tecnologías de IA para mejorar la escala, velocidad y precisión de las capacidades de análisis anticipatorio, vigilancia y supervisión en tiempo real y procesos administrativos, al tiempo que reducen los costos operativos. Esto puede mejorar las capacidades de investigación y gestión de crisis, optimizar la asignación de recursos y mejorar los tiempos de respuesta.

Dado que el uso de la IA tiene un gran potencial de impacto en este ámbito, especialmente en lo que respecta a la aplicación de la ley, se considera que estas entidades son usuarios finales de IA de alto riesgo (OECD, 2020[253]) y, por lo tanto, deben tener consideraciones adicionales a la hora de recurrir a la IA en aras del bien público y la seguridad. Por encima de todos los demás tipos de instituciones públicas, la ciudadanía deposita el mayor grado de confianza en la policía (OECD, 2024[46]). Los organismos pertinentes deben mantener esta confianza garantizando que la IA se adopte de una manera confiable que mitigue los desafíos éticos y los riesgos para la protección de los derechos personales, en particular, mediante la vigilancia de la forma en que se obtienen, mantienen y aplican los datos subyacentes (OECD, 2020[254]; 2019[191]; 2022[255]). Se pueden extraer lecciones de los casos de uso existentes y, como se analiza más adelante, algunos gobiernos han establecido mayores expectativas de rendición de cuentas por el uso de la IA por parte de estos agentes.

Situación actual

Identificación de presuntos delincuentes y personas desaparecidas

La tecnología de reconocimiento facial basada en IA mejora la capacidad de emparejar imágenes grabadas o en tiempo real de material de vigilancia, redes sociales y otras fuentes con un conjunto de bases de datos de imágenes. Esto puede utilizarse para ayudar a identificar a sospechosos de delitos, personas de interés público y personas desaparecidas. Esto también ha demostrado tener cierto efecto disuasorio en las personas que de otro modo podrían intentar entrar en zonas en las que se les prohíbe el acceso. Por ejemplo, en muchos países, las grabaciones de circuito cerrado de televisión (CCTV) se combinan con la tecnología de reconocimiento facial para permitir la comprobación en tiempo real de los espectadores que entran o salen de los principales recintos deportivos sin detener las actividades dentro de las instalaciones (Hutchins and Andrejevic, 2021[256]). En Estados Unidos, el sistema de identificación de nueva generación, gestionado por la Oficina Federal de Investigaciones (FBI, por sus siglas en inglés), ha implementado sistemas basados en IA para ofrecer funciones biométricas más precisas, como la coincidencia de nombres, huellas dactilares, reconocimiento facial, reconocimiento del iris y coincidencia de impresiones latentes. El sistema genera listas clasificadas de coincidencias potenciales, que luego son revisadas manualmente por analistas biométricos para garantizar la precisión. Este proceso ha demostrado su efectividad a la hora de facilitar las investigaciones, proporcionando pistas en aquellos casos en los que otros identificadores están degradados o faltantes (US GAO, 2024[257]).

También en lo que respecta a la biometría, el uso de tecnologías de reconocimiento facial ha suscitado preocupación por la violación de la privacidad en muchas jurisdicciones (OECD, 2024[258]) La necesidad de un marco jurídico y normativo sólido que limite las intervenciones basadas en dicho análisis se analiza más adelante en el apartado "Gestión de riesgos y desafíos".

Además de la identificación biométrica, los algoritmos de IA ayudan a los analistas a examinar grandes cantidades de datos para identificar patrones y anomalías que pueden indicar una probabilidad mayor o menor de la participación de una persona concreta, o para descubrir actividades delictivas que, de otro modo, habrían pasado desapercibidas. Esto incluye analizar publicaciones en redes sociales, transacciones financieras e inteligencia de señales en busca de pruebas de conductas ilícitas que ya se hayan producido.

Anticipación a conductas criminales e identificación de factores de riesgo

Mediante el análisis de los perfiles psicológicos, el comportamiento y las acciones pasadas de las personas, los sistemas de IA pueden anticipar posibles conductas delictivas y delitos futuros (Hung and Yen, 2020[259]). Entre las fuentes de información que permiten realizar estas predicciones se incluyen las redes sociales, las transacciones en línea, los registros públicos, la documentación existente sobre las fuerzas del orden y las grabaciones de CCTV, entre otros. Estas aplicaciones se han utilizado para vigilar a delincuentes conocidos o identificar a personas previamente desconocidas que pueden estar planeando ataques terroristas u otros delitos violentos (McKendrick, 2019[260]). También se utilizan para delitos no violentos de alta frecuencia y para identificar comportamientos sospechosos que destacan como anomalía estadística (Wastupranata, Kong and Wang, 2024[261]).

Los sistemas basados en IA también se han utilizado en la gestión de fronteras. Por ejemplo, el Servicio de Aduanas y Protección Fronteriza de los Estados Unidos (CBP, por sus siglas en inglés) ha implementado un Modelo de Evaluación de la Seguridad de los Pasajeros para identificar posibles riesgos en los cruces de pasajeros, que se centra en varios indicadores preocupantes. Este modelo está diseñado para ayudar al personal de la CBP a reconocer rápidamente los cruces que pueden justificar un escrutinio adicional. (US DHS, 2024[262]). Otro ejemplo es el uso por parte de la CBP de un sistema de ML para identificar patrones potencialmente sospechosos en los historiales de vehículos que cruzan la frontera, que ha dado lugar a 240 incautaciones de miles de kilogramos de drogas ilícitas (US DHS, 2024[263]).

Las herramientas de IA pueden utilizarse para analizar las redes sociales y las relaciones con el fin de identificar a personas que pueden correr un mayor riesgo de participar en actividades delictivas, como autores o víctimas. Esto puede ayudar a focalizar las intervenciones y los esfuerzos de la policía comunitaria. Las tecnologías de IA están diseñadas para proporcionar asistencia en las investigaciones, por ejemplo, alertando a la policía sobre a quién observar antes de que se cometan delitos.

Hay muchos ejemplos relevantes en todo el mundo. Esto se puede ver en usos a pequeña escala. Por ejemplo, en Japón, un software de detección de robos con IA detecta un lenguaje corporal potencialmente sospechoso en las grabaciones de las cámaras de seguridad y alerta a las autoridades sobre posibles ladrones a través de una aplicación para teléfonos inteligentes (Belova, 2020[264]). También pueden adoptar la forma de operaciones a mayor escala, como la Herramienta de Evaluación del Riesgo de Daño (HART, por sus siglas en inglés) de la Policía de Durham en el Reino Unido. La vigilancia predictiva ha suscitado controversia, como se analiza más adelante.

Recuadro 5.53. La herramienta de evaluación de riesgos de Alemania para el terrorismo islamista

La Evaluación de Riesgos para el Terrorismo Islamista (RADAR-iTE) es una herramienta algorítmica estandarizada de evaluación de riesgos introducida por la policía alemana en todo el país en 2017. La herramienta está específicamente diseñada para su uso en contextos de protección del Estado (Staatsschutz) para evaluar el riesgo de actos terroristas graves de motivación religiosa y violencia por motivos políticos cometidos por personas ya conocidas por las fuerzas del orden.

RADAR-iTE implica un proceso estandarizado de preparación de casos en el que se evalúan los factores de riesgo y de protección de una persona, asignándolos a una categoría de riesgo de dos niveles (moderado o alto). Esto permite priorizar a las personas y contribuye a una asignación eficiente de los recursos policiales. La evaluación se basa en comportamientos observables e información que ya están a disposición de los agentes de policía o que estos pueden obtener legalmente, en lugar de en atributos como la ideología o la religiosidad. La herramienta utiliza un formulario de evaluación de riesgos con preguntas y categorías de respuesta estandarizadas, pero no está automatizada; la evaluación de las características siempre requiere la evaluación profesional de especialistas capacitados.

RADAR-iTE facilita las decisiones de priorización al identificar la presencia de factores de riesgo y de protección. Las personas consideradas de alto riesgo se debaten a continuación en conferencias sobre casos gestionadas por la Oficina Federal de Policía Criminal (Bundeskriminalamt, BKA) en el seno del Grupo de Trabajo de Gestión de Riesgos del Centro Conjunto de Lucha contra el Terrorismo (GTAZ) (AGRIMA). La herramienta está diseñada para mejorar la estructuración y documentación de historias biográficas de individuos conocidos dentro del espectro militante-salafista, mejorando la transparencia de la evaluación de riesgos y la comparabilidad en toda Alemania. Sirve como herramienta para asistir, pero no para sustituir, a las evaluaciones de casos individuales, complementando las medidas estándar aplicadas a las posibles amenazas y a las personas pertinentes en la protección policial del Estado.

Fuente: https://www.bka.de/DE/UnsereAufgaben/Deliktsbereiche/PMK/Radar/radar_node.html, https://penal.org/sites/default/files/files/A-02-23.pdf.

Predicción de horas y lugares en riesgo de actividad criminal

Además de predecir quién puede estar en riesgo de cometer o ser víctima de un delito, los algoritmos de policía predictiva analizan datos históricos de delitos para ayudar a predecir cuándo y dónde puede ser más probable que ocurra un delito. Estos algoritmos tienen en cuenta diversos factores, como la hora del día, las condiciones meteorológicas y los datos socioeconómicos. Algunos departamentos de policía utilizan estos análisis para centrar las patrullas en los puntos críticos identificados, lo que ayuda a los organismos a determinar las rutas de patrulla y desplegar los recursos de manera más estratégica.

Algunos sistemas de policía anticipatoria utilizan datos en tiempo real para ajustar dinámicamente las predicciones y recomendaciones tanto en contextos de aplicación de la ley como de gestión de emergencias. Varios países utilizan la vigilancia CCTV, los informes de incidentes en vivo y los datos de los sensores para perfeccionar las predicciones en tiempo real. En Corea, por ejemplo, la Agencia de Internet y Seguridad (KISA) y la Agencia Nacional de Policía (NPA) colaboraron para desarrollar tecnología destinada a ayudar a las posibles víctimas de acoso a reconocer y evitar el peligro. Este sistema detecta precursores de delitos de acecho, emitiendo advertencias a posibles víctimas y alertando a la policía. Su objetivo es detener a los infractores antes de que se les haga daño. Esta aplicación utiliza tecnología de IA para analizar información de cámaras de vigilancia en tiempo real (que antes solo estaban disponibles para la detención de los delincuentes después del delito), lo que permite identificar con antelación las señales de delitos de acecho e informar a las víctimas, evitando así cualquier daño (OECD, 2025[265]).

Mejoramiento de la identificación y anticipación del riesgo de desastres

La IA está transformando la forma en que los países identifican y anticipan los riesgos en diferentes sectores. Los algoritmos de ML se están aplicando a vastos conjuntos de datos para detectar señales de alerta temprana para una amplia gama de riesgos críticos, desde peligros naturales hasta amenazas de salud pública. El Recuadro 5.54 destaca cómo se utiliza la IA en una provincia canadiense para anticiparse a los riesgos de incendios forestales y posicionar los activos de antemano. Grecia también está utilizando IA para la detección temprana de incendios en bosques y arboledas, así como para la prevención de inundaciones1.

Recuadro 5.54. Anticipación de riesgos de incendios forestales en Canadá

La provincia de Alberta, en Canadá, utiliza la inteligencia artificial para respaldar sus decisiones de asignación de recursos y posicionamiento previo de activos para combatir los incendios forestales. El innovador sistema predice la probabilidad de que al día siguiente se produzcan incendios forestales en bosques protegidos, que cubren más de la mitad de la provincia.

El sistema de IA, entrenado en una década de datos sobre incendios, meteorología y ecología, incorpora pronósticos meteorológicos diarios y factores como el aumento de la actividad humana durante los fines de semana largos. El sistema tiene una tasa de éxito del 50 % en la predicción de incendios forestales y es preciso el 80 % del tiempo cuando indica que es probable un incendio. Un aspecto crucial es que la herramienta no sustituye a la toma de decisiones en el ámbito humano, sino que presta apoyo al personal.

Desarrollado mediante la colaboración entre los sectores público y privado, el sistema de IA sigue mejorando cada año a medida que se integran nuevos datos sobre incendios forestales.

Fuente: https://www.oafc.on.ca/about/announcements/fire-news-headlines/how-alberta-uses-artificial-intelligence-wildland.

En Guatemala, se han utilizado técnicas analíticas de IA aplicadas a la observación de la tierra e imágenes a nivel de calle para identificar estructuras susceptibles de colapso en caso de un terremoto. El enfoque fue capaz de identificar aproximadamente el 85 % de los edificios identificados como vulnerables en base a las evaluaciones tradicionales de ingeniería civil utilizando IA para identificar las áreas dañadas (GFDRR, 2018[266]; Tilon et al., 2020[267]).

La observación de la Tierra, los dispositivos conectados y las herramientas de IA también se están utilizando para mejorar la previsión del riesgo de incendios forestales (Nelson, He and Moore, 2024[268]). Las imágenes de observación de la Tierra proporcionan información regular sobre el crecimiento de la vegetación para determinar las cargas de combustible que impulsan el potencial de incendios forestales. En Australia, se está desarrollando un satélite con tecnologías de infrarrojos calibrado específicamente para monitorear la vegetación local dominante (eucalipto y arbusto) para proporcionar una mayor precisión en el pronóstico de incendios forestales (Amos, 2020[269]).

Brasil creó el Sistema de Gestión de la Transmisión Geoespacial (GGT), que utiliza IA y procesamiento de imágenes satelitales para inspeccionar las líneas de transmisión y, por lo tanto, evitar incendios forestales (Recuadro 5.55).

Recuadro 5.55. Procesamiento de imágenes satelitales e IA para la protección contra incendios forestales en Brasil

Los incendios forestales son una de las principales causas de apagones en Brasil. Para monitorear las miles de líneas de transmisión brasileñas (TL), la Agencia Brasileña de Regulación de la Electricidad (ANEEL) creó el Sistema de Gestión de Transmisión Geoespacial (GGT), que consiste en una herramienta que utiliza IA y procesamiento de imágenes satelitales, para inspeccionar preventivamente el mantenimiento de los TL contra incendios forestales. El sistema GGT utiliza IA para procesar imágenes satelitales e identificar todos los tramos de las líneas de transmisión afectadas por incendios. Detecta automáticamente las variaciones en las cantidades de vegetación y puede detectar las actividades de supresión de vegetación llevadas a cabo sobre el terreno por las empresas de transmisión sin necesidad de desplazamiento por parte de los equipos de inspección de la ANEEL.

El sistema también genera automáticamente informes de monitoreo que contienen diagnósticos sobre los ajustes de mantenimiento realizados por las compañías de transmisión en los carriles de seguridad de las líneas de transmisión. Esto permite a los equipos de inspección de la ANEEL actuar de manera preventiva y con la suficiente firmeza para mitigar los riesgos de apagones provocados por incendios forestales en todo Brasil. Las empresas de transmisión utilizan la información generada por la GGT y las alertas emitidas por la ANEEL para mejorar sus procesos de mantenimiento de las líneas de transmisión y reducir los riesgos de apagones causados por incendios forestales. Desde su lanzamiento en 2017 hasta 2022, se produjo una disminución del 89 % en los confinamientos causados por incendios forestales en las líneas de transmisión monitoreadas, aunque el número de incendios forestales anuales ha aumentado en todo el país.

Fuente: https://oecd-opsi.org/innovations/ai-and-geospatial-data-to-protect-against-wildfires.

En Estados Unidos, por ejemplo, un importante proveedor de servicios energéticos de los estados de Carolina del Norte y Carolina del Sur utilizó técnicas de IA antes del huracán Florence en 2018 para determinar dónde ubicar previamente a los técnicos necesarios para restablecer rápidamente la energía si las líneas de transmisión resultaban dañadas (Seto, 2018[270]).

La IA puede procesar grandes cantidades de datos de diversas fuentes, como historiales médicos, redes sociales y dispositivos de vigilancia ambiental, para detectar patrones y anomalías que puedan indicar la aparición de una enfermedad, lo que permite a las autoridades tomar medidas proactivas. (El Morr et al., 2024[271]). La IA también se está implementando en aplicaciones que abordan riesgos inducidos por el hombre, no solo los derivados de peligros naturales. El Recuadro 5.56 muestra cómo puede utilizarse la IA para avanzar en la anticipación de riesgos y la aplicación de la ley.

Recuadro 5.56. CCTV coreano basado en IA para proteger contra delincuencia y emergencias

En Corea, a medida que las zonas urbanas enfrentan crecientes demandas de vigilancia, las ciudades están desplegando sistemas de vigilancia selectiva basados en IA para mejorar la seguridad, la respuesta a emergencias y la prevención del delito. Estos sistemas utilizan la infraestructura CCTV existente y algoritmos avanzados de aprendizaje profundo para detectar y clasificar automáticamente objetos, personas y eventos, incluidos accidentes, incendios y comportamientos peatonales inusuales (por ejemplo, merodear, luchar contra el acceso no autorizado).

Al dar prioridad al material de archivo relevante, el monitoreo CCTV basado en IA reduce la dependencia de la vigilancia manual, lo que permite la detección de incidentes en tiempo real y una respuesta rápida. Entre las funciones principales se incluyen el análisis de trayectorias de varias palabras clave para el seguimiento de objetos, la búsqueda de vídeo de alta velocidad y el reconocimiento inteligente de eventos para apoyar a las fuerzas del orden y la gestión de desastres. Para garantizar la privacidad, el sistema anonimiza la información confidencial, como rostros y matrículas, y restringe la exportación de vídeo mediante cifrado.

Fuente: https://smartcity.go.kr/wp-content/uploads/2024/09/EN02.AI-Based-Selective-Monitoring-System.pdf.

Mejoramiento de la evaluación de riesgos y modelización predictiva

Los sistemas avanzados de IA permiten realizar evaluaciones de riesgos más precisas al integrar conjuntos de datos variados y complejos. El modelado predictivo impulsado por IA puede simular varios escenarios de riesgo, lo que permite a los responsables de la toma de decisiones evaluar los impactos potenciales y planificar estrategias de mitigación. Estos sistemas utilizan datos de múltiples fuentes, como registros climáticos, indicadores socioeconómicos y redes de infraestructura, para generar perfiles de riesgo más completos. La capacidad de la IA para procesar grandes volúmenes de datos mejora la precisión de los modelos de riesgo, en particular en entornos muy dinámicos como las catástrofes. Al identificar las correlaciones y las relaciones causales entre las diferentes variables, los sistemas de IA pueden ofrecer información más detallada sobre la probabilidad y la gravedad de los riesgos futuros. Esta mejor comprensión respalda la toma de decisiones basada en evidencia y la asignación de recursos. La IA también puede ayudar a los responsables de la modelización a ejecutar modelos más rápidos, con menos uso de recursos y más precisos. Por ejemplo, el Centro Europeo de Previsiones Meteorológicas a Medio Plazo (ECMWF) utiliza el Sistema de Predicción de Inteligencia Artificial (AIFS, por sus siglas en inglés) para mejorar la predicción meteorológica numérica. El AIFS ofrece hasta un 20 % más de precisión que los principales modelos basados en la física en varias áreas, incluido el seguimiento de ciclones tropicales (ECMWF, 2025[272]). Los sistemas de IA pueden perfeccionarse continuamente a medida que se dispone de nuevos datos, lo que garantiza que las evaluaciones de riesgos se mantengan actualizadas. Esta adaptabilidad es especialmente valiosa para hacer frente a los riesgos emergentes, como los asociados a los ciberataques.

Recuadro 5.57. El gemelo virtual de Singapur basado en datos

Singapur desarrolló Virtual Singapore, el primer gemelo digital de un país, para apoyar la planificación urbana basada en datos y mejorar la gestión de desastres. Liderada por la Autoridad de Tierras de Singapur (SLA, por sus siglas en inglés), esta iniciativa utiliza modelado 3D avanzado e integración de datos en tiempo real para crear una réplica digital muy detallada de la ciudad-estado. La tecnología de escaneo láser, desplegada a través de aeronaves y vehículos, captura información precisa del terreno y la superficie, mapeando estructuras sobre el terreno, servicios subterráneos, condiciones ambientales y movimientos de población. Como parte clave de la estrategia de nación inteligente de Singapur, Singapur Virtual proporciona a los responsables de la formulación de políticas y a los investigadores una plataforma interactiva para probar escenarios, anticipar riesgos, optimizar servicios y mejorar la resiliencia ante futuras emergencias.

La plataforma permite a los usuarios simular el impacto de nuevos proyectos, evaluar los flujos de transporte y modelar los factores ambientales (como las islas de calor urbanas) y los riesgos (como las inundaciones). Al facilitar la colaboración intersectorial, Virtual Singapore apoya una mejor asignación de recursos, mejora la toma de decisiones y fomenta la innovación tanto en el sector público como en el privado. Los organismos gubernamentales pueden utilizar la plataforma para mejorar la resiliencia de las infraestructuras, mientras que las empresas y los investigadores utilizan sus datos para desarrollar soluciones de ciudades inteligentes. Además, el modelo desempeña un papel crucial en la gestión de emergencias y desastres, ayudando a las autoridades a planificar las respuestas a los fenómenos meteorológicos extremos y optimizar la coordinación de crisis. Con actualizaciones en curso que incorporan nuevos enfoques de IA, Internet de las cosas y nuevas fuentes de datos, Singapur Virtual sigue evolucionando como una herramienta dinámica para dar forma al futuro de la vida urbana.

Fuente: https://oecd-opsi.org/innovations/virtual-twin-singapore.

Mejoramiento de la comunicación de riesgos

Las herramientas de IA están mejorando la forma en que los responsables de la toma de decisiones y el público entienden la información sobre riesgos. Al traducir datos complejos a formatos visuales y un lenguaje accesible, la IA hace que las evaluaciones de riesgos sean más comprensibles. Los paneles interactivos, chatbots y asistentes virtuales proporcionan información adaptada a los distintos públicos, fomentando una mejor concienciación y preparación frente a los riesgos (UNU Institute for Environment and Human Security, 2024[273]).

La IA también puede personalizar la comunicación de riesgos y enviar mensajes específicos a las personas en función de su ubicación, vulnerabilidad y preferencias. Este enfoque ayuda a garantizar que la información llegue a quienes más la necesitan, especialmente durante emergencias (Zhao et al., 2025[274]). Además, las herramientas de análisis de sentimientos impulsadas por la IA pueden medir la percepción pública de los riesgos y permitir a las autoridades ajustar sus estrategias de comunicación en consecuencia. Las plataformas de comunicación de riesgos en tiempo real mejoran la gestión de crisis al proporcionar actualizaciones sobre la evolución de las situaciones y orientación sobre medidas de protección. Este flujo dinámico de información refuerza la confianza pública y fomenta un comportamiento más proactivo de mitigación de riesgos (Recuadro 5.58).

Recuadro 5.58. Asistente de planificación de mitigación de riesgos de Estados Unidos

En Estados Unidos, la Agencia Federal para el Manejo de Emergencias (FEMA, por sus siglas en inglés) está explorando actualmente el uso de una solución generativa de IA, llamada el Asistente de Planificación para Comunidades Resilientes (PARC, por sus siglas en inglés). Este nuevo sistema genera eficiencias para el proceso de planificación de mitigación de riesgos para los gobiernos locales, incluidas las comunidades desatendidas. Los planes de mitigación de riesgos son un paso fundamental que las comunidades pueden tomar para desarrollar su resiliencia; sin embargo, pueden ser largos de producir y desafiantes para las comunidades que carecen de recursos para hacerlo. PARC apoyará específicamente la comprensión de los gobiernos estatales, locales, tribales y territoriales (SLTT, por sus siglas en inglés) sobre cómo diseñar un plan que identifique los riesgos y las estrategias de mitigación, así como generar elementos de borrador del plan, de fuentes públicas e investigadas, que los gobiernos podrían personalizar para satisfacer sus necesidades. Esto podría dar lugar a que más comunidades puedan presentar solicitudes de subvención para obtener financiamiento, lo que las haría más resilientes y reduciría los riesgos de desastre. 

Fuente: https://www.dhs.gov/ai/use-case-inventory/fema.

Mejoramiento de la respuesta ante catástrofes y crisis

La IA está mejorando la conciencia situacional durante los desastres mediante el procesamiento de imágenes satelitales, datos de sensores y actualizaciones de redes sociales en tiempo real. Esta información ayuda a los servicios de emergencia a mapear las áreas afectadas, priorizar la asignación de recursos y coordinar los esfuerzos de respuesta. Los sistemas de apoyo a la toma de decisiones impulsados por IA pueden recomendar rutas de evacuación óptimas, identificar infraestructuras críticas en riesgo y predecir la propagación de peligros. La IA también puede monitorear los cambios en un entorno operativo de respuesta ante desastres. Mediante el análisis de fuentes de datos en directo, las herramientas de IA pueden proporcionar actualizaciones sobre cierres de carreteras, apagones e interrupciones del transporte. Estos conocimientos ayudan a las autoridades y las comunidades a adaptarse a las condiciones cambiantes y a mantener la continuidad de los servicios esenciales.

La IA puede ayudar en la recopilación de datos complejos directamente de las poblaciones afectadas. En Indonesia, los residentes de Yakarta han usado los medios sociales para compartir actualizaciones sobre las inundaciones, promovidas por Bencana Bot, un chatbot de la Fundación Indonesia de Mapeo de Desastres (PetaBencana.id). El chatbot invita a los usuarios a informar sobre los detalles de la inundación, que luego se mapean en tiempo real y se puede acceder en línea de forma gratuita. La Agencia de Mitigación de Desastres de Yakarta también actualiza el mapa con datos oficiales. Inmediatamente después de las inundaciones a gran escala en la ciudad, la plataforma ha visto un aumento del 2 000 % en la actividad dentro de las 12 horas, ayudando a los residentes a evitar áreas peligrosas y tomar decisiones de seguridad informadas (PetaBencana.id, 2021[275]).

Las agencias de respuesta también están utilizando algoritmos de detección de cambios. Estos pueden aplicarse a las imágenes de observación de la Tierra para identificar rápidamente las regiones geográficas afectadas, así como los daños a edificios e infraestructuras individuales.

Mejoramiento de la evaluación de necesidades después de los desastres y la recuperación/reconstrucción

La IA está mejorando la evaluación de las necesidades después de un desastre al integrar datos de imágenes satelitales, redes sociales y registros administrativos para producir evaluaciones de daños y necesidades más rápidas y exhaustivas. Estos sistemas pueden identificar automáticamente la infraestructura dañada, evaluar el número de personas desplazadas y estimar los costos de recuperación. Esta automatización acelera el proceso de evaluación, permitiendo que los esfuerzos de recuperación comiencen antes.

Los sistemas de apoyo a la toma de decisiones impulsados por IA ayudan a las autoridades a priorizar proyectos de recuperación identificando las necesidades más urgentes y optimizando la asignación de recursos. Estos sistemas pueden modelar diferentes escenarios de recuperación, lo que permite a los responsables de la toma de decisiones evaluar las compensaciones entre la reconstrucción de la infraestructura, la restauración de los medios de vida y la mejora de la resiliencia.

La IA apoya una reconstrucción transparente y responsable mediante el seguimiento del progreso de los proyectos de recuperación y la identificación de retrasos o irregularidades. Esta supervisión ayuda a garantizar que los recursos se utilicen de manera eficiente y que las comunidades vulnerables reciban asistencia oportuna. La IA también puede ayudar a optimizar el despliegue de recursos, por ejemplo, asignando funcionarios a áreas o tareas específicas en función de las necesidades previstas. Estas tecnologías también pueden utilizarse con fines de seguridad pública que escapan a los contextos predictivos, por ejemplo, para mejorar los tiempos de respuesta y el uso eficiente general de recursos limitados. Un ejemplo destacado de la Agencia Federal para la Gestión de Emergencias (FEMA) de EE.UU. puede encontrarse en el Recuadro 5.59.

Recuadro 5.59. Aceleramiento con IA de la recuperación post huracanes en Estados Unidos

Tras el paso del huracán Ian, que azotó el estado de Florida en 2022, la Agencia Federal de Estados Unidos para el Manejo de Emergencias (FEMA, por sus siglas en inglés) implementó una herramienta de IA conocida como modelo de Evaluación de Daños Geoespaciales (GDA, por sus siglas en inglés). Tradicionalmente, las evaluaciones de los daños posteriores a los desastres se basaban en inspecciones manuales, un proceso que podía tardar semanas y a menudo retrasaba la entrega de ayuda financiera a las víctimas. El modelo GDA transformó este enfoque al automatizar la clasificación de daños.

Esta innovación utilizó imágenes aéreas, datos satelitales y ML para evaluar rápidamente el daño estructural en las áreas afectadas, mejorando significativamente la velocidad y precisión de los esfuerzos de respuesta ante desastres. Identificó y clasificó los niveles de daños estructurales en más de un millón de estructuras afectadas. Al integrar datos adicionales, como las velocidades del viento, las características de los edificios y la proximidad a la trayectoria del huracán, el modelo proporcionó una comprensión más completa de la gravedad de los daños. Redujo el número de estructuras que requerían revisión humana de más de 1 millón a solo 77 000, reduciendo los tiempos de evaluación de semanas a días. A las 72 horas de la llegada del huracán Ian, FEMA tuvo conocimiento de la magnitud de los daños en las regiones afectadas, lo que permitió una asignación más rápida de recursos y una planificación de la recuperación.

Fuente: https://gis-fema.hub.arcgis.com/pages/geospatial-da-training.

Gestión de riesgos y desafíos

Las herramientas de IA pueden mejorar las capacidades gubernamentales relacionadas con la aplicación de la ley, el riesgo de desastres y la gestión de crisis presenta beneficios claros; sin embargo, su despliegue debe tener en cuenta varios riesgos y desafíos. Un análisis de 61 iniciativas de automatización de la función pública canceladas en varios países reveló que la mitad de los sistemas cancelados estaban relacionados con la policía y la aplicación de la ley (en parte debido a la interrupción del reconocimiento facial), a menudo como resultado de revisiones críticas por parte de organismos gubernamentales, medios de comunicación o la sociedad civil (Redden et al.[228]). A continuación, se describen los principales riesgos y desafíos identificados, que los gobiernos deben tener en cuenta en su desarrollo e implementación de las herramientas de IA.

Riesgos asociados

• Aunque el uso de la IA para determinados aumentos de productividad, como la realización automatizada de tareas rutinarias y el papeleo, suele ser de bajo riesgo y no controvertido, el uso de la IA en la vigilancia predictiva plantea varias consideraciones importantes de política pública. Deben tenerse en cuenta y abordarse para garantizar que dichos usos proporcionen un análisis creíble e incluyan salvaguardias para garantizar un uso responsable de sus capacidades.

Si los sistemas de IA se basan en datos inadecuados o sesgados, podrían producirse resultados inexactos o adversos para algunas personas o grupos. En lo que respecta la aplicación de la ley y la gestión del riesgo de desastres, esto podría, por ejemplo, dar lugar a una discriminación ilegal (en la medida en que un país tenga tales leyes). Los responsables de la formulación de políticas deben tratar de garantizar que estos sistemas se prueben y validen rigurosamente antes de su implementación. Deberían exigir que se registren y pongan a disposición del escrutinio los índices de falsos positivos y verdaderos positivos. En los últimos años han proliferado las investigaciones que utilizan diversos métodos para la validación de sistemas (Stettinger, Weissensteiner and Khastgir, 2024[276]).

Los expertos en IA han destacado que la vigilancia invasiva y las infracciones de la privacidad que socavan la capacidad de las personas para ejercer libremente sus derechos humanos y libertades son uno de los riesgos más acuciantes de la IA (OECD, 2024[29]). La amplia recopilación de datos necesaria para la actuación policial predictiva amenaza con vulnerar involuntariamente los derechos a la privacidad personal y a la protección de los datos. El uso de la IA con fines de vigilancia puede dar lugar a una vigilancia intrusiva de las personas, lo que puede suponer una violación de los derechos de privacidad. Los responsables de las políticas deben tratar de promover la seguridad pública y, al mismo tiempo, garantizar la protección de las personas a través de regulaciones sobre privacidad y protección de datos para evitar su uso indebido y extralimitación.

Al agrupar los riesgos de sesgo y las infracciones de la privacidad, la identificación biométrica remota (es decir, el reconocimiento facial) ha resultado particularmente controvertida porque los sistemas involucrados pueden conllevar un sesgo tecnológico inherente (por ejemplo, la discriminación por origen racial o étnico) (OECD, 2020[277]). El uso de la IA en espacios públicos también puede socavar la capacidad de las personas de ejercer libremente los derechos aplicables relacionados con la privacidad, la protección de datos y la libertad de expresión y reunión, según algunas organizaciones de la sociedad civil (Access Now, 2022[278]; CSOs, 2021[279]), organismos de aplicación de la UE (EDPB-EDPS, 2021[280]), y algunos Relatores Especiales de la ONU (Khan et al., 2022[281]). En el Recuadro 5.60, se examinan varias cuestiones relacionadas con el uso del reconocimiento facial en este contexto.

Recuadro 5.60. Reconocimiento facial y preocupaciones sobre privacidad y prejuicios

A medida que la tecnología de reconocimiento facial ha madurado, se ha vuelto cada vez más capaz de identificar rostros en una multitud, emparejar imágenes de fuentes que van desde grabaciones de CCTV hasta bases de datos policiales para proporcionar vigilancia en tiempo real, e identificar a sospechosos criminales o personas desaparecidas, entre otras aplicaciones. La preocupación por la privacidad es que la tecnología de vigilancia pública permite a los gobiernos recopilar grandes cantidades de información sobre la ciudadanía con un solo propósito (sin su consentimiento) que podría usarse para diferentes propósitos, no autorizados e ilegales.

Las herramientas de IA para mejorar la tecnología de reconocimiento facial, cuando se forman en conjuntos de datos inadecuados o sesgados, pueden reducir la precisión de la identificación en algunos grupos.

También han surgido casos de procedimientos inapropiados por parte de las fuerzas policiales que han llevado al uso de datos de entrada de mala calidad, lo que ha debilitado sustancialmente la precisión del software de reconocimiento facial. Por ejemplo, las fuerzas policiales de Estados Unidos han intentado emparejar dibujos de sospechosos, imágenes de CCTV de baja calidad, imágenes mejoradas por computadora e incluso una foto del famoso colaborador de un sospechoso con bases de datos de imágenes. Estos ejemplos ponen de relieve la importancia de disponer de normas claras sobre cómo utilizar exactamente el software y aclarar si una coincidencia es motivo suficiente para una detención.

Aunque se ha prestado mucha atención a los casos en los que la tecnología funciona mal (por ejemplo, falsos positivos) o se utiliza indebidamente, algunos defensores de la privacidad subrayan que el uso general de la tecnología de vigilancia o monitoreo subyacente socava la capacidad de ejercer libremente los derechos al disminuir la expectativa de anonimato en los espacios públicos, que es una condición para el ejercicio de derechos como la libertad de reunión. Por ejemplo, las autoridades de protección de datos de la UE han emitido dictámenes en los que declaran que el uso de estos sistemas en espacios públicos es incompatible con el derecho a la protección de datos, en virtud de la legislación de la UE, ya que el escaneo de todas las personas que pasan por estos espacios interfiere con sus derechos en virtud de la legislación de la UE. En consecuencia, en la UE, la Ley de IA de la UE solo permite el uso de sistemas de identificación biométrica a distancia "en tiempo real" en espacios de acceso público a efectos de aplicación de la ley si dicho uso está autorizado en virtud de la legislación nacional de un Estado miembro y sujeto a las salvaguardas adecuadas. En particular, cada uso debe recibir una autorización previa de una autoridad judicial o una autoridad administrativa independiente, y debe notificarse a la autoridad nacional de protección de datos pertinente. Otras economías logran un equilibrio diferente a la hora de garantizar los beneficios de las tecnologías y, al mismo tiempo, hacer frente a los riesgos relacionados con ellas.

Fuente: (OECD, 2020[254]), https ://towardsdatascience.com/how-ethical-is-facial-recognition-technology-8104db2cb81b, www.bbc.co.uk/news/technology-47117299, https ://medium.com/@AINowInstitute/after-year-of-tech-scandals-our-10-recommendations-for-ai-95b3b2c5e5, www.flawedfacedata.com, www.americaunderwatch.com, www.bbc.co.uk/news/technology-48222017, https://edri.org/our-work/remote-biometric-identification-a-technical-legal-guide, https://eur-lex.europa.eu/eli/reg/2024/1689/oj.

Muchos sistemas de IA predictiva son privados o se basan en modelos de "caja negra", lo que dificulta que el público y los responsables de la formulación de políticas comprendan plenamente por qué se toman algunas decisiones operativas en este campo. Esta falta de transparencia puede socavar la confianza en las fuerzas del orden. Las herramientas de IA extrapolan los resultados de las correlaciones estadísticas entre las diferentes fuentes de datos que agregan. Al diseñar y utilizar estos sistemas de apoyo a la toma de decisiones, los desarrolladores e investigadores deben reflexionar sobre la relevancia de utilizar variables sociodemográficas específicas en los modelos predictivos. En el caso de una popular herramienta de IA utilizada por la Gendarmería francesa, el modelo predictivo utiliza 15 variables sociodemográficas que, según los desarrolladores, están fuertemente correlacionadas con la delincuencia. Sin embargo, no existe transparencia sobre la naturaleza de estas variables ni se intenta demostrar una relación causa-efecto genuina (Lecorps and Tissandier, 2022[282]).

Por último, existe el riesgo de que los organismos encargados de hacer cumplir la ley dependan excesivamente de la IA, descuidando otros aspectos críticos de la actuación policial, como la participación de la comunidad y los métodos de investigación tradicionales. Deberían realizarse estudios evaluativos de las herramientas alternativas de IA utilizadas en la actuación policial predictiva para identificar los puntos fuertes comparativos en cuanto a la delincuencia que se produce en las zonas previstas y el número de intervenciones policiales efectivas (Birks, Townsley and Hart, 2023[283]). En relación con esto, el uso de IA en la vigilancia policial y la gestión del riesgo de desastres plantea preguntas éticas sobre la delegación de la toma de decisiones morales a las máquinas. Los responsables de las políticas deberían considerar las implicaciones morales del uso de la IA para tomar decisiones que podrían alterar la vida en el contexto de la aplicación de la ley y la gestión del riesgo de desastres. Es crucial garantizar que se mantenga la supervisión humana y las determinaciones finales, y que la IA se utilice para aumentar el juicio humano en lugar de sustituirlo.

Desafíos de implementación

• Elevados costos de adopción y escalabilidad de la IA y de la demostración de resultados y rendimiento de la inversión.

• Brechas de habilidades.

• Entornos legales y regulatorios inflexibles u obsoletos.

La implementación de tecnologías de IA en la actuación policial requiere una inversión significativa. La mayoría de los departamentos de policía son organismos locales que cubren una pequeña zona geográfica con poblaciones pequeñas. Las funcionalidades incorporadas en el software estándar del lugar de trabajo y los sistemas de información geográfica pueden admitir muchos métodos predictivos. Sin embargo, las herramientas, paquetes de software o ordenadores de IA más caros pueden superar la asequibilidad (y tal vez las necesidades) de los programas locales de vigilancia predictiva. Las autoridades deben analizar los costos relativos de los beneficios y procurar que los recursos se asignen de manera efectiva. El personal encargado de hacer cumplir la ley necesita una formación adecuada para utilizar y entender eficazmente las herramientas de IA. Los responsables de la formulación de políticas deben tratar de garantizar que se implementen programas de capacitación adecuados (EUCPN, 2022[284]) lo que a menudo no es el caso.

Es posible que las leyes actuales no aborden adecuadamente los desafíos únicos que plantea la IA en la actuación policial. Los responsables de las políticas deben desarrollar y actualizar los marcos jurídicos para regular el uso de la IA en la aplicación de la ley. Es esencial establecer normas y mejores prácticas para el desarrollo y el despliegue de tecnologías de policía predictiva a fin de garantizar la coherencia y la calidad.

Potencial sin explotar y camino a seguir

Las herramientas de IA siguen ofreciendo cada vez más oportunidades para mejorar las capacidades de los cuerpos policiales y los organismos de gestión de emergencias al mejorar la seguridad pública y la capacidad de respuesta. Se espera que el uso de estas herramientas en una gama más amplia de organismos públicos con un papel en la gobernanza de riesgos críticos continúe aumentando a medida que avancen las tecnologías subyacentes y se vuelva más frecuente la capacitación del personal. Proliferan anécdotas sobre los beneficios de las herramientas de IA en contextos relevantes, al igual que narrativas sobre usos irresponsables. Es necesario continuar con la investigación empírica para fortalecer la base de evidencias tanto sobre los beneficios medibles como sobre los inconvenientes del uso de la IA en estos contextos. Esto ayudará a calibrar su adopción allí donde se pueda demostrar una mayor efectividad y eficiencia. O, por el contrario, ayudará a respaldar una supervisión más estricta debido a los impactos negativos que los resultados erróneos pueden tener en las vidas humanas.

Las implicaciones éticas, jurídicas y sociales de la adopción de la IA exigen una cuidadosa consideración y medidas proactivas para garantizar que estas tecnologías se despliegan de una manera confiable y respetuosa con los derechos y libertades individuales. Los responsables de las políticas deben colaborar con las comunidades para generar confianza y garantizar que se tengan en cuenta sus preocupaciones sobre el despliegue de la IA. Comunicar claramente cómo la IA en la actuación policial y en la gestión del riesgo de desastres, incluidos sus objetivos, beneficios y limitaciones, es vital para mantener la confianza pública (Evans, 2022[285]). Abordar los desafíos descritos anteriormente requiere una colaboración integral y de múltiples partes interesadas entre las entidades usuarias finales, los responsables de la formulación de políticas, los tecnólogos y las comunidades afectadas. Las investigaciones basadas en este tipo de consultas pueden ampliar la evidencia de los beneficios medibles del uso de la IA, así como profundizar en la comprensión de las consecuencias no deseadas.

Los gobiernos y los organismos encargados de hacer cumplir la ley deberían reforzar su comprensión de las limitaciones de la IA en la actuación policial predictiva para reducir la delincuencia. Los modelos estadísticos avanzados y el poder computacional no son ni necesarios ni suficientes para reducir la delincuencia. Los algoritmos pueden ayudar a predecir el riesgo de eventos futuros, pero no los eventos en sí. Aunque la IA puede simplificar la búsqueda de patrones, las herramientas extrapolan datos de acontecimientos pasados y solo son tan precisas como los datos subyacentes utilizados para elaborarlos. Los seres humanos son los elementos más importantes en el proceso de vigilancia predictiva; necesitaban encontrar y reunir datos pertinentes, prepararlos para el análisis, revisar e interpretar los resultados de estos análisis para eliminar las conclusiones incorrectas y ofrecer recomendaciones sobre cómo proceder basadas en los hallazgos analíticos (Perry et al., 2013[286]).

El uso de la IA en la aplicación de la ley es una de las áreas de aplicación de la tecnología que presenta más desafíos. Proporciona grandes beneficios potenciales para la seguridad nacional y la seguridad pública, pero también posibles impactos negativos. Por ejemplo, los algoritmos sesgados pueden dar lugar a falsos positivos que den lugar a detenciones y encarcelamiento erróneos de personas inocentes, o a falsos negativos que den lugar a una omisión de la actividad ilícita (Petra et al., 2024[287]). Estas acciones refuerzan la necesidad de desarrollar mecanismos consultivos destinados a obtener el apoyo público para el despliegue de herramientas de IA dentro de las condiciones y modalidades de las barreras de protección aceptadas. Estas acciones introducen una incertidumbre significativa en cuanto al camino a seguir por la IA en este ámbito.

Nota

← 1.  Véase https://www.youtube.com/watch?v=JzLhcQijsz4, https://epiteliki.civilprotection.gov.gr/sites/default/files/2024-01/%CE%94%CE%B9%CE%B1%CE%BA%CE%AE%CF%81%CF%85%CE%BE%CE%B7_%CE%A0%CF%85%CF%81%CE%B1%CE%BD%CE%AF%CF%87%CE%BD%CE%B5%CF%85%CF%83%CE%B7_24PROC014095623_03.01.2024.pdf y https://civilprotection.gov.gr/en/deltia-tupou/b-kikilias-i-tehniti-noimosyni-stin-ypiresia-tis-asfaleias-ton-politon (en griego).