Gouverner avec l’intelligence artificielle

L’IA dans le maintien de l’ordre et la gestion des risques de catastrophe

L’intelligence artificielle est utilisée par divers organismes publics chargés de la gouvernance des risques critiques comme la gestion des catastrophes et le maintien de l’ordre, ainsi que la lutte contre le terrorisme, l’administration des douanes et la gestion des frontières qui constituent des domaines transversaux. Les technologies fondées sur l’IA leur permettent d’accroître l’ampleur, la rapidité et la précision de leurs capacités d’anticipation analytique, de surveillance et de suivi en temps réel ainsi que de gestion des processus administratifs, tout en réduisant les dépenses de fonctionnement. Elles peuvent ainsi contribuer à renforcer les capacités d’enquête et de gestion de crise, à optimiser l’allocation des ressources et à réduire les délais de réaction.

L’utilisation de l’IA dans ces domaines ayant potentiellement des répercussions notables, en particulier en matière d’action répressive, les entités qui y recourent sont considérées comme des utilisateurs finaux à haut risque (OCDE, 2020[253]) et doivent tenir compte de considérations supplémentaires lorsqu’elles emploient ces technologies au service de l’intérêt général ou de la sécurité publique. Parmi l’ensemble des institutions publiques, la police est celle à laquelle les citoyens déclarent accorder la plus grande confiance (OCDE, 2024[46]). Il est donc essentiel de préserver cette confiance en veillant à un usage responsable et fiable de l’IA propre à minorer les enjeux éthiques et les risques qu’elle pourrait faire peser sur les droits individuels. Cela suppose une vigilance particulière quant à l’origine des données sous-jacentes et la manière dont elles sont obtenues, conservées et exploitées (OCDE, 2020[254] ; 2019[191] ; 2022[255]). Des enseignements peuvent être tirés des expériences passées et comme exposé ci-après, certains États ont déjà renforcé les attentes en matière de transparence vis-à-vis des institutions publiques qui utilisent l’IA.

État des lieux

Identification de suspects et de personnes disparues

Les technologies de reconnaissance faciale fondées sur l’IA permettent de comparer plus facilement, en temps réel ou à partir d’enregistrements d’images issues de dispositifs de surveillance, des réseaux sociaux ou d’autres sources, avec celles enregistrées dans des bases de données. Elles peuvent ainsi faciliter l’identification de suspects, de personnes d’intérêt ou de personnes portées disparues, et semblent avoir un effet dissuasif sur les tentatives d’accès à des zones interdites. Ainsi, dans de nombreux pays, les systèmes de vidéosurveillance (CCTV) sont associés à des dispositifs de reconnaissance faciale pour vérifier en temps réel l’identité des personnes entrant ou sortant de grands sites, tels que des stades, sans perturber le déroulement des événements qui s’y produisent (Hutchins et Andrejevic, 2021[256]). Aux États-Unis, le système Next Generation Identification, administré par le FBI, intègre l’intelligence artificielle pour améliorer la précision de ses capacités biométriques, notamment la mise en correspondance des noms, empreintes digitales, visages, iris ou empreintes latentes. Le système génère une liste hiérarchisée de correspondances potentielles, qui sont ensuite vérifiées manuellement par des analystes spécialisés en biométrie pour s’assurer de leur exactitude. Cette approche s’est révélée utile pour appuyer les enquêtes, et a permis de dégager des pistes en cas de dégradation ou d’absence d’autres moyens d’identification exploitables (US GAO, 2024[257]).

L’utilisation des technologies de reconnaissance faciale biométrique soulève toutefois des préoccupations en matière de protection de la vie privée dans de nombreux pays et territoires (OCDE, 2024[258]). La nécessité d’un cadre juridique et institutionnel robuste, propre à bien délimiter les interventions faisant appel à ces technologies, sera examinée plus en détail dans le chapitre consacré à la gestion des risques et des défis.

En complément de l’identification biométrique, les algorithmes d’IA aident les analystes à traiter d’importants volumes de données pour repérer des schémas ou des anomalies susceptibles d’indiquer une probabilité élevée, ou au contraire faible, qu’une personne soit impliquée dans une activité illicite, ou pour révéler des infractions qui, autrement, passeraient inaperçues. Ces analyses portent sur les publications sur les réseaux sociaux, les opérations financières et les renseignements d’origine électromagnétique, l’objectif étant de recueillir des preuves d’infractions déjà commises.

Anticiper les comportements criminels et repérer les facteurs de risque

En analysant les profils psychologiques, les comportements et les antécédents, les systèmes d’intelligence artificielle peuvent contribuer à anticiper la commission d’infractions ou le passage à l’acte criminel (Hung et Yen, 2020[259]). Pour établir ces prédictions, ils mobilisent différentes sources d’information : réseaux sociaux, transactions en ligne, registres publics, données détenues par les forces de l’ordre ou encore images de vidéosurveillance, pour n’en citer que quelques-unes. Ces technologies servent aussi bien à surveiller des personnes ayant déjà commis des infractions qu’à repérer des individus jusque-là inconnus susceptibles de préparer des attentats ou d’autres actes violents (McKendrick, 2019[260]). Elles sont également utilisées pour traiter les infractions non violentes à forte occurrence et pour détecter les comportements suspects constituant des anomalies statistiques (Wastupranata, Kong et Wang, 2024[261]).

Les technologies fondées sur l’intelligence artificielle sont également utilisées dans la gestion des frontières. Aux États-Unis, le Bureau des douanes et de la protection des frontières (US Customs and Border Protection, CBP) a mis en place un modèle d’évaluation des passagers reposant sur différents indicateurs de risque afin de détecter les menaces potentielles lors des franchissements de frontière. Ce dispositif vise à aider les agents à repérer plus rapidement les situations susceptibles de nécessiter un contrôle renforcé. (US DHS, 2024[262]) Le CBP s’appuie par ailleurs sur un système d’apprentissage automatique pour détecter les schémas potentiellement suspects dans l’historique des passages de véhicules. Ce système a permis d’effectuer 240 saisies de plusieurs milliers de kilogrammes de drogues illicites (US DHS, 2024[263]).

Les outils d’IA peuvent servir à analyser les données issues des réseaux sociaux et des relations entre personnes, afin d’identifier celles qui seraient plus susceptibles d’être impliquées dans des activités criminelles, en tant qu’auteurs ou que victimes. Cette capacité peut être mise à profit pour mieux cibler les interventions et les efforts des forces de police de proximité. Certaines technologies d’IA sont conçues pour appuyer les enquêtes, par exemple en signalant à la police les individus à surveiller avant qu’une infraction ne soit commise.

De nombreux pays expérimentent déjà des usages concrets de l’intelligence artificielle. Certains relèvent d’applications à petite échelle. Au Japon, par exemple, un logiciel de détection des vols à l’étalage permet de repérer les comportements jugés suspects à partir d’images de surveillance et d’alerter les autorités via une application mobile (Belova, 2020[264]). D’autres initiatives s’inscrivent dans des projets de plus grande envergure, comme l’outil d’évaluation des risques (Harm Assessment Risk Tool, HART) mis au point par la police du comté de Durham, au Royaume-Uni. Cette approche, qualifiée de police prédictive, suscite toutefois des controverses, qui seront examinées dans la suite du rapport.

Encadré 5.53. Outil d’évaluation des risques liés au terrorisme islamiste en Allemagne

Depuis 2017, la police allemande utilise à l’échelle nationale un outil algorithmique normalisé (RADAR-iTE) pour évaluer les risques liés au terrorisme islamiste. Ce système, spécialement conçu pour appuyer les missions de protection de l’État (Staatsschutz), sert à estimer le risque que des individus déjà connus des forces de l’ordre commettent des actes terroristes violents motivés par des convictions religieuses ou politiques.

Le système RADAR-iTE repose sur une procédure normalisée d’évaluation de dossiers individuels, intégrant à la fois des facteurs de risque et des facteurs de protection, qui permet de répartir les individus dans l’une des deux catégories de risque (modéré ou élevé). Cette méthode facilite la hiérarchisation des dossiers individuels et permet une répartition plus efficiente des ressources policières. L’évaluation s’appuie sur des comportements observables et sur des informations déjà détenues par les forces de l’ordre ou légalement accessibles, plutôt que sur des éléments tels que l’idéologie ou la religion. L’outil repose sur un formulaire d’évaluation des risques s’articulant autour de questions et de catégories de réponses normalisées, mais l’interprétation des données n’est pas automatisée et nécessite toujours l’intervention professionnelle d’agents spécialement formés.

Le système RADAR-iTE aide à hiérarchiser les priorités en faisant ressortir les facteurs de risque ou de protection. Les personnes jugées à haut risque font l’objet d’un examen conjoint lors d’études de cas menées par l’Office fédéral de police criminelle (Bundeskriminalamt, BKA), dans le cadre du groupe de travail sur la gestion des risques (AG RIMA) du Centre commun de lutte contre le terrorisme (GTAZ). L’outil vise à mieux structurer et documenter les parcours des individus connus comme appartenant au courant salafiste radical et contribue ainsi à améliorer la transparence et la comparabilité des évaluations des risques dans l’ensemble du pays. Il ne remplace pas les évaluations individuelles, mais il les complète, en venant s’ajouter aux mesures standard appliquées par la police dans le cadre de la protection de l’État à l’égard des personnes considérées comme des menaces ou d’autres individus concernés.

Source : https://www.bka.de/DE/UnsereAufgaben/Deliktsbereiche/PMK/Radar/radar_node.html, https://penal.org/sites/default/files/files/A-02-23.pdf.

Prédiction spatio-temporelle des risques d’infractions

En plus de cibler les individus susceptibles de commettre une infraction ou d’en être victime, les algorithmes de police prédictive aident à déterminer par avance les lieux et les moments où le risque est le plus élevé en exploitant les données historiques sur la criminalité. Ils prennent en compte divers éléments, tels que l’heure, les conditions météorologiques ou les données socioéconomiques. Plusieurs services de police s’appuient sur ces analyses pour orienter leurs patrouilles vers des zones à risque établies, planifier leurs itinéraires et déployer leurs ressources de manière plus stratégique.

Certains systèmes de police prédictive exploitent des données en temps réel afin d’adapter en continu leurs prédictions et recommandations, aussi bien dans le domaine du maintien de l’ordre que dans celui de la gestion des situations d’urgence. Plusieurs pays exploitent la vidéosurveillance, les signalements en direct et les données de capteurs pour affiner leurs prédictions en temps réel. En Corée, par exemple, l’Agence nationale pour la sécurité sur Internet (Korea Internet and Security Agency, KISA) et la Police nationale (National Police Agency, NPA) ont mis au point ensemble une application destinée à protéger les personnes exposées au risque de harcèlement, en les aidant à reconnaître les situations dangereuses et à les éviter. L’outil détecte les signes annonciateurs d’actes de harcèlement, envoie des alertes aux victimes potentielles et informe les forces de l’ordre. L’objectif est d’appréhender les auteurs de manière préventive. Cette technologie fait appel à l’intelligence artificielle pour analyser en temps réel les images de vidéosurveillance — qui, auparavant, ne pouvaient être exploitées qu’a posteriori — afin de repérer des signes annonciateurs de harcèlement et d’alerter les personnes concernées avant qu’un danger ne survienne. (OCDE, 2025[265])

Renforcement des capacités de détection et d’anticipation des risques de catastrophe

L’intelligence artificielle offre à tous les pays de nouvelles possibilités de détecter et d’anticiper les risques dans de nombreux secteurs. Des algorithmes d’apprentissage automatique sont appliqués à de vastes ensembles de données pour repérer les signaux d’alerte précoce couvrant un large éventail de risques, allant des catastrophes naturelles aux menaces pour la santé publique. L’Encadré 5.54 présente une initiative menée dans une province canadienne, où l’IA est utilisée pour anticiper les incendies de forêt et adapter en conséquence le déploiement des ressources. En Grèce, des outils similaires sont utilisés pour détecter rapidement les départs de feu dans les zones forestières et agricoles, ainsi que pour prévenir les inondations1.

Encadré 5.54. Anticipation des risques d’incendie de forêt au Canada

Dans la province canadienne de l’Alberta, les autorités utilisent l’intelligence artificielle pour appuyer la prise de décisions relatives à l’allocation des ressources et au déploiement préventif de moyens de lutte contre les incendies de forêt. Ce système innovant permet d’estimer la probabilité de départs de feu le jour qui suit dans les zones forestières protégées, qui couvrent plus de la moitié de la province.

Élaboré à partir de données recueillies sur dix années portant sur les incendies, les conditions météorologiques et les caractéristiques environnementales, le système tient compte des prévisions météorologiques quotidiennes et de facteurs contextuels comme l’augmentation de l’activité humaine lors des longs week-ends. Il parvient à prévoir 50 % des incendies et, lorsqu’il indique qu’un départ de feu est probable, son taux de précision atteint 80 %. Il est important de noter qu’il ne se substitue pas à l’expertise humaine, mais vient renforcer les capacités de décision du personnel.

Fruit d’une collaboration entre les secteurs public et privé, le système est actualisé chaque année à mesure que de nouvelles données sur les incendies y sont intégrées.

Source : https://www.oafc.on.ca/about/announcements/fire-news-headlines/how-alberta-uses-artificial-intelligence-wildland.

Au Guatemala, l’intelligence artificielle est utilisée pour analyser des images satellites et des relevés de terrain en vue d’inventorier les structures susceptibles de s’effondrer en cas de séisme. Grâce à l’utilisation de l’IA pour repérer les zones touchées, cette approche a permis de recenser environ 85 % des bâtiments jugés à risque selon les évaluations traditionnelles en génie civil (GFDRR, 2018[266] ; Tilon et al., 2020[267]).

Les technologies d’observation de la Terre, les capteurs connectés et les outils d’intelligence artificielle sont également exploités pour améliorer les prévisions de risques d’incendies de forêt (Nelson, He et Moore, 2024[268]). L’imagerie satellitaire permet de suivre régulièrement la croissance de la végétation afin d’évaluer la quantité de matière combustible susceptible d’alimenter les incendies de forêt. L’Australie met actuellement au point un satellite doté de capteurs infrarouges spécialement conçu pour observer la végétation locale, comme les eucalyptus et les arbustes, afin d’affiner les prévisions d’incendies de forêt (Amos, 2020[269]).

Le Brésil a mis au point un système de gestion géospatiale des lignes de transport d’électricité, qui s’appuie sur l’intelligence artificielle et l’analyse d’images satellites pour surveiller l’état des lignes de transport et prévenir ainsi les incendies de forêt (Encadré 5.55).

Encadré 5.55. L’intelligence artificielle et l’imagerie satellitaire au service de la prévention des incendies de forêt au Brésil

Au Brésil, les incendies de forêt figurent parmi les principales causes de coupures d’électricité. Pour contrôler les milliers de lignes de transport à haute tension du pays, l’Agence nationale de régulation du secteur de l’électricité (ANEEL) a élaboré un système de gestion géospatiale des lignes de transport (Gestão Geoespacializada da Transmissão, GGT) qui utilise l’intelligence artificielle et l’analyse d’images satellites pour inspecter préventivement l’état des lignes face au risque d’incendie. Le système GGT fait appel à l’IA pour traiter les images afin de déterminer les tronçons touchés par un incendie, de détecter automatiquement les variations de densité de la végétation et de repérer les opérations de déboisement menées par les sociétés de transport de l’électricité, sans qu’il soit nécessaire de dépêcher sur place les équipes d’inspection de l’ANEEL.

De plus, le système génère automatiquement des rapports de suivi incluant une évaluation des travaux de maintenance réalisés par les sociétés de transport de l’électricité dans les couloirs de sécurité des lignes. Ces rapports permettent aux équipes d’inspection de l’Agence nationale d’intervenir de manière préventive et suffisamment ciblée pour limiter les risques de coupures de courant causées par les incendies de forêt sur l’ensemble du territoire. Les sociétés de transport de l’électricité s’appuient à leur tour sur les informations produites par le système, ainsi que sur les alertes transmises par l’ANEEL, pour améliorer leurs procédures d’entretien et réduire les risques de coupures dues à des feux de forêt. Entre 2017 (année de son lancement) et 2022, le système a permis une baisse de 89 % des interruptions de service dues aux incendies sur les lignes surveillées, alors même que le nombre d’incendies annuels était en hausse au niveau national.

Source : https://oecd-opsi.org/innovations/ai-and-geospatial-data-to-protect-against-wildfires.

Aux États-Unis par exemple, un important fournisseur de services énergétiques desservant la Caroline du Nord et la Caroline du Sud a eu recours à des outils d’intelligence artificielle avant le passage de l’ouragan Florence en 2018, afin de définir où déployer en amont ses équipes techniques de façon à pouvoir rétablir rapidement le courant en cas de dommages sur les lignes de transport d’électricité (Seto, 2018[270]).

L’intelligence artificielle peut traiter de vastes ensembles de données issues de sources variées (dossiers médicaux, réseaux sociaux, dispositifs de surveillance de l’environnement, etc.) afin de repérer des tendances ou des anomalies pouvant annoncer l’émergence d’une maladie, permettant ainsi aux autorités d’agir de manière proactive. (El Morr et al., 2024[271]) Au-delà des aléas naturels, l’IA est également mise à contribution pour anticiper les risques liés aux activités humaines. L’Encadré 5.56 illustre comment elle peut contribuer à mieux anticiper les risques et à renforcer l’action des forces de l’ordre.

Encadré 5.56. Systèmes de vidéosurveillance fondés sur l’IA en Corée pour prévenir la criminalité et améliorer la gestion des situations d’urgence

Face aux besoins croissants de surveillance dans les zones urbaines, plusieurs villes coréennes ont déployé des systèmes de vidéosurveillance sélective reposant sur l’IA afin de renforcer la sécurité publique, d’améliorer les capacités d’intervention d’urgence et de prévenir la criminalité. Ces dispositifs tirent parti des infrastructures de vidéosurveillance déjà en place et utilisent des algorithmes d’apprentissage profond pour détecter et classer automatiquement les objets, les personnes et les situations, y compris les accidents, les incendies et les comportements atypiques de piétons (errance, rixes, intrusions non autorisées, etc.).

La vidéosurveillance assistée par l’IA permet de hiérarchiser les séquences vidéo jugées pertinentes, réduisant ainsi le recours à une surveillance manuelle et facilitant la détection en temps réel des situations à risque et une intervention rapide. Ses principales fonctionnalités incluent le suivi d’objets à partir d’analyses de trajectoires fondées sur des mots-clés, la recherche vidéo accélérée et la reconnaissance intelligente d’événements, qui sont utiles tant pour le maintien de l’ordre que pour la gestion des catastrophes. Pour garantir le respect de la vie privée, le système anonymise les informations sensibles, comme les visages et les plaques d’immatriculation, et limite l’exportation des vidéos grâce à des techniques de chiffrement.

Source : https://smartcity.go.kr/wp-content/uploads/2024/09/EN02.AI-Based-Selective-Monitoring-System.pdf.

Améliorer l’évaluation des risques et la modélisation prédictive

Les systèmes avancés d’intelligence artificielle permettent d’affiner l’évaluation des risques en intégrant des ensembles de données complexes et hétérogènes. La modélisation prédictive qu’ils rendent possible offre la capacité de simuler différents scénarios de risque, ce qui aide les décideurs à en mesurer les effets potentiels et à définir les stratégies d’atténuation correspondantes. Ces systèmes exploitent des données issues de différentes sources (relevés climatiques, indicateurs socioéconomiques, réseaux d’infrastructures, etc.) afin d’établir des profils de risque plus complets. La possibilité de traiter d’importants volumes de données offerte par l’IA améliore la précision des modèles de risque, en particulier dans des environnements instables comme les situations de catastrophe. En mettant en évidence les corrélations et les liens de causalité entre différentes variables, les systèmes d’IA apportent des éclairages plus nuancés sur la probabilité et la gravité des menaces à venir. Cette meilleure connaissance appuie une prise de décision fondée sur des données probantes et une allocation plus efficiente des ressources. L’IA permet également de disposer de modèles de simulation plus rapides, plus précis et moins consommateurs de ressources. Ainsi, le Centre européen pour les prévisions météorologiques à moyen terme (CEPMMT) utilise un système de prévision fondé sur l’IA qui améliore la qualité de ses prévisions numériques, avec une précision jusqu’à 20 % supérieure à celle des meilleurs modèles physiques dans plusieurs domaines, notamment pour le suivi des cyclones tropicaux (CEPMMT, 2025[272]). Enfin, les systèmes d’IA peuvent être continuellement perfectionnés à mesure que de nouvelles données deviennent disponibles, garantissant ainsi des évaluations des risques actualisées. Cette capacité d’ajustement est particulièrement utile face à des risques émergents comme les menaces en lien avec les cyberattaques.

Encadré 5.57. Singapour et son jumeau numérique axé sur les données

Singapour a créé Virtual Singapore, le premier jumeau numérique national au monde, destiné à appuyer la planification urbaine axée sur les données et à améliorer la gestion des catastrophes. Piloté par l’Autorité foncière de Singapour (Singapore Land Authority, SLA), ce projet s’appuie sur une modélisation 3D avancée et sur l’intégration de données en temps réel pour produire une réplique numérique détaillée de la cité-État. Des technologies de balayage laser déployées à bord d’aéronefs et de véhicules permettent de recueillir des données précises sur la topographie et de cartographier les structures de surface et les installations souterraines, les conditions environnementales et les mouvements de population. Élément central de la stratégie Smart Nation de Singapour, Virtual Singapore offre aux décideurs et aux chercheurs une plateforme interactive grâce à laquelle ils peuvent tester différents scénarios, anticiper les risques, optimiser la fourniture de services et renforcer la résilience face à de futures situations d’urgence.

La plateforme permet de simuler les retombées des nouveaux projets, d’analyser les flux de transport et de modéliser des facteurs environnementaux comme les îlots de chaleur urbains, et des risques tels que les inondations. En facilitant la collaboration intersectorielle, Virtual Singapore contribue à une meilleure allocation des ressources, améliore la prise de décisions et encourage l’innovation, tant dans le secteur public que privé. Les organismes publics peuvent l’utiliser pour renforcer la résilience des infrastructures, tandis que les entreprises et les chercheurs exploitent ses données pour concevoir des solutions urbaines intelligentes. La plateforme joue également un rôle clé dans la gestion des situations d’urgence et des catastrophes : elle aide les autorités à planifier leurs interventions en cas de phénomène météorologique extrême et à mieux coordonner leur action en situation de crise. Grâce à des mises à jour régulières intégrant de nouvelles approches d’intelligence artificielle, des dispositifs de l’Internet des objets et de nouvelles sources de données, Virtual Singapore évolue comme un outil dynamique au service de la ville de demain.

Source : https://oecd-opsi.org/innovations/virtual-twin-singapore.

Améliorer la communication sur les risques

L’intelligence artificielle améliore les modes de communication et de compréhension des risques, tant pour les décideurs que pour le grand public. En produisant, à partir d’ensembles de données complexes, des représentations visuelles et des formulations en langage accessible, elle rend les évaluations des risques plus facilement intelligibles. Des outils comme les tableaux de bord interactifs, les agents conversationnels ou les assistants virtuels facilitent la diffusion d’informations adaptées à différents publics, améliorant ainsi la sensibilisation aux risques et la préparation aux situations d’urgence. (UNU Institute for Environment and Human Security, 2024[273])

L’intelligence artificielle permet également de personnaliser la communication, avec des messages d’alerte ciblés en fonction de la localisation, du niveau de vulnérabilité ou des préférences des individus, de façon à ce que les informations parviennent en priorité aux personnes les plus exposées, en particulier en cas d’urgence (Zhao et al., 2025[274]). Parallèlement, les outils d’analyse d’opinion fondés sur l’IA aident les autorités à mieux cerner la manière dont la population perçoit les risques et à adapter en conséquence leurs stratégies de communication. Les plateformes de communication en temps réel contribuent quant à elles à améliorer la gestion des crises en diffusant des informations actualisées et des consignes de protection. Ce flux dynamique d’informations favorise la confiance du public et encourage, face aux risques, l’adoption de comportements d’atténuation davantage fondés sur l’anticipation (Encadré 5.58).

Encadré 5.58. L’assistant de planification pour la réduction des risques aux États-Unis

Aux États-Unis, l’Agence fédérale de gestion des situations d’urgence (Federal Emergency Management Agency (FEMA) teste actuellement une solution d’IA générative, l l’assistant de planification pour des collectivités résilientes (Planning Assistant for Resilient Communities, PARC). Ce nouvel outil vise à rendre plus efficiente la planification de l’atténuation des risques par les collectivités locales, en particulier de celles qui sont mal desservies. Les plans d’atténuation des risques peuvent jouer un rôle clé dans le renforcement de la résilience des collectivités, mais leur élaboration peut être complexe et chronophage, en particulier pour les collectivités ne disposant pas des ressources nécessaires. Le système PARC a été spécialement conçu pour aider les administrations des États fédérés et les autorités locales, autochtones et territoriales à élaborer des plans reposant sur une identification claire des risques et des stratégies d’atténuation adaptées, ainsi qu’à générer, à partir de sources publiques et rigoureusement documentées, des ébauches de plans que les autorités peuvent ensuite personnaliser en fonction de leurs besoins. Ce dispositif pourrait permettre à davantage de collectivités de présenter des demandes de financement, renforçant ainsi leur résilience et réduisant leur vulnérabilité face aux catastrophes. 

Source : https://www.dhs.gov/ai/use-case-inventory/fema.

Améliorer les interventions en cas de catastrophe et de crise

L’intelligence artificielle permet de mieux appréhender la situation en cas de catastrophe, grâce à l’analyse en temps réel des images satellites, des données issues de capteurs et des informations publiées sur les réseaux sociaux. Ces éléments aident les services d’urgence à cartographier les zones touchées, à hiérarchiser l’allocation des ressources et à mieux coordonner les opérations de secours. Les systèmes d’aide à la décision fondés sur l’IA peuvent recommander les itinéraires d’évacuation les plus sûrs, inventorier les infrastructures critiques menacées et anticiper la progression des dangers. Ils permettent aussi de suivre l’évolution des conditions dans lesquelles s’organise la réponse à la crise. En exploitant les flux de données en direct, ces outils fournissent par exemple des mises à jour sur les fermetures de routes, les coupures de courant ou les perturbations des transports. Ces informations aident les autorités et les populations à s’adapter à l’évolution des conditions et à assurer la continuité des services essentiels.

L’intelligence artificielle peut faciliter la collecte de données difficiles à obtenir directement auprès des populations affectées. En Indonésie, par exemple, les habitants de Jakarta partagent des informations actualisées sur les inondations via les réseaux sociaux grâce à Bencana Bot, un agent conversationnel développé par la fondation indonésienne de cartographie des catastrophes (PetaBencana.id). Ce robot conversationnel invite les utilisateurs à transmettre des informations sur les inondations, qui sont ensuite cartographiées en temps réel et mises en ligne gratuitement. L’Agence de Jakarta pour la réduction des risques de catastrophe (Jakarta Disaster Mitigation Agency, BPBD) enrichit cette carte à l’aide de données officielles. À la suite de fortes inondations dans la capitale, l’activité de la plateforme a bondi de 2 000 % en seulement 12 heures, permettant aux habitants d’éviter les zones dangereuses et de prendre des décisions éclairées pour leur sécurité. (PetaBencana.id, 2021[275])

Les organismes d’intervention en cas de catastrophe utilisent également des algorithmes de détection des changements. Appliqués à l’imagerie d’observation de la Terre, ces outils permettent de recenser rapidement les zones géographiques touchées et les infrastructures et bâtiments endommagés.

Améliorer l’évaluation des besoins après une catastrophe et la planification du relèvement et de la reconstruction

L’IA contribue à améliorer l’évaluation des besoins après une catastrophe en regroupant des données issues de l’imagerie satellitaire, des réseaux sociaux et des registres administratifs de façon à produire plus rapidement des bilans exhaustifs des dommages et des besoins. Les systèmes fondés sur l’IA peuvent détecter automatiquement les infrastructures endommagées, estimer le nombre de personnes déplacées et évaluer les coûts de relèvement. L’automatisation de ces tâches accélère les évaluations et permet de lancer plus rapidement les opérations de redressement.

Les systèmes d’aide à la décision fondés sur l’IA aident les autorités à hiérarchiser les projets en déterminant les besoins les plus urgents et en optimisant l’utilisation des ressources. Ils offrent également la possibilité de modéliser différents scénarios de relèvement, permettant ainsi aux décideurs d’évaluer les arbitrages à opérer entre la reconstruction des infrastructures, le rétablissement des moyens de subsistance et le renforcement de la résilience.

L’IA contribue à rendre les efforts de reconstruction plus transparents et responsables, en suivant l’état d’avancement des projets et en détectant d’éventuels retards ou irrégularités. Ce suivi favorise une utilisation plus efficiente des ressources et permet de s’assurer que l’aide parvient rapidement aux populations vulnérables. L’IA peut aussi appuyer une répartition optimale des ressources, par exemple en affectant les équipes vers les zones ou missions en fonction des besoins anticipés. Au-delà de ces applications prédictives, elle peut être utilisée à des fins de sécurité publique, notamment pour déterminer comment réduire les délais d’intervention et tirer le meilleur parti de moyens limités. On trouvera dans l’Encadré 5.59 un exemple notable issu de l’Agence fédérale américaine de gestion des situations d’urgence (FEMA).

Encadré 5.59. L’IA au service du relèvement après le passage d’un ouragan aux États-Unis

Après le passage de l’ouragan Ian, qui a frappé la Floride en 2022, l’Agence fédérale américaine de gestion des situations d’urgence a déployé un outil d’évaluation géospatiale des dégâts (Geospatial Damage Assessments, GDA) fondé sur l’IA. Jusque-là, les évaluations des dommages après une catastrophe reposaient sur des inspections manuelles, un processus pouvant prendre plusieurs semaines et retarder l’octroi d’aides financières aux sinistrés. Le nouveau modèle a changé la donne en automatisant la classification des dégâts.

Cet outil novateur combine l’imagerie aérienne, les données satellitaires et l’apprentissage automatique pour évaluer rapidement les dommages structurels dans les zones touchées, améliorant ainsi considérablement la rapidité et la précision des interventions. Plus d’un million de structures touchées ont pu être recensées et classées selon leur niveau de dommages. L’intégration de données supplémentaires — telles que la vitesse des vents, les caractéristiques de construction ou la proximité de la trajectoire de l’ouragan — a permis d’obtenir une évaluation plus complète de la gravité des dégâts. Le nombre de structures nécessitant une inspection humaine est ainsi passé de plus d’un million à 77 000, réduisant les délais d’évaluation de plusieurs semaines à quelques jours. Moins de 72 heures après le passage de l’ouragan Ian, l’Agence disposait déjà d’un aperçu de l’ampleur des dégâts dans les zones concernées, ce qui a permis d’accélérer l’allocation des ressources et la planification des opérations de relèvement.

Source : https://gis-fema.hub.arcgis.com/pages/geospatial-da-training.

Gérer les risques et les défis

Les outils d’intelligence artificielle peuvent renforcer les capacités d’intervention des pouvoirs publics dans des domaines tels que le maintien de l’ordre, la gestion des risques de catastrophe et la gestion des crises, avec des bénéfices notables. Leur déploiement doit toutefois tenir compte des risques et des défis associés. Une étude menée dans plusieurs pays sur 61 projets d’automatisation de services publics finalement abandonnés révèle que la moitié concernaient des systèmes liés aux activités policières et au maintien de l’ordre (suspendus en partie en raison de l’arrêt de la reconnaissance faciale) souvent à la suite de critiques formulées par des organismes publics, des médias ou des membres de la société civile (Redden et al.[228]). On trouvera ci-après une présentation des principaux risques et défis que les autorités doivent prendre en compte lors de la conception et de la mise en application d’outils d’IA.

Risques associés

• Données insuffisantes ou biaisées dans les systèmes d’IA

• Utilisation abusive ou discutable de l’IA, soulevant des préoccupations liées à la surveillance et au respect de la vie privée

• Manque de transparence et d’explicabilité

• Perte de confiance du public en cas de perception d’injustice ou d’atteinte à la vie privée

• Dépendance excessive à l’IA

L’utilisation de l’intelligence artificielle pour accroître la productivité, par exemple en automatisant des tâches répétitives ou administratives, présente généralement peu de risques et ne suscite pas de controverse majeure ; en revanche, son application à la police prédictive soulève d’importants enjeux au niveau de l’action publique. Il est essentiel de les prendre en compte et d’y répondre afin de garantir que ces usages débouchent sur des analyses fiables et sont assortis de mécanismes garantissant une utilisation responsable de leurs capacités.

Des systèmes d’IA fondés sur des données insuffisantes ou biaisées peuvent générer des résultats inexacts, voire défavorables à certains individus ou groupes. Dans les domaines du maintien de l’ordre et de la gestion des risques de catastrophe, cela peut conduire à des discriminations illégales (dans les pays où elles sont interdites). Les responsables publics doivent donc veiller à ce que ces systèmes soient soumis à des tests rigoureux et validés avant leur mise en service. Ils doivent également exiger que les taux de vrais et de faux positifs soient consignés et mis à disposition pour examen. Les recherches recourant à différentes méthodes en vue de la validation des systèmes se sont multipliées ces dernières années (Stettinger, Weissensteiner et Khastgir, 2024[276]).

Selon les experts, l’un des risques les plus préoccupants liés à l’intelligence artificielle concerne les atteintes à la vie privée et la surveillance intrusive qui peuvent limiter la capacité des individus à exercer pleinement leurs droits humains et leurs libertés fondamentales (OCDE, 2024[29]). La collecte massive de données qu’exige la police prédictive expose à des atteintes involontaires au droit à la vie privée et à la protection des données personnelles. L’utilisation de l’IA à des fins de surveillance peut également conduire à des formes de surveillance intrusive des personnes, au risque de porter atteinte au droit à la vie privée. Les responsables de l’action publique doivent donc veiller à concilier les impératifs de sécurité publique et la protection des personnes en définissant des cadres juridiques de protection de la vie privée et des données permettant de prévenir tout abus ou dérive.

Parce qu’elle cumule deux types de risques (biais et atteintes à la vie privée, l’identification biométrique à distance (autrement dit la reconnaissance faciale) est particulièrement controversée, car les systèmes sur lesquels elle repose peuvent présenter des biais algorithmiques (susceptibles de conduire à des discriminations selon l’origine raciale ou ethnique, par exemple). (OCDE, 2020[277]). Dans l’espace public, son utilisation peut en outre limiter le libre exercice de droits individuels tels que le droit à la vie privée ou, à la protection des données personnelles et la liberté d’expression ou de réunion, comme l’ont souligné plusieurs organisations de la société civile (Access Now, 2022[278] ; CSOs, 2021[279]), les autorités européennes de protection des données (EDPB-CEPD, 2021[280])et plusieurs rapporteurs spéciaux des Nations Unies (Khan et al., 2022[281]). L’Encadré 5.60 revient sur les principaux enjeux liés à cette pratique.

Encadré 5.60. Enjeux de confidentialité et de biais liés à la reconnaissance faciale

Au fil des avancées technologiques, la reconnaissance faciale a vu s’accroître ses capacités à identifier des visages dans une foule, recouper des images issues de différentes sources – enregistrements de vidéosurveillance ou bases de données policières — pour assurer une surveillance en temps réel, ou encore identifier des suspects ou personnes portées disparues, pour ne citer que quelques-unes de ses applications. Les préoccupations concernant la protection de la vie privée tiennent au fait que l’IA permet aux autorités de collecter à une fin précise, sans le consentement des personnes concernées, d’importantes quantités de données personnelles qui pourraient ensuite être réutilisées pour d’autres usages non autorisés, voire illégaux.

Si les systèmes de reconnaissance faciale sont entraînés sur des jeux de données inappropriés ou biaisés, leur précision d’identification de certains groupes de population risque d’être moindre.

Dans certains cas, des pratiques inappropriées de la part des forces de l’ordre ont conduit à l’utilisation de données d’entrée de qualité médiocre, réduisant fortement la fiabilité des logiciels de reconnaissance faciale. Aux États-Unis, des services de police ont ainsi tenté de comparer à des bases de données d’images des croquis de suspects, des captures floues de vidéosurveillance, des images retouchées par ordinateur et même une photo d’une célébrité ressemblant à un suspect. Ces exemples illustrent l’importance d’établir des règles claires encadrant l’usage de ces outils et de préciser si une correspondance peut, à elle seule, justifier une arrestation.

Si l’attention s’est largement portée sur les dysfonctionnements de ces technologies (les faux positifs, par exemple) ou sur leur usage abusif, certains défenseurs de la vie privée soulignent que leur utilisation générale à des fins de surveillance ou de contrôle compromet la capacité à exercer librement ses droits en réduisant le degré d’anonymat attendu dans l’espace public, condition essentielle à l’exercice de droits tels que la liberté de réunion. Les autorités européennes de protection des données ont ainsi estimé que l’utilisation de tels systèmes dans l’espace public était incompatible avec le droit à la protection des données consacré par le droit de l’Union européenne, dans la mesure où le simple fait de scanner toutes les personnes circulant dans des lieux publics empiète sur les droits que leur confère la législation de l’UE. En conséquence, dans l’Union européenne, le Règlement sur l’intelligence artificielle n’autorise l’utilisation de systèmes d’identification biométrique à distance « en temps réel » dans des espaces accessibles au public qu’à des fins répressives, sous réserve qu’elle soit prévue par le droit national d’un État membre et assortie de garanties appropriées. Chaque utilisation doit, en particulier, être préalablement autorisée par une autorité judiciaire ou administrative indépendante et notifiée à l’autorité nationale compétente chargée de la protection des données. D’autres économies placent le curseur ailleurs lorsqu’il s’agit de concilier les avantages et les risques liés à ces technologies.

Source : (OCDE, 2020[254]), https://medium.com/data-science/how-ethical-is-facial-recognition-technology-8104db2cb81b, www.bbc.co.uk/news/technology-47117299, http://ainowinstitute.org/publications/after-a-year-of-tech-scandals-our-10-recommendations-for-ai , www.flawedfacedata.com, www.americaunderwatch.com, www.bbc.co.uk/news/technology-48222017, https://edri.org/our-work/remote-biometric-identification-a-technical-legal-guide, https://eur-lex.europa.eu/eli/reg/2024/1689/oj.

De nombreux systèmes d’IA prédictive sont des solutions propriétaires ou reposent sur des modèles de type « boîte noire », si bien qu’il est difficile au public et aux décideurs de saisir pleinement les motivations de certaines décisions opérationnelles. Ce manque de transparence peut éroder la confiance dans les forces de l’ordre. Les résultats des outils d’IA sont obtenus par extrapolation de corrélations statistiques entre les différentes sources de données qu’ils agrègent. Lorsqu’ils mettent au point et utilisent ces systèmes d’aide à la décision, les concepteurs et les enquêteurs devraient s’interroger sur la pertinence d’intégrer certaines variables sociodémographiques dans les modèles prédictifs. Par exemple, dans un outil d’IA couramment utilisé par la Gendarmerie française, le modèle prédictif repose sur 15 variables sociodémographiques que ses concepteurs estiment fortement corrélées avec la criminalité. Toutefois, la nature de ces variables n’a pas été rendue publique et rien n’a été entrepris pour démontrer l’existence d’un réel lien de causalité (Lecorps et Tissandier, 2022[282]).

Enfin, les forces de l’ordre courent le risque de développer une dépendance excessive à l’IA, au détriment d’autres dimensions essentielles de leur action, telles que la proximité avec la population ou les méthodes d’enquête traditionnelles. Des travaux d’évaluation portant sur d’autres outils de police prédictive devraient être menés afin d’en comparer l’efficacité, notamment en ce qui concerne la criminalité effectivement constatée dans les zones recensées et le nombre d’interventions réussies (Birks, Townsley et Hart, 2023[283]). Par ailleurs, l’utilisation de l’IA dans le maintien de l’ordre et la gestion des risques de catastrophe soulève des questions éthiques ayant trait au fait de déléguer à des machines des décisions à portée morale. Les responsables de l’action publique devraient envisager les implications éthiques que peut entraîner l’utilisation de l’IA dans la prise de décisions susceptibles d’avoir des conséquences sur la vie des citoyens dans le contexte du maintien de l’ordre et de la gestion des risques de catastrophe. Il est essentiel de veiller à maintenir le contrôle et la décision finale sous responsabilité humaine, l’IA devant compléter et non se substituer au jugement humain.

Défis de mise en œuvre

• Coûts élevés de l’adoption de l’IA, de son déploiement à grande échelle et des efforts nécessaires pour en démontrer d’efficacité et le retour sur investissement.

• Déficits de compétences

• Cadres juridiques et réglementaires rigides ou obsolètes

La mise en œuvre de technologies d’IA dans le domaine policier nécessite des investissements importants. La plupart des services de police étant des agences locales couvrant un territoire restreint et une population limitée, de nombreuses méthodes prédictives peuvent déjà s’appuyer sur les fonctionnalités intégrées aux logiciels bureautiques courants et aux systèmes d’information géographique. En revanche, les plus coûteux des outils, logiciels spécialisés ou équipements informatiques fondés sur l’IA peuvent dépasser les moyens financiers, voire les besoins, des programmes locaux de police prédictive. Les décideurs devraient donc analyser avec soin le rapport coûts-avantages afin de garantir une allocation optimale des ressources. Pour utiliser efficacement et comprendre ces outils, il est par ailleurs essentiel que les forces de l’ordre bénéficient de formations adaptées. Il incombe aux responsables de l’action publique de veiller à la mise en place de tels programmes de formation (EUCPN, 2022[284]), ce qui n’est souvent pas le cas.

Les cadres juridiques en vigueur ne répondent pas toujours aux enjeux inhérents au recours à l’IA dans les services de police. Il appartient aux décideurs d’élaborer et d’actualiser la législation afin d’encadrer son utilisation dans le domaine du maintien de l’ordre. Il est également essentiel de définir des normes et bonnes pratiques professionnelles relatives à la conception et au déploiement des technologies de police prédictive, afin d’en garantir la cohérence et la qualité.

Potentiel inexploité et perspectives

Les outils d’intelligence artificielle ouvrent des perspectives toujours plus larges pour accroître les capacités des forces de l’ordre et des entités de gestion des situations d’urgence, en renforçant la sécurité publique et la rapidité des interventions. Leur utilisation devrait continuer de s’étendre à un plus grand nombre d’organismes publics impliqués dans la gouvernance des risques critiques, à mesure que les technologies progressent et que les formations de leur personnel se généralisent. Si de nombreux exemples illustrent les avantages de ces outils lorsque le contexte s’y prête, d’autres témoignent également d’usages irresponsables. Des travaux de recherche empiriques restent nécessaires pour consolider la base de données factuelles sur leurs bénéfices mesurables et leurs inconvénients dans ces contextes. Ces travaux permettront de calibrer le recours à ces outils lorsque des gains d’efficacité et d’utilité sont démontrés ou, à l’inverse, de justifier un encadrement plus strict lorsque des résultats erronés pourraient d’avoir des conséquences préjudiciables sur la vie des citoyens.

L’IA soulève des enjeux éthiques, juridiques et sociétaux qui nécessitent une attention particulière et des mesures proactives, afin d’en garantir une utilisation digne de confiance et respectueuse des libertés et droits individuels. Il appartient aux décideurs publics d’engager un dialogue avec la population pour instaurer une relation de confiance et de veiller à répondre à ses préoccupations quant à l’utilisation de cette technologie. Une communication claire sur les objectifs, les avantages et les limites de l’IA dans le domaine du maintien de l’ordre et de la gestion des risques de catastrophe est essentielle pour préserver la confiance du public (Evans, 2022[285]). Appréhender les enjeux énumérés plus haut suppose une approche globale et une collaboration entre toutes les parties prenantes, notamment les entités utilisatrices, les responsables de l’action publique, les technologues et les populations concernées. Des travaux de recherche menés à partir de telles consultations pourraient contribuer à élargir les preuves des bénéfices mesurables de l’IA et à mieux comprendre ses effets non intentionnels.

Les pouvoirs publics et les forces de l’ordre devraient s’efforcer d’avoir une vision plus claire des limites de l’IA dans le domaine de la police prédictive au service de la lutte contre la criminalité. Des modèles statistiques complexes ou une puissance de calcul avancée ne sont ni nécessaires, ni suffisants pour réduire la criminalité. Les algorithmes peuvent aider à prévoir le risque qu’un fait se produise, mais pas la survenue de l’événement lui-même. Si l’IA peut faciliter la détection de schémas, elle ne fait qu’extrapoler à partir d’événements passés et sa fiabilité dépendra toujours de celle des données qui lui sont fournies. L’intervention humaine demeure donc indispensable à toutes les étapes des processus de police prédictive : recherche et collecte de données pertinentes, préparation de ces données en vue de leur analyse, examen et interprétation des résultats pour écarter les conclusions erronées et formulation de recommandations sur la marche à suivre à partir des conclusions de l’analyse ainsi menée (Perry et al., 2013[286]).

Le recours à l’intelligence artificielle dans le domaine du maintien de l’ordre constitue l’un de ses champs d’application les plus complexes et délicats. Cette technologie offre des bénéfices considérables en termes de sécurité nationale et de sûreté publique, mais peut également avoir des effets potentiellement néfastes. Des algorithmes biaisés peuvent conduire aussi bien à de faux positifs entraînant des arrestations injustifiées et l’incarcération de personnes innocentes, qu’à de faux négatifs amenant à négliger certaines activités illégales (Petra et al., 2024[287]). Ces défaillances soulignent bien la nécessité d’instaurer des mécanismes de consultation afin d’obtenir l’adhésion du public à l’adoption d’outils d’IA dans un cadre clair, assorti de garde-fous reconnus. Elles entretiennent par ailleurs une forte incertitude quant aux perspectives d’utilisation de l’IA dans le domaine du maintien de l’ordre.

Note

← 1.  Voir https://www.youtube.com/watch?v=JzLhcQijsz4, https://epiteliki.civilprotection.gov.gr/sites/default/files/2024-01/%CE%94%CE%B9%CE%B1%CE%BA%CE%AE%CF%81%CF%85%CE%BE%CE%B7_%CE%A0%CF%85%CF%81%CE%B1%CE%BD%CE%AF%CF%87%CE%BD%CE%B5%CF%85%CF%83%CE%B7_24PROC014095623_03.01.2024.pdf et https://civilprotection.gov.gr/en/deltia-tupou/b-kikilias-i-tehniti-noimosyni-stin-ypiresia-tis-asfaleias-ton-politon (en grec).