Gouverner avec l’intelligence artificielle

Résumé

L’intelligence artificielle (IA) s’impose aujourd’hui comme l’un des principaux moteurs de transformations du XXI^e siècle, devenant progressivement partie intégrante de l’administration numérique à travers le monde. Son utilisation par les pouvoirs publics peut faciliter l’automatisation de processus internes et de la prestation de services publics ainsi que leur adaptation à des besoins spécifiques, favoriser une amélioration de la prise de décision et des prévisions, permettre de mieux détecter les fraudes, et se traduire pour les agents publics par des emplois de meilleure qualité et par une meilleure formation — tous ces progrès ayant des effets tangibles. Selon les estimations de l’institut Alan Turing, l’IA pourrait par exemple permettre d’automatiser 84 % des opérations répétitives effectuées par les agents publics au Royaume-Uni, ce qui représenterait une économie équivalente à 1 200 personnes employées à plein temps chaque année. Néanmoins, malgré ces perspectives prometteuses, les administrations ont du retard sur le secteur privé en matière d’utilisation de l’IA.

Enseignements clés : comment mettre l’IA au service des citoyens ?

L’OCDE a procédé à une analyse approfondie de l’utilisation de l’IA dans 11 fonctions essentielles de l’administration en s’appuyant sur 200 cas d’usage. Les résultats de cette analyse semblent indiquer que l’IA est surtout présente, en termes de nombre total de cas d’usage, dans les fonctions touchant à la prestation de services publics ainsi qu’à la justice et dans le cadre de la participation citoyenne. En revanche, son utilisation est plus limitée dans les domaines de l’évaluation des politiques publiques, de l’administration fiscale et de la réforme de la fonction publique. D’autres domaines tels que la commande publique, la gestion financière, la lutte contre la corruption et la promotion de l’intégrité publique, ou encore la conception et la mise en œuvre de la réglementation, se situent à un niveau intermédiaire pour ce qui est de l’utilisation de l’IA. Cette ventilation peut s’expliquer par une grande diversité des usages dans certaines fonctions (les services publics, par exemple) ou, a contrario, par le champ restreint des usages dans d’autres domaines (comme la réforme de la fonction publique ou l’administration fiscale). En outre, il existe de nombreuses contraintes réglementaires dans certaines fonctions (l’administration fiscale, par exemple, en raison des règles encadrant l’utilisation des données fiscales), tandis que les difficultés de mise en œuvre rencontrées dans d’autres domaines sont moindres, ces domaines (comme la participation citoyenne) pouvant alors se développer plus rapidement jusqu’à maturité. Dans certaines fonctions (comme l’administration de la justice, par exemple), les exigences de la population et l’accumulation de retards en termes d’opérations à effectuer sont susceptibles de précipiter l’adoption de l’IA en tant que solution envisageable pour s’attaquer à des problèmes urgents.

L’utilisation de l’IA est courante dans le cadre des opérations internes et de la prestation des services publics, mais moins notable dans la fonction de contrôle exercée par les pouvoirs publics. On constate également que le recours à l’IA est limité dans le domaine de l’élaboration des politiques publiques, conformément aux précédentes analyses de l’OCDE. Les cas d’usage reposent souvent sur des approches classiques fondées sur l’application de règles ou sur des techniques établies d’apprentissage automatique. L’utilisation de l’IA générative, notamment des grands modèles de langage (LLM), est moins répandue. En ce qui concerne les retombées positives du recours à l’IA, les administrations cherchent : à promouvoir l’automatisation des processus et de la prestation des services, leur simplification, et leur adaptation à des besoins spécifiques, dans la majorité des cas ; à améliorer la prise de décision et les prévisions, dans un nombre de cas plus réduit ; à renforcer la redevabilité et la détection d’anomalies, en troisième lieu. Dans quelques cas, les administrations s’emploient à offrir de nouvelles possibilités à des parties prenantes externes (par ex. : les citoyens, les entreprises) grâce à l’accès aux systèmes d’IA fournis par le gouvernement, mais il faudra peut-être déployer des efforts supplémentaires en ce sens.

Risques liés à l’utilisation de l’IA par les pouvoirs publics

L’adoption de l’IA n’est jamais exempte de risques. Pour réussir à tirer parti des avantages de l’IA, il est nécessaire d’atténuer les risques qu’elle présente. Des algorithmes biaisés peuvent conduire à des retombées négatives ; une utilisation abusive de l’IA peut porter atteinte aux droits humains ou empêcher le libre exercice de ces droits ; un manque de transparence, d’explicabilité ou de compréhension de l’IA par la population est susceptible d’éroder la redevabilité des administrations et d’engendrer une résistance de la part des citoyens ; un recours excessif à l’IA risque de creuser les inégalités numériques et de permettre la propagation d’erreurs systémiques, entraînant un recul de la confiance des citoyens dans leurs administrations. Ces risques peuvent être exacerbés dans des pays ne disposant pas des mécanismes propres à garantir l’exercice, la protection et la promotion des droits humains, ou découler d’une utilisation inappropriée de l’IA par certains agents publics. Les effectifs d’agents publics pourraient également se réduire si les administrations décident de remplacer des fonctionnaires par l’IA plutôt que de renforcer les compétences de ces derniers.

La non-exploitation de l’IA par les pouvoirs publics présente également un risque, à savoir laisser passer des occasions de générer des retombées positives et accentuer le décalage entre les capacités des entités publiques et celles du secteur privé. Pour répondre aux exigences croissantes des citoyens et consolider la confiance de la population à leur égard, les administrations devront adopter l’IA. Ne faire aucun cas de la transformation induite par l’IA ou attendre que l’ensemble des incertitudes soit levé relègue les pouvoirs publics au rang d’utilisateur passif des technologies, au lieu de leur permettre de jouer un rôle actif dans l’orientation de ces dernières — une approche qui est source d’importantes dépenses et de lourds handicaps. Faute de renforcer rapidement leurs capacités internes en matière d’IA, les administrations publiques risquent d’avoir durablement du mal à combler leur retard.

Les pouvoirs publics se heurtent également à des obstacles dans le déploiement de l’IA

Compte tenu des difficultés liées à la transposition à une plus grande échelle des applications de l’IA concluantes, les initiatives publiques en matière d’IA dépassent rarement le stade de projet pilote. On observe un déficit de compétences ainsi que des difficultés en matière d’accès à des données de qualité et d’échange de telles données dans toutes les fonctions de l’administration. De plus, malgré l’existence fréquente de stratégies en faveur de l’IA au sein de l’administration, un manque de directives concrètes fait obstacle à la mise en œuvre effective de ces stratégies. Les facteurs évoqués ci-dessus accentuent l’aversion au risque, limitant la capacité des pouvoirs publics à innover grâce à l’IA. Par ailleurs, l’insuffisance des mécanismes de suivi et d’évaluation restreint leur capacité à mesurer les progrès, à détecter les risques et à confirmer l’existence d’un retour sur investissement, tandis que les coûts de financement constituent couramment un frein supplémentaire.

Certaines difficultés se rencontrent plus souvent dans certaines fonctions que dans d’autres. L’administration fiscale, par exemple, fait face à un corpus législatif et réglementaire complexe s’agissant des procédures et données fiscales, alors que la commande publique souffre d’un manque de règles établies dans le domaine de l’IA. Enfin, le recours à l’IA dans des fonctions telles que la gestion des finances publiques est entravé par une infrastructure technologique obsolète héritée du passé qui n’est pas adaptée au développement ni à l’utilisation de l’IA.

Comment les pouvoirs publics peuvent-ils garantir que leur utilisation de l’IA est digne de confiance ?

Pour récolter les fruits de l’IA dans l’administration tout en atténuant les risques de cette technologie et en surmontant les difficultés liées à son déploiement, il est nécessaire que les pouvoirs publics mettent en place :

• des catalyseurs pour permettre une adoption en confiance de l’IA, notamment en termes de gouvernance, de données, d’infrastructures numériques, de compétences, d’investissements, d’agilité des processus d’achat et de capacités de partenariat avec des acteurs non gouvernementaux ;

• des garde-fous pour encadrer l’usage de l’IA, en l’occurrence des règles et des politiques, des lignes directrices et des cadres d’utilisation, des mécanismes de transparence et de redevabilité couvrant le cycle de vie des systèmes d’IA, ainsi que des instances consultatives et de contrôle chargées d’encadrer et d’évaluer les efforts accomplis ;

• des mécanismes de dialogue pour définir des solutions centrées sur les usagers et adaptables, y compris des mécanismes permettant l’implication des principales parties prenantes, dont les citoyens, la société civile et les entreprises.

Il faut continuer d’agir pour investir dans l’adoption par les pouvoirs publics d’une IA digne de confiance, mais les démarches existantes sont source d’enseignements et d’inspiration

Dans la mesure du possible, l’OCDE encourage les administrations à donner la priorité à des applications de l’IA associées à d’importantes retombées positives et à un risque faible, en particulier lors de l'établissement d'un niveau initial de maturité. Or, la plupart d’entre elles ne disposent pas des outils d’évaluation globale des résultats potentiels de ces applications ou effectivement produits par ces dernières — qu’il s’agisse d’efficacité des dépenses, de qualité des services ou de dommages potentiels — grâce auxquels elles seraient en mesure de déterminer l’ampleur des retombées positives et le niveau de risque des applications en question. Se doter de tels outils devrait être une priorité pour les pouvoirs publics, qui veilleraient en parallèle à ce que le déploiement d’applications fondées sur l’IA soit transparent, équitable et sûr.

Si de nombreuses initiatives prises par les pouvoirs publics se situent encore à un stade précoce, certaines offrent déjà des enseignements précieux. L’OCDE s’engage à développer une base de données probantes sur les initiatives qui portent leurs fruits grâce à la collecte et à l’analyse de renseignements, en s’efforçant d’apporter des éclairages sur la façon dont les administrations peuvent mobiliser une IA digne de confiance afin de produire de la valeur ajoutée pour la société.