Risques et incidents liés à l'IA

Le principe de « responsabilité » de l’intelligence artificielle de l’OCDE stipule que ceux qui déploient l’IA doivent être responsables du bon fonctionnement de leur système. L'OCDE propose un catalogue d'outils et de mesures pour aider les acteurs à garantir que l'IA est développée et utilisée de manière responsable.

L'OCDE a élaboré le premier guide de diligence raisonnable à l'appui d'une IA responsable, faisant l'objet d'un consensus international et soutenu par les gouvernements. Approuvé par tous les pays Membres de l'OCDE, ainsi que par 17 gouvernements partenaires et l'UE, ce guide aide les entreprises à s'orienter dans le paysage complexe de la gestion des risques liés à l'IA. Il vise à aider les entreprises à garantir que les systèmes d'IA qu'elles développent sont fiables, utilisés et développés de manière sûre et responsable, et conformes aux grandes valeurs sociétales.

L'OCDE propose également un catalogue d'outils et d'indicateurs pour aider les acteurs à garantir un développement et une utilisation responsables de l'IA.

À mesure que l'adoption de l'IA continue de croître, l'atténuation réussie des risques nécessitera une base factuelle solide. La base de données AI Incident Monitor (AIM) de l'OCDE documente les incidents et les dangers liés à l'IA pour fournir de meilleures preuves aux décideurs politiques, aux praticiens et aux autres parties prenantes sur les risques liés à l'IA et le contexte dans lequel ils se matérialisent. Au fil du temps, l’AIM contribuera à montrer les tendances des risques et à établir une compréhension collective des incidents d’IA et de leur nature multiforme.

Alors que l’intelligence artificielle continue de pénétrer les sociétés et les économies, il est inévitable que les incidents liés à l’IA augmentent, ce qui rend vital la surveillance et la gestion des risques. L’IA ne connaissant pas de frontières, les parties prenantes ont besoin d’une compréhension rigoureuse et transnationale des incidents d’IA et d’un moyen cohérent et interopérable de les signaler.

Alors que les juridictions du monde entier se préparent à mettre en œuvre des systèmes de déclaration d’incidents obligatoires et volontaires, l’OCDE travaille sur un cadre de déclaration commun pour aider à aligner la terminologie entre les juridictions, optimiser l’interopérabilité et minimiser les incidents, risques et dangers liés à l’IA.

Les données de l’OCDE montrent que si l’IA n’est pas utilisée de manière fiable, des risques importants pèsent sur les droits et la sécurité des travailleurs, tels que la confidentialité de leurs données, l’intensification du travail, les biais et la discrimination, ainsi que la responsabilité. Il existe également des risques liés à l'automatisation et à l'accentuation des inégalités sur le lieu de travail. Pour aider à évaluer et à atténuer ces risques, l’OCDE cartographie les risques et les actions politiques et prépare une feuille de route pour combler les lacunes.