Le Secrétariat de l’OCDE a procédé à des contrôles supplémentaires de la qualité des données à l’aide des procédures définies dans les lignes directrices et les normes techniques qui regissent l’enquête. Ces analyses ont révélé des comportements de réponse inhabituels : certains répondants n’auraient pas répondu avec sérieux à l’évaluation de la littératie, de la numératie et de la résolution adaptative des problèmes, ce qui amène à se demander si leurs réponses sont un reflet fidèle de leurs compétences. Pour identifier ces cas, l’OCDE s’est appuyée sur les critères suivants : très peu de temps consacré à l’évaluation, une grande proportion de réponses très rapides, une grande proportion de réponses manquantes et un échec aux épreuves d’orientation (série de questions faciles) et ce, de la part de répondants très instruits et nés dans le pays. Les anomalies résidaient pour la plupart dans les réponses à l’évaluation cognitive ; les comportements de réponse au questionnaire de base ne donnent pas matière à préoccupation.
Les enquêtes présenteront toujours leur lot de répondants peu motivés : il est difficile de définir des critères objectifs permettant de déterminer si un niveau minimum ou suffisant d’efforts a été déployé. Dans certains pays (Espagne, Israël, Lituanie, Nouvelle-Zélande, Pologne et République slovaque), il s’est avéré qu’une grande partie de ces répondants avaient pour dénominateur commun d’avoir été interrogés par un petit nombre d’enquêteurs : le problème pourrait ainsi provenir du fait que ces enquêteurs n’ont pas respecté les protocoles du PIAAC. En l’occurrence, les analyses ont identifié des enquêteurs dont une proportion importante des cas répondait à au moins deux des critères susmentionnés, ce qui met en doute la qualité de l’ensemble des données que ces enquêteurs ont collectées. Les remarques suivantes détaillent les résultats de l’analyse dans ces six pays, ainsi que les mesures prises par l’OCDE pour améliorer, dans la mesure du possible, la qualité des données publiées.
Remarques relatives à l’Espagne, à la Lituanie, à la Nouvelle-Zélande et à la République slovaque
En Espagne, en Lituanie, en Nouvelle-Zélande et en République slovaque, tous les cas des enquêteurs identifiés (385 en Espagne, 406 en Lituanie, 301 en Nouvelle-Zélande et 356 en République slovaque) ont été exclus des données servant à estimer le modèle démographique qui établit la relation entre les variables du questionnaire de base et la performance lors de l’évaluation directe afin d’estimer le niveau de compétence (valeurs plausibles ; des informations plus détaillées se trouvent dans le rapport technique Survey of Adult Skills 2023 Technical Report (OCDE, à paraître[1]). Cette exclusion renforce la solidité du modèle en garantissant que ses estimations reposent uniquement sur des cas de qualité suffisante. Néanmoins, en l’absence de preuves de falsification des données ou d’autres fautes graves de la part des enquêteurs, les réponses aux items de l’évaluation cognitive n’ont pas été exclues de l’estimation des valeurs plausibles pour ces répondants.
Remarque relative à Israël
En Israël, six enquêteurs dont une proportion relativement élevée de cas présentait des comportements de réponse inhabituels ont été identifiés grâce aux mêmes critèress. Tous les cas traités par ces enquêteurs (748 au total) ont été exclus des données servant à estimer le modèle démographique, qui établit la relation entre les variables du questionnaire de base et la performance lors de l’évaluation directe afin d’estimer le niveau de compétence (OCDE, à paraître[1]). Cette exclusion renforce la solidité du modèle en garantissant que ses estimations reposent uniquement sur des cas de qualité.
De surcroît, des éléments montrent, preuves à l’appui, que trois de ces enquêteurs ont enfreint les protocoles de collecte de données au cours de l’enquête, ou fait montre d’une productivité invraisemblable (en réalisant un très grand nombre d’entretiens en peu de temps). Ce constat laissant planer des doutes sur la qualité des données, toutes les réponses aux items de l’évaluation cognitive collectées par ces enquêteurs ont été exclues de la base de données (572 au total). Les valeurs plausibles de ces cas ont ensuite été estimées en s’appuyant uniquement sur leurs réponses au questionnaire de base (pour lesquelles aucun comportement inhabituel n’a pu être détecté) et sur les paramètres estimés par le modèle démographique.
Remarque relative à la Pologne
En Pologne, neuf enquêteurs liés à une proportion relativement élevée de cas présentant des comportements de réponse inhabituels ont été identifiés grâce aux mêmes critères. Tous les cas traités par ces enquêteurs (774 au total) ont été exclus des données servant à estimer le modèle démographique, qui établit la relation entre les variables du questionnaire de base et la performance à l’évaluation directe afin d’estimer le niveau de compétence (OCDE, à paraître[1]). Cette exclusion renforce la solidité du modèle en garantissant que ses estimations reposent uniquement sur des cas de qualité.
De surcroît, des éléments montrent, preuves à l’appui, que six de ces enquêteurs polonais ont enfreint les protocoles de collecte des données au cours de l’enquête. Par exemple, certains présentaient une productivité invraisemblable, réalisant un très grand nombre d’enquêtes en une seule journée. D’autres n’ont pas enregistré les entretiens ni relevé le numéro de téléphone des répondants, ce qui a compliqué la validation des entretiens. Il s’est avéré qu’un autre enquêteur a falsifié sept cas lors de la collecte de données (qui ont été immédiatement retirés de l’ensemble de données conformément à la procédure de contrôle de la qualité et qui ne sont donc pas inclus dans les 774 cas concernés par la présente remarque). Parmi les cas collectés par cet enquêteur, 27 ont néanmoins été validés et conservés dans l’ensemble de données. Ces facteurs laissant planer des doutes sur la qualité de tous les cas collectés par ces six enquêteurs, les réponses qu’ils ont recueillies pour les items de l’évaluation cognitive ont toutes été exclues de la base de données (559 au total). Les valeurs plausibles de ces cas ont ensuite été estimées en s’appuyant uniquement sur leurs réponses au questionnaire de base (pour lesquelles aucun comportement inhabituel n’a pu être détecté) et sur les paramètres estimés par le modèle démographique.
En Pologne, l’analyse a mis en lumière d’autres cas aux comportements de réponse inhabituels, suggérant un éventuel désintérêt ou un manque de sérieux lors de l’évaluation. Ces cas n’étant pas liés à un enquêteur en particulier, et compte tenu de la difficulté à définir des critères objectifs pour déterminer si un minimum d’efforts a été déployé et si les résultats de l’évaluation reflètent le niveau de compétence réel des répondants, ils ont été conservés dans l’ensemble de données et traités au même titre que les autres cas. Bien que tous les pays présentent des cas de ce type, leur nombre en Pologne pourrait avoir une incidence significative sur le niveau de compétence estimé pour la population, et il conviendra d’en tenir compte lors de l’interprétation des résultats de ce pays.