En octobre 2024, lors de la 79e session de l'Assemblée générale des Nations unies, la rapporteuse spéciale des Nations unies sur le droit à l'éducation, Farida Shaheed, a présenté son rapport thématique sur l'intelligence artificielle (IA) dans l'éducation.
Dans ce rapport, elle souligne la nécessité pour les États de réglementer les plateformes d'IA dans l'éducation du point de vue des droits de l'Homme. Elle souligne le potentiel de l'IA à servir d'outil pour faire progresser le droit à l'éducation et son accès, en particulier pour les personnes handicapées et celles vivant dans des zones reculées. En facilitant les expériences d'apprentissage personnalisées, l'IA peut considérablement améliorer l'accès à l'éducation pour les personnes qui en seraient autrement exclues.
Tout en reconnaissant le potentiel de l'IA pour améliorer l'accès à une éducation de qualité et sa contribution possible à la réalisation de l'objectif de développement durable n° 4 (ODD 4), elle note que sa mise en œuvre doit être abordée avec prudence. La rapporteuse spéciale s'inquiète de l'absence de lien humain essentiel au sein des plateformes d'IA, qui pourrait compromettre le rôle important des éducateurs dans l'offre d'un apprentissage de qualité et l'acquisition des compétences sociales, émotionnelles et de communication nécessaires à l'établissement de relations saines. Il est donc nécessaire de doter les étudiants et les éducateurs des compétences requises pour évaluer de manière critique et utiliser de manière responsable les outils d'IA.
Le rapport identifie également plusieurs risques liés à l'utilisation de l'IA dans l'éducation. Les principaux problèmes sont la création potentielle d'obstacles dus à la nécessité de disposer d'appareils technologiques, d'une électricité stable et d'une connectivité internet, qui ne sont pas universellement accessibles. Pour aligner l'IA sur les principes des droits de l'Homme, la rapporteuse spéciale préconise une approche de l'éducation fondée sur les droits, garantissant une éducation gratuite et de qualité. Pour réduire la fracture numérique, il faut non seulement améliorer l'accès à la technologie, mais aussi prendre en compte la conception pédagogique et la manière dont les élèves utilisent les outils d'IA.
En outre, le rapport souligne que les enseignants ne sont pas suffisamment associés aux décisions en matière de technologie. Elle souligne l'importance d'inclure diverses parties prenantes, telles que les éducateurs, les étudiants, les parents et les membres de la communauté, dans la conception, la mise en œuvre et la réglementation des systèmes d'IA utilisés dans l'éducation. L'application de l'IA devrait s'aligner sur l'objectif global de promotion d'une éducation de qualité pour tous. Elle poursuit en appelant les États à établir des cadres juridiques et politiques qui couvrent l'utilisation de l'IA dans l'éducation et qui doivent faire l'objet du même examen que les autres outils utilisés dans l'éducation. En outre, il est essentiel de former les enseignants et les étudiants pour qu'ils acquièrent les compétences nécessaires à l'évaluation critique et à l'utilisation responsable des outils d'IA.
Au cours du dialogue interactif, de nombreux pays ont exprimé leur soutien et leur engagement à l'égard du mandat et du rapport. Tout en reconnaissant les aspects positifs de l'IA dans l'amélioration de la qualité de l'éducation, les participants ont souligné l'importance de veiller à ce que l'IA ne remplace pas le rôle des enseignants. De nombreux représentants ont souligné la nécessité urgente de combler le fossé numérique qui continue d'entraver l'accès à l'éducation dans diverses régions, appelant à une collaboration internationale pour résoudre ce problème.
La rapporteuse spéciale a été confrontée à des questions concernant les meilleures pratiques en matière de réglementation de l'IA afin de prévenir l'exacerbation des inégalités existantes et de réduire efficacement la fracture numérique. Plusieurs préoccupations ont également été exprimées concernant les crises mondiales en cours, notamment les conflits armés qui perturbent l'éducation et violent les libertés académiques. En outre, les questions des barrières linguistiques et des préjugés dans les données de l'IA ont été soulignées, ainsi que la nécessité d'inclure les groupes minoritaires pour mettre en œuvre et améliorer les résultats linguistiques et informationnels générés par l'IA.
Dans ses conclusions, la rapporteuse spéciale confirme l'existence de bonnes pratiques qui peuvent garantir une utilisation responsable de l'IA conformément aux normes des droits de l'Homme. Elle fait référence aux recommandations de l'UNESCO, de l'OCDE et de l'Union européenne en matière d'IA en tant que ressources fondamentales. Toutefois, elle a appelé à un engagement plus substantiel de la part des Nations unies pour consolider toutes les bonnes pratiques en matière d'IA dans l'éducation.
En outre, elle a souligné la nécessité d'une collaboration et d'une coopération entre les États et les établissements d'enseignement afin de garantir l'utilisation responsable de l'IA selon une approche fondée sur les droits de l'Homme. Elle a poursuivi en abordant la question des biais algorithmiques, qui nécessitent l'inclusion des groupes minoritaires et, par conséquent, la nécessité pour les États et les entreprises de suivre des lignes directrices éthiques.
Elle a conclu en réaffirmant que l'IA ne peut pas remplacer les enseignants et les éducateurs et qu'elle est en retard sur la tendance croissante à la privatisation et à la commercialisation de l'éducation, qui fait perdre de vue ce qu'est l'éducation. Elle exhorte les États à donner la priorité à l'intégration de l'IA et du droit à l'éducation dans leurs programmes gouvernementaux.
Pour plus d'informations :
Lire son rapport sur le droit à l'éducation et l'IA
Regardez sa présentation à l'Assemblée générale des Nations unies : 28e réunion (à partir de la minute 1.40 à l'heure 1.04)
Écoutez son interview avec UN News