En octubre de 2024, en la 79ª sesión de la Asamblea General de las Naciones Unidas, la Relatora Especial de la ONU sobre el derecho a la educación, Farida Shaheed, presentó su informe temático sobre la inteligencia artificial (IA) en la educación.
En el informe, hace hincapié en la necesidad de que los Estados regulen las plataformas de IA en la educación desde la perspectiva de los derechos humanos. Destaca el potencial de la IA como herramienta para hacer avanzar el derecho a la educación y su acceso, en particular para las personas con discapacidad y las que viven en zonas remotas. Al facilitar experiencias de aprendizaje personalizadas, la IA puede mejorar significativamente el acceso de quienes, de otro modo, quedarían excluidos de las oportunidades educativas.
Aunque reconoce el potencial de la IA para mejorar el acceso a una educación de calidad y su posible contribución a la consecución del Objetivo de Desarrollo Sostenible 4 (ODS 4), señala que su aplicación debe abordarse con cautela. La Relatora Especial expresó su preocupación por la falta de conexión humana esencial dentro de las plataformas de IA, que podría socavar el importante papel de los educadores a la hora de proporcionar un aprendizaje de alta calidad y fomentar las habilidades sociales, emocionales y comunicativas necesarias para formar relaciones sanas. Por lo tanto, es necesario dotar tanto a los estudiantes como a los educadores de las habilidades necesarias para evaluar críticamente y utilizar de forma responsable las herramientas de IA.
El informe también identifica varios riesgos asociados a la IA en la educación. Entre los principales se incluye la posible creación de barreras debido a la necesidad de dispositivos tecnológicos, electricidad estable y conectividad a Internet, que no son accesibles universalmente. Para alinear la IA con los principios de los derechos humanos, el Relator Especial aboga por un enfoque de la educación basado en los derechos, que garantice una educación gratuita y de calidad. Abordar las brechas digitales requiere no sólo mejorar el acceso a la tecnología, sino también tener en cuenta el diseño instructivo y la forma en que los estudiantes utilizan las herramientas de la IA.
Además, el informe subraya que los profesores no están suficientemente incluidos en las decisiones sobre tecnología. Subraya la importancia de incluir a diversas partes interesadas, como educadores, estudiantes, padres y miembros de la comunidad, en el diseño, la aplicación y la regulación de los sistemas de IA utilizados en la educación. La aplicación de la IA debe alinearse con el objetivo general de promover una educación de calidad para todos. Continúa con un llamamiento a los Estados para que establezcan marcos jurídicos y políticos que cubran el uso de la IA en la educación y que deben estar sujetos al mismo escrutinio que otras herramientas utilizadas en la educación. Además, la formación es esencial para que profesores y alumnos desarrollen las competencias necesarias para una evaluación crítica y un uso responsable de las herramientas de la IA.
Durante el diálogo interactivo, muchos países expresaron su apoyo y compromiso con el mandato y el informe. Aunque reconocieron los aspectos positivos de la IA en el aumento de la calidad educativa, los participantes subrayaron la importancia de garantizar que la IA no sustituya el papel de los profesores. Numerosos representantes destacaron la urgente necesidad de cerrar la brecha digital que sigue obstaculizando el acceso a la educación en diversas regiones, y pidieron la colaboración internacional para abordar esta cuestión.
El Relator Especial se enfrentó a preguntas sobre las mejores prácticas para regular la IA con el fin de evitar la exacerbación de las desigualdades existentes y abordar eficazmente la brecha digital. También se expresaron varias preocupaciones sobre las crisis mundiales en curso, incluidos los conflictos armados que perturban la educación y violan las as libertades academicas. Además, se destacaron las cuestiones de las barreras lingüísticas y los sesgos en los datos de la IA, con la necesidad de incluir a los grupos minoritarios para implementar y mejorar los resultados lingüísticos e informativos generados por la IA.
En sus observaciones finales, la Relatora Especial confirma la existencia de buenas prácticas que pueden garantizar el uso responsable de la IA de acuerdo con las normas de derechos humanos. Hizo referencia a las recomendaciones sobre la IA de la UNESCO, la OCDE y la Unión Europea como recursos fundamentales. Sin embargo, pidió un compromiso más sustancial por parte de las Naciones Unidas para consolidar todas las buenas prácticas para la IA en la educación.
Además, hizo hincapié en la necesidad de colaboración y cooperación entre los Estados y las instituciones educativas para garantizar el uso responsable de la IA según un enfoque de derechos humanos. Continuó abordando el sesgo de los algoritmos, que requiere la inclusión de los grupos minoritarios y, en consecuencia, que los Estados y las empresas sigan unas directrices éticas.
Concluyó reafirmando que la IA no puede sustituir a los profesores y educadores y se mostró contraria al creciente impulso de privatización y comercialización de la educación, que hace perder de vista lo que es la educación. Insta a los Estados a dar prioridad a la integración de la IA y el derecho a la educación en sus agendas gubernamentales.
Para más información:
Lee su informe sobre el derecho a la educación y la IA
Vea su presentación en la Asamblea General de las Naciones Unidas: 28ª sesión (del minuto 1.40 a la hora 1.04)
Escuche su entrevista con Noticias ONU