Un informe mostra que a IA na educación debe incluír explicacións personalizadas para ser fiable

Fotografía cedida por Quintana

No seu continuo esforzo por promover a mellora da educación dixital, o equipo liderado polo investigador Francisco Bellas, do Centro de Investigación en Tecnoloxías da Información e as Comunicacións (CITIC) da Universidade da Coruña, xogou un papel fundamental no desenvolvemento dun informe pioneiro sobre Intelixencia Artificial Explicable (XAI) no ámbito educativo. A iniciativa forma parte dun proxecto conxunto impulsado polo Centro Europeo de Educación Dixital (EDEH), coa colaboración de expertos internacionais de diversos sectores formativos.
O informe, resultado do labor do grupo de traballo número 13 do EDEH, céntrase en tres aspectos fundamentais da XAI: implicacións legais, personalización e alfabetización en IA. Estes eixes abórdanse de maneira práctica, a través da análise de casos reais e recomendacións claras para aplicar a XAI no ámbito educativo.
O proxecto botou a andar en agosto de 2024, cando Bellas foi convidado a liderar o equipo tras a súa participación nunha iniciativa anterior sobre IA e educación no mesmo EDEH. Nesta nova fase, o foco estivo na explicabilidade da IA, un aspecto crucial para garantir que as ferramentas tecnolóxicas resulten comprensibles e accesibles tanto para docentes coma para estudantes.
O documento afonda nos aspectos legais relacionados co uso da IA no sector educativo, prestando especial atención á Lei europea de Intelixencia Artificial e ao Regulamento Xeral de Protección de Datos (GDPR), dúas normativas clave para asegurar unha implantación ética e legal destas tecnoloxías. Tamén se destaca a importancia de adaptar as explicacións que ofrecen as ferramentas de IA ás necesidades específicas de cada usuario (sexa estudante, docente ou membro da dirección dun centro), co fin de asegurar unha comprensión axeitada das respostas automatizadas.
O informe subliña, ademais, a necesidade urxente de desenvolver competencias dixitais arredor da IA. «A alfabetización en IA é esencial non só para os educadores, senón tamén para os estudantes, que deben ser capaces de comprender as decisións tomadas polos sistemas de IA e actuar de maneira autónoma e responsable no seu proceso de aprendizaxe», sinala Francisco Bellas.

Webinar sobre XAI na educación

O informe aspira a converterse nunha ferramenta útil para toda a comunidade educativa interesada na Intelixencia Artificial. Como parte desta iniciativa, o CITIC da UDC convida a participar no webinar que terá lugar o vindeiro 20 de maio. Será unha ocasión para afondar nos contidos do informe e fomentar o debate sobre como aplicar a IA na educación dun xeito ético e efectivo.