Le feedback automatisé est reconnu comme un outil pédagogique efficace pour guider les apprenants dans l'amélioration de leurs stratégies d'apprentissage. Dans les environnements informatiques pour l'apprentissage humain (EIAH), le recours à l'intelligence artificielle (IA) permet de proposer un feedback automatisé à grande échelle. Cependant, comprendre pourquoi un certain feedback est fourni, l'interpréter et l'utiliser efficacement peut rester difficile pour les apprenants, en particulier ceux disposant de faibles compétences en littératie des données. Cela peut en limiter l'appropriation et réduire son impact pédagogique. Cette thèse vise à étudier comment l'explicabilité, issue du domaine de l'IA explicable (xAI), peut être intégrée au feedback automatisé afin d'en améliorer la transparence, la compréhensibilité et l'actionnabilité pour les apprenants. Plus précisément, l'objectif est de proposer aux étudiants non seulement un feedback personnalisé selon leurs actions, mais aussi des explications justifiant la génération de ce feedback. Ce travail s'inscrit dans le contexte de l'enseignement supérieur, dans des situations d'apprentissage de la programmation.

Nous nous intéressons à deux types de systèmes générateurs de feedback. D'une part, des modèles dits « boîtes noires », dont le fonctionnement interne est difficile à interpréter sans outils spécifiques d'explicabilité. Dans ce cadre, nous développons des explications locales par importance des features. D'autre part, nous considérons des modèles dits « boîtes blanches », fondés sur des règles explicites, mais dont la logique est difficilement accessible aux apprenants. Pour ces systèmes, nous concevons des explications locales par l'exemple. Nos contributions incluent également l'étude de différentes temporalités de présentation des explications, ainsi qu'une étude de conception comparant différents formats d'indicateurs (textuels ou visuels, avec ou sans comparaison sociale, et avec ou sans dimension temporelle) afin de concevoir un feedback plus actionnable et interprétable. L'ensemble de notre démarche s'inscrit dans une approche de type Design-Based Research (DBR), fondée sur des cycles itératifs de conception, d'expérimentation et d'analyse en contexte réel, auprès d'étudiants en informatique dans l'enseignement supérieur.

Les résultats montrent que l'efficacité des explications dépend du profil des apprenants, notamment de leurs connaissances préalables et de leur performance académique. Nos différentes études nous ont permis de proposer des principes de conception pour le feedback explicable : séparer conseils et explications, rester simple et concis, adapter la forme et le contenu des explications au profil de l'apprenant, et contextualiser les éléments explicatifs en fonction des objectifs d'apprentissage. Ces travaux ouvrent plusieurs perspectives de recherche, telles que l'exploration d'approches laissant à l'apprenant le contrôle sur la personnalisation de son feedback explicable, l'étude de nouvelles variables du profil susceptibles d'influencer l'appropriation du feedback, ainsi que l'évaluation de l'impact de ces dispositifs sur l'apprentissage dans d'autres contextes pédagogiques.