Les grands modèles de langage (LLMs) comme GPT-3.5 et GPT-4 ont marqué des avancées remarquables dans le traitement du langage naturel. Néanmoins, ces avancées s’accompagnent de défis significatifs, notamment dans le domaine de l’éducation des enfants. Ces modèles peuvent parfois générer des contenus biaisés ou utiliser un langage trop complexe, inapproprié pour un jeune public. Plusieurs études ont révélé que les LLMs peuvent renforcer des stéréotypes de genre, utiliser un vocabulaire qui dépasse la compréhension des enfants, et même les exposer à des thèmes pour adultes.
ChatGPT : Un manque d’adéquation pour les enfants
De plus, les biais présents dans les LLMs se manifestent de diverses manières, allant de la préférence pour certains genres dans les rôles narratifs à la promotion involontaire de biais culturels ou politiques. Par exemple, il n’est pas rare qu’un modèle dépeigne les garçons en héros, tandis que les filles sont souvent reléguées à des rôles secondaires. Cette dynamique crée une expérience éducative injuste et déséquilibrée pour les jeunes apprenants, qui manquent souvent des compétences en pensée critique nécessaires pour reconnaître et contester ces biais.
Conscients de ces limitations, Dima Rubanov et Matthias Neumayer, co-fondateurs d’Oscar Stories (HeyQQ GmbH), ont entrepris de créer LORA, un nouveau LLM adapté aux enfants et une application grand public.
« En travaillant avec des histoires générées par l’IA, nous avons constaté que les enfants masculins étaient souvent représentés comme des héros, tandis que les personnages féminins étaient souvent dépeints comme des victimes. De plus, le langage utilisé, même par GPT-4, est loin d’être approprié pour les enfants. Avec LORA, nous développons une adoption de l’IA destinée aux enfants qui réduit les biais et garantit des expériences éducatives sûres, » a déclaré Dima Rubanov.
LORA : En développement pour une IA éducative sécurisée
Actuellement en phase de développement, LORA vise à offrir une expérience d’IA supérieure pour l’éducation des enfants. Contrairement aux modèles existants, LORA repose sur des modèles open-source affinés, intégrant des ensembles de données de haute qualité, soigneusement élaborés en collaboration avec des éducateurs. L’objectif est de surpasser des modèles comme GPT-4 ou Gemini tant par la simplicité du langage que par la réduction des biais.
Le projet est en train de façonner une application mobile destinée à stimuler l’intérêt des enfants pour les domaines des STEM (sciences, technologie, ingénierie et mathématiques) à travers des narrations personnalisées et interactives. Cette application cherchera à engager les enfants d’une manière ludique, accessible et éducative, comblant ainsi les lacunes laissées par les modèles d’IA actuels.
Prospects d’avenir
À long terme, HeyQQ GmbH envisage de rendre l’API de LORA disponible pour des développeurs tiers dans les secteurs du divertissement et de l’éducation pour enfants. Cette initiative encouragera le développement d’outils éducatifs et de contenus novateurs destinés aux jeunes publics, contribuant ainsi à un paysage IA plus sûr et plus intelligent.
Matthias Neumayer, co-fondateur d’Oscar Stories, explique : « LORA sera la première solution IA de confiance pour les enfants dans la région DACH, conçue pour réduire les biais et proposer un langage adapté aux enfants. Nous visons à donner vie à cette technologie dans une application mobile engageante, offrant des expériences d’apprentissage personnalisées et interactives grâce à des histoires alimentées par l’IA. »
Une équipe d’experts
Pour soutenir le développement de LORA, HeyQQ GmbH a recruté Marco Mathe, un expert en apprentissage automatique. Le projet bénéficie d’un soutien à travers l’AWS AI Adoption Call, le ministère fédéral autrichien du Travail et de l’Économie (BMAW), la Fachakademie Sozialpädagogik München Mitte et collabore avec TRUSTIFAI pour obtenir une certification en tant que solution IA de confiance.
Avec LORA, HeyQQ GmbH établit de nouveaux standards pour l’éducation soutenue par l’IA, prouvant leur engagement envers des solutions technologiques responsables, adaptées aux enfants et innovantes.
Avancées clés de LORA :
Langage adapté à l’âge : Contrairement à GPT-3.5 et GPT-4, LORA est affiné pour simplifier le langage en fonction de l’âge de l’enfant et de son stade de développement. Le langage est évalué par des éducateurs pour garantir sa pertinence pour les jeunes lecteurs.
Réduction des biais : LORA adopte une approche globale pour identifier et réduire les biais, en utilisant des ensembles de données soigneusement vérifiés manuellement par des experts en éducation. Bien que l’IA ne puisse jamais être totalement exempte de biais, LORA adopte une approche proactive pour minimiser son impact.
Apprentissage personnalisé par la narration : En s’appuyant sur les intérêts des enfants, LORA intègre des concepts éducatifs dans des récits engageants. Par exemple, un enfant passionné par la construction pourrait découvrir la gravité à travers Isaac Newton dans une histoire se déroulant sur un chantier.
Notre Point de vue
À travers le développement de LORA, il est crucial de reconnaître l’importance croissante de l’éducation numérique adaptée aux jeunes. Avec l’essor des technologies intelligentes, nous avons la responsabilité de garantir que cet environnement soit exempt de biais et accessible à tous les enfants. Chaque initiative, comme celle proposée par HeyQQ GmbH, doit s’accompagner d’une réflexion approfondie sur l’équité et l’accès à une éducation de qualité, qui puisse réellement répondre aux besoins d’apprentissage des nouvelles générations.
- Source image(s) : appdevelopermagazine.com
- Source : https://appdevelopermagazine.com/chatgpt-lacks-kid-suitability/