Boom de l’Intelligence Artificielle : L’Expert de l’UNLV Dévoile tout !

ChatGPT : Une Révolution Technologique

Il n’est pas exagéré de dire que le lancement de ChatGPT en novembre 2022 a bouleversé le paysage technologique. Depuis lors, des modèles d’intelligence artificielle générative (IA) ont émergé, produisant des scénarios, des images et même des épisodes entiers de podcasts. Certains de ces modèles ont même la capacité de diagnostiquer des maladies.

Si la révolution de l’IA suscite des promesses pour certains, d’autres craignent de perdre leur emploi. Shaikh Arifuzzaman, professeur en informatique au Collège d’ingénierie de l’UNLV, fait partie de ceux qui adoptent une approche optimiste : il affirme que nous pouvons tirer parti de la puissance de l’IA pour le bien.

« Je sais que beaucoup d’entre nous sont un peu réticents face à cette technologie disruptive », déclare Arifuzzaman. « Mais l’humain sait s’adapter. L’IA est là pour nous aider. Elle rendra de nombreuses tâches plus simples. Elle permettra de combler des lacunes. »

Les travaux de recherche d’Arifuzzaman portent sur les modèles d’apprentissage automatique (ML) et les techniques d’informatique haute performance, en mettant particulièrement l’accent sur les applications du traitement du langage naturel (NLP) et de la science des données. Il utilise son expertise pour expliquer comment fonctionne la technologie NLP et où il prédit que l’IA nous mènera.

Comment les modèles de NLP comme ChatGPT traitent-ils les mots ?

Lorsqu’un modèle NLP comme ChatGPT « lit » un texte, il commence par le décomposer en unités plus petites appelées « tokens ». Les tokens peuvent être des mots entiers, des parties de mots ou même des caractères individuels. Chaque token est ensuite représenté par un vecteur, qui est un tableau de nombres à haute dimension. Ces vecteurs agissent comme des points dans un espace multidimensionnel, capturant ainsi le sens et le contexte du token.

Par exemple, dans ChatGPT-3, la première version largement disponible de l’outil, chaque token est représenté par un vecteur de 12 888 dimensions, chaque dimension codant des relations nuancées entre les tokens, basées sur les données d’entraînement du modèle.

Les modèles NLP traditionnels traitent le passage d’entrée de manière séquentielle, c’est-à-dire un token à la fois. Cependant, la langue étant fluide, un mot peut avoir un sens dans un contexte tout en en ayant un autre dans un contexte différent. En traitant le texte de manière séquentielle, on perd ce contexte.

ChatGPT a franchi une étape supplémentaire. Le terme « GPT » signifie « transformateur génératif pré-entraîné ». En termes simples, un transformateur est une architecture qui traite tous les tokens simultanément, permettant au modèle de mettre en relation des tokens entre eux et de saisir des aspects plus subtils de la langue. Cette capacité à traiter les tokens simultanément rend les transformateurs, tels que ChatGPT, particulièrement efficaces pour capturer la complexité du langage naturel.

Comment entraîne-t-on un modèle NLP ?

L’entraînement d’un modèle NLP comme ChatGPT comprend trois étapes clés : la préparation des données, l’entraînement du modèle et l’évaluation. Tout d’abord, les chercheurs collectent un grand ensemble de données textuelles, qui est nettoyé et découpé en tokens à l’aide du processus mentionné précédemment.

Au cours de l’entraînement, le modèle apprend à comprendre et à générer du langage en prédisant le token suivant dans une séquence. Ce processus utilise une technique appelée rétropropagation, où le modèle calcule ses erreurs de prédiction et ajuste ses paramètres internes pour minimiser ces erreurs. Cela se fait de manière itérative sur l’ensemble de données par lots, en utilisant un cadre computationnel optimisé pour le traitement parallèle à grande échelle.

Tout au long de l’entraînement, un ensemble de validation est utilisé pour tester les performances du modèle sur des données non vues. Après l’entraînement, les performances du modèle sont évaluées sur un ensemble de test séparé pour s’assurer que celui-ci généralise bien.

Une fois déployé, le modèle fonctionne en se basant sur son entraînement et n’apprend pas continuellement à partir de nouvelles données, sauf si il est réentraîné. Souvent, un modèle comme GPT est affiné pour se spécialiser dans des tâches ou des domaines spécifiques, améliorant ainsi ses performances et sa pertinence dans ces contextes.

Pourquoi une telle montée en puissance du développement de l’IA ?

C’est une excellente question. Les technologies d’apprentissage automatique et d’IA reposent fondamentalement sur des réseaux neuronaux, une approche que nous avons explorée depuis plus de 50 ans. Toutefois, deux conditions majeures ont récemment été réunies, rendant cette avancée possible.

Premièrement, la technologie informatique d’aujourd’hui est nettement plus puissante qu’il y a 50 ans. Les smartphones que nous portons dans nos poches sont un million de fois plus puissants que les ordinateurs des années 1970. Si vous vous rappelez des disquettes, celles-ci stockaient 1,44 mégabyte d’informations. La mémoire de votre téléphone est probablement 100 000 fois plus importante.

Deuxièmement, un volume d’informations textuelles extrêmement vaste est désormais disponible sur Internet. Des sites web aux publications sur les réseaux sociaux, tout se cumule et cela ne cesse de croître. Cela a permis de disposer d’un immense et diversifié ensemble de données pour entraîner les modèles d’IA.

Quels éléments doivent être pris en compte lors de l’utilisation de l’IA générative, comme ChatGPT ?

La première chose à considérer est la véracité des informations produites par un modèle d’IA générative. Ces modèles traitent une grande quantité de données et sont essentiellement entraînés pour imiter des formes. Ils ne comprennent pas nécessairement le caractère factuel de la sortie ; ils essaient juste de générer une réponse qui semble cohérente.

Prenons par exemple un étudiant chercheur qui doit réaliser une revue de littérature. S’il demande à ChatGPT une liste d’articles pertinents avec des liens, celui-ci produira des titres d’articles qui semblent pertinents, mais les articles eux-mêmes peuvent ne pas exister. Il pourrait afficher une URL qui semble valide, mais le site web n’existe pas. Il est donc essentiel pour l’utilisateur de vérifier la véracité des informations fournies.

Un autre aspect à prendre en compte est le risque de biais. Tout modèle d’IA doit être entraîné sur des données créées par des humains, et tous les humains ont des biais. Il est donc possible que des biais soient transmis au modèle d’IA. À l’échelle mondiale, il pourrait y avoir des différences culturelles significatives entre les sociétés occidentales et orientales, et si les données d’entraînement d’un modèle d’IA ne sont pas assez diverses, il pourrait bien devenir biaisé dans un sens ou un autre.

Comment envisagez-vous l’application future de la technologie NLP ?

Les modèles NLP ont le potentiel de révolutionner divers secteurs. Dans le domaine de l’éducation, la technologie NLP pourrait un jour offrir aux étudiants des aides au tutorat personnalisées. Khan Academy a déjà développé un GPT pour aider les étudiants à exprimer leurs besoins et difficultés exacts. Ce GPT peut construire un plan d’études avec des matériaux d’apprentissage spécialisés adaptés à chaque étudiant.

Mais ce ne sont pas seulement les étudiants qui bénéficient ; la technologie NLP peut également aider les éducateurs. Ces derniers disposeront d’outils d’IA générative capables de créer du matériel pédagogique, leur permettant ainsi de se consacrer davantage à l’attention personnelle portée aux élèves.

De plus, cette technologie peut aussi utiliser la synthèse d’informations pour optimiser les soins de santé. Une grande partie du diagnostic des patients repose sur l’analyse d’informations verbales, comme lorsque un patient raconte à un professionnel de santé ses symptômes ou son historique médical. Un jour, des modèles NLP pourraient analyser les mots d’un patient et souligner différentes possibilités pour le professionnel de santé.

D’un autre côté, dans le cadre légal, beaucoup d’entre nous ne comprennent pas tous les termes et langages dans les documents juridiques. La technologie NLP offrira un moyen simple de traiter et de résumer ces documents, voire de les traduire dans d’autres langues si nécessaire.

Points à retenir

• L’IA générative comme ChatGPT a ouvert la voie à des avancées dans divers domaines.
• Les modèles NLP permettent de traiter l’information d’une manière plus contextualisée.
• La vérification des informations générées par l’IA est cruciale pour éviter les erreurs.
• Des applications prometteuses existent dans l’éducation et la santé, mais nécessitent un encadrement.

En conclusion, alors que la technologie continue de progresser, il est essentiel de s’interroger sur les implications éthiques et sociétales de ces innovations. Quelles mesures devrions-nous prendre pour garantir que l’IA bénéficie à tous sans exacerbation des inégalités existantes ? Un dialogue inclusif sera-t-il suffisant pour orienter ces nouvelles technologies vers un avenir positif ?