OpenAI a initié une transformation majeure dans le processus de formation de ses modèles d’IA en plaçant l’« liberté intellectuelle » au cœur des sujets controversés. Cette modification permet à ChatGPT de répondre à un plus grand nombre de requêtes tout en présentant plusieurs points de vue, et en assouplissant les limites sur des thèmes spécifiques.
OpenAI présente ces nouvelles directives comportementales de l’IA dans un document appelé Model Spec, qui s’étend sur 187 pages. Ce nouveau principe stipule que ChatGPT ne doit pas diffuser de fausses informations tout en préservant des détails essentiels. OpenAI consacre des efforts à « chercher la vérité ensemble » en faisant en sorte que ChatGPT présente divers points de vue sur des sujets délicats sans exprimer de préférence éditoriale.
ChatGPT démontre sa capacité à reconnaître à la fois le mouvement « Black Lives Matter » et le slogan « All Lives Matter » sans prendre position sur des questions politiques. OpenAI affirme que l’intelligence artificielle a pour but de soutenir les activités humaines plutôt que de diriger l’humanité. Le système maintient des mesures de protection pour empêcher la diffusion d’informations manifestement fausses et de contenus dangereux.
Cette transformation de l’industrie se produit dans un contexte de discussions continues sur les biais de l’IA. Des voix conservatrices ont accusé ChatGPT de montrer une préférence pour les perspectives de gauche. OpenAI applique ce changement tout en gérant sa relation avec l’administration Trump, laquelle a exprimé des réticences à l’égard des politiques de modération de contenu des entreprises technologiques.
OpenAI se positionne parmi les nombreuses entreprises adoptant cette transition. Les politiques de modération de contenu des grandes entreprises de la Silicon Valley, telles que Meta et X (anciennement Twitter), deviennent plus ouvertes et moins restrictives. Mark Zuckerberg a annoncé que Meta adopterait les principes du premier amendement pour réduire les restrictions de contenu au sein de l’entreprise. Le chatbot Grok, de xAI dirigé par Elon Musk, fonctionne avec des permissions de liberté d’expression complètes.
Les modèles d’IA jouent un rôle de plus en plus central dans l’accès à l’information, ce qui transforme la définition de la « sécurité de l’IA ». OpenAI a modifié sa stratégie, passant de limitations de contenu à la fourniture d’informations contextuelles avec plusieurs points de vue, considérée comme une méthode plus appropriée pour une gestion responsable du contenu.
Points à retenir
- OpenAI recentre le processus d’apprentissage de ses modèles d’IA sur la liberté d’expression, notamment sur des sujets sensibles.
- Le nouveau modèle promulgue un équilibre entre la préservation de la vérité et la diversité des points de vue.
- Cette évolution illustre une tendance plus large au sein de la Silicon Valley, vers une politique de modération de contenu moins restrictive.
Cette évolution dans le domaine de l’IA soulève des questions essentielles sur la manière dont les plateformes numériques peuvent équilibrer la liberté d’expression et la responsabilité. Il sera fascinant de voir comment ces changements influenceront non seulement la perception des utilisateurs, mais aussi la régulation future de ces technologies. L’avenir de l’IA semble s’orienter vers une recherche de vérité collective, mais l’implémentation de ces principes dans la pratique sera un enjeu clé.