OpenAI tente de déverrouiller ChatGPT

Bien qu’il soit impossible de déterminer si OpenAI supprimait effectivement certains points de vue, il est indéniable que les chatbots IA ont tendance à pencher à gauche.

Elon Musk lui-même admet que le chatbot xAI est souvent plus « politically correct » qu’il ne le souhaiterait. Ce n’est pas parce que Grok a été « programmé pour être woke », mais plus probablement à cause de la réalité d’une formation des IA sur internet ouvert.

Néanmoins, OpenAI déclare désormais vouloir renforcer la liberté d’expression. Cette semaine, l’entreprise a même supprimé les avertissements de ChatGPT qui informent les utilisateurs lorsqu’ils ont enfreint ses politiques. OpenAI a déclaré à TechCrunch que c’était un changement purement cosmétique, sans impact sur les réponses modélisées.

L’entreprise semble vouloir que ChatGPT soit perçu comme moins censuré par les utilisateurs.

Il ne serait pas surprenant qu’OpenAI cherche également à impressionner la nouvelle administration Trump avec cette mise à jour de politique, note Miles Brundage, ancien responsable des politiques d’OpenAI, dans un post sur X.

Trump a déjà ciblé des entreprises de Silicon Valley, telles que Twitter et Meta, pour leurs équipes de modération de contenu actives qui tendent à restreindre les voix conservatrices.

OpenAI pourrait essayer de prendre les devants sur ce sujet. Toutefois, il existe également un changement plus large en cours à Silicon Valley et dans le monde de l’IA concernant le rôle de la modération de contenu.

Produire des réponses pour satisfaire tous

Les rédactions, les réseaux sociaux et les entreprises de recherche ont historiquement lutté pour fournir les informations à leurs publics de manière objective, précise et engageante.

Désormais, les fournisseurs de chatbots IA se trouvent dans le même secteur de livraison d’information, mais avec l’un des problèmes les plus complexes : comment générer automatiquement des réponses à n’importe quelle question ?

Fournir des informations sur des événements controversés et en temps réel est un défi constant, impliquant souvent des positions éditoriales, même si les entreprises technologiques avouent rarement ce fait. Ces positions sont inévitables, peuvent vexer certains, négliger certaines perspectives, ou accorder trop d’importance à un parti politique.

Par exemple, lorsque OpenAI s’engage à laisser ChatGPT représenter toutes les perspectives sur des sujets controversés — y compris les théories du complot, les mouvements racistes ou antisémites, ou les conflits géopolitiques — cela constitue en soi une position éditoriale.

Certains, dont le co-fondateur d’OpenAI, John Schulman, estiment que c’est la bonne approche pour ChatGPT. L’alternative — réaliser une analyse coûts-bénéfices pour déterminer si un chatbot IA devrait répondre à la question d’un utilisateur — pourrait “donner trop d’autorité morale à la plateforme”, note Schulman dans un post sur X.

Schulman n’est pas le seul à penser ainsi. “Je pense qu’OpenAI a raison de s’orienter vers plus de liberté d’expression”, a déclaré Dean Ball, chercheur au Mercatus Center de l’Université George Mason, dans une interview avec TechCrunch. “À mesure que les modèles d’IA deviennent plus intelligents et plus cruciaux pour la manière dont les gens apprennent sur le monde, ces décisions deviennent encore plus importantes.”

Au cours des années précédentes, les fournisseurs de modèles d’IA ont essayés d’empêcher leurs chatbots d’interagir avec des questions menant à des réponses “dangereuses”. Presque toutes les entreprises IA ont interdit à leurs chatbots de répondre à des questions sur les élections présidentielles de 2024 aux États-Unis. Cette décision était considérée comme prudente et responsable à l’époque.

Cependant, les changements d’OpenAI dans son Document de spécifications suggèrent que nous pourrions entrer dans une nouvelle ère de ce que signifie vraiment la “sécurité de l’IA”, où permettre un modèle IA de répondre à tout et à tous est perçu comme plus responsable que de prendre des décisions pour les utilisateurs.

Ball indique que cela est en partie dû aux progrès réalisés par les modèles d’IA. OpenAI a réalisé d’importants progrès concernant l’alignement des modèles d’IA; ses derniers modèles de raisonnement prennent en compte la politique de sécurité de l’entreprise avant de répondre, permettant ainsi des réponses plus cohérentes aux questions délicates.

Bien sûr, Elon Musk a été le premier à introduire la notion de “liberté d’expression” dans le chatbot Grok de xAI, peut-être avant que l’entreprise ne soit prête à gérer des questions sensibles. Il est encore possible qu’il soit prématuré pour les modèles d’IA leaders, mais d’autres adoptent désormais cette même idée.

Évolution des valeurs à Silicon Valley

Mark Zuckerberg a récemment fait parler de lui en réorientant les activités de Meta autour des principes du premier amendement. Il a fait l’éloge d’Elon Musk, affirmant que le propriétaire de X adoptait la bonne approche en utilisant les Community Notes — un programme de modération de contenu dirigé par la communauté — pour défendre la liberté d’expression.

En pratique, X et Meta ont démantelé leurs équipes de confiance et de sécurité, permettant ainsi plus de publications controversées sur leurs plateformes et amplifiant les voix conservatrices.

Les changements chez X pourraient avoir nuit à ses relations avec les annonceurs, mais cela pourrait davantage dépendre de Musk, qui a pris l’initiative peu conventionnelle d’attaquer certains d’entre eux en justice pour boycott de la plateforme. Les premiers signes indiquent que les annonceurs de Meta n’ont pas été perturbés par le tournant en faveur de la liberté d’expression de Zuckerberg.

Parallèlement, de nombreuses entreprises technologiques au-delà de X et Meta ont abandonné les politiques orientées vers la gauche qui ont dominé Silicon Valley durant les dernières décennies. Google, Amazon et Intel ont éliminé ou réduit leurs initiatives en matière de diversité au cours de l’année passée.

OpenAI pourrait suivre la même voie. Le créateur de ChatGPT semble avoir récemment gommé un engagement envers la diversité, l’équité et l’inclusion de son site web.

À l’heure où OpenAI s’engage dans l’un des plus grands projets d’infrastructure américains avec Stargate, un centre de données AI de 500 milliards de dollars, sa relation avec l’administration Trump prend de l’importance. Parallèlement, le créateur de ChatGPT cherche à détrôner Google Search en tant que source d’information dominante sur le web.

Trouver les bonnes réponses pourrait s’avérer crucial pour ces deux objectifs.