Originalité AI : soutien aux rumeurs de distillation

Avant que DeepSeek R1 ne devienne la sensation de l’IA qui a provoqué une chute sur le marché boursier américain cette semaine, les premières versions de la startup chinoise se présentaient comme des variantes de ChatGPT.

Après la publication des travaux des chercheurs chinois qui ont expliqué les nouvelles méthodes d’entraînement ayant permis le développement d’un modèle d’IA capable de raisonner aussi bien que ChatGPT, OpenAI a accusé DeepSeek d’avoir distillé ChatGPT pour créer ses propres versions. Cela va à l’encontre des conditions d’utilisation de ChatGPT.

Il est également ironique de constater qu’OpenAI, qui a exploité tout ce qu’elle a pu trouver sur Internet pour entraîner ChatGPT, y compris du contenu protégé par des droits d’auteur, se plaint aujourd’hui que quelqu’un utilise son travail.

Peu après, des chercheurs en cybersécurité ont révélé une vulnérabilité majeure dans DeepSeek, marquant ainsi le premier grand piratage de l’entreprise. Ils ont également découvert de nombreuses similitudes entre les systèmes d’OpenAI et de DeepSeek, jusqu’aux détails comme celui du format des clés API. Cela a encore renforcé l’idée que la firme d’IA chinoise s’est largement inspirée d’OpenAI.

Les preuves continuent de s’accumuler, alors qu’une autre entreprise d’IA suppose que DeepSeek pourrait être une simple distillation de ChatGPT. Originality.ai a publié un article intitulé DeepSeek a-t-il copié ChatGPT et est-ce détectable ? La seconde partie de la question fait référence à la capacité d’Originality AI à identifier avec précision si le texte analysé a été écrit par un humain ou généré par une IA.

Originality procède ainsi avec chaque nouveau modèle d’IA et a répété l’expérience avec DeepSeek. La société a utilisé 150 invites de texte, comprenant 50 pour des réécritures, 50 pour réécrire des textes humains, et 50 pour rédiger des articles à partir de zéro.

Sans surprise, Originality AI a réussi à identifier les textes rédigés par DeepSeek avec une grande précision. Ses modèles (3.0.1 Turbo et Lite 1.0.0) ont détecté les textes de DeepSeek avec une précision de 99,3 %. C’est une excellente nouvelle pour ceux qui souhaitent passer des échantillons de texte par des détecteurs comme Originality AI. Bien que les avancées en matière d’entraînement et d’efficacité de DeepSeek soient prometteuses, l’IA ne parvient pas à tromper ces systèmes de manière fiable.

Ce qui est inhabituel dans ce test, c’est qu’Originality AI a été particulièrement efficace pour détecter les textes générés par DeepSeek dès le premier essai.

« Chaque fois qu’un nouveau LLM est lancé, nous effectuons un test pour évaluer l’efficacité de notre détecteur d’IA, et jusqu’à présent, nous avons généralement observé une légère baisse de précision lorsque qu’un nouveau modèle est mis sur le marché », ont écrit les chercheurs. Une fois cela observé, ils réentraînent les modèles d’Originality pour augmenter la précision de détection des nouveaux produits d’IA.

« Cependant, avec DeepSeek, nous ne constatons pas cette baisse de précision. Nos deux modèles ont pu détecter le contenu de DeepSeek avec plus de 99 % de précision », indique le blog. « Sur la base de nos recherches, il est possible que DeepSeek soit une version distillée de ChatGPT. »

Bien que cela ne constitue pas une preuve concluante que DeepSeek ait copié ChatGPT, cela renforce le doute. OpenAI allègue que DeepSeek a potentiellement utilisé des données de ChatGPT pour entraîner son modèle, afin d’offrir les types d’invites que les utilisateurs souhaiteraient.

Si DeepSeek a appris de ChatGPT comment formater des réponses destinées à un affichage textuel, il pourrait alors générer n’importe quel texte dans un style similaire. Originality AI, ayant déjà été formé pour détecter les productions textuelles d’OpenAI, montre que la haute précision de détection du texte de DeepSeek suggère que cette startup chinoise aurait pu utiliser ChatGPT pour entraîner ses modèles avant même de lancer R1.