Une vulnérabilité dans l’API de ChatGPT pourrait permettre la génération d’attaques DDoS envers des sites Web ciblés. Toutefois, le chercheur en sécurité, qui a mis en lumière ce défaut, affirme que le problème a depuis été corrigé par OpenAI.
Dans un avis de sécurité publié sur la plateforme de développement GitHub, le chercheur allemand Benjamin Flesch a détaillé le bug, qui se manifeste lorsque l’API traite des requêtes HTTP POST vers le serveur arrière.
L’API est conçue pour recevoir des hyperliens sous forme d’URLs, mais dans ce qu’il qualifie de “mauvaise programmation”, OpenAI n’a pas prévu de limite au nombre d’URLs pouvant être incluses dans une seule requête. Ce défaut permet à un attaquant de saturer un site cible avec des milliers d’URLs dans une unique requête, provoquant ainsi une surcharge de trafic.
« Selon le nombre d’hyperliens transmis à OpenAI via le paramètre d’URLs, un grand nombre de connexions provenant des serveurs d’OpenAI pourrait submerger le site victime », a écrit Flesch. « Ce défaut logiciel offre un facteur d’amplification significatif pour les attaques DDoS potentielles. »
Flesch a publié un code de preuve de concept démontrant que cette faille pourrait être exploitée pour surcharger un hôte local avec des tentatives de connexion provenant des serveurs d’OpenAI. La vulnérabilité a reçu un score CVSS de 8,6 en raison de sa nature réseau, de sa faible complexité et du fait qu’elle ne nécessite pas de privilèges élevés ni d’interaction utilisateur pour être exploitée.
Flesch a découvert cette vulnérabilité ce mois-ci, et la page GitHub correspondante a été créée pour la première fois le 10 janvier. Le problème a été signalé à OpenAI et à Microsoft, qui gère les serveurs générant les requêtes, dans le cadre des règles de divulgation responsable. Dans une mise à jour, Flesch a noté qu’OpenAI a depuis désactivé le point de terminaison vulnérable, rendant ainsi le code de preuve de concept obsolète.
Cependant, dans un premier temps, le chercheur déplorait que « malheureusement, il n’a pas été possible d’obtenir une réaction de la part de [Microsoft ou OpenAI] dans les délais impartis, malgré de nombreuses tentatives d’atténuation de ce défaut logiciel. »
Ces efforts comprenaient des contacts avec l’équipe de sécurité d’OpenAI via leur compte BugCrowd, des courriels vers leur adresse de signalement de bugs, le responsable de la confidentialité des données et leurs équipes d’assistance, ainsi que des sollicitations auprès de chercheurs en sécurité d’OpenAI à travers leurs propres pages GitHub. Flesch a également affirmé avoir signalé le problème aux responsables de la sécurité de Microsoft par courriel, à travers des formulaires en ligne, voire via Cloudflare, le fournisseur de passerelles de Microsoft.
Selon Flesch, ces requêtes ont initialement été ignorées ou écartées jusqu’à ce que des médias commencent à rapporter sur la faille.
OpenAI et Microsoft ont été contactés pour obtenir des commentaires.
Alors que le grand public s’intéresse de plus en plus aux modèles linguistiques de grande envergure, comme celui qui alimente ChatGPT, les chercheurs en sécurité se penchent également sur ces systèmes émergents pour en détecter les vulnérabilités.
Cependant, des entreprises comme OpenAI semblent principalement désireuses de restreindre l’accès des chercheurs externes à leur technologie, ce qui préoccupe les experts en cybersécurité, car cela pourrait réduire l’ampleur de leurs recherches et limiter leur capacité à discuter librement des questions de sécurité.
OpenAI a mis en place une politique d’utilisation interdisant de contourner les protections et mesures de sécurité dans leur logiciel « sauf si cela est soutenu par OpenAI. » L’entreprise a formé un réseau de red-teamers externes pour rechercher des vulnérabilités de sécurité sous la direction et l’orientation d’OpenAI.
Points à retenir
- Une vulnérabilité dans l’API de ChatGPT a été identifiée, permettant des attaques DDoS potentielles.
- Le problème a été signalé à OpenAI, qui a agi en désactivant le point vulnérable.
- La communication auprès des entreprises concernées a été difficile, malgré plusieurs tentatives de contact du chercheur.
- Cette situation soulève des questions sur l’accès accordé aux chercheurs externes pour tester la sécurité des systèmes.
En somme, cet incident met en lumière les défis liés à la sécurité des technologies de pointe et la responsabilité des entreprises à assurer la protection de leurs utilisateurs tout en collaborant avec la communauté des chercheurs en sécurité. Une discussion s’impose sur l’équilibre entre innovation et sécurité, ainsi que sur la manière dont les entreprises peuvent mieux gérer les vulnérabilités découvertes, afin de renforcer la confiance des utilisateurs.
Maria, cet article souligne bien l’importance de la sécurité dans les technologies. Espérons que les entreprises collaborent davantage avec les chercheurs pour améliorer nos outils.