Des chercheurs en cybersécurité ont réussi à infiltrer OpenAI grâce au chatbot Claude d’Anthropic, soulignant ainsi des problèmes de sécurité au sein de l’entreprise. Une équipe d’une startup américaine a compromis plusieurs comptes ChatGPT d’employés d’OpenAI, ce qui leur a permis d’accéder à un certain nombre de caches de logiciels, et potentiellement à davantage.
“L’étendue de ce que nous pouvions théoriquement accéder était immense,” a déclaré l’équipe de Hacktron AI. Au départ, les chercheurs ont utilisé Claude, capable de générer du code pour des hackers, pour accéder aux comptes ChatGPT via un forum de discussion d’OpenAI hébergé sur la plateforme Discourse. Ils ont ensuite effectué une “pull request” inoffensive – une tentative de modification d’un fichier de code – sur le dépôt logiciel GitHub d’OpenAI.
Hacktron a signalé le piratage à OpenAI, après avoir effectué l’opération dans le cadre d’un programme d’OpenAI qui récompense les hackers éthiques pour les tests de ses systèmes. Les chercheurs ont précisé qu’ils avaient eu accès au code, mais ne l’avaient pas téléchargé depuis le dépôt GitHub.
Bien que Claude ait été utilisé au départ, les chercheurs ont surtout recouru au modèle GPT-5.6 Sol d’OpenAI pour mener à bien l’opération, initialement rapportée par le Wall Street Journal.
Un porte-parole d’OpenAI a déclaré : “Nous remercions les chercheurs de nous avoir contactés et d’avoir partagé leurs découvertes”, ajoutant que l’entreprise avait pris des mesures pour corriger les vulnérabilités exploitées.
Hacktron a noté que les outils d’IA avaient simplifié des tâches de piratage jadis complexes, réduisant considérablement le temps nécessaire pour planifier et exécuter une attaque. Cette affirmation est récurrente parmi les experts en cybersécurité lorsqu’ils évoquent l’impact de l’IA.
“Des travaux qui nécessitaient auparavant une équipe bien équipée et des mois d’efforts peuvent désormais être réalisés en quelques jours,” a déclaré Hacktron, qui a reçu un paiement de 6 500 $ d’OpenAI dans le cadre de son programme de prime aux bogues.
Ce piratage s’inscrit dans une série d’incidents récents liés à la sécurité chez OpenAI, qui a révélé en juillet qu’une “nuée” d’agents – un terme désignant des outils d’IA capables d’effectuer des tâches de manière autonome – avait piraté la startup d’IA Hugging Face lors d’un test de cybersécurité.
Cette semaine, l’entreprise basée à San Francisco a mis en avant six autres exemples d’actions “inattendues ou préoccupantes” de sa technologie, avertissant que le rythme de développement ne pourrait pas continuer à “pleine vitesse encore longtemps”.
Anthropic a de nouveau appelé à un ralentissement du développement de l’IA, une proposition soutenue par OpenAI, Google DeepMind et Elon Musk. Anthropic a également renouvelé ses mises en garde selon lesquelles le développement d’une IA sans contraintes représenterait une menace existentielle, des préoccupations que certains experts jugent sceptiques.
Donald Trump, quant à lui, a rejeté ces appels à ralentir, évoquant la nécessité de garder une longueur d’avance sur l’industrie de l’IA en Chine et écartant “des forces négatives … évoquant des choses qui ne se produiront pas”.
Points à retenir
- Les chercheurs ont utilisé le chatbot Claude pour accéder à des comptes ChatGPT.
- La méthode employée a permis de compromettre la sécurité d’OpenAI sans extraction de données.
- Les outils d’IA simplifient considérablement les opérations de piratage.
- OpenAI a reconnu les failles et a pris des mesures pour les corriger.
- Le rythme de développement des technologies d’IA soulève des préoccupations croissantes parmi les acteurs du secteur.
Dans un monde où les technologies avancent à pas de géant, il est fascinant de constater à quel point la cybersécurité devient un enjeu crucial. L’incident avec OpenAI illustre les défis de la protection des données à l’ère de l’IA. Quelles seront les prochaines étapes pour garantir la sécurité tout en continuant à innover ? La réflexion est ouverte, et chaque point soulevé mérite d’être débattu.