Des sources anonymes ont révélé à Bloomberg l’existence de Claude Mythos, un chatbot encore jamais proposé au public, capable de déceler des bogues dans les systèmes informatiques, longtemps restés inaperçus.
Mythos n’avait pas été rendu public afin d’éviter qu’il ne tombe entre de mauvaises mains. Anthropic a constitué un consortium appelé Project Glasswind, regroupant des partenaires sélectionnés pour travailler dans un cadre sécurisé sur ce modèle d’intelligence artificielle jugé sensible. Cependant, selon Bloomberg, un groupe d’utilisateurs non autorisés aurait réussi à accéder à cette intelligence artificielle classée secrète.
Ce groupe semble davantage intéressé par l’aspect ludique de Mythos que par des intentions malveillantes. Les utilisateurs, dont l’identité est gardée secrète, ont partagé des captures d’écran du modèle en question pour prouver l’authenticité de leur accès. Selon les informations, un employé d’un fournisseur tiers d’Anthropic aurait combiné diverses techniques pour contourner les mesures de protection entourant cette technologie. Ce groupe ferait partie d’un serveur Discord spécialisé dans la recherche de modèles non dévoilés. En utilisant des bots automatiques, ils ont trouvé des fuites d’informations sur GitHub, issues d’une brèche de données d’une startup nommée Mercor, experte en formation de modèles et collaborant avec plusieurs développeurs.
Ironiquement, cet accès a été obtenu le 7 avril, jour même où Anthropic annonçait la création de Mythos, tout en précisant que l’outil ne serait accessible qu’à un cercle restreint. Actuellement, même si ce groupe affirme ne pas vouloir nuire, l’accès à d’autres modèles non publiés d’Anthropic renforce les inquiétudes qui avaient conduit l’entreprise à restreindre l’accès à cette technologie à ses partenaires sélectionnés, tels qu’Apple, Amazon Web Services, et Microsoft. Pour l’instant, la situation pourrait ne pas entraîner de conséquences graves si le groupe continue à l’utiliser pour développer des logiciels et non pour des objectifs malveillants. Cependant, comme l’a souligné Alessandro Armando, directeur du CINI Cybersecurity National Lab, d’autres acteurs pourraient utiliser des technologies similaires pour constituer une menace pour la sécurité informatique.
Points à retenir
- Claude Mythos est un chatbot capable de détecter des bogues dans les systèmes informatiques.
- Son accès a été initialement restreint pour prévenir des usages malveillants.
- Un groupe non autorisé a réussi à y accéder sans intentions malveillantes spécifiques.
- Des fuites d’informations sur GitHub ont facilité cette découverte.
- Des entreprises telles qu’Apple et Microsoft font partie du consortium offrant un accès à Mythos.
En tant que passionné de technologie, je reste perplexe face à cette situation. D’un côté, l’innovation dans l’IA promet des avancées stupéfiantes pour la société. D’un autre, la possibilité d’une utilisation malveillante de technologies puissantes comme Mythos soulève des questions cruciales sur notre sécurité. Que devrions-nous faire pour encadrer ces évolutions tout en maximisant leurs bénéfices ? Le débat est ouvert, et il est impératif d’y réfléchir collectivement.