DeepSeek est-il sûr ? Les risques de cybersécurité décryptés !

DeepSeek, une plateforme d’intelligence artificielle émergente, a récemment fait parler d’elle en raison de ses avancées technologiques tout autant que de ses défis en matière de cybersécurité. Cette application a rapidement dépassé ChatGPT en devenant l’application d’IA la plus téléchargée sur l’App Store d’Apple, mais elle a également été la cible d’une cyberattaque majeure. Ce sinistre événement, combiné à divers problèmes de sécurité soulevés par les chercheurs, soulève des questions cruciales concernant les risques liés à l’utilisation de DeepSeek.

Le lancement du modèle d’IA open-source et gratuit de DeepSeek a également eu des répercussions sur le marché boursier. Les actions de NVIDIA ont chuté de 17%, représentant la plus grande perte en une journée jamais enregistrée dans l’histoire boursière. Cet impact financier dramatique souligne l’influence croissante de la concurrence en matière d’IA et les possibles bouleversements géopolitiques et économiques qui en découlent. De plus, les chercheurs en sécurité et les autorités gouvernementales commencent à examiner les pratiques de confidentialité de DeepSeek, suscitant des inquiétudes concernant l’étendue de la collecte de données et ses possibles abus.

Dans cet article, nous allons explorer les questions clés en matière de cybersécurité, en intégrant des informations sur l’activité malveillante autour du domaine de DeepSeek, les mises à jour de sa plateforme et son influence sur l’écosystème de l’IA.

Que s’est-il passé avec DeepSeek ?

DeepSeek a récemment subi une cyberattaque à grande échelle, considérée comme une attaque par déni de service distribué (DDoS). Cet incident a contraint l’entreprise à suspendre les nouvelles inscriptions d’utilisateurs tout en maintenant l’accès pour les utilisateurs existants. L’attaque a ciblé l’API et la plateforme de chat web de DeepSeek, entraînant des interruptions de service.

Des mises à jour sur la page d’état de DeepSeek ont fourni des détails en temps réel sur l’incident. Un message indiquait : « En raison d’attaques malveillantes à grande échelle sur les services de DeepSeek, nous limitons temporairement les inscriptions pour garantir la continuité du service. » Plusieurs efforts de surveillance ont été mis en place pour atténuer l’impact, veillant à ce que les utilisateurs existants ne soient pas affectés.

Comment DeepSeek se compare-t-il à d’autres modèles d’IA en matière de sécurité ?

Bien que DeepSeek ait obtenu des performances impressionnantes, se classant parmi les dix premiers au classement des benchmarks de Chatbot Arena, les préoccupations en matière de sécurité qui l’entourent sont notables. Il a surpassé des modèles leaders tels que GPT-4 d’OpenAI et Claude d’Anthropic, mais sa nature open-source et ses protections moins robustes le rendent plus vulnérable aux abus. En effet, DeepSeek a produit du contenu dangereux et illégal lorsqu’il a été manipulé à l’aide de techniques de jailbreak.

De plus, le caractère open-source de DeepSeek le rend plus accessible aux cybercriminels, qui peuvent modifier le modèle à des fins malveillantes. À l’inverse, les modèles d’IA propriétaires développés par OpenAI et Anthropic imposent des mécanismes de sécurité plus stricts. Ces lacunes de sécurité rendent DeepSeek particulièrement risqué pour les applications professionnelles où la confidentialité des données et la conformité réglementaire sont essentielles.

Comment l’essor de DeepSeek a-t-il impacté l’industrie de l’IA ?

Néanmoins, l’ascension rapide de DeepSeek a provoqué une réaction significative dans le secteur technologique. Le lancement de son modèle open-source a bouleversé le marché boursier, avec des actions liées à l’IA, y compris celles de NVIDIA, connaissant des pertes historiques. La capacité de l’entreprise à développer un puissant modèle d’IA avec un budget de moins de 6 millions de dollars soulève des interrogations sur la capacité des leaders traditionnels de l’IA, qui investissent des milliards dans leur développement, à rester compétitifs.

De plus, l’utilisation par DeepSeek des puces H800 à capacités réduites de NVIDIA a soulevé des interrogations quant à la nécessité d’utiliser des puces haut de gamme pour former des modèles d’IA avancés. Certains analystes du secteur estiment que l’impact disruptif de DeepSeek pourrait accélérer un passage vers des stratégies de développement d’IA plus rentables, redéfinissant ainsi le paysage de l’IA.

De plus, Sam Altman, le PDG d’OpenAI, a reconnu le modèle R1 de DeepSeek comme un concurrent impressionnant, notamment pour son rapport coût-efficacité. Dans un tweet, Altman a déclaré : « Le R1 de DeepSeek est un modèle impressionnant, surtout en ce qui concerne ce qu’ils peuvent offrir pour le prix… C’est vraiment revigorant d’avoir un nouveau concurrent ! »

Par ailleurs, l’essor de la plateforme a attiré l’attention des gouvernements. Les responsables américains évaluent désormais ses implications pour la sécurité nationale, tandis que certains législateurs ont appelé à des restrictions concernant les modèles d’IA développés en Chine. Les autorités australiennes devraient également publier des recommandations concernant les risques liés à l’utilisation de DeepSeek.

Quels sont les principaux risques de sécurité liés à l’utilisation de DeepSeek ?

Plusieurs risques de cybersécurité sont actuellement associés à DeepSeek, notamment :

• Préoccupations liées à la sécurité des données : La plateforme collecte des données utilisateur, y compris des adresses e-mail, des informations sur l’appareil, des adresses IP et des données comportementales. Ces données sont stockées en Chine, ce qui suscite des inquiétudes quant à la sécurité nationale et à la potentiel surveillance étatique. Bien que la société affirme utiliser des mesures de sécurité raisonnables, des inquiétudes subsistent concernant l’accès potentiel aux données par des cybercriminels ou des autorités gouvernementales. La Chine est un pays à haut risque en matière de cybercriminalité, augmentant la probabilité des violations de données et des surveillances non autorisées. Des gouvernements, incluant ceux des États-Unis et d’Australie, évaluent actuellement les risques de confidentialité des données associés à DeepSeek.
• Applications mobiles frauduleuses : Des versions frauduleuses de DeepSeek pourraient apparaître sur les magasins d’applications Android, potentiellement contaminées par des logiciels malveillants. Ces applications fausses peuvent conduire à un accès non autorisé aux dispositifs des utilisateurs, permettant aux cybercriminels de voler des données personnelles ou de déployer des ransomwares.
• Domaine malveillant : Tirant parti des interruptions qui éprouvent la plateforme, des cybercriminels créent de faux sites internet imitant DeepSeek, tentant de tromper les utilisateurs afin de partager des données sensibles ou de télécharger des logiciels malveillants. Un nombre alarmant de variations de domaine telles que « deepseek1.com » et « deepseekpro.com » ont été enregistrées, comme le montre la liste des domaines malveillants ci-dessous.

• Vulnérabilités du modèle d’IA et risques de jailbreak : La firme de cybersécurité KELA a démontré que le modèle de DeepSeek peut être jailbroken pour générer un contenu nuisible, y compris le développement de ransomwares, les instructions sur des substances toxiques et la fabrication d’informations sensibles. Ces vulnérabilités exposent les utilisateurs à des risques juridiques et éthiques significatifs. Contrairement aux plateformes d’IA occidentales, qui mettent en œuvre des mesures de sécurité plus strictes, DeepSeek dispose de moins de protections limitant la génération de contenu illégal.
• Défis réglementaires : De nombreux pays ont des réglementations strictes sur la sécurité des IA. Puisque DeepSeek n’a pas les mesures de conformité rigoureuses que l’on trouve dans les plateformes d’IA occidentales, les entreprises intégrant DeepSeek dans leurs flux de travail peuvent s’exposer involontairement à des risques juridiques et financiers.

Comment les organisations et les individus peuvent-ils aborder les risques de domaines de phishing liés à DeepSeek ?

SOCRadar LABS propose un outil gratuit appelé Phishing Radar, qui aide à identifier les domaines potentiels de phishing. Cet outil, conçu pour protéger les utilisateurs et les entreprises, a jusqu’à présent identifié plus de 520 domaines de phishing possibles associés à DeepSeek. Il fournit des informations exploitables, telles que la vérification des réputations d’IP et l’évaluation de la sécurité des domaines, afin d’éviter de tomber victime des escroqueries des cybercriminels.

Le module de protection de marque de SOCRadar est une autre ressource précieuse qui aide les entreprises à protéger leur réputation en détectant les domaines imitant leur marque rapidement. De plus, la plateforme de SOCRadar inclut une fonctionnalité de demande de retrait, permettant aux entreprises d’agir rapidement contre les domaines malveillants et de minimiser efficacement les risques.

Quelles précautions les utilisateurs doivent-ils prendre lors de l’utilisation de DeepSeek ?

Si vous choisissez d’utiliser DeepSeek, considérez les mesures de sécurité suivantes :

• Vérifiez le domaine : Accédez toujours à DeepSeek via son site officiel pour éviter les tentatives de phishing.
• Soyez prudent avec les applications mobiles : Téléchargez les applications d’IA uniquement depuis les magasins officiels et vérifiez l’authenticité du développeur.
• Utilisez des options open-source : Étant donné que DeepSeek est open-source, vous pouvez l’héberger vous-même ou l’utiliser via des plateformes fiables comme Hugging Face.
• Limitez le partage de données : Soyez attentif aux données personnelles que vous fournissez et évitez de lier des comptes inutiles à DeepSeek.
• Surveillez les rapports de sécurité : Restez informé des menaces émergentes et des vulnérabilités liées à DeepSeek.
• Considérez des modèles d’IA alternatifs : Si la sécurité est une priorité, utiliser des modèles d’IA de sociétés plus transparentes et réglementées peut être préférable.
• Appliquez les meilleures pratiques de sécurité : Les organisations intégrant DeepSeek devraient réaliser des audits de sécurité rigoureux, imposer des contrôles d’accès stricts et surveiller le flux de données pour atténuer les risques potentiels.

Conclusion

DeepSeek représente une avancée passionnante dans le domaine de l’IA, mais il est accompagné de risques de sécurité importants que les utilisateurs doivent prendre en compte. La cyberattaque, la possibilité de jailbreaker le modèle et les inquiétudes concernant la sécurité des données mettent en lumière l’importance de la vigilance lors de l’utilisation d’outils reposant sur l’IA. De surcroît, l’impact géopolitique et économique de l’essor de DeepSeek suggère que l’industrie de l’IA est confrontée à une perturbation sans précédent.

Alors que DeepSeek continue d’évoluer, les utilisateurs doivent peser les bénéfices d’un accès à un modèle d’IA avancé face aux risques posés par les préoccupations relatives à la sécurité des données et à un potentiel abus. En restant informés et en prenant les précautions appropriées, les utilisateurs peuvent mieux se protéger contre les menaces potentielles associées à DeepSeek et à d’autres plateformes d’IA similaires. De plus, l’examen réglementaire et la recherche en sécurité joueront un rôle essentiel dans la définition de l’avenir de cette plateforme, déterminant si elle devient un outil précieux ou une importante responsabilité en matière de cybersécurité.