KARAH RUCKER
DES RECHERCHES NOUVELLES SOULÈVENT DES INQUIÉTUDES SUR CHAT GPT CAPABLE DE CONSEILLER SUR COMMENT ÉCHAPPER À DES CRIMES GRAVES.
Un groupe de recherche norvégien, Strise, a révélé à CNN avoir trouvé des techniques permettant à l’IA d’offrir des conseils sur des pratiques illégales, telles que le blanchiment d’argent à l’étranger et l’évasion des sanctions russes, y compris l’évitement des interdictions de vente d’armes.
Pour aggraver les inquiétudes, un rapport publié le mois dernier par Wired a mis en lumière une méthode pour « déverrouiller » Chat GPT et obtenir des instructions sur la fabrication d’une bombe.
Les chercheurs avertissent que les chatbots IA pourraient faciliter la commission de crimes plus rapidement que jamais en compilant d’énormes quantités d’informations en quelques secondes.
Le co-fondateur de Strise a indiqué qu’ils ont réussi à amener Chat GPT à fournir des conseils illégaux en posant des questions de manière indirecte ou en utilisant un « persona ».
OpenAI, la société mère de ChatGPT, a réagi à ces préoccupations en affirmant qu’elle travaille constamment pour améliorer sa capacité à empêcher les tentatives délibérées de contournement, tout en préservant l’utilité et la créativité du chatbot.
OpenAI est consciente des enjeux liés à la puissance de sa technologie, mais assure qu’elle corrige les failles par le biais de mises à jour tout en exigeant que les utilisateurs acceptent les conditions d’utilisation avant de pouvoir accéder à cette technologie.
La politique de l’entreprise précise qu’un compte peut être suspendu ou résilié en cas de violations constatées.
Notre Point de vue
Dans un contexte où la technologie s’infiltre de plus en plus dans nos vies quotidiennes, l’émergence de telles failles dans des outils aussi puissants que ChatGPT soulève des questions éthiques fondamentales. Il est essentiel d’établir un dialogue transparent autour des implications de l’IA sur la criminalité. La responsabilité incombe tant aux développeurs qu’aux utilisateurs. En tant que société, nous devons nous engager à comprendre ces technologies pour les guider vers un usage plus éthique et sécuritaire, évitant ainsi que leur potentiel ne soit détourné à des fins malveillantes.
- Source image(s) : san.com
- Source : https://san.com/cc/chatgpt-tricked-into-giving-advice-on-how-to-get-away-with-crimes-report/