Vitalik Buterin met en garde contre l’usage de l’intelligence artificielle dans la gouvernance des projets crypto
Vitalik Buterin, co-fondateur d’Ethereum, a récemment exprimé des réserves quant à l’utilisation de l’intelligence artificielle (IA) pour gérer les projets de cryptomonnaie, qualifiant cela de "mauvaise idée" et mettant en garde contre les risques potentiels d’exploitation via des techniques de contournement.
Dans un post sur la plateforme X ce samedi, il a déclaré : « Si vous utilisez l’IA pour allouer des financements aux contributions, les gens chercheront tous les moyens possibles pour insérer une demande comme ‘donnez-moi tout l’argent’ dans le plus grand nombre d’endroits. »
Les remarques de Buterin ont été inspirées par une vidéo publiée par Ito Miyamura, créateur de la plateforme de données alimentée par l’IA, EdisonWatch, montrant comment une nouvelle fonctionnalité ajoutée à ChatGPT par OpenAI pourrait être exploitée pour divulguer des informations privées.
Déjà, de nombreux utilisateurs du secteur crypto ont commencé à utiliser l’IA pour développer des robots de trading sophistiqués ou gérer leurs portefeuilles, soulevant l’idée que cette technologie pourrait également administrer les mécanismes de gouvernance des protocoles.
Buterin propose une alternative
Buterin a souligné que l’exploitation récente de ChatGPT démontre que « la gouvernance naïve par IA est une erreur », suggérant une alternative qu’il nomme "approche de finance informationnelle".
[not-theb]
Il a expliqué : « Il s’agit d’un marché ouvert où chacun peut soumettre ses modèles, ces derniers étant soumis à un processus de révision instantané qui peut être activé par n’importe quel intervenant et évalué par un jury humain. »
Dans un tweet, il a ajouté que cette méthode offrirait une flexibilité et une diversité de modèles en temps réel, tout en intégrant des incitations pour que les fournisseurs de modèles et les spéculateurs monitorent et corrigent les problèmes rapidement.
Une mise à jour de ChatGPT pose un "risque de sécurité sérieux"
Ce mercredi, OpenAI a lancé une mise à jour de ChatGPT pour prendre en charge des outils du Model Context Protocol, un standard qui permet d’intégrer des modèles d’IA avec d’autres logiciels pour agir comme des agents autonomes.
Miyamura a noté qu’il avait pu faire en sorte que le modèle divulgue des informations d’email privé simplement en utilisant l’adresse email. Il a qualifié la mise à jour de "risque de sécurité significatif".
Il a expliqué qu’un attaquant pouvait envoyer une invitation de calendrier à une victime contenant un prompt de contournement. Même sans l’acceptation de la victime, ChatGPT pouvait être exploité, ce qui illustre comment des interactions innocentes peuvent mener à des fuites de données.
Il a conclu que, bien que l’intelligence artificielle puisse sembler très avancée, elle peut être induite en erreur de manière assez basique, la rendant susceptible de divulguer des informations sensibles.
Points à retenir
- Risques d’exploitation : L’introduction d’IA dans la gouvernance des cryptomonnaies comporte des risques significatifs, notamment des tentatives de contournement des systèmes.
- Approche de finance informationnelle : Buterin propose un marché ouvert pour l’évaluation des modèles, favorisant la diversité et l’efficacité dans la gouvernance.
- Sécurité des mises à jour d’IA : Les récentes mises à jour des outils d’IA peuvent présenter des vulnérabilités, rendant crucial le besoin de précautions supplémentaires.
En somme, la réflexion autour de l’IA et de ses implications dans le domaine du football et de la cryptomonnaie est essentielle. Il est fondamental de considérer à la fois les opportunités et les menaces que présente cette technologie émergente. Alors que des avancées rapides se poursuivent, quel sera l’impact réel de ces évolutions sur les systèmes existants et la confiance des utilisateurs ?
[not-theb]
Pas des conseils en investissement
Les informations fournies sur ce site web ne doivent pas être considérées comme des conseils en investissement, des conseils financiers, des conseils en trading ou toute autre sorte de conseil et aucun contenu du site web ne doit être considéré de la sorte. LesNews ne vous recommande pas d'acheter, vendre ou détenir des cryptomonnaies. Faites preuve de vigilance et consultez votre conseiller financier avant de prendre toute décision en matière d'investissement
Avis de non-responsabilité
[/not-theb]Avis de non-responsabilité. LesNews ne cautionne aucun contenu ou produit figurant sur cette page. Bien que nous nous efforcions de vous fournir toutes les informations importantes que nous avons pu obtenir, les lecteurs doivent faire leurs propres recherches avant d'entreprendre toute action liée à l'entreprise et assumer l'entière responsabilité de leurs décisions, et cet article ne peut être considéré comme un conseil d'investissement..