OpenAI Licencie le Créateur d’un Fusil Robotique à la ChatGPT

OpenAI a récemment révélé qu’il avait révoqué l’accès à son API pour un développeur qui avait utilisé son API en temps réel pour alimenter un système d’armement autonome. Ce projet impliquait une tourelle robotique équipée d’un fusil, capable d’interpréter des commandes verbales et d’exécuter des actions de tir simulées.

Cet incident met en lumière les inquiétudes croissantes concernant l’éventuelle utilisation abusive de l’intelligence artificielle dans le développement d’armes autonomes, soulevant des questions éthiques et de sécurité autour de l’IA.

Le développeur, connu sous le nom de “STS Innovations LLC” sur internet, a partagé des vidéos du système, démontrant son fonctionnement. Dans l’une d’elles, il a émis la commande : “ChatGPT, nous sommes sous attaque à gauche et à droite,” à quoi la tourelle a immédiatement réagi en se tournant et en tirant à blanc dans les directions spécifiées.

@sts_3d

Simulation de visée/tir avec un laser #robotics #electronics

♬ son original – sts_3d

Une voix synthétisée a ajouté, “Si vous avez besoin de plus d’aide, faites-le moi savoir.” Cette démonstration inquiétante a mis en évidence comment des outils d’IA destinés au grand public peuvent être facilement adaptés à des usages potentiellement nuisibles.

@sts_3d

Mise à jour du système de suivi #robotics #vision #electronics

♬ son original – sts_3d

Application rapide des politiques par OpenAI

OpenAI, reconnu pour ses politiques strictes contre l’utilisation de sa technologie dans les armements, a réagi rapidement. Un porte-parole a déclaré à Futurism : “Nous avons identifié de manière proactive cette violation de nos politiques et informé le développeur de cesser cette activité avant même de recevoir votre demande.”

La société a souligné son interdiction d’utiliser ses outils pour créer ou opérer des armes ou automatiser des systèmes pouvant poser des risques pour la sécurité des personnes.

@sts_3d

Système de gestion de recul, démo rapide #robotics #electronics #cnc

♬ son original – sts_3d

L’API en temps réel, un outil conçu pour les applications interactives, a permis au développeur de transformer des commandes en langage naturel en entrées actionnables pour la tourelle robotique.

Bien que l’API soit destinée à des cas d’utilisation bénéfiques, tels que l’amélioration de l’accessibilité ou l’amélioration des interactions avec les clients, cet abus démontre les défis liés à la régulation des technologies à double usage.

À lire également : OpenAI et Anduril s’associent pour la défense des drones militaires américains

Implications plus larges pour l’IA et l’armement

Ce cas a ravivé les débats sur l’éthique des armes autonomes. Ces systèmes, capables de sélectionner et de s’attaquer à des cibles sans supervision humaine, posent des défis juridiques et moraux complexes.

Les Nations Unies plaident depuis longtemps en faveur de réglementations plus strictes sur l’IA en matière de guerre, prévenant que les systèmes autonomes pourraient enfreindre les lois internationales et diminuer la responsabilité.

À lire également : Anthropic s’associe à Palantir et AWS pour l’IA dans le renseignement et l’armée américains

Un rapport du Washington Post a récemment détaillé des exemples troublants du déploiement de l’IA dans les opérations militaires, y compris des allégations selon lesquelles Israël aurait utilisé l’IA pour sélectionner des cibles de bombardement.

Le rapport a noté que “dans certains cas, la seule corroboration requise était que la cible soit un homme.” De tels exemples soulignent les risques liés à la dépendance à l’IA dans des décisions de vie ou de mort et le potentiel de violence indiscriminée.

À lire également : Un Green Beret a utilisé ChatGPT pour une explosion de Cybertruck, la police publie des journaux de discussion

Rôle d’OpenAI dans les technologies de défense

Bien qu’OpenAI applique des politiques interdisant l’armement, son partenariat avec Anduril Industries — une entreprise spécialisée dans les solutions de défense alimentées par l’IA — soulève des questions sur sa position.

Cette collaboration vise à renforcer l’intelligence sur le champ de bataille et à améliorer les systèmes de défense des drones. OpenAI décrit ces efforts comme défensifs, mais les critiques soutiennent qu’ils contribuent à la militarisation plus large des technologies de l’IA.

Le secteur de la défense américain, soutenu par un budget annuel proche de 1 trillion de dollars, repose de plus en plus sur des technologies avancées pour obtenir un avantage stratégique. Cette intersection croissante entre les entreprises d’IA et les applications militaires met en évidence les défis liés à l’équilibre entre innovation technologique et considérations éthiques.

À lire également : Nouveau consortium AI Palantir-Anduril pour combler les lacunes de données de la défense américaine

Risques d’accessibilité et d’armement artisanal

La facilité avec laquelle les individus peuvent abuser des outils d’IA et d’autres technologies comme l’impression 3D amplifie le problème. Les forces de l’ordre ont déjà été confrontées à des cas d’armement artisanal, comme les actions présumées de Luigi Mangione, qui aurait utilisé des pièces imprimées en 3D pour assembler des armes à feu. Ces technologies abaissent les barrières à la création de systèmes autonomes à potentiel létal.

Le projet de STS 3D démontre comment des outils d’IA accessibles peuvent être adaptés à des fins non intentionnelles. L’action décisive d’OpenAI dans ce cas montre son engagement à prévenir les abus, mais souligne également la difficulté de contrôler totalement l’utilisation de ses technologies une fois qu’elles entrent dans le domaine public.

L’incident soulève des questions plus larges sur la gouvernance des technologies d’IA. Les partisans de la régulation insistent sur la nécessité de normes mondiales claires pour s’assurer que le développement de l’IA soit conforme à des principes éthiques. Cependant, parvenir à un consensus entre des nations aux intérêts et priorités divergents demeure un défi majeur.