OpenAI a annoncé qu’elle a interrompu l’accès à son API pour un ingénieur dont la vidéo d’une mitrailleuse motorisée contrôlée par des commandes générées par ChatGPT a suscité une vive inquiétude concernant les armes alimentées par l’intelligence artificielle.
Un ingénieur utilisant le pseudonyme sts_3d a commencé à publier des vidéos d’un projet de siège rotatif motorisé en août. En novembre, ce même dispositif semblait avoir été transformé en base pour une mitrailleuse capable de pivoter rapidement à différents angles et d’activer un servomoteur pour tirer des projectiles ciblés (bien que ses vidéos ne montrent que des balles à blanc et des lasers simulés se faire tirer).
Plus tôt cette semaine, sts_3d a commencé à attirer l’attention grâce à une nouvelle vidéo montrant l’intégration de la mitrailleuse avec l’API en temps réel d’OpenAI. Dans cette vidéo, l’arme utilise cette intégration avec ChatGPT pour viser et tirer en fonction des commandes vocales de sts_3d, et même pour répondre avec une voix joyeuse par la suite.
@sts_3d Intégration de l’API en temps réel d’OpenAI #robotique #IA #openai ♬ son original – sts_3d
“Si vous avez besoin d’une autre assistance, n’hésitez pas à me le faire savoir,” déclare l’arme alimentée par ChatGPT après avoir tiré un certain nombre de projectiles. “Bon travail, tu nous as sauvés,” répond sts_3d, impassible.
“Je suis content d’avoir pu aider !” s’exclame ChatGPT, avec enthousiasme.
Suite à une demande de commentaire de Futurism, OpenAI a déclaré avoir “proactivement identifié cette violation de nos politiques et notifié le développeur de cesser cette activité avant de recevoir votre demande. Les Politiques d’utilisation d’OpenAI interdisent l’utilisation de nos services pour développer ou utiliser des armes ou pour automatiser certains systèmes pouvant affecter la sécurité personnelle.”
Halt, intrus !
L’angle du “robot tueur alimenté par la voix” a suscité beaucoup d’attention virale ces derniers jours autour du projet de sts_3d. Cependant, l’intégration de ChatGPT présentée dans sa vidéo ne s’approche pas exactement des niveaux d’un machine de tueur effrayante à la Terminator. Dans ce cas, ChatGPT apparaît davantage comme une télécommande sophistiquée et excessive, pour un support d’arme tout de même impressionnant.
Points à retenir
- OpenAI a interdit l’accès à son API pour un ingénieur ayant présenté une application préoccupante de son intelligence artificielle.
- Le projet du siège motorisé a évolué pour devenir une mitrailleuse commandée par la voix, provoquant des discussions sur les implications éthiques des technologies d’IA.
- La décision d’OpenAI de stopper ce projet souligne l’importance des politiques de régulation dans le domaine des armes alimentées par l’IA.
La situation actuelle met en lumière les enjeux moraux et éthiques liés à l’évolution rapide des technologies d’intelligence artificielle. Alors que les capacités de l’IA continuent de croître, il est essentiel de réfléchir aux responsabilités qui en découlent et de déterminer comment établir un cadre éthique pour son utilisation. Qui doit tracer la ligne entre innovation et sécurité ?
- Source image(s) : arstechnica.com
- Source : https://arstechnica.com/ai/2025/01/viral-chatgpt-powered-sentry-gun-gets-shut-down-by-openai/
Nos rédacteurs utilisent l'IA pour les aider à proposer des articles frais de sources fiables à nos utilisateurs. Si vous trouvez une image ou un contenu inapproprié, veuillez nous contacter via le formulaire DMCA et nous le retirerons rapidement. / Our editors use AI to help them offer our readers fresh articles from reliable sources. If you find an image or content inappropriate, please contact us via the DMCA form and we'll remove it promptly.