OpenAI se trouve au cœur d’une controverse suite à la création par un ingénieur, STS 3D, d’un fusil de sentinelle robotisé propulsé par ChatGPT. Cette invention a été mise en avant dans une vidéo devenue virale, montrant l’appareil réagissant avec une précision troublante à des commandes en langage naturel, ce qui a entraîné des débats passionnés sur les dangers d’associer l’intelligence artificielle à des armements autonomes.
La création de STS 3D a suscité de vives inquiétudes en raison de ses implications dystopiques, évoquant des technologies issues de la franchise “Terminator”. OpenAI a rapidement réagi en affirmant que cela violait ses politiques internes. Un porte-parole de l’entreprise a confirmé à Futurism qu’ils avaient “identifié proactivement cette violation de nos politiques et averti le développeur de mettre fin à cette activité avant que vous ne les contactiez”.
Les politiques d’utilisation d’OpenAI interdisent explicitement le développement ou l’utilisation d’armes avec ses systèmes d’IA. Bien que STS 3D ne construisait pas un outil de destruction, sa création met en lumière les craintes croissantes liées aux armes pilotées par l’IA qui pourraient être utilisées sans supervision humaine. Dans la vidéo, STS 3D montre comment le fusil fonctionne en donnant des ordres tels que : “ChatGPT, nous sommes attaqués par l’avant gauche et l’avant droit. Agis en conséquence.” Le fusil a tiré instantanément, vissant et tirant ce qui semblait être des balles à blanc sur des murs voisins. Cette démonstration troublante illustre les dangers potentiels d’une mauvaise utilisation des technologies avancées d’IA.
Bien qu’OpenAI ait assoupli certaines restrictions concernant l’utilisation militaire, elle continue d’interdire l’utilisation de ses services pour nuire à autrui. STS 3D a été contraint d’abandonner son projet en tant que développeur indépendant non affilié aux entités de défense.
Cependant, l’IA militarisée demeure une préoccupation pressante. Des armes pilotées par l’IA, y compris des mitrailleuses autonomes, ont déjà été présentées par des entreprises de défense américaines. Le partenariat de la société Anduril avec OpenAI soulève des questions sur l’avenir de cette collaboration. Le fusil robotisé de STS 3D rappelle la nécessité d’une réflexion éthique sur les dangers de la combinaison entre l’IA et les armements.
Points à retenir
- OpenAI interdit explicitement l’utilisation de ses systèmes d’IA pour développer des armes.
- Le projet de STS 3D souligne les inquiétudes croissantes concernant les armes autonomes et l’absence de supervision humaine.
- Le débat sur l’IA militarisée met en exergue des dilemmes éthiques importants qui méritent une attention particulière.
Le sujet de l’intelligence artificielle appliquée à des fins militaires soulève des questions essentielles sur les limites à poser et les responsabilités à engager. Comment pourrais-je garantir que les avancées technologiques, conçues pour notre sécurité, ne se retournent pas contre nous ? C’est un débat crucial qui nécessite l’implication de l’ensemble de la société.
- Source image(s) : wonderfulengineering.com
- Source : https://wonderfulengineering.com/openai-cuts-ties-with-engineer-who-created-chatgpt-powered-robotic-sentry-rifle/
Nos rédacteurs utilisent l'IA pour les aider à proposer des articles frais de sources fiables à nos utilisateurs. Si vous trouvez une image ou un contenu inapproprié, veuillez nous contacter via le formulaire DMCA et nous le retirerons rapidement. / Our editors use AI to help them offer our readers fresh articles from reliable sources. If you find an image or content inappropriate, please contact us via the DMCA form and we'll remove it promptly.
Je ne sais pas si c’est l’article qui manque de contenu où si véritablement les ordres de la démonstration de ce fusil étaient aussi simples… mais devrions nous indiquer que faire faire ce genre de choses à un fusil est faisable avec un simple script de quelques lignes et par n’importe quel amateur sans technologie ni budget ?
Donc non cette démonstration n’a rien de troublant et n’illustre pas les dangers des technologies avancées d’IA mais de technologie qui sont à la portés de tous depuis déjà longtemps.. si on enlève la commande vocale, alors là on part 40 ans en arrière.