Caitlin Kalinowski, directrice de la robotique et du matériel grand public chez OpenAI, a annoncé sa démission ce samedi, en exprimant ses inquiétudes concernant l’accord de l’entreprise avec le Département de la Défense.
Dans une publication sur le réseau social X, Kalinowski a indiqué qu’OpenAI n’avait pas suffisamment réfléchi avant d’accepter d’intégrer ses modèles d’intelligence artificielle dans les infrastructures cloud classifiées du Pentagone.
“L’IA joue un rôle essentiel dans la sécurité nationale”, a-t-elle souligné. “Cependant, la surveillance des citoyens américains sans contrôle judiciaire et l’autonomie létale sans intervention humaine sont des questions qui auraient mérité plus de réflexion.”
Elle a également précisé qu’elle éprouve un “profond respect” envers le PDG d’OpenAI, Sam Altman, et son équipe, mais a lamenté que l’accord avec le Pentagone ait été annoncé “sans définir de garanties”.
“Il s’agit avant tout d’une question de gouvernance”, a-t-elle écrit dans une publication ultérieure sur X. “Ces sujets sont trop cruciaux pour être abordés à la légère.”
OpenAI a réagi le lendemain de la conclusion de l’accord, affirmant qu’il comprenait des garanties supplémentaires pour protéger ses usages. L’entreprise a réaffirmé que ses “lignes rouges” empêchent l’utilisation de sa technologie pour la surveillance nationale ou les armes autonomes.
“Nous reconnaissons que les gens ont des opinions très fortes sur ces sujets et nous continuerons d’engager le dialogue avec nos employés, le gouvernement, la société civile et les communautés du monde entier”, a déclaré l’entreprise dans un communiqué à Reuters.
Kalinowski a rejoint OpenAI en 2024 après avoir dirigé le développement de matériel de réalité augmentée chez Meta Platforms.
Points à retenir
- Caitlin Kalinowski met en avant des préoccupations éthiques liées à l’utilisation de l’IA dans des contextes militaires.
- Elle souligne l’importance d’une approche réfléchie avant de s’engager dans des accords avec des entités gouvernementales.
- OpenAI affirme avoir mis en place des garde-fous pour éviter un usage abusif de sa technologie.
- Le débat sur l’implication des entreprises technologiques dans la sécurité nationale reste ouvert et controversé.
En tant qu’observateur passionné de l’évolution de l’IA, je ne peux m’empêcher de m’interroger : jusqu’où les entreprises doivent-elles aller dans leur collaboration avec des structures gouvernementales, notamment sur des questions aussi sensibles que la sécurité nationale ? La technologie, bien qu’innovante, doit impérativement être mise en œuvre avec une réflexion éthique collective. Ce défi est d’une ampleur considérable, et il semble que le débat ne fasse que commencer.