OpenAI collabore avec d’autres entreprises d’intelligence artificielle, telles qu’Anthropic et Google, pour examiner comment elles peuvent unir leurs efforts afin de résoudre les préoccupations liées à la sécurité, comme l’a confirmé un porte-parole à CNBC mardi.
Les discussions ont débuté suite à une proposition de Demis Hassabis, président de Google DeepMind, publiée en juillet, visant à établir un “Organisme de Normes” guidé par les États-Unis. Hassabis a suggéré, dans un essai sur X, la création d’un partenariat public-privé ou d’une organisation d’autorégulation sous supervision fédérale, semblable à l’autorité de régulation des industries financières.
Bien qu’OpenAI, Anthropic et Google soient des concurrents acharnés, ces entreprises se retrouvent sous une pression accrue pour aborder les préoccupations croissantes en matière de sécurité et de sûreté de l’IA ces dernières semaines. Samedi, Dario Amodei, PDG d’Anthropic, a appelé les entreprises d’IA à ralentir le rythme de l’évolution de leurs modèles les plus avancés, un avis qui a été salué par Hassabis et Sam Altman, le PDG d’OpenAI.
“L’essai de Dario indique la bonne voie à suivre”, a écrit Hassabis sur X. “Les détails doivent encore être peaufinés, mais la direction est correcte pour faire face à ce moment critique.”
Altman a exprimé son accord avec Amodei sur la nécessité de modérer l’évolution des modèles de pointe de l’industrie. Dans un message sur X, il a mentionné que cette réflexion sur un ralentissement a été un “sujet principal” de discussion chez OpenAI ces dernières semaines et que l’entreprise partagera bientôt davantage d’informations.
Au début du mois, Chris Lehane, responsable des affaires globales chez OpenAI, a publié un article de blog indiquant que l’entreprise travaille à l’avancement de “normes menées par l’industrie”. Il a souligné que la compagnie collaborera avec d’autres pour mettre en place un effort volontaire, “avec ou sans soutien gouvernemental”.
“Toute norme menée par l’industrie viendrait compléter — et non remplacer — les protections fédérales obligatoires et la supervision démocratique”, a déclaré Lehane. “Nous avons entamé une nouvelle phase des capacités de l’IA et tout doit être envisagé — y compris ce qui peut être construit volontairement en dehors du gouvernement comme étape immédiate.”
Points à retenir
- OpenAI collabore avec Anthropic et Google sur les questions de sécurité de l’IA.
- Une proposition a été faite par Demis Hassabis pour créer un organisme de normes dirigé par les États-Unis.
- Les entreprises ressentent une pression pour traiter les inquiétudes croissantes en matière de sécurité.
- Dario Amodei a plaidé pour un ralentissement de l’évolution des modèles avancés.
- OpenAI s’engage à développer des normes sectorielles, qu’il s’agisse d’une aide gouvernementale ou non.
En considérant ces échanges entre géants de l’IA, je me demande où se situe véritablement l’engagement éthique dans cette quête pour la sécurité. Le compromis entre innovation rapide et régulation nécessaire est un sujet qui mérite réflexion. Pouvons-nous trouver un juste milieu qui assure la protection des utilisateurs tout en continuant à faire avancer la technologie ? Cette question reste ouverte et passionnante à explorer.