Washington invoque la sécurité nationale et impose un arrêt d’accès aux modèles pour les citoyens étrangers, tandis qu’Anthropic ferme les modèles en raison de cette décision. Une situation complexe pour le secteur technologique.
La vie publique de Claude Fable 5 n’a duré que trois jours. Le gouvernement américain a ordonné à Anthropic de suspendre l’accès à Fable 5 et à Mythos 5 pour tous les citoyens étrangers, y compris ceux qui travaillent pour l’entreprise. Cette directive est particulièrement large et inclut aussi les employés non américains d’Anthropic.
L’impact de cette décision s’est révélé plus sévère que l’ordre initial, qui en réalité ne se fonde sur aucune loi existante, mais sur un export control émis par le Bureau de la sécurité industrielle du Département du commerce. Anthropic, ne pouvant pas distinguer qui a le droit d’utiliser les modèles et qui ne l’a pas, a choisi de les désactiver pour tous les clients. Bien que les autres modèles de Claude restent actifs, Fable 5 et Mythos 5 sont maintenant gelés, selon un communiqué publié sur leur site.
Motivations derrière l’intervention de Washington
Washington invoque la sécurité nationale, suite à un rapport d’une autre entreprise signalant un possible contournement des systèmes de protection des modèles, une pratique connue sous le nom de « jailbreak ». Cette technique vise à manipuler une IA pour qu’elle exécute des tâches bloquées par des filtres de sécurité.
Mythos 5 est conçu pour des entreprises et des infrastructures critiques en cybersécurité, tandis que Fable 5 est destiné au grand public, avec des protections renforcées sur des sujets sensibles comme la sécurité logicielle et les domaines biologiques et chimiques. Anthropic, dirigé par Dario Amodei, avait présenté ces deux modèles comme une nouvelle alternative supérieure à leur précédente gamme Opus. Le point de tension demeure dans le secteur de la cybersécurité : un modèle efficace pour découvrir des failles peut aussi servir de manière malveillante, ce qui inquiète les autorités.
Réponse d’Anthropic
Anthropic conteste cette décision, affirmant que seul un élément verbal sur un « jailbreak » limité avait été communiqué. Ils soutiennent que les comportements du modèle concernent des vulnérabilités mineures, déjà identifiées par d’autres systèmes.
L’une des déclarations les plus marquantes de l’entreprise note que « si ce standard s’appliquait à l’ensemble du secteur, presque tous les nouveaux modèles avancés seraient bloqués ». Anthropic, qui a précédemment refusé des contrats du Pentagone, réclame davantage de contrôles publics sur les modèles d’IA, avec possibilité d’interdiction pour les modèles jugés trop risqués, mais dans un cadre transparent et structuré.
Précédents sur l’IA
Cette action représente une première pour Washington, qui traite un modèle d’IA comme une technologie stratégique, imposant un interdit général aux non-américains, y compris ceux sur le sol US. Par le passé, des restrictions similaires ont touché des solutions logicielles jugées cruciales pour la sécurité nationale, comme la cryptographie forte dans les années 80 et 90. De nombreux précédents démontrent l’historique des tentatives de régulation des technologies stratégiques.
Conséquences à venir et perspectives pour l’Europe
Anthropic s’efforce de rétablir l’accès rapidement, vis-à-vis d’un malentendu. Actuellement, Fable 5 n’est plus accessible, ce qui impacte également les utilisateurs légitimes. Cet incident souligne une fois de plus la dépendance et le retard de l’Europe en matière de technologies avancées. Une décision prise par un bureau en dehors de l’Europe restreint l’utilisation de Mythos pour des institutions clés en Europe, amplifiant les préoccupations déjà soulevées par la BCE sur les stratégies numériques en Europe.
Points à retenir
- L’interdiction par Washington illustre le lien entre technologie et sécurité nationale.
- Anthropic s’oppose à la décision, la considérant excessive.
- Le traitement de l’IA comme technologie militaire soulève des questions éthiques.
- Les précédents en matière de régulation technologique sont nombreux et témoignent d’une longue histoire.
- Les institutions européennes doivent urgent se poser des questions sur leur dépendance technologique.
Ce qui est fascinant dans cette affaire, c’est comment la régulation de l’IA pourrait redéfinir notre interactions avec la technologie. Les enjeux éthiques, les applications pratiques et la sécurité se croisent de manière inextricable. Quel sera l’impact à long terme sur notre société ? Cela mérite vraiment d’y réfléchir.