Nouvelles directives de la FDA sur la gestion des logiciels d’appareils à IA : donnez votre avis !

Aperçu

• Le 7 janvier 2025, la FDA a publié un document de recommandations intitulé “Fonctions logicielles des dispositifs habilités par l’intelligence artificielle : recommandations pour la gestion du cycle de vie et des soumissions commerciales ; version de travail pour l’industrie et le personnel de la FDA.”
• Ce document ajoute des recommandations antérieures, bien que moins formalisées, en matière de bonnes pratiques en apprentissage automatique, tout en soulignant l’importance de la transparence et de l’engagement des patients.
• La FDA demande des retours spécifiques de l’industrie concernant les approches proposées.

Le 7 janvier 2025, la FDA a diffusé un document intitulé “Fonctions logicielles des dispositifs habilités par l’intelligence artificielle : recommandations pour la gestion du cycle de vie et des soumissions commerciales ; version de travail pour l’industrie et le personnel de la FDA.” Ce texte, élaboré par plusieurs centres de la FDA, présente des recommandations sur la documentation essentielle pour soutenir la détermination de la sécurité et de l’efficacité des dispositifs utilisant des fonctions logicielles basées sur l’intelligence artificielle (IA). Pour faciliter la création de cette documentation, la FDA propose également des conseils sur la conception, le développement et la mise en œuvre des dispositifs habilités par l’IA tout au long de leur cycle de vie.

La FDA sollicite des retours de l’industrie sur les approches recommandées :

• Les recommandations s’alignent-elles avec le cycle de vie de l’IA dans le cadre du cycle de vie complet du produit ?
• Les recommandations documentaires sont-elles suffisantes pour couvrir l’IA générative et d’autres technologies émergentes ?
• Concernant la surveillance de la performance des dispositifs, les plans de surveillance envisagés constitueront-ils des mesures efficaces de mitigation des risques ?
• La documentation destinée aux utilisateurs, comme les cartes de modèles, est-elle adaptée ?

Les commentaires doivent être soumis dans les 90 jours suivant la publication au Federal Register.

Cette nouvelle directive renforce des recommandations précédemment établies, bien que moins codifiées, concernant les bonnes pratiques en matière d’apprentissage automatique. Elle insiste particulièrement sur la nécessité d’assurer transparence et engagement des patients. Le document relie fermement cette exigence de transparence à la nécessité de résultats sans biais, abordant aussi la notion d’équité dans le cadre de la sécurité et de l’efficacité des dispositifs.

La Guidance est assez détaillée – 67 pages, y compris 24 pages d’annexes. Au début, la FDA consacre plusieurs pages à expliquer ce que ce document contient, par rapport aux précédents, tout en soulignant que l’industrie doit toujours se référer aux directives applicables. Un point qui a retenu notre attention est l’encouragement pour les sponsors à utiliser des plans de contrôle de changement prédéterminés et la référence à un guide de la FDA concernant les recommandations de soumission marketing pour les fonctions logicielles habilitées par l’IA.

Les sections V à XIII traitent de : description du dispositif, interface utilisateur et étiquetage, évaluation des risques, gestion des données, description et développement des modèles, validation, surveillance des performances, cybersécurité et résumé de soumission. Pour chaque section, la FDA précise ce qui est attendu, les raisons derrière cette demande, ainsi que l’endroit où inclure ces informations dans la soumission. Dans ces parties, la FDA semble chercher des retours pour mieux comprendre le chevauchement inhérent entre ces thématiques et les sections de soumission des systèmes qualité. Voici quelques éléments notables :

• La FDA encourage l’utilisation de normes de consensus reconnues lorsqu’il s’agit de développer des dispositifs habilités par l’IA et de préparer la documentation pré-commerciale, en référant à sa base de données des normes de consensus reconnues.
• La FDA examine l’interaction entre l’interface utilisateur et l’étiquetage, en précisant comment organiser les informations dans une soumission.
• La FDA souligne l’importance de la gestion des données pour identifier et atténuer les biais, ainsi que la nécessité d’une caractérisation complète et précise des données dans les soumissions marketing.
• Dans la section “Validation”, la FDA consacre plusieurs pages à la validation des performances des logiciels, en fournissant des recommandations spécifiques.
• Dans la section “Cybersécurité”, la FDA aborde les risques spécifiques liés aux dispositifs IA, demandant des considérations précises dans les soumissions marketing.

Tout au long de la directive, la FDA mentionne d’autres ressources et fournit des liens pour faciliter la référence croisée. Les annexes proposent également des recommandations spécifiques sur divers thèmes, accompagnées d’exemples pratiques, qui seront particulièrement appréciées par les sponsors.

Parmi les annexes, on trouve : un tableau de documentation recommandée, des considérations de conception pour la transparence, des éléments pour validation de performance, et une évaluation de l’ergonomie.