Renforcer la confiance des consommateurs dans l’innovation IA : Essentiels pour les leaders de la santé

En tant que consommateurs, nous avons tendance à divulguer gratuitement nos informations sanitaires sur Internet, par exemple lorsque nous demandons à Dr. Google comment traiter un orteil cassé. Cependant, l’idée que notre médecin utilise l’intelligence artificielle (IA) pour poser un diagnostic basé sur l’analyse de nos données de santé suscite souvent un certain malaise, comme l’a révélé une enquête du Pew Research Center.

Alors, à quel point les consommateurs seraient-ils plus inquiets s’ils savaient que de vastes volumes de leurs données médicales étaient téléchargés dans des modèles alimentés par IA pour analyse dans un but d’innovation ?

C’est une question que les dirigeants du secteur de la santé pourraient se poser, compte tenu de la complexité, des enjeux et de la responsabilité associées au chargement des données des patients dans ces modèles.

Les enjeux

À mesure que l’utilisation de l’IA dans le secteur de la santé et la recherche devient courante, les risques associés à son analyse évoluent également, augmentant ainsi le potentiel d’érosion de la confiance des consommateurs.

Une enquête récente menée par Fierce Health et Sermo, un réseau social pour médecins, a révélé que 76% des médecins interrogés utilisent des modèles de langage généralistes (LLMs), comme ChatGPT, pour la prise de décisions cliniques. Ces outils accessibles au public offrent des informations sur des effets secondaires potentiels de médicaments, des soutiens au diagnostic et des recommandations de traitement. Ils peuvent également faciliter la prise de notes des médecins lors des rencontres avec les patients, grâce à l’écoute ambiante, une approche de plus en plus prisée pour alléger le fardeau administratif des médecins et leur permettre de se concentrer sur les soins. Dans ces deux cas, il est essentiel d’adopter des pratiques matures pour intégrer les technologies d’IA, en utilisant par exemple un LLM pour vérifier des faits plutôt que de se fier à lui pour des questions de soins complexes.

Cependant, des signaux indiquent que les risques liés à l’utilisation des LLMs pour les soins et la recherche nécessitent davantage d’attention.

Par exemple, des inquiétudes importantes existent concernant la qualité et la complétude des données des patients intégrées dans les modèles d’IA pour analyse. La majorité des données de santé sont non structurées, capturées dans les champs de notes ouvertes dans le dossier de santé électronique (DSE), dans les messages des patients, les images et même dans du texte manuscrit scanné. En fait, la moitié des organisations de santé affirment que moins de 30% des données non structurées sont disponibles pour analyse. De plus, il existe des incohérences dans les types de données qui relèvent de la catégorie « données non structurées ». Ces éléments limitent la vision d’ensemble de la santé des patients et des populations, augmentant en parallèle les risques pour que les analyses IA soient biaisées, reflétant des données qui sous-représentent des segments spécifiques de la population ou qui sont incomplètes.

Alors que les réglementations entourant l’utilisation des informations de santé protégées (PHI) ont dissuadé certains chercheurs et analystes d’exploiter toutes les données à leur disposition, le coût élevé du stockage des données et du partage d’informations est une raison majeure pour laquelle la plupart des données de santé sont sous-utilisées, surtout par rapport à d’autres secteurs. La complexité liée à l’application d’analyses de données avancées sur les données de santé tout en maintenant la conformité aux réglementations reste également un défi.

À présent, les dirigeants de la santé, les cliniciens et les chercheurs se trouvent à une croisée des chemins unique. L’IA a un potentiel considérable pour susciter l’innovation en exploitant les données cliniques d’une manière que l’industrie n’aurait pu imaginer il y a seulement deux ans. À une époque où un adulte sur six utilise des chatbots d’IA au moins une fois par mois pour des informations et conseils de santé, démontrer la puissance de l’IA dans le secteur de la santé, au-delà de « Dr. Google », tout en protégeant ce qui est essentiel pour les patients—comme la confidentialité et l’intégrité de leurs données de santé—est crucial pour maintenir la confiance des consommateurs dans ces efforts. Le défi consiste à maintenir la conformité avec les réglementations concernant les données de santé tout en faisant preuve de créativité dans les approches d’analyse et d’utilisation des données par l’IA.

Prendre les bonnes décisions pour l’analyse par IA

Alors que l’utilisation de l’IA dans le secteur de la santé augmente, une stratégie moderne de gestion des données exige une approche sophistiquée en matière de protection des données, plaçant le consommateur au cœur de ses préoccupations tout en respectant les principes fondamentaux d’une conformité efficace dans un contexte réglementaire en constante évolution.

Voici trois considérations majeures pour les dirigeants et les chercheurs afin de protéger la vie privée des patients, garantir la conformité et, finalement, maintenir la confiance des consommateurs à mesure que l’innovation en matière d’IA s’accélère :

1. Commencer par la confiance des consommateurs. Au lieu de simplement réagir aux réglementations concernant la vie privée et la protection des données, il est essentiel de réfléchir à l’impact de vos efforts sur les patients que votre organisation sert. Lorsque les patients ont confiance dans votre capacité à exploiter les données de manière sécurisée pour l’innovation grâce à l’IA, cela favorise une plus grande coopération dans le partage de leurs propres données pour l’analyse IA, indispensable à l’élaboration de plans de soins personnalisés. Actuellement, 45% des cadres du secteur de la santé interrogés par Deloitte priorisent les efforts pour bâtir cette confiance, afin que les consommateurs se sentent plus à l’aise de partager leurs données.
2. Établir un comité de gouvernance des données pour l’innovation en IA. L’utilisation appropriée de l’IA dans un contexte commercial repose sur plusieurs facteurs, de l’évaluation des risques encourus à la maturité des pratiques en matière de données, en passant par les relations avec les clients. C’est pourquoi un comité de gouvernance des données doit inclure des experts en santé numérique, des cliniciens, ainsi que des professionnels de diverses disciplines, des infirmiers aux spécialistes de la santé des populations. Cela garantit que les projets d’innovation en données adéquats sont menés au moment opportun et que les ressources de l’organisation soutiennent efficacement ces efforts.
3. Atténuer les risques associés à la ré-identification des informations patient sensibles. C’est un mythe de penser que des techniques simples d’anonymisation, comme la suppression de noms et d’adresses, suffisent à protéger la vie privée des patients. En réalité, des techniques avancées de ré-identification utilisées par des acteurs malveillants peuvent souvent reconstituer des données censément anonymisées, ce qui nécessite des approches plus raffinées pour protéger les données contre le risque de ré-identification.

Malgré les nombreux défis auxquels les organisations de santé sont confrontées pour mettre en œuvre efficacement l’IA, elles sont également en mesure d’introduire certaines des applications les plus révolutionnaires de cette technologie. En s’attaquant aux risques associés à l’analyse des données alimentée par l’IA, les cliniciens et chercheurs en santé pourront exploiter plus efficacement les données à leur disposition, tout en consolidant la confiance des consommateurs.

Photo : steved_np3, Getty Images

Points à retenir

• Les consommateurs sont ouverts à partager leurs données, tant qu’ils ont confiance en leur sécurité.
• Une gouvernance adéquate des données en santé implique des experts de multiples disciplines.
• La ré-identification des données anonymisées pourrait poser des risques importants et nécessite des mesures renforcées de protection.

En somme, le développement de l’IA dans le domaine de la santé soulève des questions cruciales sur la protection des données et la fidélité des consommateurs. Une réflexion approfondie et des actions ciblées seront essentielles pour garantir que ces nouvelles technologies profitent réellement à tous, en préservant indiqué de la confiance et de l’intégrité des soins prodigués.