Analyser comment les données sont sélectionnées, délimiter le cadre d’utilisation du modèle… la FDA publie 7 directives pour cadrer l’usage de l’IA utilisé dans le développement de médicaments

Publié le jeudi 09 janvier 2025 à 10h29

"L'évaluation de la crédibilité des modèles d’intelligence artificielle (IA) est essentielle pour garantir leur sécurité et leur fiabilité dans la prise de décisions réglementaires concernant les médicaments et les produits biologiques" : c'est comme cela que la Food and drug administration introduit son projet de directives sur l'utilisation de l’IA dans le développement de médicaments.

7 directives pour cadrer l’usage de l’IA

Depuis quelques années – et encore plus depuis l’émergence de l’IA générative -, l’intelligence artificielle s’impose comme un atout important dans le cycle de vie des produits pharmaceutiques, notamment grâce à la découverte de molécules ou aux essais numériques permettant de tester virtuellement l’efficacité d’un médicament. Son potentiel d’amélioration du développement, de la fabrication et de la surveillance post-commercialisation des médicaments est salué, grâce, entre autres, à sa capacité à traiter d’énormes ensembles de données. Toutefois, cette adoption rapide n’est pas sans poser des défis. Les modèles d’IA, bien qu’efficaces, peuvent produire des résultats biaisés ou imprécis, avec des implications graves sur les décisions prises.

La Food and drug administration (FDA), qui a reçu depuis 2016 plus de 500 soumissions de médicaments dont la découverte a été permise grâce à l’IA, est consciente de ces enjeux. C’est pourquoi elle a publié, en ce début d’année 2025, un projet de directives sur l’utilisation de l’intelligence artificielle dans le développement de médicaments. Ce document s’inscrit dans une démarche proactive visant à répondre à l’accélération de l’usage de l’IA dans les soumissions réglementaires de médicaments, tout en assurant la sécurité et l’efficacité des produits médicaux.

Un guide allant de la question d’intérêt de l’IA à l’adéquation du modèle :

Le guide de la FDA propose une approche méthodique, reposant sur sept directives, pour sept étapes clés, afin d’établir la crédibilité des modèles d’IA. Il débute par la définition de la question d’intérêt, qui consiste à préciser le problème ou la décision que le modèle doit adresser. Par exemple, un modèle peut être utilisé pour identifier les patients les plus à risque de développer des effets secondaires graves liés à un médicament.

1️⃣ La première étape consiste à définir la question d’intérêt. Cela signifie identifier précisément le problème ou la décision que le modèle doit traiter. Par exemple, un modèle peut être conçu pour analyser les données de patients atteints d’une pathologie chronique afin de prédire ceux qui risquent de développer des complications graves suite à un traitement particulier. Cette étape est cruciale, car elle détermine la finalité du modèle et oriente les choix méthodologiques qui suivront.

2️⃣ Ensuite, il est essentiel de délimiter le cadre d’utilisation du modèle. Ce cadre inclut la description de son rôle, son champ d’application, et la manière dont il interagira avec d’autres sources d’information, comme les bases de données cliniques ou les outils statistiques déjà en place. Par exemple, un modèle utilisé pour évaluer l’efficacité d’un traitement spécifique doit être adapté aux caractéristiques de la population concernée, que ce soit des patients atteints de cancer à un stade avancé ou des patients pédiatriques. Il doit également être compatible avec les systèmes de gestion des données hospitalières, afin d’assurer une intégration fluide dans les processus existants.

3️⃣ L’évaluation des risques est une étape clé du processus. Cette évaluation porte sur les conséquences potentielles d’une erreur du modèle et sur son influence dans le processus décisionnel. Si un modèle d’IA est utilisé pour des tâches secondaires, comme le classement de données administratives, les risques associés à une erreur seront relativement faibles. En revanche, lorsqu’un modèle intervient dans des décisions cliniques critiques, telles que l’adaptation d’une dose de chimiothérapie en fonction de paramètres biologiques, les risques sont considérablement amplifiés. Une erreur pourrait entraîner des complications graves pour le patient, nécessitant une supervision humaine renforcée et une validation rigoureuse des algorithmes.

4️⃣ Une fois ces bases posées, la FDA recommande l’élaboration d’un plan détaillé de validation. Ce document doit expliquer en profondeur comment les données seront sélectionnées, comment le modèle sera entraîné, et quelles méthodes de test seront employées pour garantir sa fiabilité. Par exemple, si le modèle est conçu pour prédire les réactions indésirables à un médicament, il devra être entraîné sur un ensemble de données représentatives de la diversité des patients susceptibles de recevoir ce traitement, en tenant compte des variables comme l’âge, le sexe, ou des antécédents médicaux.

5️⃣ Après la mise en œuvre du plan, l’étape suivante est l’exécution de ce plan. Cette étape consiste à appliquer rigoureusement les méthodologies prévues, en testant le modèle sur des données d’entraînement et de validation, tout en analysant ses performances. Toute divergence par rapport au plan initial doit être consignée et expliquée pour garantir une transparence totale.

6️⃣ L’étape suivante est la documentation des résultats obtenus. Un rapport exhaustif doit être produit, décrivant les performances du modèle, ses limites éventuelles, et tout écart par rapport au plan initial. Cette transparence permet aux régulateurs d’évaluer si le modèle remplit les critères de sécurité et de pertinence définis au préalable.

7️⃣ Enfin, une fois toutes ces étapes réalisées, il est impératif d’évaluer l’adéquation du modèle à son usage prévu. Cela implique de vérifier qu’il répond bien aux besoins identifiés dans le cadre d’utilisation et qu’il est capable de fournir des résultats fiables et reproductibles. Par exemple, un modèle qui aurait montré une précision élevée dans des essais préliminaires, mais qui échoue à maintenir ce niveau dans des environnements réels, pourrait ne pas être jugé adapté pour une autorisation réglementaire.

Cette approche globale permet, selon la FDA, de réduire les risques associés à l’utilisation de l’IA dans un domaine aussi sensible que celui des médicaments. Elle constitue une feuille de route claire pour s’assurer que ces technologies émergentes soient utilisées de manière éthique, efficace et sécurisée.

Un point d’attention donné aux risques liés à l’IA

L’utilisation des modèles d’IA dans des environnements aussi sensibles que celui des médicaments comporte des risques significatifs. Les biais algorithmiques, liés à des données d’entraînement non représentatives ou mal équilibrées, peuvent entraîner des résultats inéquitables, excluant certaines populations ou faussant les conclusions cliniques. Une erreur dans un modèle d’IA utilisé pour recommander des traitements pourrait exposer les patients à des effets secondaires inutiles ou réduire l’efficacité du traitement.

La FDA insiste donc sur l’importance de surveiller les performances des modèles déployés tout au long de leur cycle de vie. Les données évoluent constamment, et des changements contextuels, comme l’introduction de nouveaux traitements ou des évolutions dans les protocoles médicaux, peuvent affecter la fiabilité des modèles. Une maintenance régulière, incluant des mises à jour des algorithmes et des revalidations périodiques, est donc indispensable.

La FDA encourage les collaborations

Le guide encourage les développeurs et sponsors à engager des discussions précoces avec l’agence pour définir les attentes en matière d’évaluation. Ces échanges, qui peuvent avoir lieu à différents stades du développement des modèles, permettent de garantir que les méthodologies adoptées sont alignées avec les exigences réglementaires.

Ce cadre proposé par la FDA constitue une avancée importante pour intégrer l’IA dans la régulation des médicaments. En assurant la crédibilité et la sécurité des modèles, il ouvre la voie à une adoption plus large de ces technologies, tout en garantissant que les décisions prises reposent sur des bases fiables et robustes.