Le champ d’applications des IA dans le domaine de la santé est très vaste. L’IA générative, popularisée il y a environ deux ans avec ChatGPT d’OpenAI et ses grands modèles de langage, est de plus en plus surveillée par les systèmes de santé. Comme pour l’adoption de nombreuses technologies médicales, la plupart préfèrent attendre et observer les initiatives de leurs pairs et des principaux fournisseurs du secteur avant de s’engager pleinement. Les systèmes de santé qui examinent les infrastructures et cas d’utilisation adéquats commenceront cependant à voir les avantages s’accumuler au fil des progrès technologiques dans l’année à venir.
Sous pression budgétaire, ils envisagent aussi de regrouper leurs fournisseurs technologiques, éliminant les solutions sans retour sur investissement clair au profit de plateformes intégrées, visant à simplifier les opérations et réduire les coûts. La notion de « risque systémique » renvoie, elle, aux modèles qui sont susceptibles d’avoir un impact significatif dans l’UE et « des effets négatifs réels ou raisonnablement prévisibles sur la santé publique, la sûreté, la sécurité publique, les droits fondamentaux ou la société dans son ensemble ».
Ils peuvent potentiellement se propager à grande échelle notamment auprès des utilisateurs de ces modèles lorsqu’ils les intègrent dans leurs systèmes ou applications. Les recommandations incluent la formation des professionnels de santé à l’utilisation de ces technologies, la mise en place de mécanismes de gouvernance clairs et l’exigence d’une supervision humaine dans les processus de décision. Une attention est également requise pour éviter le partage de données sensibles avec des systèmes non régulés.
Les précautions visent à éviter les risques de violation de la confidentialité des données, dans les décisions et de perte de confiance du public, qui pourrait entraîner des conséquences juridiques et réputationnelles pour les établissements de santé. le règlement sur l’IA traite les risques potentiels pour la santé, la sécurité et les droits fondamentaux des citoyens.
Il établit pour les développeurs des exigences et des obligations claires concernant les utilisations spécifiques de l’IA, tout en réduisant les charges administratives et financières pesant sur les entreprises.
En conclusion, l’intégration de l’IA dans le secteur de la santé doit être employé avec prudence, elle offre un potentiel énorme pour améliorer l’efficacité des soins. L’IA peut, par exemple, simplifier les processus médicaux, réduire les coûts et améliorer les traitements, mais cela nécessite une gestion minutieuse des risques et en matière de gestion des données sensibles.
https://www.ey.com/en_gl/insights/law/how-the-challenge-of-regulating-ai-in-healthcare-is-escalating