Google pense qu’il existe une opportunité de décharger davantage de tâches de soins de santé sur des modèles d’IA générative – ou du moins, une opportunité de recruter ces modèles pour les utiliser dans les soins de santé. aide travailleurs de la santé en cours d’achèvement leur tâches.
Aujourd’hui, la société a annoncé MedLM, une famille de modèles adaptés aux industries médicales. Basé sur Med-PaLM 2, un modèle développé par Google qui donne des résultats de « niveau expert » sur des dizaines de questions d’examens médicaux, MedLM est disponible pour les clients de Google Cloud aux États-Unis (il est en avant-première sur certains autres marchés) qui ont été inscrits sur la liste blanche de Vertex AI, la plateforme de développement d’IA entièrement gérée par Google.
Deux modèles MedLM sont actuellement disponibles : un modèle plus large conçu pour ce que Google décrit comme des « tâches complexes » et un modèle plus petit et ajustable qui convient mieux à la « mise à l’échelle des tâches ».
« En pilotant nos outils avec différentes organisations, nous avons appris que le modèle le plus efficace pour une tâche donnée varie en fonction du cas d’utilisation », peut-on lire dans un billet de blog rédigé par Yossi Matias, vice-président de l’ingénierie et de la recherche chez Google, fourni à TechCrunch avant l’annonce d’aujourd’hui. « Par exemple, le résumé de conversations peut être mieux géré par un modèle, et la recherche de médicaments peut être mieux gérée par un autre.
Google indique qu’un des premiers utilisateurs de MedLM, l’opérateur d’établissements à but lucratif HCA Healthcare, a testé les modèles avec des médecins pour les aider à rédiger les notes des patients dans les services d’urgence des hôpitaux. Un autre testeur, BenchSci, a intégré MedLM dans son « moteur de preuves » pour identifier, classer et hiérarchiser les nouveaux biomarqueurs.
« Nous travaillons en étroite collaboration avec des praticiens, des chercheurs, des organisations du secteur de la santé et des sciences de la vie, ainsi qu’avec des personnes qui sont chaque jour à l’avant-garde des soins de santé », écrit Matias.
Google, ainsi que ses principaux rivaux Microsoft et Amazon, se livrent à une course désespérée pour s’emparer d’un marché de l’IA dans le domaine de la santé qui pourrait valoir des dizaines de milliards de dollars d’ici à 2032. Amazon a récemment lancé AWS HealthScribe, qui utilise l’IA générative pour transcrire, résumer et analyser les notes des conversations entre patients et médecins. Microsoft pilote divers produits de santé alimentés par l’IA, notamment des applications d' »assistants » médicaux reposant sur de grands modèles de langage.
Mais il y a des raisons de se méfier de ces technologies. Historiquement, l’IA dans le domaine de la santé a connu un succès mitigé.
Babylon Health, une start-up spécialisée dans l’IA et soutenue par le Service national de santé du Royaume-Uni, a fait l’objet d’un examen minutieux à plusieurs reprises pour avoir prétendu que sa technologie de diagnostic des maladies pouvait être plus performante que celle des médecins. Quant à IBM, elle a été contrainte de vendre à perte sa division Watson Health, axée sur l’IA, après que des problèmes techniques eurent entraîné la détérioration des partenariats avec les clients.
On pourrait dire que les modèles génératifs tels que ceux de la famille MedLM de Google sont beaucoup plus sophistiqués que ceux qui les ont précédés. Mais des recherches ont montré que les modèles génératifs ne sont pas particulièrement précis lorsqu’il s’agit de répondre à des questions relatives aux soins de santé, même assez basiques.
Une étude co-rédigée par un groupe d’ophtalmologues a posé à ChatGPT et au chatbot Bard de Google des questions sur les affections et les maladies oculaires, et a révélé que la majorité des réponses fournies par les trois outils étaient tout à fait erronées. ChatGPT génère des plans de traitement du cancer contenant des erreurs potentiellement mortelles. Enfin, des modèles tels que ChatGPT et Bard débitent des idées médicales racistes et démenties en réponse à des questions sur la fonction rénale, la capacité pulmonaire et la peau.
En octobre, l’Organisation mondiale de la santé (OMS) a mis en garde contre les risques liés à l’utilisation de l’IA générative dans le domaine de la santé, soulignant que les modèles pouvaient générer des réponses erronées préjudiciables, propager des informations erronées sur des questions de santé et révéler des données de santé ou d’autres informations sensibles. (Étant donné que les modèles mémorisent parfois des données d’entraînement et renvoient des parties de ces données lorsqu’ils sont correctement sollicités, il n’est pas exclu que des modèles entraînés sur des dossiers médicaux puissent divulguer ces dossiers par inadvertance).
« L’OMS est enthousiaste quant à l’utilisation appropriée des technologies, y compris l’IA générative, pour aider les professionnels de la santé, les patients, les chercheurs et les scientifiques, mais elle s’inquiète du fait que la prudence qui serait normalement exercée pour toute nouvelle technologie ne l’est pas de manière cohérente avec l’IA générative », a déclaré l’OMS dans un communiqué. « L’adoption précipitée de systèmes non testés pourrait entraîner des erreurs de la part des professionnels de santé, nuire aux patients, éroder la confiance dans l’IA et, par conséquent, compromettre ou retarder les avantages et les utilisations potentiels à long terme de ces technologies dans le monde entier. »
Google a affirmé à plusieurs reprises qu’il était exceptionnellement prudent dans la mise à disposition d’outils d’IA générative pour les soins de santé – et il ne change pas de discours aujourd’hui.
« Nous nous attachons à permettre aux professionnels d’utiliser cette technologie de manière sûre et responsable », poursuit Matias. « Et nous nous engageons non seulement à aider les autres à faire progresser les soins de santé, mais aussi à faire en sorte que ces avantages soient accessibles à tous. »