Le Dr Brandy Zachary explique comment ses propres expériences dans des cadres médicaux complexes lui ont donné la motivation de repenser le système.
Le Dr Brandy Zachary est PDG de la Functional Medicine Academy, développeur de logiciels pour les analyses de laboratoire chez Functional Med Labs et directeur clinique de Body Love Cafe, entre autres rôles et obligations.
C’est-à-dire qu’elle a porté de nombreuses casquettes au cours de ses décennies de carrière dans les domaines de la médecine et du bien-être.
Elle est d'avis que l'on pourrait penser qu'avoir une formation médicale ou même l'intérêt de poursuivre des études carrière médicale permettrait à un professionnel de naviguer facilement dans le secteur, face à ses propres problèmes.
Mais ce n’était pas le cas de Zachary, qui, avant la création des Functional Med Labs, avait du mal à obtenir un diagnostic pour divers problèmes de santé, malgré une certaine expérience médicale.
Elle a déclaré à SiliconRepublic.com : « Pendant plus de 20 ans, j'ai travaillé avec des spécialistes du monde entier et j'ai collecté des diagnostics de la même manière que d'autres personnes collectent des timbres. À un moment donné, mon cerveau a été électrocuté 20 fois à cause de ce qui s'est avéré être une infection. J'ai finalement été déclarée handicapée permanente. «
« J'ai eu des éléments de réponse partout. Je n'ai presque jamais eu la réponse complète. Et j'étais le seul à me demander sans cesse pourquoi. Pourquoi avais-je toutes ces choses ? Pourquoi les diagnostics n'étaient-ils pas connectés ? Pourquoi personne ne regardait-il toute l'histoire ? »
Elle a ajouté : « J'avais déjà une formation médicale et la quantité de travail que je devais faire pour moi-même était extraordinaire. Si c'était si difficile pour moi, je ne pouvais pas imaginer comment le patient moyen était censé s'y retrouver. »
C'est alors qu'elle s'est rendu compte que l'étendue de son histoire, et même de celle des autres, était souvent trop vaste pour être réduite au niveau d'informations qu'un seul praticien ou spécialiste pouvait traiter.
Elle a déclaré : » Finalement, j'ai réalisé autre chose. J'avais vécu chaque rendez-vous, chaque laboratoire et chaque mauvais tournant et je ne pouvais plus garder toute l'affaire en tête. Alors, comment un spécialiste était-il censé me voir pendant 20 minutes ? » C'est ce qui m'a poussé vers la technologie.»
Un résolveur de problèmes
Dans une démarche qui a vu Zachary passer du statut de mère célibataire handicapée autoproclamée, vivant avec moins de 1 000 $ par mois, à celui de résolveur de problèmes cherchant à résoudre les problèmes ayant un impact sur ses ambitions personnelles et professionnelles, elle a réactivé sa licence comme première étape vers la recherche d'une méthode plus intelligente de détermination des résultats de laboratoire.
Au milieu de cela, elle a créé LabDX et Care Plan Builder, qui sont des formes de logiciels cliniques qui fusionnent plus de 65 types de panels de laboratoire en un seul plan de soins séquencé et qui, selon elle, réduisent un processus qui prenait au moins trois heures à environ trois minutes.
Elle a déclaré : « Je suis passée d'une invalidité permanente de sécurité sociale à la création d'une entreprise à huit chiffres. Je l'ai démarrée moi-même. Pas de capital-risque. Pas d'investisseurs extérieurs. Au cours des trois dernières années, nous avons formé plus de 70 000 professionnels de la santé. «
« J'ai investi des millions dans la technologie et l'infrastructure derrière ce que nous faisons. C'est important parce que c'était de l'argent que je n'avais pas et personne n'allait me le fournir. J'ai donc dû le gagner avant de pouvoir le dépenser et, clairement, j'étais profondément investi dans la recherche de réponses. Cela m'a également rendu très intolérant à l'égard d'une technologie qui a l'air impressionnante et qui ne résout rien. »
Une partie de cet investissement comprenait la mise en œuvre de l’IA. Une tâche qui, selon elle, prendrait très peu de temps, mais qui était en réalité plus exigeante que prévu.
Zachary a déclaré : « Ce que nous avons construit, cependant, est très différent de mettre un emballage de soins de santé autour d'un LLM. Je voulais la version simple. Je pensais que nous pourrions dépenser 1 000 $, nous connecter à l'IA et le faire en une journée.
« Un an et plus de millions plus tard, avec des ingénieurs travaillant aux côtés d'une équipe clinique de 10 personnes, nous étions encore en train de construire.
« Le modèle a fini par n'être qu'une seule couche. Autour d'elle, nous avions besoin d'une saisie contrôlée des données, d'une extraction spécialisée, de connaissances cliniques structurées, de systèmes de récupération, d'une logique déterministe, d'une validation, d'une normalisation entre laboratoires, de garanties et de moyens de décider quand l'IA générative doit être utilisée et quand elle ne doit absolument pas être utilisée. »
Défi de l'IA
L'un des premiers défis résolus par le système de Zachary était l'IA elle-même et la façon dont elle peut être extrêmement convaincante, même dans un scénario où elle ne dispose pas de toutes les informations, ou pire, elle peut offrir des informations totalement incorrectes.
Elle a déclaré : « Prenez un rapport de laboratoire PDF avec 150 marqueurs. Un LLM peut produire une analyse soignée même s'il n'a pas extrait de manière fiable toutes les valeurs. Peut-être qu'il a manqué 50 marqueurs au milieu. L'un d'eux pourrait nécessiter une évaluation médicale immédiate.
« Nous avons été directement confrontés à ce problème. Avant même de pouvoir réfléchir à un raisonnement clinique sophistiqué, nous avons dû créer une technologie différente simplement pour extraire des rapports de laboratoire complexes de manière précise et reproductible.
« Cela a changé ma façon d'évaluer l'IA dans le domaine des soins de santé. Je suis moins impressionné par une réponse brillante que par le fait de savoir exactement ce que le système a vu avant de générer la réponse. »
Elle a expliqué que souvent les plateformes de soins de santé s'accrochent à un système d'IA et le qualifient d'innovation parce que « c'est facile et ça se démontre bien », d'autant plus que vous pouvez mettre une interface de chat autour d'un modèle à usage général, l'étiqueter « alimenté par l'IA » sur le site Web et avoir quelque chose d'impressionnant à montrer très rapidement.
Elle a déclaré : « Je voulais aussi ce raccourci. Cela n'a pas fonctionné. Le plus difficile n'est pas de générer une réponse intelligente. Le plus difficile est de concevoir un système qui se comporte de manière fiable lorsque les données sont désordonnées, l'historique est incomplet, les sources ne sont pas d'accord et l'humain qui l'utilise a un niveau de compétence technique complètement différent de celui de la personne assise à côté d'eux.
« Cette dernière partie est importante. J'ai formé plus de 70 000 praticiens au cours des dernières années. Être brillant avec un scalpel, un carnet d'ordonnances ou au chevet du patient ne rend pas quelqu'un brillant en ingénierie rapide. Nous avons appris la même leçon en interne.
« Parfois, on avait l'impression qu'un côté utilisait la langue des signes et que l'autre parlait le klingon. Ce travail de traduction s'est avéré faire partie de la technologie. Si l'IA clinique ne fonctionne bien que lorsque le clinicien sait exactement comment la déclencher, vous n'avez pas fini de construire le produit. Penser le contraire est complètement déraisonnable. »
Opportunités d'IA
Du risque pour les patients, dans un monde piloté par l'IAelle a noté que le danger n'est pas une réponse ridicule et relativement facile à attraper. C'est plutôt la réponse qui est correcte à 90 %, mais il manque un élément essentiel dans ces 10 %.
Elle a déclaré : « Cela est particulièrement dangereux dans un système de santé où les cliniciens sont déjà surchargés. Si une machine peut résumer trois années de dossiers en 20 secondes, les gens commenceront naturellement à faire confiance au résumé. «
« Mais il existe une autre limite que la technologie à elle seule ne résout pas. Les patients ne nous remettent pas d'ensembles de données propres. Ils hésitent. Ils minimisent. Ils sur-déclarent. Leur histoire change. Quelque chose ne va pas tout à fait et un bon praticien pose une question supplémentaire. «
En fin de compte, conclut-elle, « l'IA peut lire le dossier, mais les humains peuvent lire la pièce. Cette distinction est importante car la pièce contient également des informations cliniques ».
