Des médecins utilisent des logiciels d'IA non approuvés pour enregistrer les réunions avec les patients, révèle une enquête

Selon une enquête de Sky News, les médecins utilisent des logiciels d'IA qui ne répondent pas aux normes minimales pour enregistrer et transcrire les réunions avec les patients.

Les dirigeants du NHS ont exigé que les médecins généralistes et les hôpitaux cessent d'utiliser des logiciels d'intelligence artificielle qui pourraient enfreindre les règles de protection des données et mettre les patients en danger.

Un avertissement envoyé par le NHS England ce mois-ci est intervenu quelques semaines seulement après que le même organisme a écrit aux médecins sur les avantages de l'utilisation de l'IA pour la prise de notes - pour leur permettre de consacrer plus de temps aux patients - en utilisant un logiciel connu sous le nom de Ambient Voice Technology, ou « AVT ».

Le secrétaire à la Santé, Wes Streeting, placera la semaine prochaine l'IA au cœur du plan de réforme visant à sauver le NHS dans le cadre du plan décennal pour le service de santé en Angleterre.

Mais la controverse grandit autour des logiciels qui enregistrent, transcrivent et résument les conversations des patients à l’aide de l’IA.

En avril, le NHS England a écrit aux médecins pour leur vendre les avantages de l’AVT et définir des normes nationales minimales.

Cependant, dans une lettre vue par Sky News, les dirigeants du NHS ont écrit aux médecins pour les avertir que les logiciels non approuvés qui ne respectaient pas les normes minimales pourraient nuire aux patients.

La lettre du 9 juin, émanant du directeur national de l'information clinique du NHS England, indique : « Nous sommes désormais au courant d'un certain nombre de solutions AVT qui, bien que non conformes... sont encore largement utilisées dans la pratique clinique.

« Plusieurs fournisseurs d'AVT contactent les organisations du NHS... beaucoup de ces fournisseurs ne se sont pas conformés aux normes de gouvernance de base du NHS.

« Procéder à des solutions non conformes comporte des risques pour la sécurité clinique, des atteintes à la protection des données, une exposition financière et une fragmentation de la stratégie numérique plus large du NHS. »

Sky News a déjà révélé le danger des « hallucinations » de l'IA , où la technologie invente des réponses puis ment à leur sujet, ce qui pourrait s'avérer dangereux dans un contexte médical.

Le NHS England établit des normes minimales mais n'indique pas aux fiducies du NHS et aux prestataires de soins de santé quels fournisseurs de logiciels utiliser.

Sky News peut désormais révéler qu'une pression croissante s'exerce sur le NHS England et les organismes similaires pour qu'ils soient plus proactifs.

Le Dr David Wrigley, vice-président du comité des médecins généralistes de la British Medical Association, a déclaré : « Sans aucun doute, en tant que médecin généraliste moi-même et mes 35 000 collègues, nous avons des responsabilités ici - mais dans un marché en développement aussi rapide, nous n'avons pas les connaissances techniques pour examiner cette question.

« Nous avons besoin de l'aide et du soutien de ceux qui peuvent vérifier que les produits sont sûrs, qu'ils sont sécurisés, qu'ils sont adaptés à une utilisation en salle de consultation, et le NHS England devrait le faire et nous aider et nous soutenir. »

Le Dr Wrigley a poursuivi : « Nous sommes absolument en faveur de la technologie et nous sommes favorables à son utilisation pour aider les patients du NHS et aider mes collègues dans leurs opérations.

« Mais cela doit être fait de manière sûre et sécurisée, car sinon nous pourrions avoir une situation où tout le monde pourrait être libre – et alors des données pourraient être perdues, elles pourraient fuir, et ce n’est tout simplement pas acceptable.

« Nous ne sommes donc pas des dinosaures, nous sommes très pro-IA, mais il faut que ce soit un moyen sûr et sécurisé. »

Le spectre de dizaines d’entreprises d’IA peu connues mais ambitieuses faisant pression sur les hôpitaux et les cabinets médicaux pour que leurs produits d’écoute soient installés inquiète certains professionnels de la santé.

Il y a d’énormes profits à réaliser dans cette course aux armements technologiques, mais la question qui se pose est de savoir si l’on peut réellement s’attendre à ce que des centaines d’organisations différentes du NHS parviennent à éliminer les requins.

Matthew Taylor, directeur général de la Confédération du NHS, a déclaré que la lettre était « un moment vraiment important ».

Il a déclaré qu'il était juste que le NHS expérimente, mais qu'il fallait clarifier quelles technologies fonctionnent et ne fonctionnent pas en toute sécurité.

« Mon point de vue est que le gouvernement devrait aider les fiducies dans leurs décisions d’approvisionnement et devrait conseiller sur les systèmes d’IA – comme nous le faisons avec d’autres formes de technologie que nous utilisons en médecine – qui sont sûrs », a déclaré M. Taylor.

« Nous aurons besoin que [le gouvernement] fasse un peu plus pour guider le NHS dans la meilleure façon d'utiliser cela. »

Lorsqu'on lui a demandé si, à court terme, cela pouvait paraître très dangereux, M. Taylor a répondu : « Ce que vous avez vu avec la technologie de la voix ambiante, c'est que cette approche du type « laissez mille fleurs s'épanouir » a ses limites. »

Plus tôt cette année, le secrétaire à la Santé a semblé suggérer qu'une technologie non approuvée était utilisée, mais l'a célébré comme un signe que les médecins étaient enthousiastes à l'idée du changement.

M. Streeting a déclaré : « J'ai entendu de manière anecdotique dans le pub, vraiment dans le pub, que certains cliniciens prennent de l'avance et utilisent déjà l'IA ambiante pour enregistrer des notes et autres choses, même lorsque leur pratique ou leur confiance ne les a pas encore rattrapés.

« Il y a beaucoup de problèmes, ce qui n'est pas encourageant, mais cela me montre que, contrairement à ce qui se passe : "Les gens ne veulent pas changer, le personnel est très satisfait et il est très réticent au changement", c'est tout le contraire. Les gens réclament ce genre de choses à cor et à cri. »

Lire la suite de Sky News : Une enquête nationale est lancée sur les services de maternité Chaque bébé au Royaume-Uni bénéficiera d'un test ADN

Les médecins qui utilisent une IA conforme aux normes nationales affirment déjà qu’elle présente de grands avantages.

Anil Mehta, médecin dans la circonscription d'Ilford du secrétaire à la Santé, a déclaré à Sky News qu'il soutenait la volonté de son député d'intégrer davantage de technologie d'IA dans les soins de santé.

« Je passe 30 % de ma semaine à faire de la paperasse », a-t-il déclaré. « Je pense donc qu'une fois que j'ai expliqué toutes les caractéristiques de notre travail, les patients sont extrêmement rassurés. Et je n'ai jamais rencontré personne qui ne voulait pas que je m'en occupe. »

Il a ajouté : « (Je) pense que la consultation avec votre médecin est extrêmement confidentielle, donc cela n'a pas changé du tout.

« Cela reste confidentiel – donc qu’il s’agisse d’un adulte vulnérable, d’un enfant vulnérable, d’un adolescent, d’un jeune enfant avec un parent, je pense que le concept de cette confidentialité demeure. »

Un porte-parole du NHS a déclaré : « La technologie de la voix ambiante a le potentiel de transformer les soins et d'améliorer l'efficacité et en avril, le NHS a publié des directives pour soutenir son utilisation de manière sûre et sécurisée.

« Nous travaillons avec les organisations et les fournisseurs du NHS pour garantir que tous les produits de technologie vocale ambiante utilisés dans l'ensemble du service de santé continuent d'être conformes aux normes du NHS en matière de sécurité clinique et de sécurité des données. »