Empêcher la santé numérique de tomber en panne

Faire des parallèles entre l'aviation et la médecine n'est pas nouveau : les anesthésistes qui "pilotent" un patient en toute sécurité pendant une opération ont souvent été comparés aux pilotes de ligne. De même, la Surgical Safety Checklist de l'OMS¹ directement inspiré des contr?les effectués par les pilotes avant le décollage et après l'atterrissage. Enfin, l'un de nos projets de recherche, dans le cadre duquel nous souhaitons, en collaboration avec l'h?pital universitaire de Zurich, améliorer le monitoring des patients dans les unités de soins intensifs (en anglais ICU) à l'aide de méthodes scientifiques de données, ne s'appelle pas ICU-Cockpit sans raison.^{2, 3}.

Le cas du Boeing 737 Max illustre toutefois deux nouveaux parallèles entre ces domaines : d'une part, la digitalisation et l'automatisation croissantes et, d'autre part, de manière beaucoup moins honorable, la maximisation des bénéfices des entreprises. Un article paru récemment dans le New York Times suggère que cette dernière a joué un r?le déterminant dans le cas de Boeing.⁴.

En résumé, Boeing a subi une forte pression concurrentielle. Au lieu d'investir dans le développement co?teux et long d'un nouvel avion moderne, l'entreprise a remanié un modèle d'avion vieux de plus de 40 ans. Pour répondre à des exigences de marketing telles que des co?ts d'exploitation bas, elle a utilisé une technologie nouvelle, mais inadaptée à l'ancien avion. Pour compenser les défauts aérodynamiques, elle a développé un logiciel qui, contrairement à toutes les meilleures pratiques du secteur, intervient sans que le pilote s'en rende compte. Dans la précipitation, Boeing a oublié de mentionner ces modifications dans le manuel de l'avion et d'informer les compagnies aériennes et les pilotes de ces mécanismes. En outre, l'entreprise n'a pas tenu compte du fait que les fonctions de sécurité de base ne sont qu'une partie d'un add-on co?teux que la plupart des compagnies aériennes soucieuses des co?ts n'ont pas acheté. Et les ingénieurs aéronautiques de Boeing ont ignoré - probablement en raison d'un changement tardif de système - le principe de base de la redondance, qui aurait permis de compenser une défaillance des capteurs. Même lorsque ces erreurs ont été connues après le premier accident, l'entreprise a omis d'informer rapidement et en détail les personnes concernées afin d'éviter un autre accident.

Nous ne sommes pas à l'abri de telles erreurs

Dans mon travail, je m'occupe du développement d'une série d'appareils médicaux et de logiciels qui peuvent poser des diagnostics ou même effectuer des interventions. Ces appareils sont actuellement testés dans des cliniques à des fins de recherche. Des dysfonctionnements peuvent rapidement avoir des conséquences fatales.

Dans notre domaine aussi, les collaborateurs sont sous pression, dans le cas des doctorants par exemple, lorsqu'ils envisagent de terminer leur thèse le plus rapidement possible ou lorsque leur financement temporaire prend fin. La tentation est alors grande de ne pas toujours s'en tenir aux meilleures pratiques. Quoi qu'il en soit, le domaine médical n'est pas à l'abri d'erreurs telles que celles commises par Boeing. Dans notre secteur, les erreurs pourraient même entra?ner des pertes de vies humaines encore plus importantes. Mais malheureusement, ces cas seraient probablement plus difficiles à détecter, car ils se produiraient dans de nombreux h?pitaux à travers le monde.

Pas assez de recherche sur la sécurité

Dans le système de santé en Suisse et dans d'autres pays, la pression sur les co?ts et la commercialisation progressive sont évidentes. Les h?pitaux et les fabricants de produits médicaux ressentent la pression des politiques et des actionnaires pour réduire les co?ts et augmenter les prestations.

La santé numérique et la collecte de données de santé à distance à l'aide de wearables font partie de presque toutes les nouvelles initiatives en matière de santé ; l'automatisation et l'intelligence artificielle sont les grands mots d'ordre. Il semble que les autorités soient encore dépassées par les nouvelles possibilités. En tout cas, elles sont en retard pour une réglementation claire dont le besoin est urgent. Dans l'aéronautique comme dans la technique médicale, les autorités misent largement sur la responsabilité du fabricant et l'autodéclaration, y compris pour les fabricants étrangers à la branche qui viennent de s'installer dans ce domaine.

Si je regarde les projets de recherche dans mon domaine, il me semble que peu d'entre eux abordent les questions de sécurité, de redondance, d'évaluation des risques et de convivialité. Il est possible que ces sujets d'ingénierie soient traités de manière superficielle parce qu'ils sont considérés comme étant déjà en partie bien étudiés et qu'ils ont un caractère trop appliqué. Néanmoins, nous avons toutes les raisons d'étudier ces questions cruciales dans le domaine de la santé numérique également.

Agir de manière responsable

Mais préparons-nous nos étudiants à cela ? Ou les encourageons-nous uniquement à prendre des risques et à sauter à l'aveuglette dans la prochaine bulle de start-up, leur enseignonsnous les dernières méthodes de data crunching pour répondre aux exigences du marché du travail, et dressons-nous nos doctorants uniquement à effectuer des recherches qui pourront être publiées dans des revues spécialisées de haut niveau ?

Sur le modèle du serment d'Hippocrate en médecine, les ingénieurs ont créé il y a quelques années le serment d'Archimède.⁵ proposé. En bref, il s'agit d'être responsable de ses actes, de ne pas faire de mal et d'utiliser ses compétences pour le bien social. Je pense qu'il est temps de faire revivre ce serment d'Archimède. Pas seulement en tant que document remis avec le dipl?me de master, mais comme élément central des programmes de formation et de recherche à l'ETH. Il faut davantage d'ingénieurs bien formés, qui agissent toujours de manière responsable, et il est temps de leur redonner un droit de regard plus important dans les entreprises technologiques, y compris pour les décisions relatives aux produits.