Doctolib nutzt medizinische Daten für KI-Forschung: Verbände sind empört

Doctolib will unsere Gesundheitsdaten mithilfe von KI für Forschungszwecke einsetzen. Verbände reagieren empört.

Wären Sie damit einverstanden, dass eine künstliche Intelligenz Ihre sensiblen medizinischen Informationen auswertet? Genau das plant Doctolib ab August – also schon morgen.

Die Plattform will dafür die Daten sämtlicher ihrer 60 Millionen Nutzerinnen und Nutzer verwenden: Termine, Rezepte, Laborergebnisse und Medikamente. Damit erhält eine KI Zugriff auf alle gesundheitsbezogenen Angaben, die Forschende von Inria, Inserm, der Université Paris Cité und Doctolib gemeinsam analysieren sollen. Das Vorhaben soll die medizinische Forschung voranbringen und dabei helfen, Risiken sowie Notfallsituationen früher zu erkennen.

Die Nutzerinnen und Nutzer wurden zu Beginn des Juli per eher vage formulierter E-Mail mit dem Betreff „Doctolib engagiert sich in der Forschung, um die Gesundheit zu verbessern“ informiert. Ausgerechnet in der Urlaubszeit, in der E-Mail-Postfächer leicht unbeachtet bleiben, wirkt dieses Vorgehen zumindest ungewöhnlich:

„Ab August 2026 arbeiten wir mit einem Forschungsteam zusammen, das drei führenden französischen Wissenschaftseinrichtungen angegliedert ist (Inria, Inserm und Université Paris Cité), und zwar am Forschungsprojekt ‚Versorgungspfade durch künstliche Intelligenz verbessern‘. Termine, die sich häufen, mehrere zu koordinierende Behandelnde … Für zu viele Patientinnen und Patienten gleicht die medizinische Versorgung manchmal einem Hindernislauf. Das wollen wir ändern, indem wir bestimmte Gesundheitsrisiken früher erkennen und die Versorgung der Patientinnen und Patienten verbessern.“

Verbände laufen Sturm gegen Doctolib

Doctolib sagt zwar zu, sämtliche Daten zu anonymisieren, doch dieses Verfahren wirft zahlreiche Fragen auf. Zunächst geht es um die Speicherung und die Verwendung der Angaben. Nach Angaben der Plattform werden sie höchstens fünf Jahre aufbewahrt, verschlüsselt und geschützt. Wo und unter welchen Bedingungen dies geschieht, bleibt jedoch offen. Genau das beschäftigt die LDH, die sich in einer Mitteilung empört zeigt. Der Verband weist darauf hin, dass Doctolib Kunde des US-Unternehmens Amazon ist, das den Gesetzen seines Heimatlandes unterliegt:

„Die LDH erinnert daran, dass die früheren Kritiken und Rechtsmittel gegen die Nutzung von Servern durch Doctolib, die Eigentum von Amazon Web Services sind und weiterhin dem Cloud Act unterliegen (einem Gesetz, das US-Behörden erlaubt, amerikanische Anbieter digitaler Dienste zur Herausgabe von Daten zu verpflichten), die Verdachtsmomente einer Zusammenarbeit mit US-Unternehmen und der Kontext eines autoritären Abgleitens der USA weiterhin aktuell sind.“

Auch die Datensicherheit selbst bereitet dem Verband Sorgen, in einer Zeit, in der zahlreiche Einrichtungen Opfer von Hackerangriffen werden:

„Die zunehmende Zahl von Cyberangriffen und Datendiebstählen (insbesondere die 33 Millionen Französinnen und Franzosen, die vom Hack der Versicherungsdienstleister Viamedis und Almerys betroffen waren) kann die Befürchtungen nur verstärken.“

Darüber hinaus hinterfragt die LDH, wie wirksam die Anonymisierung tatsächlich ist, und welche Folgen diese Forschung im Alltag der Patientinnen und Patienten haben könnte:

„Die LDH betont, dass Gesundheitsdaten sensible Daten darstellen, die die tiefste Privatsphäre des Einzelnen berühren. Da sie Diagnoseelemente, medizinische Behandlungen und Krankengeschichten erfassen, bergen sie ein nicht zu vernachlässigendes Risiko von Stigmatisierung, Diskriminierung und missbräuchlichem Profiling.“

Medizinische Daten bei Doctolib schützen

Für seine KI-Forschung setzt Doctolib auf das „Opt-in“-Verfahren. Das bedeutet: Standardmäßig gelten alle Nutzerinnen und Nutzer als einverstanden, ihre Informationen bereitzustellen – auch wenn sie darüber nicht informiert sind. Wer nicht in der Datenbank erscheinen möchte, muss ausdrücklich beantragen, ausgeschlossen zu werden. Problematisch ist, dass dieser Hinweis erst ganz am Ende der vor einigen Wochen versandten E-Mail steht.

Wer seine Daten keiner KI zur Verfügung stellen will, findet bei Doctolib ein spezielles Formular unter dieser Adresse. Eine Anmeldung im eigenen Konto ist nicht erforderlich: Vorname, Nachname und Geburtsdatum genügen. Auch nachträglich lässt sich die Löschung der Daten aus dem Programm beantragen, indem eine E-Mail an [email protected] geschickt wird.

Dass Doctolib dieses KI-Programm mitten im Sommer bestätigt, ohne die ausdrückliche Zustimmung der Nutzerinnen und Nutzer einzuholen, und sie nur mit einer unklaren E-Mail informiert, schafft kaum Vertrauen im Umgang mit den eigenen Daten.

Nach unserem Artikel reagierte Doctolib:

Diese Arbeiten fallen unter Forschung im öffentlichen Interesse, genau jene Forschung, die die MR-004-Methodik der CNIL regeln und fördern soll: die Versorgung, Prävention und den Zugang zur Gesundheitsversorgung zum Nutzen der Patientinnen und Patienten sowie der Allgemeinheit voranzubringen. Dieser Zweck des Allgemeininteresses bildet die Grundlage für den Rahmen, in dem wir tätig sind.

Diese Forschung ist keineswegs neu: Das öffentliche Verzeichnis des Health Data Hub führt mehr als 10.000 verschiedene Projekte auf, die im Rahmen der MR-004-Methodik registriert wurden; das erste datiert vom 16. Juli 2018. Dieser Rahmen wird täglich von Krankenhäusern und großen öffentlichen Forschungskohorten in Frankreich angewendet. Einer Herausforderung stellen wir uns uneingeschränkt: Die Medizin von morgen wird auf KI-Modellen im Gesundheitswesen beruhen, und diese Modelle werden heute überwiegend außerhalb Europas auf Daten entwickelt, die nicht unsere sind. Indem wir diese Forschung in Frankreich mit französischen öffentlichen und akademischen Partnern durchführen, innerhalb eines von der CNIL festgelegten Rahmens, der zu den strengsten in Europa zählt, tragen wir dazu bei, dass unser Land über eigene Werkzeuge verfügt, die an seine Bevölkerung und sein Versorgungssystem angepasst sind, statt von anderen abhängig zu sein. Es geht dabei ebenso um die Qualität der Versorgung wie um Souveränität.