Während die Covid-19-Pandemie Gesundheitseinrichtungen auf der ganzen Welt schwer trifft, greifen einige Ärzte bei der Diagnose ihrer Patienten auf Innovationen zurück: künstliche Intelligenz (KI).
Trotz gewaltiger Anstrengungen bemühen sich die Regierungen immer noch darum, laborbasierte Methoden wie Nukleinsäure- und Antikörpertests auszuweiten, aber diese neuen in silico Tools bieten die Möglichkeit, sowohl Geld als auch Zeit zu sparen. Einige Regionen setzen daher stark auf KI: Die Europäische Kommission investiert beispielsweise Geld in ein Tool zur Analyse von Computertomographie-Scans, um die Patientendiagnose zu beschleunigen.[i]
Software-Diagnosetools wie diese haben in den letzten zehn Jahren explosionsartig an Bedeutung gewonnen und decken Erkrankungen ab, die von Melanomen über Wirbelsäulenfrakturen bis hin zu Covid-19 reichen. Mit der zunehmenden Nutzung dieser Tools sind jedoch auch die damit verbundenen regulatorischen Herausforderungen gestiegen.
Was ist SaMD?
Die meisten digitalen Diagnosetools fallen unter den Begriff „Software als Medizinprodukt“ (SaMD), ein umfassenderer Begriff, der nicht nur Software zur Diagnose, sondern auch zur Prävention, Behandlung usw. umfasst.
Laut dem International Medical Devices Regulators Forum (IMDRF) handelt es sich bei SaMD um Software, die für einen medizinischen Zweck bestimmt ist, der durch den Betrieb der Software selbst erreicht wird. Software, die lediglich eine größere Hardware unterstützt (z. B. Herzschrittmachersoftware), ist also kein SaMD.[ii] Auch Software, die im medizinischen Kontext eingesetzt wird und keinen spezifischen medizinischen Zweck verfolgt (z. B. Bilderfassungssoftware, die keine Analysen durchführt), ist kein SaMD.
Abgesehen von diesen Einschränkungen ist SaMD als Kategorie jedoch recht breit gefächert. Es deckt das gesamte Spektrum von Diagnose über Prävention bis hin zur Behandlung ab, behandelt alle Arten von Erkrankungen, kann auf spezialisierten medizinischen Geräten oder Allzweckgeräten (z. B. Mobiltelefonen) ausgeführt werden und kann unabhängig oder in Verbindung mit anderer Hardware betrieben werden. Zudem können verschiedene Länder unterschiedliche Maßstäbe dafür haben, was als SaMD gilt.
Wie zu erwarten, bereitet dies den Regulierungsbehörden – und auch den Softwareherstellern – ziemliche Kopfschmerzen.
SaMD: Sicher für Diagnose?
Diagnostisch gesehen gibt es SaMD in verschiedenen Varianten. Einige Tools sollen Ärzte, insbesondere Radiologen, im klinischen Umfeld unterstützen und helfen, Dinge zu erfassen, die selbst dem geschulten menschlichen Auge entgehen könnten. Diese Tools werden natürlich genau unter die Lupe genommen. Laut einem Artikel in Diagnostische BildgebungBis Oktober 2019 hatte die US-amerikanische Food and Drug Administration (FDA) 28 Algorithmen in dieser Richtung zugelassen.[iii]
Auf der anderen Seite gibt es jedoch auch einen zunehmenden Trend zu Tools, die sich direkt an den Verbraucher richten und manchmal zig Millionen Mal heruntergeladen werden.[iv] Einige dieser Apps tun ihr Bestes, um nicht von den Regulierungsbehörden erfasst zu werden, mit der Begründung, dass sie ein relativ geringes Risiko darstellen und eine professionelle medizinische Beratung ergänzen, nicht ersetzen sollen.
Unabhängig davon, ob sie für den klinischen oder privaten Gebrauch bestimmt sind, bringen diese Diagnosetools ihre eigenen regulatorischen Herausforderungen mit sich. Ihre Anzahl ist enorm: Einer Zählung zufolge gibt es 318.000 mobile Gesundheits-Apps (wobei diese Zahl auch Apps einschließt, die nicht zur Diagnose verwendet werden oder nicht als Medizinprodukte gelten). KI-basierte Apps können sich während der Nutzung ständig verändern, sodass sie die üblichen Zulassungsverfahren vor der Markteinführung nicht durchlaufen. Außerdem verwischen sie die Haftungsgrenzen: Wenn ein Diagnosetool Probleme macht, wer trägt dann die Schuld – Arzt, Krankenhaus oder Softwareentwickler?[v]
Und wie eine Studie der australischen Therapeutic Goods Administration (TGA) feststellt, gibt es viel zu wenig Forschung darüber, wie sich der Einsatz dieser Instrumente auf die Patientensicherheit auswirkt.[vi] Da Fachzeitschriften eher positive als negative Ergebnisse veröffentlichen, gelangen Studien, die auf Leistungsmängel hinweisen, nicht immer ans Licht. Dadurch besteht die Gefahr, dass die Aufsichtsbehörden ein allzu rosiges Bild zeichnen. Für die Aufsichtsbehörden bedeutet dies, wie wichtig Daten aus der Marktüberwachung nach der Markteinführung sind.
Auch direkt an den Verbraucher gerichtete Diagnosetools stehen vor Herausforderungen, so harmlos sie auch erscheinen mögen. Manche dieser Apps funktionieren schlecht und vermitteln Verbrauchern möglicherweise falsche Sicherheiten – beispielsweise indem sie ihnen fälschlicherweise suggerieren, ihr Melanom sei harmlos, was dazu führt, dass sie die Behandlung hinauszögern.[vii]
Daher müssen die Aufsichtsbehörden bei der Zuweisung von Risikostufen für diagnostische SaMD kritisch vorgehen.
SaMD regulieren oder nicht? Regulieren?
Wie auch andernorts üblich, verfolgen viele Regulierungsbehörden einen risikobasierten Ansatz zur Klassifizierung diagnostischer SaMD. Die von der IMDRF vorgeschlagenen Kategorien reichen von I bis IV, wobei IV die schwerwiegendste Kategorie darstellt.[viii] Die Kategorie eines Geräts wird anhand zweier Variablen bestimmt: der jeweiligen Erkrankung und der Art der vom SaMD bereitgestellten Informationen.
Bedeutung der von SaMD bereitgestellten Informationen für Entscheidungen im Gesundheitswesen
| Stand der Gesundheitssituation oder des Gesundheitszustands | Behandeln oder diagnostizieren | Fördern Sie das klinische Management | Informieren Sie das klinische Management |
|---|---|---|---|
| Kritisch | IV | III | II |
| Ernst | III | II | ICH |
| Nicht schwerwiegend | II | ICH | ICH |
Dieses Konzept ermöglicht einen relativ flexiblen Ansatz für das SaMD-Management. Laut den Beispielen der IMDRF würde SaMD zur Selbsteinschätzung von Hörverlust in Kategorie I fallen, SaMD, das Herzfrequenzdaten analysiert, um Ärzte bei der Diagnose von Herzrhythmusstörungen zu unterstützen, in Kategorie II. Bösartige Hautläsionen sind „kritische“ Erkrankungen. Wenn SaMD Daten liefert (z. B. Wachstumsüberwachung), die andere Informationen zur Diagnose von Bösartigkeiten ergänzen, würde es in Kategorie III fallen. Wird es jedoch als einziges Instrument zur Erstellung einer Strukturkarte und zur Berechnung der Ausmaße einer Läsion verwendet, würde es in Kategorie IV fallen.
Natürlich handhaben und klassifizieren Länder und Regionen diese Risikokategorien unterschiedlich. So nehmen beispielsweise sowohl die USA als auch die EU hochriskante SaMD sehr ernst – ein FDA-Leitfaden empfiehlt für SaMD mit höherem Risiko eine „unabhängige Überprüfung“.[ix] Bei SaMD mit geringerem Risiko unterscheiden sich die beiden Regionen jedoch in ihrem Regulierungsansatz.
Unter der Trump-Administration verfolgt die US-amerikanische FDA einen eher zurückhaltenden Ansatz bei der Regulierung von SaMD mit geringerem Risiko und erklärt, dass sie „Ermessensspielraum bei der Durchsetzung“ haben werde, selbst wenn die Software die Definition eines Medizinprodukts erfüllen könnte. Der ehemalige von Trump ernannte FDA-Kommissar Scott Gottlieb argumentierte, dass eine Überregulierung der mobilen Gesundheit Innovationen hemmen könnte, obwohl nicht alle seine Kollegen dem zustimmen dürften.[x] Besonders beachtenswert ist das neue PreCert-Programm der FDA, das es SaMD-Entwicklern ermöglicht, Produkte auf den Markt zu bringen, indem sie die FDA-Genehmigung für den Entwicklungsprozess des Unternehmens – und nicht für das Produkt selbst – einholen.[xi]
Dieser Schritt zur Liberalisierung von SaMD in den USA steht im Gegensatz zum zunehmend strengeren Ansatz der EU. So wird beispielsweise die neue Medizinprodukteverordnung (MDR) der EU die Anzahl der als risikoarm eingestuften SaMD streng begrenzen.[xii] Die EU erkennt SaMD als Klasse I, IIa, IIb oder III an, doch die MDR, die nach einer Covid-19-bedingten Verzögerung im Mai 2021 in Kraft treten soll, enthält eine „Regel 11“, die die Mehrheit der Klasse-I-Geräte mindestens in die Klasse IIa einordnet.
Einige Kommentatoren kritisieren dies als eine übermäßige Konzentration auf die Schwere der Vorschriften statt auf das Risiko, was die Kosten der Einhaltung der Vorschriften erhöhen wird – mit anderen Worten, eine Einschränkung der Innovation in genau der Weise, gegen die sich der ehemalige Kommissar Gottlieb gewehrt hat.[xiii]
Erhalten Schlau auf SaMD
Die Regulierungsbehörden stehen vor einer großen Herausforderung: Sie müssen die Patientensicherheit mit dem Streben nach lebensrettenden Innovationen in Einklang bringen. Neue Trends wie die zunehmende Nutzung von KI erschweren die Entwicklung geeigneter regulatorischer Rahmenbedingungen, eröffnen aber auch Chancen für regulatorische Weiterentwicklungen. Viele Länder evaluieren beispielsweise das US-amerikanische PreCert-Programm, um zu prüfen, ob sie ähnliche Programme in ihren lokalen Märkten einführen können.
Derzeit sind für die Diagnostik von SaMD sowohl technische als auch klar durchdachte regulatorische Innovationen erforderlich.
[ich]ec.europa.eu – Einsatz von KI zur schnellen und effektiven Diagnose von COVID-19 in Krankenhäusern[ii] fda.gov – Software als Medizinprodukt (SaMD)
[ii] fda.gov – Was sind Beispiele für Software als Medizinprodukt?
[iii] diagnosticimaging.com – Der Stand der Radiologie-KI im Jahr 2019
[iV] degruyter.com – Jenseits von Dr. Google: Erkenntnisse zu digitalen Diagnosetools für Verbraucher
[v] mobius.md – 11 überraschende Statistiken zur mobilen Gesundheit
[v] fda.gov – Künstliche Intelligenz und maschinelles Lernen in Software als Medizinprodukt
[v] hbr.org – KI wird die Radiologie verändern, Radiologen jedoch nicht ersetzen
[vi] tga.gov.au – Tatsächlicher und potenzieller Schaden durch medizinische Software – Eine schnelle Literaturübersicht zu Sicherheits- und Leistungsproblemen
[vii] bmj.com – Algorithmusbasierte Smartphone-Apps zur Beurteilung des Hautkrebsrisikos bei Erwachsenen: Systematische Überprüfung von Studien zur diagnostischen Genauigkeit
[viii] fda.gov – Globaler Ansatz für Software als Medizinprodukt Software als Medizinprodukt
[viii] imdrf.org – „Software als Medizinprodukt“: Möglicher Rahmen für die Risikokategorisierung und entsprechende Überlegungen
[ix] fda.gov – Software als Medizinprodukt (SAMD): Leitfaden zur klinischen Bewertung für die Industrie und Mitarbeiter der Food and Drug Administration
[X] mobihealthnews.com – In früheren Leitartikeln plädierte Trumps FDA-Kandidat für einen Laissez-faire-Ansatz bei Gesundheits-Apps
[xi] deloitte.com – Software als Medizinprodukt – Ein agiles Modell für von der Food and Drug Administration (FDA) regulierte Software im Gesundheitswesen
[xii] med-technews.com – Wie Software gemäß den Richtlinien zur Medizinprodukteverordnung klassifiziert werden kann
[xii] blog.cm-dm.com – MDR: Noch ein Jahr und zu spät für Klasse I-Software
[xiii] johner-institute.co – MDR-Klassifizierungsregel 11 für Medizinprodukte-Software
