Künstliche Intelligenz (KI), oder Englisch „Artificial Intelligence (AI)“, hat sich zu einem regelrechten Hype entwickelt. Und das nicht nur, weil es cool klingt, sondern weil man mit aktuellen Methoden der KI ganz praktische Aufgaben des täglichen Lebens unterstützen oder sogar automatisieren kann – Aufgaben, die bisher dem Menschen, und hier sogar absoluten Spezialisten, vorbehalten waren. Genau dieses – „die Maschine kann nun, was sonst nur Menschen konnten“-  hat wohl die EU auf den Plan gerufen, denn auch Maschinen können und werden Fehler machen. Und genau wie bei Menschen, ist nicht jeder Maschine in jeder Angelegenheit blind zu vertrauen. Im April 2021 hat die EU-Kommission ihren Entwurf für eine Verordnung über Künstliche Intelligenz (Artificial Intelligence Act, AI Act) veröffentlicht. Die neue vorgeschlagene Regulierung erfasst sehr breit zahlreiche Produktbereiche, darunter Medizinprodukte gemäß EU 2017/745 (MDR) und In-Vitro-Diagnostika gemäß EU 2017/746 (IVDR). Wie viele der aktuell bereits auf dem Markt verfügbaren Medizinprodukte bereits KI einsetzen, ist schwer abzuschätzen. Betrachtet man das Marketing von Medizinprodukten, sind es bereits sehr viele, und die Zahl wird wahrscheinlich weiterhin stark zunehmen. Die Technik hat sich bewährt und hat bereits neue Anwendungsfelder erschlossen.

Sechs Fragen an Oliver Hilgers, Experte für Software als Medizinprodukt (Sofware as Medical Device, SaMD)

Frage 1: Die Regulierung spricht von KI-Produkten. Sind damit sämtliche Produkte gemeint, oder wie stelle ich fest, ob ich von der neuen Regulierung betroffen sein werde?

Die Regulierung umfasst eine sehr breite Spanne von Produkten aus den verschiedensten Anwendungsbereichen – vom Auto bis zur Kreditwürdigkeitsbestimmung-, darunter auch Medizinprodukte. Der Grad der Regulierung orientiert sich dann am Risiko der Anwendung: Von Geboten bei niedrigem Risiko bis zu Verboten von Anwendungen wie Social Scoring. Das Gros der Regulierung dreht sich um die sogenannten Hoch-Risiko-KI.

Konkret für Hersteller von Medizinprodukten bedeutet das vereinfacht: Wenn das Medizinprodukt Künstliche Intelligenz zur Erfüllung der Zweckbestimmung enthält, dann bin ich grundsätzlich von der neuen Regulierung betroffen. Die Definition von Künstlicher Intelligenz im AIA ist dabei überraschend breit gefasst und wird vermutlich noch Diskussionen aufwerfen (1,2).
In der vollen Breite der neuen Anforderungen, d.h. als Hoch-Risiko-KI, sind allerdings nur Medizinprodukte erfasst, die einem Konformitätsbewertungsverfahren durch Dritte unterliegen. Übersetzt bedeutet das, Medizinprodukte der Klasse IIa oder höher, die durch eine Benannte Stelle, z.B. dem TÜV, zertifiziert werden müssen.

Frage 2: Wenn Medizinprodukte-Hersteller ihr KI-Produkt bereits von einer Benannten Stelle überprüfen lassen müssen, reicht das nicht eigentlich aus, oder gibt es weitere Anforderungen, die über die Medizinprodukteverordnung hinausgehen?

Mit dem AIA kommen eine Reihe neuer Anforderungen an Prozesse und Dokumentation, welche zwar dem Stand der Technik bei der Entwicklung von KI-Algorithmen entsprechen, sich aber in diesem Umfang und Detail nicht unmittelbar aus der MDR ableiten lassen. Zum Beispiel wurden die Anforderungen zur Cybersecurity in KI spezifischen Bereichen konkretisiert, und im Bereich des Managements der Trainings- und Testdaten sind neue Anforderungen formuliert worden:

Frage 3: Gibt es unter den neuen Anforderungen welche, die dir besondere Sorgen bereiten?

Sagen wir, ich sehe einige Herausforderungen. Die Anforderungen bezüglich der menschlichen Aufsicht über die KI ist zumindest ein zweischneidiges Schwert. Einerseits ist es im höchsten Maße wünschenswert, der Maschine über die Schulter schauen zu können, um ggf. eingreifen zu können. Andererseits könnte es passieren, dass die Umsetzung von Echtzeitanwendungen erschwert oder sogar verhindert werden, da hier die menschliche Aufsicht nicht effektiv vor dem Wirken der KI umgesetzt werden kann. Hierzu wird es noch mehr Diskussionen zur Risiko-/Nutzen-Abwägung und zur konkreten Umsetzung für spezifische Produktkategorien geben müssen.

Frage 4: Ich habe als Hersteller ein Produkt der Klasse IIa, wie läuft dann die Zertifizierung der Anforderungen aus dem AIA ab?

Die Zertifizierung soll durch für den AIA benannte Stellen erfolgen. Benannte Stellen für Medizinprodukte sollen zusätzlich für die Zertifizierung der AIA qualifiziert und benannt werden. Man sollte sich also am besten eine Benannte Stelle suchen, die dann beides abdeckt. Wie viele der ohnehin schon wenigen für die MDR benannten Stellen die Zertifizierung für den AIA auf sich nehmen werden (3), ist schwer vorherzusagen, insbesondere, da sich bereits jetzt schon die Zertifizierungen nach der MDR bei den Benannten Stellen türmen.

Frage 5: Ab wann werden die Anforderungen verbindlich?

Das Gesetzgebungsverfahren ist noch nicht sehr weit fortgeschritten, hat aber bereits mehrere Runden durch den Rat der EU gedreht und einige Länder habe ihre Einwände eingereicht (1). Ein finales Publikationsdatum lässt sich derzeit schwer abschätzen. Es wird außerdem Übergangsregelungen geben ab Gültigkeitsdatum der AIA.

Frage 6: Was ist dein Rat an Medizinprodukte-Hersteller?

Jetzt anfangen! Auch wenn vielleicht manches Detail im Gesetzgebungsverfahren noch geändert wird, machen Sie sich zeitnah mit den neuen Anforderungen aus der AIA vertraut, und planen Sie die wesentlichen, neuen Dokumentationsinhalte und Funktionalitäten so früh wie möglich. Einiges lässt sich nachträglich nur schwer oder gar nicht nachrüsten. Viele der neuen Anforderungen werden voraussichtlich im Kern bestehen bleiben, da sie Forderungen anderer Experten, z.B. des Team NB ähnlich sind (2).

Außerdem mag es sinnvoll sein, sich über Verbände aktiv in das laufende Gesetzgebungsverfahren einzubringen. Einiges im AIA ist bisher nicht sehr klar beschrieben oder ist sehr strikt formuliert und kann unter Umständen die Entwicklung von bestimmten Medizinprodukten be- oder im schlimmsten Fall sogar verhindern.

Oliver Hilgers – Partner im Netzwerk der Healthcare Shapers- ist Mitglied in verschiedenen Normenausschüssen der EU. Er gestaltet mit seiner Expertise die Zulassungsprozesse von Software und digitalen Therapien, die als Medizinprodukte zertifiziert sind und vermehrt auch mit Methoden der Künstlichen Intelligenz arbeiten. Oliver Hilgers berät Unternehmen, wie sie ihre Innovationen als zertifizierte Medizinprodukte sicher und effizient in die Patientenversorgung bringen können.

Quellen:

1. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf
2. Fragenkatalog „Künstliche Intelligenz bei Medizinprodukten“; https://www.ig-nb.de/dok_view?oid=824260
3. Team-NB Position Paper; https://www.team-nb.org/wp-content/uploads/2021/10/Team-NB-PositionPaper-Artificial-Intelligence.pdf
4. Vorschaubild: Artificial Neural Network with Chip, Wikimedia