Die technologischen Fortschritte in den Bereichen KI und Robotik der letzten Jahre sind beispiellos und haben die Phantasie von Unternehmen, Start-ups und Forscher*innen gleichermaßen beflügelt. Das Gesundheitswesen bildet da keine Ausnahme, aber neue medizinische Geräte und Verfahren müssen sich als sicher und nützlich erweisen, bevor sie an Patient*innen eingesetzt werden können. Und obwohl die Europäische Union hohe Qualitätsanforderungen stellt, sind die Entwickler*innen mit einer unzureichenden Testinfrastruktur konfrontiert, um Standards zu entwickeln, Innovationen zu testen und neue Produkte zu zertifizieren.
Das neue EU-geförderte Projekt “Testing and Experimentation Facility for Health AI and Robotics” (TEF-Health) mit einem Gesamtbudget von rund 60 Millionen Euro soll die Validierung und Zertifizierung von KI und Robotik in Medizinprodukten erleichtern und beschleunigen. Im Gespräch mit der Projektleiterin Prof. Dr. Petra Ritter, Direktorin der Sektion Gehirnsimulation am Berlin Institute of Health (BIH) und an der Klinik für Neurologie mit Experimenteller Neurologie an der Charité, und ihrem Projektpartner Dr. Dirk Schlesinger, Leiter des TÜV AI Lab, erfuhren wir mehr über ihren innovativen Ansatz, die Bedeutung der Datenverfügbarkeit und die Rolle als Herzstück der Berliner KI-Landschaft.
Wir freuen uns sehr, dass Sie heute hier sind, um über dieses ambitionierte Projekt zu sprechen. Könnten Sie kurz das Projekt, das Konsortium und die Bedeutung des TEF erläutern?
Prof. Dr. Petra Ritter: Vielen Dank, dass Sie uns eingeladen haben. Das neue Projekt heißt "Testing and Experimentation Facility for Health AI and Robotics" (TEF). Es ist ein großes Konsortium mit 51 Partnern, 9 beteiligten Ländern und zahlreichen europäischen Institutionen. Das Ziel des Projekts ist es, sowohl Innovationen im Bereich der KI und Robotik auf den Markt zu bringen, als auch unsere zukünftigen Kund*innen, welche Start-ups und KMU sind, dabei zu unterstützen, ihre Innovationen auf den Markt zu bringen.
Dr. Dirk Schlesinger: Wenn ich das ganze Projekt zusammenfassen müsste, ginge es um drei Dinge: Erstens geht es um Daten, denn ohne Daten gibt es keine KI, und medizinische Daten sind sensibel, gleichzeitig rar und müssen geteilt werden. Wie kann man diesen Widerspruch auflösen? Zweitens geht es um Infrastruktur, wir reden hier über lernende Systeme; wir brauchen also eine Infrastruktur von Hochleistungsrechnern, Labore und im Grunde genommen Orte, an denen Anwendungsfälle ausgeführt werden können. Und Drittens geht es um Zertifizierung. Es geht um das Vertrauen, das wir schaffen müssen sowie um den Prozess, wie wir diese Innovation auf den Markt bringen können. Und zwar schnell und ohne zu viele Ressourcen zu verbrauchen. Das ist das Ziel des Projekts.
Können Sie die Idee hinter dem Projekt erläutern und wie der Zeitrahmen und die Etappen während des Projekts geplant sind?
PR: TEF-Health ist in neun Knoten (Nodes) organisiert– jedes Land bildet einen eigenen Knoten. Auf der Grundlage von Anwendungsfällen arbeiten wir mit Start-ups und KMUs zusammen, um den Prozess der Zertifizierung und Validierung der Anwendungen zu begleiten und zu unterstützen.
DS: Das ist ein sehr wichtiger Punkt, denn wir wollen mit diesem Projekt den Weg ebnen für das, was wir in Ermangelung eines besseren Begriffs "agile Zertifizierung" nennen. Beim heutigen Verfahren baut man etwas, es ist fertig, dann kommt jemand und auditiert es, dann wird es zertifiziert, und insgesamt dauert es ewig. Das können wir in der KI und vor allem in der medizinischen Innovation nicht mehr machen, es muss viel schneller gehen. Also wollen wir einen parallelisierbaren Prozess entwickeln. Jetzt wird es komplex, denn es gibt die Forschung, das Unternehmen welches Medizingeräte herstellt, den/die Auditor*in und letztendlich den/die Zertifizierer*in, der/die eine unabhängige dritte Partei sein muss. Deshalb brauchen wir das Ökosystem im TEF Health. Wir müssen all diese Akteur*innen an einem Ort zusammenbringen und dann dafür sorgen, dass sie die Anwendungsfälle haben, die Petra angesprochen hat, denn das macht die Prozessentwicklung praktisch. Das ist keine Übung auf dem Papier.
Dann lassen Sie uns genauer hinschauen: Können Sie einen dieser Anwendungsfälle näher erläutern?
PR: Nehmen wir den Anwendungsfall Gehirn. Im Falle einer Schädigung des Gehirns, zum Beispiel durch einen Schlaganfall, haben die Patient*innen manchmal Probleme mit der Koordination ihrer Extremitäten. Oder wenn das Rückenmark geschädigt ist, und in diesem Fall wird das robotische Exoskelett eingesetzt und für Patient*innen entwickelt, um die Bewegung zu ermöglichen. Dies wäre ein Anwendungsfall, bei dem digitale Zwillinge des Gehirns direkt mit einem solchen robotischen Gerät verbunden werden könnten, um die Patient*innen zu unterstützen.
Was ist die KI-Komponente der Daten und die Technologie dahinter?
PR: Das Gehirn enthält sehr komplexe Daten, die Aufschluss über die ablaufenden Prozesse geben. Umfassende individuelle Informationen werden benötigt, um Gesundheitsanwendungen für das Gehirn zu entwickeln, die für die Patient*innen nützlich sind. Es ist nicht zielführend hier die Daten der Patient*innen zu anonymisieren, da dadurch die wichtigen individuellen Informationen verloren gingen. Man kann die Komplexität beziehungsweise die biometrischen Informationen – die so aufschlussreich sind wie ein Fingerabdruck sind - nicht aus den Daten herausnehmen, denn dann wären sie im Grunde für die meisten Fragestellungen nutzlos. Wir brauchen also Möglichkeiten, die personenbezogenen Daten datenschutzkonform zu integrieren, um digitale Zwillinge des Gehirns zu erstellen und beispielsweise mechanistische Simulationen zu ermöglichen, die mit maschinellem Lernen und künstlicher Intelligenz sinnvoll kombiniert werden können.
DS: Wenn ich kurz ins "Geek-Land" gehen darf: Wir werden am „federated learning“ arbeiten, was bedeutet, dass nicht die Daten, sondern das Modell von Krankenhaus zu Krankenhaus wandert, so dass wir mehr Daten haben, um die KI zu trainieren. Wir sprechen von homomorpher Verschlüsselung um die Privatheit von Daten sicher zu stellen. Es gibt viele verschiedene Ansätze, die helfen, dass wir dort, wo wir glauben, gegenüber China und den USA im Nachteil zu sein, Abhilfe schaffen können, weil wir die Technologie haben, um sicher und geschützt Daten für das KI-Training bereitstellen zu können.
Daten sind ein sensibles Thema, insbesondere wenn es um Gesundheitsdaten geht. Warum sind diese Daten so wichtig und wie können wir sie schützen?
PR: Ja, Gesundheitsdaten sind in der Tat ein sehr sensibles Thema. Sie enthalten persönliche Informationen über Personen und müssen daher geschützt werden, und wir haben in der Europäischen Union Gesetze, wie die Datenschutzgrundverordnung (DSGVO), die diesen Schutz gewährleisten. Unser Ziel ist es, den Zugang zu sensiblen Daten auf eine sichere Art und Weise zu ermöglichen, so dass Patient*innen den notwendigen Schutz erhalten und gleichzeitig Forscher*innen und Industrie den Zugang erhalten, den sie benötigen, um ihre KI- und Robotik-Anwendungen zu validieren. Natürlich legt die DSGVO die Messlatte für die Umsetzung hoch, aber es kann auch ein Vorteil sein, weil es eine Möglichkeit ist, das Vertrauen der Patient*innen zu gewinnen.
DS: Genau, es kann ein Wettbewerbsvorteil sein, wenn wir es richtig machen. Richtig bedeutet schnell und einfach und trotzdem sicher, was sicherlich eine Herausforderung für das Projekt darstellt. Wenn man sich den Innovationszyklus in der KI anschaut, ist dieser viel schneller als die Regulierung und Gesetzgebung. Wie können wir also - und das wird ein zusätzliches Arbeitspaket sein - den Prozess beschleunigen und trotzdem gesetzeskonform sein? Zertifizierungen nach der Medizinprodukteverordnung, die sicherstellen, dass das Produkt auf dem Markt von hoher Qualität ist, sind verpflichtend und daran werden und wollen wir auch nicht rütteln.
Können Sie ein wenig darüber und über die Komplexität der Daten sprechen, was erhoffen Sie sich zu erreichen? Was sind die Ziele für die Patient*innen?
PR: Letztlich geht es darum, in Europa entwickelte Gesundheits-Innovationen auf den Markt zu bringen. Und das erfordert weit mehr als nur Forschung. Es geht um Validierung, Vertrauensbildung, Verlässlichkeit, Erklärbarkeit und Verallgemeinerbarkeit. Das sind alles Schlüsselbegriffe, die in die Praxis umgesetzt werden müssen, das heißt, die Anwendungen oder Innovationen müssen getestet werden, denn die Anwendungen können über die Gesundheit des Einzelnen entscheiden, sie können über das Wohlbefinden der Menschen entscheiden. Wir brauchen also viele Tests und Validierungen, bevor diese Innovationen wirklich den Patient*innen dienen können.
DS: Genau. Wenn man sich die Zertifizierungen ansieht, haben wir derzeit einen Mangel an Zertifizierer*innen. Eine Herausforderung für uns besteht also nicht nur darin, den Prozess zu beschleunigen, sondern auch, ihn ressourcenschonend zu gestalten, denn a) die Kapazität der Zertifizierer*in muss ausreichen und b) Unternehmen, welche ihr Produkt zertifizieren lassen, dürfen nicht riesige Mengen an Ressourcen und Geld aufwenden müssen, um ihr Produkt auf den Markt zu bringen.
Warum ist das Projekt in Berlin und wie leiten Sie es?
DS: Das hat mehrere Gründe. Zunächst einmal: Warum Berlin? Wir haben das größte Ökosystem von KI-Unternehmen hier in dieser Stadt. Nur wenn wir die Probleme gemeinsam angehen, kommen wir zu einer Lösung, die dem/der Patient*in wirklich hilft. Zweitens: Petra sitzt in Berlin und leitet das Projekt auf europäischer Ebene. Sie führt im Grunde die Regie.
PR: Die Charité ist eine der größten Universitätskliniken in Europa, und wie Dirk schon sagte, haben wir ein sehr lebendiges Forschungsumfeld. Es gibt viele Entwicklungen im Bereich der künstlichen Intelligenz, sowohl im akademischen Bereich als auch in der Industrie. Diese Kombination von führender medizinischer Forschung und einem Team, das sie unterstützt, zusammen mit diesem Umfeld und dem Ökosystem, das in Berlin entsteht, sind wir sehr gut gerüstet, um diese große Initiative zu koordinieren.
DS: Alles dreht sich um Talente, und die gibt es hier in Berlin. Um ehrlich zu sein, geht es auch um die Finanzierung, und der Berliner Senat war so freundlich, das Projekt mitzufinanzieren, und Petra hat die Verantwortung übernommen, das Projekt von Anfang an zu leiten. Es ist also ein ganz natürlich entstandener Platz, an dem alles zusammenläuft.
PR: In der Tat haben wir viel Unterstützung erhalten. Es ist sehr wichtig zu wissen, dass 50% der Finanzierung von den Mitgliedsstaaten kommt, und in unserem Fall ist der Berliner Senat sehr hilfreich bei der Kofinanzierung, zusätzlich zum Berlin Institute of Health (BIH),das die Initiative ebenfalls unterstützt, und wir haben andere Unterstützer wie Berlin Partner, die ebenfalls sehr wichtig für das Projekt sind. Wir arbeiten auch mit Institutionen wie der Physikalisch-Technischen Bundesanstalt (PTB) und anderen wichtigen Akteur*innen zusammen.
Was sind die nächsten Schritte für TEF-Health und wie können interessierte Unternehmen Teil des Projekts werden?
PR: Das Projekt hat seine Arbeit aufgenommen. Wir hatten ein Kickoff Event im Januar, und die Partner*innen treffen sich nun in wöchentlichen Koordinationstreffen. Damit stellen wir sicher, dass am Ende alle Fäden zusammenlaufen und wir eine konsistente Infrastruktur schaffen und Synergien der einzelnen Partner*innen optimal nutzen. Im Juni ist ein übergreifender Launch Event in Kopenhagen geplant – gemeinsam mit den drei anderen geförderten TEFs in den Bereichen Smart Cities, Landwirtschaft und Handwerk.
Vielen Dank Ihnen beiden für Ihre Einblicke und alles Gute für die Zukunft von TEF.
*Dieses Interview wurde von Amira Gutmann-Trieb, Clustermanagerin bei IKT, Medien und Kreativwirtschaft bei Berlin Partner, geführt.
