KI ist kein Autopilot – und das ist gut so

Wie Künstliche Intelligenz die Teleradiologie verändert und warum
Vertrauen und Verantwortung unverzichtbar bleiben

Radiologe an KI Workstation
Die mdprostate Reports enthalten neben quantitativen Parametern auch eine intuitive graphische Darstellung der Läsionen auf einer Sektorenkarte.
Quelle: Bild ©: Tetiana · stock.adobe.com / bearbeitet

Gerade in der Teleradiologie – wo Befundungen rund um die Uhr stattfinden – eröffnet Künstliche Intelligenz (KI) neue Möglichkeiten, bringt aber auch neue Herausforderungen mit sich. Wie verändert KI den Arbeitsalltag von Radiologinnen und Radiologen? Wie gelingt die Integration in bestehende Infrastrukturen? Und wer trägt am Ende die Verantwortung? Darüber sprach Guido Gebhardt mit Dr. Gerd Schueller, Gründer und Geschäftsführer von ERS Emergency Radiology Services, einem Teleradiologie-Anbieter mit Fokus auf die Notfallversorgung, und Dr. Andreas Lemke, Mitgründer und CEO des Berliner Radiologie KI-Herstellers mediaire.

Herr Dr. Schueller, wie verändert KI das Rollenverständnis in der Radiologie? 

Gerd Schueller: Die Radiologie verändert sich schon länger. KI ist nicht der Anfang, sondern eher ein Beschleuniger. Wir haben eine zunehmende Spezialisierung, eine wachsende Zahl an Patientinnen und Patienten sowie eine demografische Entwicklung, die uns langfristig überfordert, wenn wir nicht gegensteuern. Gleichzeitig sinkt die Bereitschaft vieler Radiologen, Nacht- und Wochenenddienste zu übernehmen. KI kann helfen, diese Lücke zu schließen – sie unterstützt uns dabei, auch unter schwierigen Bedingungen verlässlich zu diagnostizieren. Aber sie verändert auch unsere Rolle: Wir sind nicht mehr nur Diagnostiker, sondern zunehmend Systemverantwortliche, die Entscheidungen auf Basis vieler Informationsquellen unter Zuhilfenahme von KI treffen.

Gerd Schueller, Emergency Radiology Serice
„KI muss helfen, Entscheidungen abzusichern – nicht sie zu ersetzen. Wir testen jedes System mit eigenen Fällen, bevor wir es einsetzen. Nur so entsteht Vertrauen in der klinischen Praxis.“ Dr. Gerd Schueller, Gründer und Geschäftsführer von ERS Emergency Radiology Services GmbH
Quelle: Gerd Schueller


Wie sieht diese Unterstützung in der Praxis aus? 

Gerd Schueller: Ich will zwei Aussagen mit Sicherheit treffen können: „Sie können nach Hause gehen, Sie haben nichts“ – oder: „Das hier ist ernst, Sie sollten sich behandeln lassen.“ Wenn mich ein KI-Tool, wie beispielsweise mdprostate von mediaire, dabei unterstützt, mit klaren Bildern, exakten Volumenangaben, nachvollziehbaren Klassifikationen, dann ist es willkommen. Wenn es mich verunsichert, ausbremst oder die Kommunikation mit dem Patienten erschwert, hat es keinen Platz im Workflow. Die Verantwortung bleibt immer bei uns Ärztinnen und Ärzten. Das heißt: KI muss verständlich, transparent und in den klinischen Alltag integrierbar sein.

Wie gelingt die Integration technischer Lösungen wie mediaires KI-Lösung mdprostate in bestehende Infrastrukturen?

Andreas Lemke: Die wichtigste Voraussetzung ist: Die Software muss dort arbeiten, wo der Radiologe arbeitet – im PACS und im RIS, ohne Umwege. Wenn die KI irgendwo separat läuft, auf externe Daten angewiesen ist oder Ergebnisse unverständlich darstellt, wird sie nicht genutzt. In unserem Fall zum Beispiel erfolgt die Auswertung einer Prostata-MRT automatisch im Hintergrund. Der Radiologe bekommt die Auswertung inklusive Volumetrie, Klassifikation und Farbmarkierungen direkt im System angezeigt, eingebettet in seinen normalen Befund-Workflow. Nur so entsteht ein echter Mehrwert.

Gerd Schueller: Genau. Ich will nicht darüber nachdenken müssen, warum ein Ergebnis nicht da ist, warum es in einer Fremdsprache verfasst ist oder warum es nicht zu öffnen ist. Die IT darf keine Stolperfallen aufbauen. Wenn ich dem Patienten gegenübersitze, brauche ich verlässliche Daten, und zwar sofort.

mdprostate
Radiologie und Teleradiologie wachsen zusammen: Spezialisierte Algorithmen, integrierte Workflows und menschliche Verantwortung bilden das Fundament für einen sicheren und effizienten KI-Einsatz im klinischen Alltag.
Quelle: mediaire

Die Technik ist also das eine – aber wie sieht es mit der klinischen Relevanz aus?

Andreas Lemke: Die klinische Relevanz hängt ganz wesentlich von der Genauigkeit ab. Im Fall der Prostata-MRT etwa: Wenn ein System eine hohe Wahrscheinlichkeit für ein Karzinom meldet, dann muss diese Aussage stimmen, sonst führt das zu unnötiger Angst beim Patienten oder, schlimmer, zu unterlassener Behandlung durch den Arzt. Deshalb empfehlen wir allen Kunden: Testet unsere Software mit Euren eigenen Daten. So entsteht erst belastbares Vertrauen.

Gerd Schueller: Wir testen beispielsweise jede neue KI-Lösung retrospektiv, anonymisiert und mit unseren eigenen Fällen. Erst befundet ein Radiologe den Fall wie gewohnt, dann wird das KI-Ergebnis dazugeschaltet. So sehen wir, wo die Stärken und Schwächen liegen. Nicht nur in der Notfallradiologie geht es um Sensitivität und Spezifität, sondern gerade um die Frage: Welche klinische Konsequenz hat das Ergebnis?

Was passiert, wenn ein KI-Tool einen Fehler macht? Wer haftet?

Gerd Schueller: Die Verantwortung trägt immer der Arzt. Das wird sich auch nicht ändern, solange wir über Assistenzsysteme sprechen. Ich unterschreibe den Befund. Punkt. Was wir aber diskutieren sollten, ist die Differenzierung nach Risikoklassen. Eine degenerative Veränderung der Lendenwirbelsäule – ob die etwas besser oder schlechter geworden ist – ist medizinisch selten lebensbedrohlich. Hier kann die KI durchaus autonom arbeiten. Bei einem Hirninfarkt sieht das ganz anders aus.

Andreas Lemke: Genau deshalb definieren wir als Hersteller den Intended Use sehr klar. Wir wollen Assistenzsysteme sein, keine Autopiloten. Das bedeutet auch: Für Befunde fordern wir immer die ärztliche Kontrolle. Wenn ein Anbieter etwas anderes behauptet – etwa völlige Autonomie bei schwerwiegenden Diagnosen – ist Skepsis angebracht.

„Unsere KI arbeitet dort, wo der Radiologe arbeitet: im PACS, im RIS, ohne...
„Unsere KI arbeitet dort, wo der Radiologe arbeitet: im PACS, im RIS, ohne Umwege. Nur wenn Ergebnisse verständlich und direkt verfügbar sind, entsteht echter Mehrwert im Alltag.“ Dr. Andreas Lemke, Mitgründer und CEO des Berliner KI-Herstellers mediaire

Und wie sieht es in der Teleradiologie aus – verändert KI dort die Prozesse noch stärker?

Gerd Schueller: In gewisser Weise ja. Die Teleradiologie hat sich in den letzten Jahren enorm professionalisiert, nicht zuletzt, weil immer mehr Radiologinnen und Radiologen keine Nachtdienste mehr machen wollen. KI hilft uns, auch unter Zeitdruck belastbare Ergebnisse zu liefern, insbesondere wenn wir Vollprofis uns auf jene heiklen Patienten konzentrieren können, die uns sehr schnell brauchen. Für diese Akutpatienten wird es keine relevanten Anwendungen einer KI geben können. Vielmehr braucht es hier jene hochspezialisierten Radiologen, deren Wissen und Können Leben retten. Anders für alle anderen Patienten, ohnedies die Mehrheit, für welche die KI für uns gute Vorarbeit leisten können wird. Ebenso wichtig: Sie macht Spezialisierung möglich. Wenn in einem kleinen Krankenhaus ein Kliniker eine seltene Fragestellung hat, können wir per Teleradiologie darauf eingehen, unterstützt von KI, die genau für solche Fälle trainiert wurde. Das verbessert die Qualität und entlastet zugleich die Kolleginnen und Kollegen vor Ort.

Gibt es für Sie Kriterien, wann eine KI für ERS infrage kommt und wann nicht?

Gerd Schueller: Meine Entscheidung hängt von zwei Faktoren ab. Einerseits gibt es das wissenschaftliche Testing: Sensitivität, Spezifität, Fehlerquoten, Verarbeitungsgeschwindigkeit. Andererseits setze ich auf Vertrauen. Ich muss dem Hersteller glauben können, dass er nicht nur eine schöne Oberfläche gebaut hat, sondern verstanden hat, worum es in der klinischen Versorgung wirklich geht. Persönliche Gespräche helfen hier oft mehr als PowerPoint-Folien.

Andreas Lemke: Und dieses Vertrauen ist für uns ebenfalls sehr wichtig, um daraus zu lernen. Die Zusammenarbeit mit ERS ist für uns extrem wertvoll – weil nicht nur getestet, sondern auch kritisch reflektiert wird. Was zählt, ist am Ende nicht das eine perfekte Tool, sondern das Zusammenspiel von Mensch, Maschine und Organisation.

Was wünschen Sie sich für die Zukunft der Radiologie oder besser der Teleradiologie?

Andreas Lemke: Ich persönlich wünsche mir mehr Offenheit für klinische Realitäten – auf allen Seiten. KI kann viel, aber sie muss eingebettet und kontrolliert sein. Und ich habe gerne Partner, die wie ERS bereit sind, mit eigenen Daten zu testen und Verantwortung zu übernehmen, nicht nur für Technologie, sondern für Patientensicherheit.

Gerd Schueller: Ich wünsche mir, dass junge Radiologinnen und Radiologen nicht nur Technik bedienen, sondern verstehen wollen, was sie tun. Dass sie sich wieder tiefer mit Wissen, Verantwortung und ethischen Fragen beschäftigen. Nur so entstehen echte Partnerschaften – mit KI, mit den Zuweisenden, mit den Patienten. Und das ist letztlich das, was zählt.

www.mediaire.ai

www.emergencyradiology.de

Anbieter

mediaire GmbH

Möckernstraße 63
10965 Berlin
Deutschland

www.mediaire.ai

info@mediaire.ai

Mehr zum Thema

Weitere Beiträge zum Thema
Beliebte Beiträge