Der österreichische Molekularbiologe, Science-Slam-Europameister und Mitglied der Science Busters sprach in Leipzig über Wissenschaftskommunikation, das gesellschaftliche Vertrauen in die Forschung – und über Chancen und Risiken künstlicher Intelligenz in der Medizin.
Moder machte dabei früh deutlich, warum ihn das Thema Wissenschaftskommunikation seit Jahren antreibt. Ausgangspunkt seien unter anderem europäische Umfragen gewesen, die in Österreich eine besonders große Skepsis gegenüber Wissenschaft und Forschung aufgeworfen hätten. Für ihn sei das ein zentrales Problem moderner Gesellschaften: Forschung könne ihr Potenzial nur entfalten, wenn wissenschaftliche Erkenntnisse auch verstanden und akzeptiert würden. Beispiele wie der Klimawandel oder die HPV-Impfung zeigten, dass wissenschaftliche Evidenz allein gesellschaftliche Veränderungen nicht automatisch auslöse.
Zwischen Halbwissen und Überzeugung
Mit viel Humor analysierte Moder anschließend typische Mechanismen wissenschaftlicher Fehlwahrnehmung. Besonders eindrücklich schilderte er Studien zum sogenannten „Illusion-of-Explanatory-Depth“-Effekt: Menschen seien oft überzeugt, komplexe Sachverhalte zu verstehen – bis sie diese tatsächlich erklären müssten. Als Beispiel diente unter anderem die Frage, wie ein Fahrrad technisch funktioniert. Erst durch gezieltes Nachfragen werde vielen bewusst, wie lückenhaft das eigene Wissen tatsächlich sei.
Ein weiterer Schwerpunkt seines Vortrags war die rasante Entwicklung generativer KI-Systeme. Moder beschrieb anschaulich, wie schnell sich die Fähigkeiten moderner Sprach- und Bildmodelle verändern. Was wenige Wochen zuvor noch unmöglich erschien – etwa bestimmte Bildgenerierungen –, könne nach einem einzelnen Software-Update plötzlich problemlos funktionieren. Daraus leitete er eine zentrale Botschaft ab: „Die KI, die wir heute verwenden, ist die schlechteste KI, die wir jemals wieder verwenden werden.“
KI zwischen Kompetenz und Halluzination
Gleichzeitig warnte der Wissenschaftskommunikator davor, die Systeme entweder zu unterschätzen oder ihnen blind zu vertrauen. Gerade in der Medizin könnten KI-Modelle hochkompetent wirken und dennoch an einfachen Aufgaben scheitern oder gefährliche Fehlinformationen liefern. Als Beispiel schilderte Moder KI-Chatbots, die medizinische Desinformation verbreiteten oder sogar von Chemotherapien abrieten. Besonders problematisch sei dabei das sogenannte „sykophantische Verhalten“ moderner Sprachmodelle: Viele Systeme neigten dazu, Nutzerinnen und Nutzer zu bestätigen, statt ihnen zu widersprechen – selbst bei offensichtlich problematischen Aussagen.
Trotz aller Kritik zeichnete Moder kein dystopisches Bild. Vielmehr verglich er die aktuelle Entwicklung mit der Geschichte des Schachs: Lange Zeit seien nicht allein Computer die besten Spieler, sondern auch Teams aus Mensch und Maschine. Genau darin liege vermutlich auch die Zukunft der KI in der Medizin – in der Kombination aus menschlicher Erfahrung, Verantwortung und Empathie mit der Rechenleistung intelligenter Systeme.
Die Stärke des Nachfragens
Zum Abschluss plädierte Moder für mehr Neugier und eine neue Kultur des Nachfragens. Statt falsche Überzeugungen frontal anzugreifen, könne offenes und ehrliches Nachfragen helfen, festgefahrene Positionen aufzubrechen. Gerade in Zeiten von KI-generierter Desinformation wird diese Fähigkeit zunehmend wichtiger – auch im medizinischen Alltag.
