Künstliche Intelligenz wird in der Medizin zum Beispiel eingesetzt, um Krankheiten auf Röntgenbildern zu erkennen. Sie kann damit unter anderem bei der Krebsdiagnose unterstützen. Doch um wirklich verlässlich genutzt zu werden, muss man verstehen, wie Maschinen zu ihren Ergebnissen kommen. Der deutsche KI-Pionier Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin und Direktor des Berlin Institute for the Foundations of Learning and Data (BIFOLD), beschäftigt sich mit den Möglichkeiten, aber auch Grenzen des maschinellen Lernens. In seinem Vortrag an der ÖAW mit dem Titel „KI für die Wissenschaften: Auf dem Weg zum Verständnis“ am 22. September ging es unter anderem um die Frage, wie KI-Modelle auf seltene Krankheiten reagieren. Und wie man Systeme entwickeln kann, die ihre eigene Unsicherheit erkennen und schwierige Fälle an Ärzt:innen weitergeben.

Gleichzeitig sieht Müller großes Potenzial darin, KI für die Chemie einzusetzen. Gerade in der Quantenchemie eröffnen KI-Modelle neue Möglichkeiten: Sie können aufwendige Berechnungen erheblich beschleunigen und dabei sehr genaue Vorhersagen für die quantenmechnischen Eigenschaften von Molekülen liefern.

In der Medizin kostet eine falsche Diagnose womöglich ein Leben.

Wo liegen die Grenzen von KI in der Medizin?

Klaus-Robert Müller: Das Problem bei den normalen Foundation Modellen, die in der Medizin eingesetzt werden, ist, dass sie ähnlich wie die großen Sprachmodelle, die wir kennen, halluzinieren können. Das möchte man in der Medizin natürlich nicht. Wenn die KI einem Autor oder einer Autorin Bücher unterjubelt, die sie gar nicht geschrieben haben, stirbt niemand. In der Medizin kostet eine falsche Diagnose womöglich ein Leben. Deshalb muss man verstehen, woher solche Fehler kommen und wie man sie ausschalten kann.

Können Sie ein Beispiel dafür bringen?

Müller: Was wir in der Pathologie untersucht haben: Was passiert, wenn man Daten von verschiedenen Kliniken zusammenbringt? Es kann sein, dass die KI eine Diagnose fälschlicherweise aufgrund der Klinik erstellt, aus der die Daten stammen. Wenn eine bestimmte Klinik zum Beispiel besonders viele Fälle von Lungenkrebs hat, kann das Modell lernen: Diese Krankheit ist bei uns sehr wahrscheinlich. Das hat dann allerdings nichts mit der konkreten Biologie der Patient:innen zu tun. Eine Diagnose muss unbedingt aufgrund der jeweiligen Biologie gestellt werden.

Wenn KI Krankheiten erkennen soll

Warum sind seltene Krankheiten für KI besonders schwierig?

Müller: Bei Magen- oder Darmkrebs gibt es rund 30 unterschiedliche Krebsarten, aber 95 Prozent der Fälle gehören zu drei oder vier häufigen Klassen. Die anderen 26 sind sehr selten. Wenn die Maschine einen neuen Datenpunkt (einer seltenen Krebsart) bekommt, wird sie deshalb leicht den Fehler machen, sich an eine der häufigen Krankheiten anzulehnen. Man kann dieses Problem aber in den Griff bekommen, indem man der Maschine beibringt, nur dann zu entscheiden, wenn sie sich wirklich auskennt. Seltene Fälle werden dann wie eine Anomalie oder ein Outlier behandelt. Das ist eine sehr konservative Art, das Problem zu lösen. Eigentlich würde man gerne auch für jede seltene Krankheit eine vernünftige Diagnose haben. Aber zunächst kann man sagen: Bei den häufigen Krankheiten sind wir uns sicher, bei den anderen nicht. Dann trifft die KI keine Entscheidung, sondern legt den Fall direkt dem Arzt oder der Ärtzin vor.

Die Frage ist: Wie kann man bestimmte Vorgänge automatisieren und so gut vorbereiten, dass die Menschen ihre Zeit effektiver nutzen können?

Sollte die Diagnose nicht ohnehin immer von menschlichen Fachkräften kommen?

Müller: Es gibt keinen Weg daran vorbei. Aber: 25 Prozent des medizinischen Personals geht in den nächsten fünf Jahren in Pension. Das ist eine Realität. Die Frage ist: Wie kann man bestimmte Vorgänge automatisieren und so gut vorbereiten, dass die Menschen ihre Zeit effektiver nutzen können? Wenn 25 Prozent weniger Ärzt:innen da sind, muss man dafür sorgen, dass die verbleibenden 75 Prozent ihrer Zeit möglichst gut einsetzen können.

Wie findet man heraus, wo KI sinnvoll unterstützen kann?

Müller: Jedes medizinische Fach hat Fragen, bei denen man gerne eine Maschine hätte, die unterstützt und eine sinnvolle Diagnostikunterstützung liefert. Wichtig ist aber, dass die Maschine auch sagt: Das ist außerhalb meiner Comfort-Zone. Herauszufinden, wo diese Grenze in den unterschiedlichen Krankheiten liegt, ist eine Herkules-Aufgabe. Das gilt für die Neurologie, die Pathologie, die Herz-Kreislauf-Medizin, die Nierenheilkunde und alle anderen Fächer. Die Menschen verbringen unterschiedlich viel Zeit mit unterschiedlichen Diagnosen. Man muss analysieren, was die großen Zeitfresser sind, die man mit möglichst großer Sicherheit durch KI unterstützen kann. Ganz wichtig ist die Zusammenarbeit zwischen Mediziner:innen und KI-Forscher:innen. Es geht nicht nur um einzelne Proofs of Concept, das ist nur der erste Schritt. Man muss wirklich den ganzen Weg bis in die Klinik gehen, damit die Entwicklung tatsächlich nutzbar wird.

Wie groß ist die Lücke zwischen Forschung und klinischer Anwendung?

Müller: Ich glaube, der Unterschied zwischen Dichtung und Wahrheit oder zwischen Hoffnung, Anspruch und Wirklichkeit ist sehr groß. Es gibt viele Papers (mehr als 250.000), die Wunderdinge der KI in der Medizin versprechen. Wenn man aber fragt, was davon tatsächlich in der Klinik angekommen ist, dann sind es vielleicht vier, fünf Dutzend. In der Medizin gibt es tolle Grundlagenarbeiten, zum Beispiel zur Krebsbiologie. Man liest auch, dass diese Erkenntnisse die Art und Weise verändern könnten, wie Krebs behandelt wird. Aber der Weg von der Grundlagenbiologie in die Klinik ist sehr, sehr weit.

Kann KI neue Erkenntnisse liefern?

Müller: Jetzt ist ein guter Zeitpunkt dafür, weil mehr und mehr Daten vorhanden sind. Man kann KI nutzen, um Mechanismen herauszufinden. Das heißt, die KI sagt etwas voraus, und man kann anschließend Methoden der Erklärbarkeit nutzen und untersuchen, warum sie so gut vorhersagen konnte. Damit kann man neue biologische Erkenntnisse gewinnen, aber auch Erkenntnisse, die in einem Sinne „actionable“ sind, also solche, die dann auch in die Klinik kommen können.

Von der Diagnose zur Medikamentenforschung

Welche Möglichkeiten gibt es in der Chemie?

Müller: Die Quantenmechanik ist die physikalische Theorie, die uns sagt, wie die Eigenschaften von Molekülen und Materialien sind: Energien, Polarisierungen, Reaktivitäten und vieles mehr. Das Problem ist, dass die Quantenmechanik sehr rechenintensiv ist. Man braucht pro Molekül rund fünf Stunden Rechenzeit. Was ich vorgeschlagen habe, war deshalb, ein Machine-Learning-Modell zu nehmen und die Gleichung nicht zu lösen, sondern ihr Ergebnis vorherzusagen. Das hat erstaunlicherweise funktioniert. In der Quantenchemie konnte man mit einem Machine-Learning-Modell, das mit wenigen Daten trainiert wurde, auch für sehr viele andere noch nie gesehene Daten gute Vorhersagen machen – ungefähr 30 Millionen Mal schneller.

Was bedeutet das für die Molekularforschung?

Müller: Es zeigt sich, dass Machine-Learning-Modelle quantenmechanisch sehr genau sein können. Man kann mit ihnen chemische Eigenschaften charakterisieren, wer an wen bindet oder Spektren – also Dinge, die Chemiker:innen oder Biolog:innen wissen wollen. Spannend daran ist, dass man nicht für jedes Molekül ein eigenes Modell entwickeln muss, sondern auch hier mittlerweile Foundationmodelle vorgeschlagen hat.

Warum ist das für die Pharmaindustrie interessant?

Müller: Für eine Pharmafirma ist es entscheidend zu wissen, ob ein kleines Molekül an die richtige Stelle bindet, damit ein gutes Medikament entwickelt werden kann. Es soll nicht toxisch sein oder Leberenzyme hemmen. Auch die metabolische Stabilität ist wichtig. Das sind chemische Eigenschaften dieser Moleküle. Es ist absehbar, dass solche quantenmechanisch genauen Modelle in den nächsten Jahren häufiger für diese Fragen zum Einsatz kommen und damit Pharmaunternehmen ihre Medikamentenentwicklung wesentlich voranbringen können.