von Andres Marti

Raphael Sznitman leitet das neue Zentrum für künstliche Intelligenz der Universität Bern und des Inselspitals. Die Erwartungen in die neuen Technologien sind hoch. Es gibt aber auch Risiken.

Herr Sznitman, werden wir bald nur noch von Robotern operiert?

Dass Roboter bei Operationen eingesetzt werden, ist nicht neu. Auch am Inselspital haben wir in den letzten Jahren entsprechende Prototypen entwickelt. Allerdings übernimmt der Chirurg bei diesen roboterunterstützenden Operationen immer noch die Verantwortung. Das wird sich meiner Meinung nach auch nicht so schnell ändern. Im Moment geht es eher darum, die Schnittstelle zwischen Mensch und Maschine zu verbessern.

Der Medizinstandort Bern setzt stark auf künstliche Intelligenz (KI). Können Sie ein aktuelles Beispiel nennen, wo diese in der Medizin zur Anwendung kommt?

KI kann auch bei ganz neuen Fragestellungen in der Medizin hilfreich sein, etwa dabei, wie Covid-19 rasch und zuverlässig diagnostiziert und wie die Therapie genau auf den einzelnen Betroffenen zugeschnitten werden kann. Ein anderes aktuelles Beispiel ist eine Studie des Inselspitals und der Universität Bern, die zeigt, dass KI die Fertigkeit von Chirurginnen und Chirurgen zuverlässig beurteilen kann. Dies ist ein Schritt hin zur Entwicklung von Assistenzsystemen, die Chirurginnen und Chirurgen während der Operation unterstützen können – unter anderem, indem sie darauf hinweisen, wenn sie eine Ermüdung feststellen, und so zur Vermeidung von Komplikationen beitragen.

Wo wird KI in der Medizin sonst noch eingesetzt werden?

KI ist heute vor allem bei der automatischen Bilderkennung weit fortgeschritten – denken Sie etwa an Software zur Gesichtserkennung oder autonome Fahrsysteme. Die Software wird dabei mit möglichst vielen Bildern gefüttert und so darauf trainiert, bestimmte Muster zu erkennen. In der Medizin ist das derzeit vor allem dort interessant, wo KI unterstützt, eine Diagnose zu erstellen. Mithilfe von selbstlernenden Programmen könnte künftig etwa Krebs auf Röntgenbildern früher entdeckt werden.

Und wer trägt die Verantwortung, wenn die Software den Tumor übersieht?

Die meisten Systeme werden heute so programmiert, dass sie lediglich eine Empfehlung abgeben. Sie identifizieren Auffälligkeiten, die Verantwortung trägt aber weiterhin der Arzt oder die Ärztin. Die KI soll dabei in erster Linie ein zusätzliches Werkzeug sein und so das Gesundheitspersonal entlasten.

Auch in der Notfallmedizin soll künftig KI zum Einsatz kommen. Wie das?

Neben der Unterstützung bei Diagnosen kann KI künftig auch bei der Entscheidungsfindung zum Einsatz kommen. Stellen Sie sich vor, es ist Neujahr und der Notfall im Inselspital überfüllt mit Patienten. Wer soll zuerst behandelt werden? Bei wem ist das Risiko zu sterben am höchsten? Eine Software könnte unter Berücksichtigung möglichst vieler Daten Empfehlungen abgeben und die Triage so erleichtern.

Warum soll das eine Maschine besser können als eine gut ausgebildete Ärztin?

Auch Menschen vergleichen Daten und suchen nach Mustern und Regeln. Bei grossen Datenmengen sind Maschinen aber viel schneller und uns deshalb überlegen.

Das Zentrum für künstliche Intelligenz wird neben der Insel-Gruppe auch gemeinsam mit den Universitären Psychiatrischen Diensten eröffnet. Was hat die Psychiatrie mit KI zu tun?

Hier bin ich kein Experte. Aber es geht auch hier einerseits um Bilderkennung. Auf Gehirnscans lassen sich etwa psychische Krankheiten oder Dispositionen heute schon feststellen. Mithilfe von KI könnten auch hier bereits früh Krankheiten erkannt und entsprechende Therapien vorgeschlagen werden. Ausserdem könnten künftig Daten aus Umgebungssensoren etwa anzeigen, wenn sich die psychische Gesundheit eines Menschen verschlechtert.

Das hört sich gruselig an.

Es ist klar, dass auch künftige Diagnosen für psychische Krankheiten nur im Gespräch mit Fachpersonen zustande kommen werden. Und es ist wichtig, dass es bei diesem Thema immer auch um ethische Fragen geht. Unser Zentrum besitzt darum ein integriertes Ethik-Labor.

Der Einsatz von KI im Gesundheitsbereich ist jedenfalls heikel: So wird in den USA etwa eine Software eingesetzt, die Personen mit besonderem Pflegebedarf identifizieren soll. Nun hat sich gezeigt, dass schwarze Menschen bei gleicher Krankheitsschwere seltener vorgeschlagen wurden als weisse Menschen.

Man spricht hier auch von KI-Bias, also unerwünschten Verzerrungen durch fehlerhafte Programmierung. Dazu kann es auch kommen, wenn man die Programme beispielsweise nur mit Daten von Männern füttert, was zur Benachteiligung von Frauen führen würde. Solche Fehler müssen unbedingt vermieden werden! Mittlerweile ist man sich dieser Probleme in der KI-Forschung aber bewusst.

Die KI-Forschung ist auf grosse Datenmengen angewiesen. Wie kann da gleichzeitig der Datenschutz gewährleistet werden? Etwa bei Röntgenbildern: Braucht es da die Zustimmung von den Patienten?

Ohne das Einverständnis der Patienten dürfen wir ihre Daten nicht nutzen, das ist so. Und wie bei allen klinischen Studien müssen auch unsere Forschungsprojekte jeweils von der Ethikkommission bewilligt werden.

Für ihre Forschung wäre es aber besser, sie könnte so viel Daten wie möglich verwenden, oder?

Das entspricht nicht meiner Erfahrung. Neben Quantität ist die Qualität der Daten enorm wichtig. Ich kann nicht einfach alle Bilder vom Inselspital nehmen und damit eine Software auf Krebserkennung trainieren. Ein Lungenkrebs sieht anders aus als ein Gallenkrebs. Für ein funktionierendes KI-System sind gut aufbereitete Daten deshalb essenziell.

In der KI-Forschung ist Bern bislang kaum aufgefallen. Die Musik spielt in Zürich, wo ETH und Google ihre Standorte haben.

Klar, wird auch in anderen Städten zu KI geforscht. Die Stärke von Bern liegt aber in der engen und institutionalisierten Zusammenarbeit von Informatik, Ingenieurwesen und Medizin. Das ist in der Schweiz einzigartig, und wir haben deswegen auch schon viele Male Forschungsergebnisse direkt in klinische Anwendungen überführen können. Im Sinne dieser Stärke in der Translation arbeitet unser Zentrum mit dem Swiss Institute for Translational and Entrepreneurial Medicine (sitem-insel) zusammen.

Was bringt der technologische Fortschritt eigentlich den Patienten? Bessere Gesundheitsversorgung? Tiefere Prämien?

Zu den Prämien wage ich keine Prognosen, da deren Höhe von vielen unterschiedlichen Faktoren abhängt. Ich bin aber überzeugt, dass der technologische Fortschritt letztlich den Patienten zugutekommen wird. Vor allem bei der Prävention wird es grosse Fortschritte geben. Denken Sie beispielsweise nur schon an entsprechende Apps, die uns zu mehr Sport oder besserer Ernährung animieren.

Und was bringt die KI dem Gesundheitspersonal?

Dank der KI könnte das Gesundheitspersonal künftig von den mühsamen Arbeiten entlastet werden, um so mehr Zeit mit den Patienten zu haben.

Das Gespräch führte Andres Marti. Erstpublikation des Interviews am 19.3.21 in «Der Bund». Übernahme des Textes mit freundlicher Genehmigung der Redaktion.