Das Problem der unausgewogenen Daten

Künstliche Intelligenz (KI) in der Medizin verspricht, Diagnosen zu unterstützen und Behandlungen zu verbessern. Doch die Modelle sind nur so gut wie die Daten, mit denen sie trainiert werden. Da diese Daten oft einen verzerrten Ausschnitt der Realität darstellen, sind auch die KI-Modelle voreingenommen – ein Phänomen, das als Bias bezeichnet wird. Stanislav Frolov, wissenschaftlicher Mitarbeiter am DFKI, hat sich im Projekt „MedGenAI“ intensiv damit beschäftigt. „Eine KI lernt immer aus Daten. Und diese Daten sind immer ein Ausschnitt unserer Welt“, erklärte Frolov im Interview. Ein realistisches Ziel sei daher nicht, den Bias von KI-Modellen vollständig zu beseitigen. Vielmehr gehe es darum, sichtbar zu machen, „welche Bias es gibt, wie man sie messen kann und was man dagegen tun kann.“

Besonders deutlich wird dies bei der Hautkrebserkennung. Das Melanom ist die gefährlichste Form von Hautkrebs, doch die Heilungschancen sind bei frühzeitiger Erkennung gut. KI könnte hier helfen, doch die Trainingsdatensätze sind unausgewogen. „Zum Beispiel kommen dunklere Hauttypen und auch jüngere Menschen viel seltener vor“, so der Forscher. Dies führe dazu, dass die KI für diese Gruppen schlechter funktioniere und die Fairness der Modelle kaum überprüft werden könne.

Synthetische Bilder als Lösungsansatz

Das Projekt „MedGenAI“ begegnet diesem Problem mit einem generativen KI-Modell, das synthetische Bilder von Hautkrankheiten erzeugt. Diese sind gezielt nach Parametern wie Geschlecht, Alter und Hauttyp steuerbar. „So können wir dann mit diesem generativen Modell Testgruppen bauen, also auch Kombinationen, die es in echt kaum gibt“, erläuterte Frolov. Eine Weboberfläche ermöglicht den Nutzenden, Parameter auszuwählen und die Generierung zu starten, um so Schwachstellen wie demografische Verzerrungen präzise aufzudecken.

Um die Qualität der künstlichen Bilder sicherzustellen, werden sie mit echten Daten verglichen und durch eigene Prüfmodelle gefiltert. Im medizinischen Bereich sei es zudem „unverzichtbar, Expertise von Fachärzten einzuholen, die sich diese Bilder anschauen und prüfen, ob sie klinisch plausibel sind“, betonte Frolov. Er stellte klar, dass künstliche Daten echte Daten nicht ersetzen, sondern ergänzen sollen.

Mit „Counterfactuals“ den Bias aufdecken

Um den Bias eines Modells präzise zu messen, nutzt das Team sogenannte Counterfactuals. Dabei wird eine „Was-wäre-wenn-Frage“ gestellt: Man nimmt das Bild einer Hautveränderung und erzeugt eine Variante, bei der nur ein Aspekt, zum Beispiel der Hautton, verändert wird. „Gibt es mir immer noch die gleiche Diagnose mit der gleichen Sicherheit oder fängt es an, unsicher zu werden?“, umriss Frolov die Kernfrage. Solche Counterfactuals seien nützlich, „weil man damit den Bias analysieren und messen kann.“

Für die Zukunft sieht Frolov drei zentrale Anwendungsbereiche von KI-Modellen in der Hautmedizin: Sie können als Prüfwerkzeuge für neue Diagnosemodelle und als Trainingsbaustein zur Schließung von Datenlücken dienen. Counterfactuals zeigen schließlich, welche Merkmale ein KI-Modell für unfaire Vorhersagen nutzt. Doch trotz aller Fortschritte sei eines klar: „Bevor so ein Modell in der Klinik wirklich zum Einsatz kommt, braucht es echte Studien mit echten Patienten und die Prüfung von Fachleuten.“

(igr)