Unternehmen werben mit „vertrauenswürdiger KI“, die europäische KI-Regulierung, der so genannte AI Act, fordert sie ebenfalls, und auch in der öffentlichen Debatte gilt Vertrauen als Gütesiegel für Sprachmodelle und Chatbots. Der Begriff hat sich längst in unserer Sprache festgesetzt. Aber das sei ein Problem, warnt die Philosophin Dorothea Winter im c't-Podcast „They Talk Tech“ mit Svea Eckert und Eva Wolfangel. „Das ist ein Kategorienfehler.“ KI sei im Kern eine Technologie der Selektion, deren Kriterien sich oft nicht mehr offenlegen ließen. Dabei von Vertrauen zu sprechen, sei falsch: Vertrauen könne man allenfalls den Menschen entgegenbringen, die solche Systeme entwickeln und einhegen. „Aber dem System selbst kann und soll ich nicht vertrauen.“

Winter hat an der Berliner Humboldt-Universität zu Intentionalität und KI promoviert und lehrt an der Humanistischen Hochschule Berlin. Ihr Blick auf die Technik beginnt bei einer alten Frage: Kann eine Maschine Kunst schaffen? Ihre Antwort ist klar: Mithilfe von KI lasse sich Kunst schaffen, aber allein kann die KI das nicht. Entscheidend sei die Intentionalität, also dass ein Mensch mit einem Werk etwas aussagen wolle. „Kunst ist einer der Bereiche, in denen wir Menschen wollen, dass Menschen sie machen“, erklärt sie und verweist auf Studien, nach denen Menschen Bilder und Musik als weniger ausdrucksstark bewerten, sobald sie sie für KI-generiert halten.

Dass viele Nutzerinnen und Nutzer Chatbots dennoch wie ein menschliches Gegenüber behandeln, hält Winter nicht für einen Zufall, sondern für Konstruktion. Dinge zu beseelen sei zwar urmenschlich – auch über das störrische Auto oder die bockende Kaffeemaschine reden wir schließlich vermenschlichend. Dennoch sei allen klar, dass es sich dabei nicht um Lebewesen handele. Bei KI-Systemen hingegen verschwimme diese Grenze, und zwar mit Absicht. „Unternehmen habe diese Systeme bewusst so gebaut, dass sie so wirken und dass Menschen eine Beziehung zu ihnen aufbauen.“ Das Geschäftsmodell dahinter sei, die Aufmerksamkeit möglichst lange zu binden.

Keine technische Lösung für sozialpolitische Themen

Heikel wird das für Winter dort, wo Chatbots soziale Lücken füllen sollen, etwa als niedrigschwelliger Ersatz für fehlende Therapieplätze. Im Einzelfall könne das helfen, sagt sie, insbesondere angesichts des überlasteten Gesundheitssystems. Die eigentliche Gefahr drohe dann, wenn dadurch weniger Therapieplätze angeboten werden: „Wir sollten nicht versuchen, sozialpolitische Themen und Unzulänglichkeiten technisch zu lösen.“

Dazu kommen Gefahren des sogenannten De-Skillings, also des Verlernens von Fähigkeiten, die man an Technik auslagert. Winter erinnert an skandinavische Länder, wo Bildungsforscher Kindern zeitweise die Handschrift nicht mehr beibringen wollten, weil sie später im Beruf und Alltag vor allem tippen würden. „Aber es zeigte sich, dass handschriftliches Schreiben dem Lernen nützt, auch wenn man es später kaum braucht“, sagt Winter. Ohne von Hand zu schreiben, konnten sich die Schülerinnen und Schüler manche Dinge schlechter merken. Deshalb wurde die Handschrift wieder eingeführt.

„Wir müssen als Gesellschaft entscheiden, welche Fähigkeiten wir abgeben wollen und welche nicht“, sagt sie. Natürlich sei es in Einzelfällen möglich, Irrtümer wie den mit der Handschrift zu korrigieren. „Aber gerade bei jungen Menschen und deren Zukunft sollte man sich lieber gut überlegen, was man auslagert und was nicht.“

Dazu kämen erste Forschungsergebnisse, die zeigten, dass gerade junge Menschen, die viel mit Chatbots interagierten, soziale Fähigkeiten verlernen könnten: „Wenn ich ein menschliches Gegenüber habe, dann wiederspricht mir diese Person auch mal und stimmt mir nicht nur zu.“

Und auch die Prognose, dass künftig niemand mehr selbst Texte verfassen müsse, hält Winter für falsch. Denn Texte zu schreiben sei mehr, als Informationen zu speichern: Es hilft auch, Dinge zu durchdenken. Dazu komme Kreativität: „Kreative Leistungen sind in hohem Maße Übung“, sagt Winter, „wer kreative Aufgaben an die KI auslagert, läuft Gefahr, den kreativen Muskel abzubauen und künftig keine kreative Leistung mehr umsetzen zu können.“

Zu den ganzen gesellschaftlichen Entscheidungen, die nun verhandelt werden müssten, komme das Problem der schleichenden Verantwortungsdiffusion. In komplexen technischen Strukturen wie bei der Nutzung von KI lasse sich kaum noch sagen, wer im Fehlerfall hafte: Datenlieferant, Entwicklerin, einsetzendes Unternehmen? In der Philosophie heiße das „Problem of many hands“. Diskriminiere ein KI-System zum Beispiel bei der Auswahl von Bewerberinnen wie 2018 bei Amazon, verteile sich die Schuld auf so viele Schultern, dass am Ende niemand sie trage.

„They Talk Tech“ erscheint jeden Mittwoch überall, wo es Podcasts gibt. Svea Eckert und Eva Wolfangel diskutieren ein Tech-Thema oder treffen inspirierende Frauen aus und rund um die Tech-Welt.

(mond)