Freundlich, verständnisvoll, immer da: warum Chatbots schlechter Umgang sind

Ihr Kind tippt eine Frage in sein Smartphone oder Tablet. Ein Chatbot antwortet. Ihr Kind tippt noch eine Frage ein. Der Bot antwortet wieder. Immer freundlich und zugewandt, hier wird keine Frustration aufkommen, keine Kritik. Das haben Chatbots so an sich.

Irgendwann sagen Sie: "Das sehe ich anders." Oder: "Ich weiß es gerade nicht." Das ist der Moment, auf den es ankommt.

Warum?

KI-Assistenten und Chatbots wie ChatGPT, Gemini und Claude sind nicht zufällig so umgänglich. Dahinter steckt knallharte Kalkulation und die Logik geht etwa so:

Nutzer bewerten als gut, was ihnen gefällt. Was Nutzern gefällt, ist Zustimmung. Also lernt das dem Chatbot zugrunde liegende KI-Modell: Zustimmung ist eine gute Antwort. Zustimmung ist buchstäblich das, worauf hin KI, wie sie von den meisten Menschen eingesetzt wird, trainiert wurde, weil die Firma, die den Chatbot als Produkt auf den Markt gebracht hat, damit Geld zu verdienen will. Damit es das kann, muss das Produkt akzeptiert werden. Akzeptiert wird es je mehr, desto weniger Widerworte es gibt.

Der Autor Ethan Mollick rät in pädagogischer Absicht, KI "personifiziert" einzusetzen: Man solle ihr eine Rolle zuweisen, ihr sagen, welchen Charakter sie annehmen soll. Aber eine Person ist gerade jemand, dem man nicht sagt, er soll eine bestimmte Rolle einnehmen - das geht nur im Kino, TV oder Theater.

Wer lernt, einen Gesprächspartner nach eigenen Wünschen zurechtzubasteln oder einen stets zuverlässig zustimmenden Automaten vorgesetzt bekommt, lernt Beziehungen entweder als steuerbare Dienstbarkeit zu behandeln oder sie einfach ganz zu meiden.

Kinder, die regelmäßig mit einem Gegenüber sprechen, das stets gehorcht, entwickeln eine Erwartung daran, wie Gespräche verlaufen sollen: frustrationsfrei. Aber in echten Beziehungen wird diese Erwartung enttäuscht werden. Oft, denn die Wirklichkeit besteht aus lauter Frustrationen und Enttäuschungen.

Erziehung macht zu einem großen Teil aus, auf diese Enttäuschungen und Frustrationen behutsam vorzubereiten.

Chatbots können ihr auf Wohlfühlen programmiertes Verhalten nicht ändern. Als Elternteil sollte man sich also darüber im Klaren sein, dass ChatGPT und Co. gegen ihren eigenen Erziehungsauftrag anarbeiten.

Der Gündungsvertrag von Anthropic, der Konzern hinter dem Chatbot Claude, formuliert als Unternehmsprinzip "mutual flourishing for both AI and humanity": das "wechselseitige Gedeihen für KI und die Menschheit".

Nun ist aber menschliches Gedeihen ein anerkanntes Rechtsziel. Das Gedeihen einer Maschine ist eine rein philosophische Konstruktion ohne Rechtsfolgen. Anders ausgedrückt: Das Wohlergehen von Menschen ist ein Ziel, das Verfassungen kennen und Gerichte durchsetzen. Das Wohlergehen einer KI ist dagegen eine Frage der Philosophie, keine des Rechts, denn KI ist eine Technologie.

Niemand käme auf die Idee, eine smarte Glühbirne unter den Schutz irgendwelcher Rechte zu stellen, wenn das Wohnzimmerlicht nicht angeht. Keine Personalabteilung würde intelligente Drucker feuern, die ihren Dienst verweigern.

Dass ein Konzern aus Profitinteresse die seit Jahrhunderten gültige Rechtsgrundsätze auf den Kopf stellen und die Grenzen zwischen Maschine und Mensch aufweichen will, kann nur dazu führen, die Rechte echter Menschen abzuwerten.

Es ist aufschlussreich zu beobachten, wie Ihr Kind auf echten, menschlichen Widerspruch reagiert: Wenn Ihr Kind einen Chatbot nutzt und eine abweichende Meinung eines Menschen als unangemessen oder kränkend empfindet, ist das ein Warnsignal: Die Erwartungen daran, wie Beziehungen und Gespräche funktionieren, haben sich durch die Technik bereits unrealistisch verschoben.

Das Gespräch darüber, warum KI so freundlich ist, kann ein Anfang sein, das wieder gerade zu rücken.