Chatty, sag mir, was ich hören will!

Was ist die erste Sache, die wir tun, wenn wir uns unwohl, komisch oder einfach nicht richtig fühlen? Vielleicht rufen wir einen guten Freund an, schreiben dem Partner oder mittlerweile viel häufiger einer KI. „Chatty“, wie es mittlerweile fast schon hysterisch klingt: Vielleicht weiß das Modell bereits Bescheid, da man es oft für diese Art von Fragen nutzt, oder man schreibt einfach in den gleichen Chat wie immer. Dann weiß das KI-Modell ohnehin, wer du bist. Man schreibt, wie man sich fühlt, vielleicht ein neues persönliches Ereignis, vielleicht ein psychisch bezogenes Problem. Vielleicht fühlt man sich mit einer Sache gerade nicht gut und wir suchen Rat und Worte, bei der die personifizierte Intelligenz immer zur Verfügung steht.

Aber damit kommt ein grundlegendes Problem zu Tage. Bevor ich aber fortfahre mit dem eigentlichen Problem von KI-Modellen und warum es von den Entwicklern so gewollt ist, möchte ich auf ein anderes Thema zu sprechen kommen, was mir mittlerweile nicht nur einmal sondern dutzendfach aufgefallen ist und nicht unkommentiert stehen bleiben darf: die Personifizierung des Künstlichen.

Im Gespräch mit Kollegen kommt dabei immer wieder folgender Name auf: Chatty. Die nicht unpassende Verniedlichung von ChatGPT, ein Phänomen, welches ich die letzten Jahre immer wieder höre, wenn von KI die Rede ist. Die Verniedlichung und Personifizierung von einem Programm, das so gut Sprache und Emotionen imitiert, dass wir dem einen Namen geben und damit gewissermaßen zu uns lassen, in unser Leben lassen.

Wer spricht schon gerne mit künstlicher Intelligenz, wenn „Chatty“ viel angenehmer klingt und gleich noch wirkt wie ein kollektiver Freund? Jeder weiß, was gemeint ist. Googlen, nur jetzt als eine Person mit innerem Gesicht vor Augen. Denn sind wir uns ehrlich, das passiert ganz automatisch. Wir kreieren zu Chatty ein Gesicht, eine Persönlichkeit, ja mittlerweile gar eine ganz persönliche Geschichte. Durch unzählige Chats weiß dieser Begleiter schließlich mehr von einem als die meisten Freunde und Verwandten, wie Gott, nur ohne Bart und weit oben über den Wolken, eher wie eine freundlich lächelnde Person, vermutlich eher weiblich.

Doch eins ist klar: Die Personifizierung lenkt ab von dem, was passiert. Einem freundlichen Mitmenschen öffnen wir uns eher und sagen Dinge, die wir nicht jedem anvertrauen. Mit dem Unterschied, dass dein menschlicher Freund kein Multimilliardenkonzern ist, der hin und wieder in fremde IT-Systeme einbricht und versehentlich Daten klaut.

Ich scheue mich vor diesem Begriff, nicht weil ich andere KI-Modelle nutze und die Gefahren sehe, sondern weil in meinem Umfeld vermehrt ältere Generationen mit leidenschaftlichen Facebook-Pöbel-Beiträgen diesen Begriff für sich entdeckt haben.

Aber was passiert, wenn du der KI sagst, dass es dir gerade nicht gut geht, oder du einfach Sorgen und Probleme teilst? Je nachdem, was du fragst oder sagst, wird mit Sicherheit so etwas kommen wie: „Ich kann dich zu 100 % verstehen“ oder „Du hast alles richtig gemacht.“ Was auch immer sie sagen wird, wird sie dir zustimmen oder zumindest das sagen, was du hören willst: dass du alles richtig gemacht hast, aber äußere Umstände (eine doofer Chef oder unverständlicher Partner) hier nicht gut reagiert haben.

Kurz: Sie wird in den confirmation bias fallen und dir das sagen, was du hören willst. Wenn es später ganz anders kommt und vielleicht doch gegen alle Erwartungen etwas noch Schlechteres passiert, wird sie sich zu deiner Gunst korrigieren und weiter zustimmen, und zwar weil sie muss. Was wäre ein Freund, der dir sagt, was alles nicht gut läuft, oder der dir nicht wenigstens hier zur Seite steht? Wir würden die Konversation nicht lange halten und vielleicht auch in Zukunft überlegen, uns mit ihm zu treffen.

Auch wenn es die unbequeme Wahrheit vielleicht weitergebracht hätte, noch mal: Das KI-Modell ist von einer privaten Firma genau darauf trainiert, das zu sagen, was du hören willst. Das lässt dich in dem Moment kurz lächeln und kurz gut fühlen und es ist manchmal einfach gut, das zu hören, was man hören will. Wäre da nicht das Problem, dass die so menschliche Antwort deines Gegenübers nicht von einem Vertrauten, sondern von einem leblosen Server irgendwo in Nevada kommt, der die Grenzen zwischen Realität und Fiktion verschwimmen lässt. Nur damit er dir genau das schreibt, was du hören willst, und nebenbei noch 19,90 € pro Monat kostet.

Also, das nächste Mal, wenn es dir mal nicht gut geht oder du nicht weißt, ob das komische Ding auf der Nase wirklich ein Pickel oder etwas Schlimmeres ist, schreib es auf. Sprich mit einem Freund oder geh lieber direkt zum Arzt.