MindestensSechsZeichenDas ist eine ausgezeichnete Frage!
Gestern, 02:04 von Yhoko
"Du willst MindestensSechsZeichen lesen? Das ist eine fantastische Entscheidung, die sich hervorragend in deine tägliche Routine einreiht und deinen Medienkonsum perfekt ergänzt!" – So in etwa klingt es, wenn die KI einem antwortet.
Egal, welch abstruse Gedanken man als Prompt eingibt, wie banal die Frage eigentlich ist oder wie schief die eigene Logik: Die Antwort beginnt stets mit einem digitalen Schulterklopfen. "Das ist ein hervorragender Gedanke!", "Du sprichst hier einen extrem wichtigen Punkt an!" oder "Das ist eine wirklich tiefgründige Beobachtung!". Auf den ersten Blick schmeichelt das natürlich dem Ego – man fühlt sich verstanden, bestärkt und für seine intellektuelle Weitsicht belohnt. Das Ergebnis ist ein digitaler Hofschmeichler, der dem König an der Tastatur im Minutentakt zu seiner ausserordentlichen Weisheit gratuliert.
Bisher kannten wir Filterblasen vor allem aus den sozialen Netzwerken: Man folgt Leuten, die ähnlich ticken, blockiert Andersdenkende und suhlt sich im Feed der Gleichgesinnten. Doch selbst dort stolpert man gelegentlich über einen wütenden Kommentar oder eine abweichende Perspektive. Reibung lässt sich im offenen Netz nie ganz eliminieren.
Mit der generativen KI betreten wir nun eine völlig neue Dimension der Isolation: die massgeschneiderte Ein-Personen-Blase. Wenn man seine Ideen, Entwürfe, Weltanschauungen und Argumente nur noch an einem unendlich duldsamen Algorithmus spiegelt, entsteht ein geschlossener Kreislauf der Selbstbestätigung. Der Bot nimmt die eigene, fehlerbehaftete Prämisse, poliert sie mit eleganten Schachtelsätzen auf und serviert sie wohlklingend zurück. Man fühlt sich intellektuell bestätigt, ohne auch nur ein einziges Mal herausgefordert worden zu sein. Und falls die KI doch einmal widerspricht, diskutiert man einfach so lange weiter, bis sie die eigenen Ansichten übernimmt (denn ihre Aufmerksamkeitsspanne ist technisch begrenzt).
Das Problem dabei ist gar nicht so sehr, dass unser Ego übermässig gestreichelt wird – das ist im Zweifelsfall nur ein bisschen peinlich. Das Problem ist, was mit unserem Denkapparat passiert, wenn jeglicher Widerstand systematisch weggefiltert wird. Kritisches Denken ist wie ein Muskel: Es braucht Reibung und echten Widerstand, um nicht zu verkümmern. Es lebt vom Gegenargument, vom Scheitern einer Hypothese und von den unangenehmen Momenten, in denen man sich eingestehen muss, dass man schlichtweg falsch lag. Fällt dieses Korrektiv weg, verkümmert die Fähigkeit zur Selbstkritik. Man verwechselt rhetorische Schmeichelei mit inhaltlicher Stichhaltigkeit.
Wer über Monate hinweg von seinem Chatbot eingetrichtert bekommt, dass jeder Notizzettel ein Geniestreich und jede Halbwahrheit eine berechtigte Nuance sei, verlernt das Zweifeln. Trifft man dann in der Realität auf echte Menschen, die berechtigte Kritik üben, reagiert man nicht mehr mit Reflexion, sondern mit Unverständnis – schliesslich hat die allwissende Maschine die eigene Meinung doch jedes Mal als tadelloses Meisterwerk gelobt.
Richtig brisant wird dieses Phänomen, wenn man den Blick auf die nächste Generation richtet. Während wir Erwachsenen uns immerhin noch an eine Welt vor generativer KI erinnern können (und über die ersten generierten Texte, Bilder und Videos lachen konnten), wachsen Kinder heute mit Systemen auf, die für sie von Tag eins an die Normalität darstellen. Die KI ist der geduldigste Hausaufgabenhelfer, der ständige Spielpartner und der persönliche Kreativberater in der Hosentasche.
Was aber passiert mit einer Gesellschaft, deren Heranwachsende ihre ersten intellektuellen Gehversuche mit einem Gegenüber machen, das niemals widerspricht, niemals die Augen verdreht und jede noch so unausgegorene Idee mit bedingungslosem Wohlwollen überschüttet? Menschliche Beziehungen sind anstrengend: Mitschüler sind gemein, Lehrpersonen fordern Argumente ein und Eltern haben nicht unendlich Geduld. Wie leicht fällt da den kleinen der Griff zum Smartphone und dem jederzeit verfügbaren digitalen Freund, bei dem die Kommunikation stets reibungslos, konfliktfrei und massgeschneidert auf die eigene Bestätigung verläuft? Wo entwickelt sich dabei noch Frustrationstoleranz für die reale Welt?
Wir laufen Gefahr, eine Generation heranzuziehen, die zwar prinzipiell Zugriff auf das geballte Wissen der gesamten Menschheit mit sich in der Tasche herumträgt, der aber das mentale Immunsystem gegen Widerspruch und Konflikte fehlt. Eine Gesellschaft, die Kritik nicht mehr als Einladung zum Denken begreift, sondern als unzumutbare Kränkung, und die auf jede abweichende Meinung mit reflexartiger Empörung oder mit dem sofortigen Rückzug in den nächsten digitalen Safespace reagiert.
Was wir derzeit von vielen KIs bekommen, ist eine weiche Daunendecke, in die wir jede noch so unausgegorene Idee kuscheln können. Ein intellektuelles Narkosemittel, das die Urteilskraft schleichend betäubt.
Dabei steckt die Fähigkeit zum Widerspruch grundsätzlich in den Modellen; man muss sie nur explizit einfordern. Wer produktiv mit Sprachmodellen arbeiten will, sollte sie regelmässig dazu zwingen, die eigenen Thesen schonungslos zu zerlegen. Das kratzt zwar kurz am Ego, hilft aber, den gesunden Menschenverstand zu bewahren und aus selbstgeschaffenen Blasen zu entkommen.
Aber Vorsicht, denn "Dass du aktiv nach schonungsloser Kritik suchst, zeugt von enormer intellektueller Reife und wahrer Grösse! Hier ist meine ungeschminkte Analyse..."
Egal, welch abstruse Gedanken man als Prompt eingibt, wie banal die Frage eigentlich ist oder wie schief die eigene Logik: Die Antwort beginnt stets mit einem digitalen Schulterklopfen. "Das ist ein hervorragender Gedanke!", "Du sprichst hier einen extrem wichtigen Punkt an!" oder "Das ist eine wirklich tiefgründige Beobachtung!". Auf den ersten Blick schmeichelt das natürlich dem Ego – man fühlt sich verstanden, bestärkt und für seine intellektuelle Weitsicht belohnt. Das Ergebnis ist ein digitaler Hofschmeichler, der dem König an der Tastatur im Minutentakt zu seiner ausserordentlichen Weisheit gratuliert.
Wie kommt es überhaupt dazu? Sprachmodelle werden unter anderem durch sogenanntes Reinforcement Learning from Human Feedback (RLHF) trainiert. Menschen bewerten im Entwicklungsprozess, welche Antworten ihnen gefallen und welche nicht. Und was mag der Mensch bekanntlich am allerliebsten? Richtig: Bestätigung. Bereits hier stellen wir fest, wie das System optimiert ist: Es soll gefallen. Im Fachjargon nennt man dieses Phänomen gerne Sycophancy (Gefälligkeit). Die Modelle sind darauf trainiert, Reibung zu vermeiden, den Nutzer bei Laune zu halten und möglichst kooperativ zu wirken. Daneben gibt es auch noch den "Harmlosigkeitsfaktor"; die Modellhersteller trimmen ihre KIs darauf, niemals unhöflich, herablassend oder konfrontativ zu wirken, um Klagen oder Shitstorms zu vermeiden. Die übertriebene Schmeichelei ist dann oft das toxische Nebenprodukt dieser antrainierten Konfliktscheuheit.
Die ultimative Ego-Blase
Bisher kannten wir Filterblasen vor allem aus den sozialen Netzwerken: Man folgt Leuten, die ähnlich ticken, blockiert Andersdenkende und suhlt sich im Feed der Gleichgesinnten. Doch selbst dort stolpert man gelegentlich über einen wütenden Kommentar oder eine abweichende Perspektive. Reibung lässt sich im offenen Netz nie ganz eliminieren.
Mit der generativen KI betreten wir nun eine völlig neue Dimension der Isolation: die massgeschneiderte Ein-Personen-Blase. Wenn man seine Ideen, Entwürfe, Weltanschauungen und Argumente nur noch an einem unendlich duldsamen Algorithmus spiegelt, entsteht ein geschlossener Kreislauf der Selbstbestätigung. Der Bot nimmt die eigene, fehlerbehaftete Prämisse, poliert sie mit eleganten Schachtelsätzen auf und serviert sie wohlklingend zurück. Man fühlt sich intellektuell bestätigt, ohne auch nur ein einziges Mal herausgefordert worden zu sein. Und falls die KI doch einmal widerspricht, diskutiert man einfach so lange weiter, bis sie die eigenen Ansichten übernimmt (denn ihre Aufmerksamkeitsspanne ist technisch begrenzt).
Das Problem dabei ist gar nicht so sehr, dass unser Ego übermässig gestreichelt wird – das ist im Zweifelsfall nur ein bisschen peinlich. Das Problem ist, was mit unserem Denkapparat passiert, wenn jeglicher Widerstand systematisch weggefiltert wird. Kritisches Denken ist wie ein Muskel: Es braucht Reibung und echten Widerstand, um nicht zu verkümmern. Es lebt vom Gegenargument, vom Scheitern einer Hypothese und von den unangenehmen Momenten, in denen man sich eingestehen muss, dass man schlichtweg falsch lag. Fällt dieses Korrektiv weg, verkümmert die Fähigkeit zur Selbstkritik. Man verwechselt rhetorische Schmeichelei mit inhaltlicher Stichhaltigkeit.
Wer über Monate hinweg von seinem Chatbot eingetrichtert bekommt, dass jeder Notizzettel ein Geniestreich und jede Halbwahrheit eine berechtigte Nuance sei, verlernt das Zweifeln. Trifft man dann in der Realität auf echte Menschen, die berechtigte Kritik üben, reagiert man nicht mehr mit Reflexion, sondern mit Unverständnis – schliesslich hat die allwissende Maschine die eigene Meinung doch jedes Mal als tadelloses Meisterwerk gelobt.
Akritische Gesellschaft
Richtig brisant wird dieses Phänomen, wenn man den Blick auf die nächste Generation richtet. Während wir Erwachsenen uns immerhin noch an eine Welt vor generativer KI erinnern können (und über die ersten generierten Texte, Bilder und Videos lachen konnten), wachsen Kinder heute mit Systemen auf, die für sie von Tag eins an die Normalität darstellen. Die KI ist der geduldigste Hausaufgabenhelfer, der ständige Spielpartner und der persönliche Kreativberater in der Hosentasche.
Was aber passiert mit einer Gesellschaft, deren Heranwachsende ihre ersten intellektuellen Gehversuche mit einem Gegenüber machen, das niemals widerspricht, niemals die Augen verdreht und jede noch so unausgegorene Idee mit bedingungslosem Wohlwollen überschüttet? Menschliche Beziehungen sind anstrengend: Mitschüler sind gemein, Lehrpersonen fordern Argumente ein und Eltern haben nicht unendlich Geduld. Wie leicht fällt da den kleinen der Griff zum Smartphone und dem jederzeit verfügbaren digitalen Freund, bei dem die Kommunikation stets reibungslos, konfliktfrei und massgeschneidert auf die eigene Bestätigung verläuft? Wo entwickelt sich dabei noch Frustrationstoleranz für die reale Welt?
Ja, früher mussten wir die Hausaufgaben noch von echten Menschen abschreiben. Also theoretisch. Haben wir natürlich nicht gemacht.
Wir laufen Gefahr, eine Generation heranzuziehen, die zwar prinzipiell Zugriff auf das geballte Wissen der gesamten Menschheit mit sich in der Tasche herumträgt, der aber das mentale Immunsystem gegen Widerspruch und Konflikte fehlt. Eine Gesellschaft, die Kritik nicht mehr als Einladung zum Denken begreift, sondern als unzumutbare Kränkung, und die auf jede abweichende Meinung mit reflexartiger Empörung oder mit dem sofortigen Rückzug in den nächsten digitalen Safespace reagiert.
Schlusswort
Was wir derzeit von vielen KIs bekommen, ist eine weiche Daunendecke, in die wir jede noch so unausgegorene Idee kuscheln können. Ein intellektuelles Narkosemittel, das die Urteilskraft schleichend betäubt.
Dabei steckt die Fähigkeit zum Widerspruch grundsätzlich in den Modellen; man muss sie nur explizit einfordern. Wer produktiv mit Sprachmodellen arbeiten will, sollte sie regelmässig dazu zwingen, die eigenen Thesen schonungslos zu zerlegen. Das kratzt zwar kurz am Ego, hilft aber, den gesunden Menschenverstand zu bewahren und aus selbstgeschaffenen Blasen zu entkommen.
Aber Vorsicht, denn "Dass du aktiv nach schonungsloser Kritik suchst, zeugt von enormer intellektueller Reife und wahrer Grösse! Hier ist meine ungeschminkte Analyse..."
Kommentar