Für eine Studie sollten Menschen einen Essay schreiben. Die einen durften KI einsetzen, die anderen nicht. Wer KI am meisten nutzte, war mit dem Ergebnis besonders zufrieden. Warum wir der Versuchung trotzdem widerstehen sollten.
Seit die EU eine Kennzeichnung sogenannter Deepfakes verlangt, ist es nicht mehr nur ein gut begründeter Verdacht. Wer genau hinschaut, findet überall im öffentlichen Raum den Hinweis KI-generiert: in TV-Spots im Fernsehen, als „KI-Info“ bei Instagram, auf Plakatwerbung. Bei KI-Texten gilt diese Kennzeichnungspflicht allerdings nur, so steht es in der EU-Verordnung, wenn sie keiner „menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden“ und die „redaktionelle Verantwortung“ nicht von einer „natürliche[n] oder juristische[n] Person“ übernommen wurde.
Solange ich einen Text als meinen ausgebe (und damit Verantwortung für ihn übernehme), muss ich also, zumindest laut Verordnung, nicht kennzeichnen, dass er KI-generiert ist. Dabei machen Menschen mit KI vor allem das: „Texte verfassen und verbessern“, so das Ergebnis einer bitkom-Untersuchung. Nur für Alltagsfragen wie Rezepte und kleine Reparaturen wird KI noch häufiger eingesetzt.
KI-Texte sind ein Problem
Ich halte das für ein Problem. Denn wer KI-generierte Texte als seine ausgibt, reproduziert fremde Gedanken und täuscht das Publikum darüber, sie selbst gedacht zu haben. In den „Grundsätzen zum Einsatz von künstlicher Intelligenz bei Neue Narrative“, die wir in Ausgabe 29 veröffentlichen, haben wir es so formuliert: „Unserer Erfahrung nach wirken KI-generierte Texte zwar oberflächlich perfekt, dahinter steckt aber keine originelle Idee oder Erfahrung.“
Was meinen wir damit? Probieren wir es aus und geben Claude, dem Sprachmodell von Anthropic, zwei Hinweise und den Auftrag, daraus einen Text zu generieren:
- Seit der EU-Verordnung wird offenbar, dass KI längst überall ist.
- Das betrifft allerdings vor allem Visuelles.
Claude hat folgenden Fließtext formuliert:
Seit der KI-Verordnung der EU lässt sich schwarz auf weiß nachlesen, was ohnehin längst zu spüren war: Künstliche Intelligenz ist überall. Die neuen Kennzeichnungspflichten machen sichtbar, wie viele Inhalte inzwischen maschinell erzeugt oder bearbeitet werden. Allerdings betrifft das vor allem Visuelles. Ein manipuliertes Foto, ein generiertes Video, eine künstliche Stimme müssen als solche ausgewiesen werden, damit niemand Täuschung und Wirklichkeit verwechselt.
Auf Basis einer im Hintergrund ausgeführten Internetrecherche zur Verordnung hat Claude blitzschnell den ersten Stichpunkt ausgebaut. Der zweite Stichpunkt wird leicht umgestellt zur Einschränkung von Stichpunkt eins. Beim genauen Lesen fallen mir allerdings Ungereimtheiten auf. Es sind nicht die Dinge, die KI häufig vorgeworfen werden, nämlich z. B. Gedankenstriche und Antithesen („KI ersetzt meine Arbeit nicht. Sie erweitert meine Kapazität zu denken“) inflationär zu verwenden, sondern andere Eigenheiten:
- „Was ohnehin längst zu spüren war“: Dass sie sich längst überall spüren lässt, hätte ich konkret gemacht und nicht im Passiv umschrieben (vgl. erster Absatz).
- „Maschinell erzeugt oder bearbeitet werden“ – beschreibt diese Formulierung den Einsatz von generativer KI zutreffend? Auch vor 2022 wurden bereits viele Medieninhalte maschinell erzeugt und bearbeitet. Der Computeranimationsfilm Toy Story kam 1995 in die Kinos. Heutige KI generiert Inhalte aber weitgehend eigenständig.
- „Allerdings betrifft das vor allem Visuelles. Ein manipuliertes Foto, ein generiertes Video, eine künstliche Stimme …“ Es betrifft vor allem Visuelles, die KI zählt in ihrer Auflistung dann aber eine Stimme dazu, was irreführend ist.
- „Damit niemand Täuschung und Wirklichkeit verwechselt“: Das ist eine Interpretation der Verordnung, die zumindest streitbar ist. (Auch vor KI war Täuschung in der Werbung Standard. Echte Eiscreme würde unter Scheinwerferlicht viel zu schnell schmelzen.) Laut Verordnung geht es schlicht darum, KI-erstellte Inhalte als solche zu erkennen.

Hol dir eine kostenlose Ausgabe von Neue Narrative
Magazin kostenlos lesenFormulieren ist Denken
Der KI-Text wirkt nur auf den ersten Blick stimmig, in den Einzelheiten stecken lauter Ungenauigkeiten. Ich halte gutes Schreiben aber für wahrhaftiges Schreiben. Dazu muss ich jede Formulierung prüfen und abwägen. Stichpunkte sind ein guter Anfang, doch mindestens die Hälfte der Arbeit steckt im Ausformulieren; die einzelnen Textfragmente zu einem sinnvollen Ganzen zusammenzuführen. Erst dabei fällt mir oft auf, wo ich noch recherchieren oder nachdenken muss.
Solche Skrupel hat Claude nicht. Die KI liefert ohne Zetern und Murren in Sekundenschnelle einen Text – und stellt sich und den Gegenstand und einzelne Argumente oder vermeintliche Wahrheiten nicht infrage, sondern folgt statistischen Wahrscheinlichkeiten. Was dabei herauskommt, klingt häufig erstaunlich gut, es folgt aber keiner höheren Wahrheit.
Dass KI einfach nur ein stochastischer Papagei sei, also ein Wahrscheinlichkeitsautomat, greift aber ebenfalls zu kurz. Dafür gelingt es KI-Systemen viel zu gut, Anweisungen zu befolgen, inzwischen sogar hochkomplexe Probleme zu lösen, die Mathematiker*innen Tränen in die Augen treiben. Vorbei sind die Tage, in denen Chatbots kläglich an einfacher Mathematik (Welche Zahl ist größer: 0,09 oder 0,011?) scheiterten oder daran, die Buchstaben innerhalb eines Wortes zu zählen (Wie viele E hat Erdbeere?). Heutige Modelle schreiben im Zweifel ein kleines Programm, das ihnen eine definitive Antwort gibt.
Doch das funktioniert bei Sprache nicht. Sprache ist referenziell, sie bezieht sich auf etwas, das außerhalb der Sprache selbst liegt. Im Gegensatz zur Mathematik kann der Wahrheitsgehalt von Sprache nicht an sich selbst überprüft werden. KI kann zwar grammatisch fehlerfreie Texte schreiben, weil die Grammatik ein Regelsystem ist, das (größtenteils) definitive Aussagen darüber zulässt, ob ein Satz diese Regeln befolgt oder nicht. Auf der Bedeutungsebene geht das allerdings nicht.
„Die Erdbeere ist rot.“ Ob der Satz richtig ist, hängt von der spezifischen Erdbeere ab, die ich beschreibe. Unreife Erdbeeren sind grün. Unter besonderen Lichtverhältnissen lassen Erdbeeren sogar einen ganz anderen Farbeindruck zu. 2x2=4 ist dagegen immer richtig, unabhängig davon, wie die Zweien so drauf sind. Noch komplexer und schwieriger wird es bei abstrakten Konzepten wie Freiheit und Gerechtigkeit.
Im Gegensatz zur Mathematik kann der Wahrheitsgehalt von Sprache nicht an sich selbst überprüft werden.
KI ändert die Bedeutung
Das Problem ist: KI weiß, dass Erdbeeren meist als rot beschrieben werden, und manchmal auch als grün. Millionenfach. Und sie kennt die Begriffe von Freiheit und Gerechtigkeit. Sie hat nunmal große Teile allen jemals verschriftlichten Wissens verarbeitet. Deshalb scheint es oft so, als würde die KI richtig liegen, als würde sie die eigenen Gedanken gut formulieren können. Dabei merken wir gar nicht, wie wir manipuliert werden.
Dem Physiker und Science-Fiction-Autor Arthur C. Clarke zufolge ist „jede hinreichend fortschrittliche Technologie […] von Magie nicht zu unterscheiden“. Es ist einfach zu ungewöhnlich, undurchdringlich, unsere Vorstellungskraft strapazierend. Nicht mal die Menschen, die KI entwickeln, können wirklich nachvollziehen, wie diese zu ihren Ergebnissen kommt. Es ist eigentlich unmöglich, der KI nicht mit Ehrfurcht entgegenzutreten.
Wie gehen Menschen damit um, wenn ihnen diese magische Blackbox zur Verfügung steht, um einen Text zu schreiben? Forscher*innen haben das dieses Jahr in einer experimentellen Studie untersucht. Die Aufgabe war, einen Essay darüber zu schreiben, ob Geld glücklich macht. Die Experimentalgruppe durfte KI nach Belieben einsetzen, die Kontrollgruppe überhaupt nicht.
Das Ergebnis: KI beeinflusst nicht nur die Form, sondern auch den Inhalt. Wer mit KI schrieb, antwortete mit 70 Prozent höherer Wahrscheinlichkeit neutral auf die Fragestellung. Zudem sagten die Proband*innen, die KI verwendeten, dass ihr Text dadurch weniger kreativ und weniger nach ihnen selbst klinge. Doch die Zufriedenheit der Autor*innen mit ihren Essays war umso höher, je mehr die Proband*innen KI eingesetzt hatten.
Das kann nur auf den ersten Blick überraschen.
KI-Slop gibt es schon genug
Wer einen Essay schreibt, muss mit den Widersprüchen und Mehrdeutigkeiten des Lebens zurechtkommen, muss all die Beobachtungen, Gefühle und Gewissheiten zu dem Thema hinterfragen und in Beziehung setzen und so eine Haltung zum Thema entwickeln. Das ist kraftraubend, und es gelingt mal besser und mal schlechter. Demgegenüber steht die Maschine, die das Schreiben für uns in sehr geringer Zeit für sehr wenig Geld übernimmt.
Dafür zahlt man einen anderen Preis. Selbst auf dem Beifahrersitz beeinflussen Claude & Co. den Inhalt ganz erheblich. Sie nivellieren ihn. Sie entfernen das, was den Text einzigartig gemacht hat. Und die Leser*innen merken das. Obwohl das Internet gerade von KI-Texten überflutet wird, sind noch immer 80 Prozent der Texte bei Google auf Position 1 solche, die allein von Menschen geschrieben wurden. LinkedIn hat inzwischen einen eigenen Button eingefügt, um „KI-Slop“ zu markieren.
Darüber hinaus macht KI uns offenbar dümmer. Darauf deutet zumindest das Ergebnis einer Studie von April 2026 hin: Sobald KI nicht mehr genutzt werden durfte, sanken die Beharrlichkeit und Leistung der Proband*innen beim Lösen von Matheaufgaben deutlich. Laut den Forscher*innen hat das zwei Gründe:
- KI senkt die akzeptable Dauer zur Erledigung bestimmter Aufgaben dramatisch. Was vorher Tage dauerte, gelingt KI scheinbar in Minuten.
- KI entfernt das „produktive Ringen“ auf dem Weg zu akkuratem Wissen und Selbsterkenntnis. Die Fähigkeit, Aufgaben selbst zu erledigen, nimmt auf Dauer ab.
Die langfristigen Auswirkungen auf unsere Gehirne lassen sich noch nicht abschätzen. Die Autor*innen resümieren aber, dass, wenn bereits kurze KI-Interaktionen messbare Effekte haben, die langfristigen Auswirkungen „tiefgreifend und schwer rückgängig zu machen sind“.
Wir sollten uns also genau überlegen, ob wir wirklich unser Denken an die KI auslagern wollen. Nichts anderes tun wir nämlich, wenn wir KI für uns schreiben lassen. Dadurch wird nicht nur das Geschriebene durchschnittlich. Auch unsere Fähigkeit, Außergewöhnliches zu schaffen, droht Mal um Mal abzunehmen.





