KI-Denkfehler #54: «KI-Texte erkennt man.»
Wörter wie «Herzstück», Gedankenstriche und Formulierungen wie «mehr als nur» sind in Schweizer Medien seit der Einführung von ChatGPT markant häufiger geworden. Das zeigt eine Auswertung, die Julia Krasselt, Professorin am Departement Angewandte Linguistik der ZHAW, für die «NZZ am Sonntag» gemacht hat. Sie untersuchte ein Korpus aus Deutschschweizer Medientexten auf typische KI-Ausdrücke. Das Ergebnis: KI verändert die Mediensprache messbar. Krasselt spricht von einem «Sprachwandel auf Speed». Zu den KI-Sprachzeichen zählt die Linguistin dreigliedrige Substantivaufzählungen nach dem Muster «X, Y und Z» oder Verben wie «zeigen» und «unterstreichen» sowie Adverbien wie «entscheidend», «zutiefst» und «präzise». Besonders auffällig ist die Zunahme des Gedankenstrichs sowie von Verneinungsstrukturen wie «nicht …, sondern …» und «keine …, sondern …». Solche Strukturen haben in den untersuchten Texten um rund 50 Prozent zugenommen. Krasselt betont: Die Statistik beweise nicht, dass Verlage KI-geschriebene Texte veröffentlichen. Denkbar sei auch, dass Journalistinnen und Journalisten durch ihre tägliche Berührung mit KI-Texten bestimmte Formulierungen unbewusst übernehmen, dass die Menschen also sprachlich die KI nachahmen. Eine spannende Auswertung, die nebenbei auch wichtige Erkennungszeichen von KI-Texten vorlegt. Heisst das im Umkehrschluss, dass sich KI-Texte zweifelsfrei erkennen lassen? Die Forschung zeigt etwas anderes. Detektoren irren sich häufig und benachteiligen ausgerechnet Menschen, die in einer Fremdsprache schreiben. Erfahrene Prüferinnen und Prüfer übersehen KI-Texte laut Studien fast vollständig. Und die vermeintlichen KI-Merkmale beeinflussen mittlerweile auch die Sprache der Menschen. Wer glaubt, KI-Texte zu erkennen, macht letztlich dasselbe wie die KI: Er erkennt Muster und fällt auf dieser wackligen Basis womöglich Urteile über Menschen.
Wer hat diese Worte geschrieben: Ein Mensch? Eine Maschine? Die KI? Ich kann Ihnen versichern: Diese Worte habe ich selbst getippt. Ich kenne allerdings kein Mittel, wie ich Ihnen das beweisen kann. Wir kennen alle diese kleinen Kästchen, die beim Aufrufen von gewissen Websites auftauchen: «Beweisen Sie, dass Sie ein Mensch sind!» Das wird immer schwieriger.
Ein Problem ist das vor allem für Schulen und Hochschulen. Lehrpersonen müssen wissen, ob ein Aufsatz von der Schülerin stammt oder bloss aus der Maschine. Redaktionen wollen wissen, ob ein Leserbrief echt ist. Wählerinnen und Wähler fühlen sich verschaukelt, wenn sich herausstellt, dass ein Politiker sich eine Rede von einer KI hat generieren lassen. Viele Leserinnen und Leser sind überzeugt, dass sie es einem Text ansehen, ob eine KI oder ein Mensch dahintersteht. Aber sieht man es wirklich? Schauen wir uns die Frage auf drei Ebenen an: bei den Maschinen, bei den Menschen und bei der Sprache selbst.
Maschinen erkennen Maschinen schlecht
Am 25. Mai 2026 veröffentlichte Papst Leo XIV. «Magnifica humanitas», seine erste Enzyklika. Untertitel: «Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz». In seinem ersten Lehrschreiben forderte Papst Leo XIV. eine Entwaffnung der Künstlichen Intelligenz: Sie müsse befreit werden «von den Logiken, die sie zu einem Instrument der Herrschaft, der Ausgrenzung und des Todes machen». Wenig später meldete sich Linch Zhang: Er hatte das Lehrschreiben mit Pangram getestet. Der KI-Detektor stufte mehrere Absätze zu 40 bis 100 Prozent als KI-generiert ein. Eines der (vermeintlichen) KI-Zeichen waren Gedankenstriche. Zhang zählte in der Enzyklika 127 lange Gedankenstriche. Frühere Lehrschreiben enthielten keinen einzigen. Der Vatikan liess das Schreiben daraufhin selbst prüfen und erklärte, es sei menschengemacht. Detektor stand gegen Detektor. Entscheiden lässt sich der Streit nicht: Am Ende ist es eine Frage des Vertrauens.
Solche raschen Urteile von Detektionstools sind nicht neu. Bereits im Januar 2023 veröffentlichte OpenAI ein Werkzeug, das KI-Texte erkennen sollte. Wenig später nahm die Firma das Tool wieder vom Netz, weil es zu unzuverlässig war. Es hatte nur gerade einen Viertel der KI-Texte als solche erkannt und gleichzeitig fast jeden zehnten menschlichen Text fälschlicherweise als KI-Text markiert. Die Trefferquote der KI-Detektoren hat sich seither etwas verbessert, ist aber weiterhin weit weg davon, zuverlässig zu sein. Besonders schlecht schneiden die Tools ab, wenn ein KI-Text von Hand überarbeitet, maschinell umformuliert oder übersetzt wird.
Ein Grund dafür: Viele Detektoren messen die Perplexität eines Textes, also wie vorhersehbar ein Text ist. KI-Texte weisen eine tiefe Perplexität auf, weil die Sprachmodelle mit Wahrscheinlichkeit arbeiten. Das machen aber nicht nur Sprachmodelle, auch Menschen, die in einer Fremdsprache schreiben, überraschen wenig, weil sie einen kleinen Wortschatz haben. Formelle Texte orientieren sich an einer formelhaften Sprache, die ebenfalls weniger Überraschungen bietet. Dasselbe gilt übrigens auch für Kochrezepte. Entsprechend häufig lösen KI-Detektoren bei diesen Texten Fehlalarme aus.
Dazu gibt es auch Studien. Das Team von Weixin Liang und James Zou in Stanford hat Aufsätze chinesischer Studierender aus dem Englischtest TOEFL von sieben Detektoren prüfen lassen. Mehr als die Hälfte wurde als KI-Text eingestuft, obwohl alle von Menschen stammten. Die Aufsätze von amerikanischen Achtklässlern dagegen erkannten die Detektoren korrekt als menschlich. Umgekehrt scheiterten die Detektoren an KI-Texten, wenn die KI angewiesen wurde, «literarischer» zu formulieren. So gesehen bestrafen die KI-Detektoren also einfaches Schreiben und Formelhaftigkeit der Sprache.
Unzuverlässiges Bauchgefühl
Maschinen erkennen KI-Texte also nicht zuverlässig. Und was ist mit den Menschen? Schliesslich kennen Lehrpersonen ihre Schülerinnen und Schüler, und Redaktoren kennen ihre Autoren. Aber auch die Menschen sind nicht zuverlässig. Die Forschungsresultate jedenfalls sind ernüchternd. Maurice Jakesch, Jeffrey Hancock und Mor Naaman liessen in sechs Experimenten 4600 Personen beurteilen, ob kurze Selbstdarstellungen, wie man sie für eine Bewerbung schreibt, von einem Menschen oder von einer KI stammten. Die Trefferquote entsprach etwa dem Zufall.
Interessant ist, dass sich die menschlichen Leser auch hier an Mustern orientierten: Wer in der Ich-Form schreibt, von der Familie erzählt oder umgangssprachliche Verkürzungen benutzt, wurde für einen Menschen gehalten. Das sind vernünftige Faustregeln, aber sie sind nicht zuverlässig. Letztlich sind es Muster, die auch die KI imitieren kann: Die Forschenden liessen die KI Texte schreiben, die gezielt diese Merkmale enthielten. Ergebnis: Diese Texte wirkten menschlicher als die Texte von Menschen.
Noch deutlicher fiel ein Experiment an der Universität Reading in England aus: Der Psychologe Peter Scarfe und seine Kollegen reichten im regulären Prüfungsbetrieb ihres eigenen Instituts Hausprüfungen von 33 erfundenen Studierenden ein, die alle von GPT-4 geschrieben worden waren. Die Korrektoren wussten nichts davon. 94 Prozent der KI-Arbeiten fielen nicht auf. Im Durchschnitt erhielten sie sogar bessere Noten als die Arbeiten der echten Studierenden.
Interessanterweise verfügen Menschen, die selbst häufig mit KI arbeiten, über ein gutes Sensorium für die KI. Das legen Forschungsresultate von Jenna Russell, Marzena Karpinska und Mohit Iyyer nahe: In ihren Tests sind fünf Vielnutzer bei 300 Sachtexten gemeinsam nur ein einziges Mal falsch gelegen. Sie haben KI-Texte damit besser erkannt als die meisten Detektoren. Wer dagegen selten mit KI arbeitet, schnitt nicht besser ab als der Zufall. Es ist also möglich, KI-Texte zu erkennen, aber es ist eine Fertigkeit, die man sich durch den Umgang mit der schreibenden KI erwirbt. Für die Lehrperson, die am Sonntagabend einen Stapel Aufsätze korrigieren muss, ist das allerdings kein Rezept.
Das Problem mit den Merkmalen
Menschen und Detektoren erkennen letztlich Merkmale wie den Gedankenstrich oder Formulierungen wie «mehr als nur». Das Problem dabei ist, dass sich diese Merkmale verändern, weil sich die KI weiterentwickelt. Sobald ein Merkmal als typisch gilt, kann man es der KI auch austreiben. Es gibt Programme, die KI-Texte gezielt «vermenschlichen», man kann seine KI aber auch schlicht anweisen, keine Gedankenstriche zu verwenden. Die Liste der Merkmale veraltet also sehr schnell.
Dazu kommt, dass wir Menschen prägnante Stilformen gerne übernehmen. Darauf weist Julia Krasselt von der ZHAW hin und das bestätigen auch Studien. Forschende des Max-Planck-Instituts für Bildungsforschung in Berlin um Hiromu Yakura haben Hunderttausende von Vorträgen auf YouTube und Podcast-Gesprächen untersucht. Sie haben festgestellt, dass auch in der gesprochenen Sprache, wo sich niemand seinen Text von der KI überarbeiten lassen kann, deutlich häufiger vermeintlich typische ChatGPT-Wörter auftauchen. Wir Menschen lassen uns halt gerne von markanten Sprachmustern anstecken.
Fazit
Wir müssen feststellen, dass sich KI-Texte weder von Menschen noch von KI-Tools zuverlässig erkennen lassen. Letztlich basieren alle Erkennungsmethoden auf Mustern und Merkmalen. Und die sind unzuverlässig, weil auch Menschen sich gerne an Muster halten.
Dazu kommt, dass hinter einem Text meistens nicht entweder die KI oder der Mensch steht. Manchmal schreibt der Mensch und die KI korrigiert, oder der Mensch diktiert und die KI transkribiert, oder ein Mensch schreibt auf Deutsch und lässt es übersetzen. Heute sind vermutlich die meisten Texte irgendwo zwischen diesen beiden Polen, KI und Mensch, angesiedelt.
Die entscheidende Frage lautet deshalb vermutlich weniger: «Hat das die KI geschrieben?», als: «Ist es ein guter Text?» und «Wer übernimmt dafür die Verantwortung?» Etwas anders sieht es in der Schule und an der Uni aus. Sie werden sich künftig nicht mehr auf Hausarbeiten stützen können. Die Lösung wird nicht ein besseres Tool für die Erkennung von KI-Texten sein. Was wir brauchen, das sind neue, performativere Unterrichts- und Prüfungsformen.
Zum Ausprobieren
Es bringt nicht viel, einen Text durch einen Detektor zu schicken. Ein Ergebnis wie «87 Prozent KI» ist lediglich eine Behauptung. Entscheidender ist, ob der Mensch, der behauptet, den Text geschrieben zu haben, seinen eigenen Text versteht und dahinterstehen kann.
In der Schule und im Journalismus ist der Schlüssel dafür ein Gespräch über den Text. Wie antwortet die Autorin, der Autor auf Fragen? Wie begründet sie oder er die Schlussfolgerung? Wo sind Schwachstellen in der Argumentation? Fragen Sie also nach Begründungen, Alternativen oder Grenzen, nicht bloss nach dem Inhalt des Textes. Im Gespräch merken Sie, ob er oder sie den eigenen Text versteht. Die Antwort auf die Frage: «Beweisen Sie, dass Sie ein Mensch sind», kann also nur ein Gespräch von Mensch zu Mensch geben.
Die Enzyklika von Papst Leo über die Menschheit und die KI hat übrigens hohe Wellen geworfen, weil der Papst darin KI-Unternehmen scharf kritisiert hat. Wir lernen daraus: Ob ein Text eine Wirkung erzielt, hängt nicht von KI-Detektoren ab. Die Enzyklika wirkt, weil der Papst dafür einsteht, unabhängig davon, wer welchen Absatz formuliert hat.
Basel, 10. November 2026, Matthias Zehnder mz@matthiaszehnder.ch
Bild: mz/Claude/ChatGPT
Nur dank Ihrer Unterstützung sind solche Texte möglich. Herzlichen Dank dafür!
Quellen:
Fulterer, Ruth; Läubli, Martina 2026: Sprachwandel auf Speed. Immer häufiger werden Texte mithilfe von KI verfasst. Eine exklusive Auswertung zeigt, wie sich die Sprache dadurch verändert hat, in: «NZZ am Sonntag», 11.10.2026, S. 46. Online: https://www.nzz.ch/wissenschaft/ki-veraendert-sprache-analysen-zeigen-neue-muster-in-medien-ld.10011958
Jakesch, Maurice; Hancock, Jeffrey T.; Naaman, Mor 2023: Human heuristics for AI-generated language are flawed, in: Proceedings of the National Academy of Sciences 120 (11), 03.2023, e2208839120. Online: https://doi.org/10.1073/pnas.2208839120
Liang, Weixin; Yuksekgonul, Mert; Mao, Yining u. a. 2023: GPT detectors are biased against non-native English writers, in: Patterns 4 (7), 07.2023, 100779. Online: https://doi.org/10.1016/j.patter.2023.100779
OpenAI 2023: New AI classifier for indicating AI-written text, 31.01.2023, mit Nachtrag vom 20.07.2023. Online: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
Russell, Jenna; Karpinska, Marzena; Iyyer, Mohit 2025: People who frequently use ChatGPT for writing tasks are accurate and robust detectors of AI-generated text, in: Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics, 07.2025. Online: https://aclanthology.org/2025.acl-long.267
Scarfe, Peter; Watcham, K.; Clarke, A. u. a. 2024: A real-world test of artificial intelligence infiltration of a university examinations system: A «Turing Test» case study, in: PLOS ONE 19 (6), 06.2024, e0305354. Online: https://doi.org/10.1371/journal.pone.0305354
Yakura, Hiromu; Lopez-Lopez, Ezequiel; Brinkmann, Levin u. a. 2024: Empirical evidence of Large Language Model’s influence on human spoken communication. Online: https://doi.org/10.48550/arXiv.2409.01754
Zhang, Linch 2026: Claude, Author of the Humanitas, Substack, 05.2026. Online: https://linch.substack.com/p/claude-author-of-the-humanitas
Ein Kommentar zu "KI-Denkfehler #54: «KI-Texte erkennt man.»"
Danke für die wiederum auch für mich interessanten Hinweise, obwohl ich die KI mit meiner Herz-, Kopf-, Hand- und Fussphilosophie weder nutze, noch als wahrhaftig schätze. Einigermassen tragisch finde ich, dass und wenn die KI mehr zur Verdummung der Menschheit als zur Aufklärung dient.