Substack will transparent machen, wie viel Maschine in einem Text steckt. Künftig können Leserinnen und Leser Beiträge, Notizen, Antworten und Kommentare auf KI‑Anteile prüfen lassen. Möglich macht das eine Integration des KI-Erkennungsdienstes Pangram.
Das neue Werkzeug heißt im Menü „Auf KI-Text scannen“. Wer in der Substack‑App oder im Web oben rechts auf die drei Punkte klickt, kann längere Texte scannen lassen. Die Funktion arbeitet nur bei Inhalten ab 100 Wörtern und zeigt eine Schätzung, wie viel davon vermutlich mit KI erstellt oder von KI stark unterstützt wurde. Die Funktion ist nur für Texte verfügbar, die ab dem 21. Juli veröffentlicht worden sind.
KI-Nutzung soll transparent werden
Substack‑Mitgründer und CEO Chris Best beschreibt das Ziel als Transparenzoffensive: Nicht der Einsatz von KI an sich sei das Problem, schreibt er, sondern der Moment, in dem Leserinnen glauben, einen Menschen zu lesen – und stattdessen auf generierte Prosa stoßen. Für solche Täuschungsmanöver verwendet er den Begriff „Claudefishing“: „Das Problem entsteht, wenn die Erwartungen eines Lesers nicht mit der Realität übereinstimmen, insbesondere wenn er unwissentlich seine Aufmerksamkeit auf etwas richtet, hinter dem kein menschlicher Verstand steckt.“
Gleichzeitig führt Substack ein „How I make this“-Feld ein. Autorinnen können dort ihren Prozess erklären: Schreiben sie komplett selbst, nutzen sie KI zum Glätten von Formulierungen, zum Strukturieren oder gar zum ganzen Entwurf? Sie können ihre Entwürfe vorab mit Pangram prüfen und falsche Treffer nach der Veröffentlichung melden.
Best betont aber auch die Grenzen des Systems. Pangram könne nur erkennen, ob KI im Spiel war – nicht, ob ein Mensch anschließend mühsam nachgearbeitet hat. Ebenso wenig sieht das Tool, ob jemand KI nur als Recherchequelle verwendet hat. Damit bleibt ein Problem: Ein sauber redigierter KI‑Entwurf kann am Ende menschlicher wirken als ein holpriger Originaltext, den ein Anfänger schreibt.
Substack verknüpft die Ankündigung mit einer größeren Sorge: Wenn Leserinnen ständig rätseln müssen, ob ein Text „echt“ ist, sinkt das Vertrauen – und damit auch die Zahlungsbereitschaft für Autorinnen, die von ihren Newslettern leben. Plattformen, die „Fakeness“ belohnen, so Best, lösten ein „Race to the Bottom“ aus.