KI-Plagiate auf Amazon: Betrüger fälschen echte Bücher
Autoren berichten ROLLING STONE, dass sie durch die Präsenz von KI-Büchern bei Amazon frustriert sind – und das Internet dadurch schlechter wird.
ls die Journalistin und Autorin Talia Lavin zum ersten Mal online nach ihrem neuen Buch Wild Faith: How the Christian Right Is Taking Over America suchte, erwartete sie, die üblichen Dinge zu finden, die ein Buch in der Woche seiner Veröffentlichung begleiten: einen Vorbestellungslink, die eine oder andere Liste und vielleicht ein oder zwei Rezensionen. Stattdessen fand sie jedoch mindestens fünf vollständige Plagiate ihres Werks beim Online-Shopping-Riesen Amazon – fast alle davon offenbar mit Hilfe von generativer KI erstellt.
„Das Buch ist eine Geschichte der letzten 50 Jahre der christlichen Rechten mit einem besonderen Schwerpunkt auf Familiendynamik und Kindesmissbrauch in evangelikalen Gemeinschaften“, erzählt Lavin dem Rolling Stone. „Alle [Fälschungen] verwendeten den Ausdruck ‚wild faith‘, aber einige waren Biografien. Eines war ein inspirierendes Selbsthilfebuch, das ich auf eine düstere Art lustig fand. Es war surreal.“
Die Bücher hatten Titel wie Talia Lavin Prosopography: You Need to Have a Wild Faith to Succeed, Talia Lavin Biography: Why You Need Wild Faith to Succeed und Tania Lavin Biography: The Wild Faith to Take Over America – alle hatten Titel und Absätze, die ihren Werken ähnelten, aber voller Rechtschreib-, Sach- und Grammatikfehler waren.
Ein wachsendes Problem im Online-Buchhandel
Dies ist kein Einzelfall. Was Lavin zufällig entdeckt hat, ist eines der derzeit größten Probleme im Online-Buchhandel. Amazon hat sich mit Kindle Direct Publishing (KDP) zur führenden Selbstverlagsplattform entwickelt. Mit dieser Software können Nutzer ihre Manuskripte hochladen und käufliche E-Books und Taschenbücher erstellen. Laut den Marketingunterlagen von Amazon bietet die Plattform Autoren die Möglichkeit, die Kontrolle über „Inhalt, Design, Preis, Zielgruppe und Werbung“ ihrer Werke zu erlangen – alles hilfreiche Tools, um ein Buch ohne traditionellen Verlag zu verkaufen.
Doch während unabhängige Autoren KDP genutzt haben, um digitale Verlagsimperien aufzubauen, ist ein viel größeres Problem aufgetaucht: KI-generierte Raubkopien von Büchern. Veröffentlichte Autoren sagen, dass diese Fälschungen frustrierend und fast unmöglich zu stoppen sind. Aber während diese Praxis online floriert, sagen Autoren gegenüber Rolling Stone, dass es nicht nur der geringe finanzielle Verlust ist, der sie frustriert. Es ist die Tatsache, dass die Flut von gefälschten Büchern den Buchverkauf – und das Internet – für alle anderen verschlechtert.
„Das Problem mit diesen Schundbüchern ist nicht nur, dass sie Einnahmen abziehen, die eigentlich in die Taschen der Autoren fließen sollten, die die Bücher geschrieben haben. Das Problem ist, dass sie die Käufer täuschen“, sagt Cory Doctorow, Autor von Enshittification: Why Everything Suddenly Got Worse and What to Do About It (Enshittification: Warum plötzlich alles schlechter wurde und was man dagegen tun kann). „Das sind Müllbücher, die nur dazu da sind, um unaufmerksamen Menschen Geld aus der Tasche zu ziehen und sowohl Leser als auch Autoren zu betrügen.“
Wie KI-Plagiate über Kindle Direct Publishing entstehen
Das aktuelle Problem der KI-Plagiate scheint seinen Ursprung in der Online-Community der KDP-Nebenverdiener zu haben. Eine schnelle Suche auf TikTok zeigt fast 90.000 Videos und Tutorials darüber, wie man mit KDP durch ständige KI-Veröffentlichungen passives Einkommen erzielen kann.
Diese Urheber – von denen viele ihre eigenen Arbeitsbücher und Kurse darüber verkaufen, wie man das KDP-System ausnutzen kann – nehmen klassische Literatur aus dem öffentlichen Bereich und fügen mit Hilfe von KI Zusammenfassungen und Diskussionsfragen hinzu, bevor sie sie mit einem neuen Cover auf der Website neu listen.
Viele nutzen KI auch, um vereinfachte Versionen von Büchern wie Kinderbüchern, Malvorlagen oder Kochbüchern zu entwerfen und zu veröffentlichen. KI-Plagiate auf Amazon gehen jedoch noch einen Schritt weiter und verwenden nicht nur gemeinfreie Bücher, sondern erstellen auch KI-Versionen von neuen Büchern, die gerade erst erschienen sind – also solche, nach denen wahrscheinlich mehr Menschen suchen werden.
KI-Plagiate bewegen sich in einer rechtlichen Grauzone, um offensichtliche Urheberrechtsprobleme zu umgehen. Das US-amerikanische Urheberrecht schützt „spezifische kreative Ausdrucksformen“ von Autoren in dem Moment, in dem sie ihre literarischen Werke niederschreiben – ein Schutz, der dann bei der traditionellen Veröffentlichung beim US-amerikanischen Urheberrechtsamt registriert wird.
Das Gesetz erlaubt jedoch auch die faire Verwendung von urheberrechtlich geschütztem Material für Zwecke wie Kommentare oder Bildung. Das bedeutet beispielsweise Arbeitsbücher zu den Themen eines berühmten Klassikers der Literatur oder vielleicht ein Studienführer zu den Einflüssen eines bestimmten Autors. KI-Plagiate verwenden oft den Haupttitel des Buches, das sie kopieren, damit die Leute glauben, sie würden das Original kaufen.
Bei genauerer Betrachtung der Angebote zeigt sich jedoch, dass viele als Biografien, Arbeitsbücher oder Zusammenfassungen geführt werden – was auf eine faire Nutzung hindeutet.
Auf Anfrage von Rolling Stone erklärte ein Sprecher von Amazon, dass die Website über Inhaltsrichtlinien verfügt, die festlegen, welche Bücher zulässig sind, und dass Bücher, die gegen die Richtlinien oder das Urheberrecht verstoßen, entfernt werden.
„Wir investieren viel Zeit und Ressourcen, um sicherzustellen, dass unsere Richtlinien eingehalten werden. Wenn wir Titel identifizieren, die diesen Richtlinien nicht entsprechen, ergreifen wir sofortige Maßnahmen, wie z. B. die Entfernung nicht konformer Bücher oder rechtsverletzender Inhalte und die Sperrung von Verlagskonten, um wiederholten Missbrauch zu verhindern“, schrieben sie.
Autoren gegen das KI-System
Einige Autoren berichten jedoch gegenüber Rolling Stone, dass der Überprüfungsprozess nicht streng genug ist, um das Auftauchen von Fälschungen zu verhindern – und dass die Last der Überwachung dieser Verstöße oft auf den Autoren lastet.
Als Seth Harp, Autor von The Fort Bragg Cartel: Drug Trafficking and Murder in the Special Forces, zum ersten Mal bemerkte, dass Menschen KI-Fälschungen seines Buches auf Amazon verkauften, meldete er die KI-Fälschungen sofort dem Unternehmen. Aber er erzählt Rolling Stone, dass der Prozess letztendlich „völlig wirkungslos“ war.
Jedes Mal, wenn er eine Fälschung meldete und diese entfernt wurde, tauchte an ihrer Stelle eine neue auf.
„Meine Frustration rührt daher, dass diese Piraterie nicht nur eine Randerscheinung ist“, sagt Harp. „Sie geht von den bestvernetzten und elitärsten Kreisen unserer Wirtschaft aus. Ich finde es einfach verrückt, dass diese Maschinerie zum Diebstahl geistigen Eigentums, die völlig unvertretbar ist, mit der vollen Unterstützung von Amazon betrieben wird.“
(Amazon seinerseits betont, dass es versucht, das Problem anzugehen, sobald es auftritt: „Unsere Prozesse und Inhaltsrichtlinien werden sich weiterentwickeln, sobald wir Veränderungen im Bereich der KI-gestützten Veröffentlichungen feststellen, um sicherzustellen, dass wir unseren Kunden und Autoren das bestmögliche Erlebnis bieten“, erklärt der Sprecher gegenüber Rolling Stone.)
Die stille Gewalt des digitalen Diebstahls
Lavin kaufte gedruckte Exemplare der KI-Plagiate ihres Buches und war nicht überrascht, dass jedes auf seine Weise unbrauchbar war. Einige waren unglaublich kurz und schienen direkt aus ihrer Wikipedia-Seite als eine Art Biografie über sie übernommen worden zu sein, wobei öffentliche Zusammenfassungen oder ihr Buch und verfügbare Kapitel so kombiniert wurden, als handelten sie von ihrem Leben.
Andere waren voller falscher Informationen, wie zum Beispiel, dass sie als Lehrerin identifiziert wurde. Eines war ihr Buch, las sich aber, als wäre es in eine andere Sprache übersetzt und dann wieder zurück ins Englische übersetzt worden.
Für Lavin war diese Erfahrung eine Mischung aus Belustigung und Frustration. Aber sie machte ihr auch Sorgen über die Systeme, die es ermöglichten, dass die Fälschungen so einfach hergestellt werden konnten.
„Zweifellos hatte ich das Gefühl, verletzt worden zu sein. Ich habe verdammt noch mal drei Jahre lang an diesem Buch gearbeitet. Ich habe mit über 100 Menschen über den schlimmsten Kindesmissbrauch gesprochen, den sie jemals in ihrem Leben erlebt haben“, sagt sie. „Du hast 20 Minuten damit verbracht, Stichworte einzugeben, und jetzt wirst du Geld verdienen, weil all diese Ergebnisse erscheinen, wenn man nach Wild Faith sucht.“
Doctorow, der Autor von Enshittification, hat KI-Plagiate seines eigenen Buches auf Amazon. Das ist eine ironische Situation – vor allem, wenn man bedenkt, dass er vor allem dafür bekannt ist, den Begriff geprägt zu haben, der beschreibt, wie sich die Dinge im Internet für den Durchschnittsnutzer verschlechtern und schwieriger werden.
Doctorow erklärt gegenüber Rolling Stone, dass er glaubt, dass die Verbreitung von KI-Plagaten eine direkte Folge davon ist, dass Amazon nicht in die Moderation von Inhalten investiert, und ein perfektes Beispiel für „Enshittification“ in Aktion.
„Das ist der Prozess, durch den man die Enshittification stattfinden sieht“, sagt er. „Es ist eine Theorie darüber, was passiert, wenn ein Unternehmen sich keine Gedanken mehr über die Konsequenzen machen muss, wenn es schlecht ist.“
Ein Berufsrisiko für echte Autoren
Alle Autoren, die mit Rolling Stone gesprochen haben, sagen, dass Amazon eine klare Verantwortung hat, in mehr Software und Moderation zu investieren, um zu verhindern, dass KI-Betrugsbücher wie diese Leser und Autoren über den Tisch ziehen.
So wie es derzeit aussieht, haben sie das Gefühl, dass KI-Plagiate für Menschen, die ihre Texte mit anderen teilen wollen, zu einem akzeptierten Berufsrisiko werden könnten. Das ändert nichts an der Arbeit, die sie in ihre Bücher gesteckt haben. Aber es macht die Online-Welt schwieriger zu navigieren.
„Das ist stillschweigende Gewalt. Sie stehlen meine Arbeit, mein Gesicht. Sie stehlen mein Leben und schreiben Lügen darüber“, sagt Lavin. „Auf individueller Ebene bin ich nicht etwa eine Art Jeanne d’Arc, die Rache für eine große Demütigung nimmt. Aber insgesamt betrachtet ist dies der größte Buchmarkt der Welt. Und sehen Sie, wie leicht er auf diese Weise verzerrt werden kann.“
