Transparenz-Problem bei Amazon: KI-Inhalte ohne Kennzeichnung täuschen Kundschaft

Bei Amazon ist offenbar eine gesamte Kategorie von KI-generierten Inhalten dominiert. Eine aktuelle Analyse hat ergeben, dass ein Großteil der Ratgeber zu Kräuterheilmitteln auf Amazon von Künstlicher Intelligenz erstellt wurde. Laut der Untersuchung von Originality.ai sind satte 82 Prozent der Bücher in dieser Kategorie „wahrscheinlich von KI geschrieben“. Besonders ins Auge sticht dabei der Bestseller „The Natural Healing Handbook“ der angeblichen Autorin Luna Filby.

Autorin und Expertin frei erfunden

Das Buch umfasst 85 Seiten, kostet 20,67 Euro und hat eine beeindruckende Bewertung von 4,7 Sternen basierend auf 540 Rezensionen. Doch bei genauerem Hinsehen wirft es Fragen auf: Weder die Autorin Luna Filby noch ihre angeblich zugehörige Organisation My Harmony Herb existieren tatsächlich. Auch in den Rezensionen genannte Expert:innen wie Sarah Wynn, Dr. Rachel Bennett oder Michael Travers konnten nicht verifiziert werden, so Golem.

KI-Inhalte dominieren die Kategorie

Die Analyse von Originality.ai, bei der insgesamt 558 Bücher in der Amazon-Kategorie für Kräuterheilmittel untersucht wurden, zeigt das Ausmaß der Automatisierung in diesem Bereich. Demnach weisen 96 Prozent der Bücher KI-generierte Inhalte auf. Bei 77 Prozent dieser Werke betrifft dies sowohl die Autorenbeschreibung als auch die Inhaltszusammenfassung und das eigentliche Buch.

„The Natural Healing Handbook“ wird von Originality.ai sogar als „Goldstandard für KI-generierte Bücher“ bezeichnet. Die Ergebnisse werfen jedoch nicht nur Fragen nach der Authentizität der Inhalte auf, sondern auch nach der Transparenz gegenüber den Leser:innen.

Vertrauen in Gefahr

Die Verbreitung von KI-generierten Büchern auf Amazon verdeutlicht, wie stark künstliche Intelligenz mittlerweile in der Buchbranche vertreten ist. Gleichzeitig zeigt dies auch die Herausforderungen, die sich für Verbraucher:innen ergeben, wenn es darum geht, zwischen echten und künstlich erzeugten Inhalten zu unterscheiden. Die fehlende Nachvollziehbarkeit der Autor:innen und Organisationen wirft ethische und rechtliche Fragen auf, die in Zukunft wohl intensiver diskutiert werden müssen.

Spannend ist vor allem die Frage, wie Amazon künftig mit dem Phänomen umgehen will. Dass der Marktplatz offenbar ungeprüft (oder zumindest ohne Kennzeichnung) komplett KI-generierte Inhalte zum Verkauf zulässt, beschädigt das Vertrauen der Kundschaft. Dass KI-Inhalte Kategorie-Bestseller sind, zeigt zudem die Probleme, vor denen ehrliche Seller stehen, die ohnehin im harten Konkurrenzkampf mit Amazon und anderen Händler:innen stehen.

Update: Amazon rechtfertigt sich

Dass KI-generierte Inhalte ein Problem sind, sieht auch Amazon selbst: „Wir verfügen über inhaltliche Richtlinien, die festlegen, welche Bücher zum Verkauf angeboten werden dürfen. Wir investieren viel Zeit und beachtliche Ressourcen, um mit proaktiven und reaktiven Methoden sicherzustellen, dass unsere inhaltlichen Richtlinien eingehalten werden – unabhängig davon, ob Inhalte KI-generiert sind oder nicht. Wir entfernen Bücher, die diesen Richtlinien nicht entsprechen“, erklärt eine Unternehmenssprecherin gegenüber OHN. Man verbessere kontinuierlich Schutzmaßnahmen und entwickle Prozesse und Richtlinien kontinuierlich weiter, heißt es weiter. 

Artikelbild: http://www.depositphotos.com