Stellen Sie sich vor, Sie scrollen durch die Spiritualitätsrubrik von Amazon auf der Suche nach einem Buch über Wicca-Rituale oder hinduistische Philosophie – nur um festzustellen, dass der Großteil dessen, was im virtuellen Regal steht, möglicherweise nie von einer menschlichen Autorin oder einem menschlichen Autor berührt wurde. Dieses beunruhigende Bild zeichnet eine neue Studie zu von KI verfassten religiösen Büchern, die herausgefunden hat, dass maschinell erzeugte Texte still und leise einen riesigen Anteil des religiösen und spirituellen Verlagsangebots auf der Plattform übernommen haben.
Die in dieser Woche von der KI-Erkennungsfirma Originality.ai veröffentlichte Untersuchung analysierte mehr als 2.000 kürzlich erschienene Titel in 14 Religions- und Glaubenskategorien, die auf Amazon verkauft werden. Das Fazit: Fast zwei von drei Büchern wurden wahrscheinlich von künstlicher Intelligenz und nicht von einer Person geschrieben.
Summary
Wichtigste Erkenntnisse
- Originality.ai kennzeichnete 1.272 von 2.034 auf Amazon analysierten religiösen Büchern – 63 % – als wahrscheinlich KI-verfasst.
- Die Kategorie Hexerei verzeichnete den höchsten Prozentsatz mit 78 %, gefolgt von Hinduismus mit 76 % und Taoismus mit 74 %.
- Die Forschenden stuften 53 % der überprüfbaren Behauptungen in Hexerei-Büchern als potenziell falsch ein.
- Amazon setzt auf ein Ehrensystem, bei dem Autorinnen und Autoren KI-verfasste Werke selbst kennzeichnen sollen, ohne öffentliche Daten darüber, wie viele dies tatsächlich tun.
- Amazon hat bestätigt, dass das Unternehmen physische Bücher über kommerzielle Kanäle erwirbt, um deren Seiten für KI-Trainingsdaten zu scannen.
Die Mehrheit der religiösen Bücher auf Amazon ist wahrscheinlich KI-verfasst
Die Zahlen hinter dieser Studie sind für sich genommen bemerkenswert: 63 % der untersuchten religiösen Bücher erzielten in Originality.ais Erkennungsmodell einen so hohen Wert, dass sie als wahrscheinlich maschinell verfasst eingestuft wurden. Das ist kein Randphänomen in einer Nische des Shops – es stellt das Mehrheitsresultat in einer gesamten kommerziellen Kategorie dar, die mehrere Weltreligionen umfasst.
Originality.ai-Studie und Methodik
Berichtsautor Michael Fraiman erklärte, sein Team habe Buchbeschreibungen, Autor:innen-Biografien und Textproben aus jedem Titel analysiert und durch ein Bewertungsmodell laufen lassen. Alles, was 50 Punkte oder mehr erreichte, wurde als „wahrscheinlich KI“ klassifiziert. Von 2.034 geprüften Büchern überschritten 1.272 diese Schwelle.
Fraiman war darauf bedacht, die Ergebnisse als Wahrscheinlichkeiten und nicht als Beweise zu formulieren. „Wir erheben keinen Anspruch auf Gewissheit darüber, ob Bücher definitiv von KI geschrieben wurden“, sagte er gegenüber Decrypt. „Unser Modell bestimmt die Wahrscheinlichkeit, dass etwas von KI verfasst wurde, mit einem bestimmten Grad an Sicherheit.“ Er fügte hinzu, dass die Forschenden stichprobenartig gekennzeichnete Titel manuell überprüften und sagte, das Team könne „an diesem Punkt unserer Arbeit den Unterschied zwischen wahrscheinlich KI-verfasstem und menschlich verfasstem Inhalt erkennen“.
KI-Autorenschaftsraten in verschiedenen Religionskategorien
Nicht jede Glaubenstradition war gleichermaßen betroffen. Die Kategorie Hexerei – entnommen aus Amazons Rubrik Wicca, Witchcraft & Paganism – führte die Liste mit 78 % an und umfasste Titel über Heilsteine, Kräuterheilmittel und das Reinigen negativer Energien. Fraiman meinte, der Reiz für Verlage liege auf der Hand: Diese Bücher könnten Lösungen für psychische Gesundheit oder „Entgiftung“ versprechen, ohne wissenschaftlichen Standards genügen zu müssen.
Hinduismus folgte mit 76 %, und Taoismus lag bei 74 %. Sikhismus, Buddhismus, Islam, Katholizismus, Protestantismus, orthodoxes Christentum und Judentum bewegten sich irgendwo dazwischen. Der Mormonismus kam auf 42 %, Atheismus auf 40 % und Satanismus auf 22 % – den niedrigsten Wert unter den untersuchten Kategorien. Die Forschenden warnten, dass die Stichprobengrößen zwischen den Kategorien erheblich variierten, was die direkte Vergleichbarkeit der Prozentsätze einschränkt.
Herausforderungen bei der Verifizierung und Fehlalarme in der KI-Erkennung
Ein hoher KI-Erkennungswert bedeutet nicht automatisch, dass ein Buch irreführend ist – doch in der Kategorie Hexerei stellte die Studie eine bedenkliche Überschneidung zwischen beidem fest. Die Forschenden stuften 53 % der überprüfbaren Behauptungen in Hexerei-Titeln als potenziell falsch ein, was die Sorge weckt, dass Leserinnen und Leser sich für Gesundheits- oder Wellness-Ratschläge auf KI-generierte spirituelle Anleitungen stützen, die von niemandem geprüft wurden.
Grenzen von Werkzeugen zur Erkennung von KI-Texten
Erkennungstools wie das Modell von Originality.ai sind darauf ausgelegt, Wahrscheinlichkeiten zu schätzen, nicht Urteile zu fällen. Dieser Unterschied ist wichtig, da KI-Erkennungstechnologie als Kategorie für ihre Unbeständigkeit bekannt ist. Fraimans eigene Formulierung – dass das Modell „einen Grad an Sicherheit“ biete, aber keinen endgültigen Beweis – spiegelt das breitere Eingeständnis der Branche wider, dass derzeit kein Detektor Genauigkeit garantieren kann.
Beispiele für widersprüchliche Ergebnisse bei der KI-Erkennung
Die Unzuverlässigkeit von KI-Detektoren ist kein theoretisches Problem. Im Oktober 2024 ergab ein Test von vier verschiedenen Tools zur Analyse der US-Unabhängigkeitserklärung völlig unterschiedliche Urteile: ZeroGPT bewertete sie als zu 97,93 % KI-generiert, QuillBot stufte sie als vollständig menschlich verfasst ein, und GPTZero kam auf eine 89%ige Wahrscheinlichkeit menschlicher Autorenschaft – drei Tools, drei widersprüchliche Antworten zum selben Dokument aus dem 18. Jahrhundert.
Im März wurde es ernster, als der Oberste Gerichtshof Kolumbiens eine Klageschrift zurückwies, nachdem ein Detektor sie als KI-generiert eingestuft hatte. Ironischerweise ergab eine spätere Prüfung der Gerichtsentscheidung selbst mit demselben Detektor eine Einstufung von 93 % KI-generiert. Dieser Vorfall unterstreicht, warum es rechtlich heikel bleibt, Erkennungswerte als gerichtsfeste Beweise zu behandeln.
Die Rolle von Amazon und ethische Fragen zu KI-Inhalten und Training
Amazon steht im Zentrum von zwei getrennten, aber miteinander verbundenen Kontroversen: wie das Unternehmen KI-verfasste Bücher auf seinem Marktplatz kontrolliert und wie es Rohtexte für das Training eigener KI-Modelle beschafft. Keine dieser Praktiken ist derzeit besonders transparent.
Amazons Ehrensystem für die Kennzeichnung von KI-Inhalten
Laut Fraiman „ist Amazon sich bewusst, wie verbreitet KI-verfasste Inhalte auf ihrer Plattform sind, und nutzt ein Ehrensystem, bei dem Autor:innen ihre Werke selbst als KI-verfasst kennzeichnen sollen.“ Originality.ai teilte seine Ergebnisse Amazon vor der Veröffentlichung nicht mit, und Fraiman stellte klar fest: „Wir haben keine Daten darüber, wie viele Autor:innen das tatsächlich offenlegen.“ Amazon reagierte nicht umgehend auf Decrypts Bitte um Stellungnahme.
Das ist bedeutsam, weil Selbstdeklaration ohne Überprüfung eine große Lücke zwischen dem, was technisch vorgeschrieben ist, und dem, was tatsächlich geschieht, lässt. Wenn der Anteil KI-verfasster religiöser Bücher tatsächlich nahe bei zwei Dritteln liegt, erfasst ein reines Ehrensystem möglicherweise nur einen Bruchteil davon.
Einsatz physischer Bücher für das KI-Training und ethische Bedenken
Unabhängig davon hat Amazons Hunger nach Trainingsdaten Kritik an seinem Umgang mit physischen Büchern ausgelöst. Eine Untersuchung verfolgte eine Lieferung seltener Bücher zu einer Amazon-Einrichtung in Las Vegas – wo Mitarbeitende die Buchrücken abschnitten und die Seiten in KI-Trainingsdatensätze einscannten.
Amazon bestätigte, dass das Unternehmen „Bücher über kommerzielle Kanäle erwirbt, um die Produkte und Dienstleistungen, die unsere Kund:innen nutzen, zu entwickeln und zu verbessern“, wobei die Stellungnahme des Unternehmens jedoch keine explizite Bestätigung von KI-Training enthielt.
Zusammengenommen weisen beide Stränge auf dieselbe grundlegende Spannung hin. Auf der einen Seite überschwemmen KI-generierte Texte Kategorien wie das religiöse Verlagswesen mit Inhalten, die nicht faktengeprüft wurden und in manchen Fällen falsche Behauptungen enthalten. Auf der anderen Seite stammt das Rohmaterial, mit dem dieselben KI-Systeme aufgebaut werden, aus physischen Büchern, die mit begrenzter öffentlicher Rechenschaft zerstört werden. Weder Amazons Selbstdeklarationssystem für Verkäufer:innen noch seine Beschaffungskette für Bücher als Trainingsdaten bietet derzeit viel Einblick in den Umfang – sodass Leser:innen, Autor:innen und Buchhändler:innen weitgehend auf externe Recherchen angewiesen sind, um zu verstehen, was hinter der Schaufensterfront tatsächlich geschieht.
FAQ
Wie zuverlässig ist die Erkennung von KI-verfassten religiösen Büchern auf Amazon?
Originality.ai verwendet ein Bewertungssystem, das Wahrscheinlichkeiten statt Gewissheit anzeigt. Die Forschenden betonen, dass die Ergebnisse auf eine wahrscheinliche KI-Autorenschaft hinweisen, aber keinen endgültigen Beweis darstellen.
Welche Kategorie religiöser Bücher hatte den höchsten Anteil wahrscheinlich KI-verfasster Bücher?
Die Kategorie Hexerei wies die höchste Rate auf: 78 % der untersuchten Titel wurden als wahrscheinlich KI-verfasst eingestuft.
Welche ethischen Bedenken wirft Amazons Nutzung physischer Bücher für das KI-Training auf?
Amazon kauft und scannt physische Bücher, teils seltene, für das KI-Training und entsorgt sie anschließend, was ethische Bedenken hinsichtlich der Zerstörung der Ausgangsmaterialien und des fehlenden ausdrücklichen Einverständnisses der Autor:innen aufwirft.
Verlangt Amazon von Autor:innen, offenzulegen, ob ihre Bücher von KI verfasst wurden?
Amazon nutzt ein Ehrensystem, bei dem Autor:innen KI-verfasste Inhalte selbst kennzeichnen, doch es gibt keine öffentlichen Daten darüber, wie viele dies tatsächlich tun.
{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Wie zuverlässig ist die Erkennung von KI-verfassten religiösen Büchern auf Amazon?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Originality.ai verwendet ein Bewertungssystem, das Wahrscheinlichkeiten statt Gewissheit anzeigt. Die Forschenden betonen, dass die Ergebnisse auf eine wahrscheinliche KI-Autorenschaft hinweisen, aber keinen endgültigen Beweis darstellen.“}},{„@type“:“Question“,“name“:“Welche Kategorie religiöser Bücher hatte den höchsten Anteil wahrscheinlich KI-verfasster Bücher?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Die Kategorie Hexerei wies die höchste Rate auf: 78 % der untersuchten Titel wurden als wahrscheinlich KI-verfasst eingestuft.“}},{„@type“:“Question“,“name“:“Welche ethischen Bedenken wirft Amazons Nutzung physischer Bücher für das KI-Training auf?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Amazon kauft und scannt physische Bücher, teils seltene, für das KI-Training und entsorgt sie anschließend, was ethische Bedenken hinsichtlich der Zerstörung der Ausgangsmaterialien und des fehlenden ausdrücklichen Einverständnisses der Autor:innen aufwirft.“}},{„@type“:“Question“,“name“:“Verlangt Amazon von Autor:innen, offenzulegen, ob ihre Bücher von KI verfasst wurden?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Amazon nutzt ein Ehrensystem, bei dem Autor:innen KI-verfasste Inhalte selbst kennzeichnen, doch es gibt keine öffentlichen Daten darüber, wie viele dies tatsächlich tun.“}}]}
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.
