Zum Inhalt springen
  • BTC $63.922 −0,1%
  • ETH $1.810 +1,0%
  • SOL $75,14 +1,1%
  • BNB $592,62 +0,5%
  • XRP $0,9916 +0,4%
  • DOGE $0,0596 +0,4%
  • ADA $0,1553 +1,0%

OpenAI im Sturm: Eine Studie beschuldigt das Unternehmen, seine Modelle mit urheberrechtlich geschützten Daten zu trainieren

Im Mittelpunkt der Untersuchung zu OpenAI steht GPT-4o, das beschuldigt wird, urheberrechtlich geschützte Inhalte zu erkennen und zu verwenden.

Dieser Artikel wurde mit Systemen der künstlichen Intelligenz erstellt und unter der redaktionellen Verantwortung von Amelia Tomasicchio veröffentlicht. So arbeiten wir

openai training copyright data

Eine neue Studie, die vom AI Disclosures Project veröffentlicht wurde, wirft entscheidende Fragen zur Transparenz und zur Ethik der von OpenAI angewandten Trainingsmethoden auf. Im Mittelpunkt der Untersuchung steht GPT-4o, das neueste Sprachmodell des Unternehmens, das beschuldigt wird, urheberrechtlich geschützte Inhalte aus vertraulichem Material des Verlags O’Reilly Media zu erkennen und zu verwenden.

Eine Forschung zur Erhöhung der Transparenz im Rennen um künstliche Intelligenz

Die Studie wurde im Rahmen des AI Disclosures Project durchgeführt, einer Initiative, die vom Technologen Tim O’Reilly und dem Ökonomen Ilan Strauss geleitet wird. Das Ziel des Projekts ist klar: eine größere Verantwortung im Bereich der künstlichen Intelligenz zu fördern, wobei der Schwerpunkt auf der Notwendigkeit von transparenten Praktiken seitens der Unternehmen liegt, die LLM (Large Language Models) entwickeln.

Das Dokument, ein working paper, analysiert, wie das aktuelle Fehlen formaler Verpflichtungen bei der Offenlegung der Daten, die zur Schulung dieser Modelle verwendet werden, ernsthafte Vertrauens- und Rechtsprobleme verursachen kann. Die Forscher argumentieren, dass, wie in den Finanzmärkten Offenlegungsregeln entstanden sind, um robuste Märkte zu fördern, auch im Bereich der KI eine ähnliche Regulierung erforderlich ist, um Missbrauch und systemische Schäden zu vermeiden.

OpenAI testet Inhalte, die urheberrechtlich geschützt sind: Die Daten sprechen eine klare Sprache

Um ihre Untersuchung durchzuführen, verwendeten die Forscher einen legal erworbenen Datensatz von 34 urheberrechtlich geschützten Büchern, die von O’Reilly Media veröffentlicht wurden. Durch eine Technik, die als DE-COP membership inference attack bekannt ist, maßen sie, ob Sprachmodelle in der Lage waren, von Menschen geschriebene Texte von paraphrasierten Versionen zu unterscheiden, die von LLM generiert wurden. Die Ergebnisse zeigen mit dem Finger auf GPT-4o.

Die AUROC-Werte (eine Metrik, die die Fähigkeit eines Modells misst, zwei Klassen zu unterscheiden) sprechen eine klare Sprache:

  • GPT-4o erzielte eine Punktzahl von 82% in der Fähigkeit, nicht-öffentliche Inhalte von O’Reilly Media zu erkennen — ein Wert, der eine hohe Wahrscheinlichkeit anzeigt, dass diese Inhalte in die Trainingsdaten aufgenommen wurden.
  • Zum Vergleich: Das Modell GPT-3.5 Turbo zeigte eine deutlich schwächere Erkennung (etwa 50%), während GPT-4o Mini, eine leichtere Version des Modells, weder öffentliche noch nicht öffentliche Inhalte erkannte.
  • Die Daten zeigen außerdem, dass GPT-4o Materialien non accessibili pubblicamente (82% AUROC) besser erkennt als frei verfügbare O’Reilly-Inhalte (64% AUROC).
  • Im Gegenteil zeigt GPT-3.5 Turbo eine größere Vertrautheit mit öffentlichen Inhalten (64%) im Vergleich zu vertraulichen (54%).

Eine mögliche Quelle für den Zugang zu urheberrechtlich geschützten Inhalten, so die Forscher, könnte LibGen sein, eine bekannte Online-Plattform, die nicht autorisierte digitale Kopien von urheberrechtlich geschützten Büchern beherbergt. Alle im Studium analysierten Bücher sind tatsächlich in dieser virtuellen Bibliothek vorhanden.

Die AI-Industrie zwischen Legalität, Wirtschaft und Nachhaltigkeit der Inhalte

Die Ergebnisse werfen eine größere Frage auf: Der systematische Einsatz von urheberrechtlich geschützten Daten zur Schulung von Sprachmodellen könnte die wirtschaftliche Nachhaltigkeit der Fachleute, die originale Inhalte erstellen, gefährden. Wenn Unternehmen nicht für die Nutzung ihrer Veröffentlichungen entschädigt werden, droht das gesamte Informationsökosystem — einschließlich der Verlagsbranche — zu verarmen.

Laut dem Bericht trägt die unbefugte Nutzung proprietärer Daten ohne Entschädigung zur Verringerung der Qualität und Vielfalt der Online-Inhalte bei. Und es handelt sich nicht nur um eine ethische, sondern auch um eine wirtschaftliche Frage: Ohne Einnahmen können Verlage und professionelle Schöpfer keine wertvollen Inhalte mehr produzieren.

Die Besorgnis der Forscher: Die Modelle wissen mehr, als sie angeben

Ein weiterer Aspekt, der in der Studie hervorgehoben wird, ist die Verbesserung der Fähigkeit der neuesten Sprachmodelle, die feinen Unterschiede zwischen menschlicher Sprache und von künstlichen Intelligenzen generierter Sprache zu verstehen und wiederzugeben. Darüber hinaus betonen die Forscher die mögliche Präsenz eines „zeitlichen Bias“, da sich Sprachen im Laufe der Zeit entwickeln. Um diese Art von Verzerrung zu neutralisieren, wurden die Tests an zwei Modellen (GPT-4o und GPT-4o Mini) durchgeführt, die während desselben Zeitraums trainiert wurden.

Obwohl die Beweise auf einen spezifischen Fall beschränkt sind — OpenAI und die O’Reilly-Texte — glauben die Autoren, dass das Phänomen im Bereich der generativen künstlichen Intelligenz verbreitet und systemisch sein könnte.

Auf dem Weg zu einem legalen Markt für Trainingsdaten?

Die Studie endet mit einer umfassenderen Überlegung: Es ist notwendig, ein System zu schaffen, in dem KI-Entwickler legal auf Trainingsdaten zugreifen können, durch Lizenzvereinbarungen und transparente Vergütungen für die Inhaltsersteller.

Einige Unternehmen entwickeln bereits Geschäftsmodelle in diese Richtung. Dies ist der Fall bei Defined.ai, einer Plattform, die Daten für das Training verkauft und dabei das Einverständnis der Autoren sicherstellt und alle persönlich identifizierbaren Informationen entfernt. Eine regulierte Industrie könnte eine legale und nachhaltige Alternative zu den derzeit undurchsichtigen Praktiken einiger großer bull und bear Unternehmen der KI darstellen.

Die Rolle der Politik: Europa kann als Vorreiter fungieren

Der Bericht bietet auch einen regulatorischen Ansatz: das Inkrafttreten des neuen AI Act der Europäischen Union, das Offenlegungspflichten für das Training der Modelle vorsieht, könnte eine positive Spirale auslösen. Wenn die Regeln klar definiert und tatsächlich durchgesetzt werden, können die Rechteinhaber endlich wissen, wann und wie ihre Werke genutzt werden.

Es wäre ein grundlegender Schritt für die Schaffung von legalen Märkten, in denen die Inhalte der Schöpfer tatsächlich als wirtschaftliche Güter anerkannt werden, die von den KI genutzt werden.

Nicht nur OpenAI: eine Studie, die mit dem Finger auf eine immer häufigere Praxis zeigt

Durch eine detaillierte Analyse von 34 Büchern des Verlags O’Reilly Media haben die Forscher empirische Beweise geliefert, die darauf hindeuten, dass OpenAI wahrscheinlich sein Modell GPT-4o auch mit nicht öffentlichen und urheberrechtlich geschützten Daten trainiert hat.

Wenn bestätigt, würde es sich um einen potenziell schwerwiegenden Verstoß nicht nur gegen die Urheberrechtsbestimmungen, sondern auch gegen die Prinzipien der Transparenz, Zustimmung und Gerechtigkeit handeln, die große Tech-Unternehmen in einer Zeit respektieren sollten, in der künstliche Intelligenz immer tiefer in unsere Gesellschaft und unsere Wirtschaft eingreift.

Satoshi Voice

Dieser Artikel wurde mit Hilfe von künstlicher Intelligenz erstellt und von unserem Journalistenteam überprüft, um Genauigkeit und Qualität zu gewährleisten.

Alle Artikel von Satoshi Voice