Ein vier Jahrzehnte alter Mordfall in Utah steht kurz davor, juristisches Neuland zu betreten: Es geht darum, ob eine Jury eine synthetische Nachbildung der Stimme einer toten Frau hören darf, erstellt aus einem KI‑Stimmenklon mithilfe der ElevenLabs‑Software, als Beweismittel in einer Todesstrafenverhandlung. Staatsanwälte im Weber County sagen, die Technologie könne es den Geschworenen ermöglichen, Joyce Yosts eigene Worte erneut zu hören. Verteidiger und unabhängige Technologieexperten sagen, sie könne etwas weitaus Gefährlicheres bewirken – nämlich genau jene Menschen in die Irre führen, die darüber entscheiden, ob ein Mann lebt oder stirbt.
Summary
Wichtigste Erkenntnisse
- Staatsanwälte im Weber County wollen während der anstehenden erneuten Strafzumessungsanhörung von Douglas Lovell einen KI‑generierten Stimmenklon des Mordopfers Joyce Yost abspielen.
- Yost wurde 1985 von Lovell ermordet, um zu verhindern, dass sie in einem Vergewaltigungsprozess gegen ihn aussagt; ihre Leiche wurde nie gefunden.
- Der Klon wurde mit der Software von ElevenLabs erstellt, unter Verwendung von Audioaufnahmen und einem Transkript von Yosts Aussage in der Vorverhandlung.
- Zwei Experten der University of Utah warnten, die KI‑Stimme könne Geschworene unfair beeinflussen und könne nicht auf ihre Genauigkeit hin überprüft werden.
- Richter Michael DiReda wird voraussichtlich bis Mitte November über die Zulässigkeit entscheiden; die Strafzumessung ist derzeit für Ende Februar 2027 angesetzt.
Staatsanwälte schlagen Einsatz eines KI‑Stimmenklons des Mordopfers vor
Staatsanwälte in Farmington, Utah, haben ein Gericht um die Erlaubnis gebeten, eine synthetische Rekonstruktion von Joyce Yosts Stimme vor der Jury abzuspielen, die über das Schicksal von Douglas Lovell entscheiden wird. Der Antrag konzentriert sich auf eine Aussage, die Yost vor Jahrzehnten machte, bevor sie getötet wurde und nie wieder in den Zeugenstand treten konnte.
Douglas Lovell entführte und ermordete Yost in der Nacht des 10. August 1985, sagen die Staatsanwälte, um zu verhindern, dass sie in einem separaten Vergewaltigungsprozess gegen ihn aussagt. Yosts Leiche wurde nie gefunden, aber Lovell gestand die Tötung während eines Verständigungsverfahrens im Jahr 1993. Er wurde zweimal zum Tode verurteilt, und beide Urteile wurden später in der Berufung aufgehoben. Eine Jury soll ihn nun im kommenden Februar erneut verurteilen.
Erstellung des KI‑Stimmenklons mit ElevenLabs‑Software
Um die Rekonstruktion zu erstellen, wandte sich das Team der Staatsanwaltschaft an ElevenLabs, ein Unternehmen für KI‑Sprachsynthese, und speiste dessen Software mit echten Audioaufnahmen von Yost sowie einem schriftlichen Transkript der Aussage, die sie kurz vor ihrem Verschwinden in einer Vorverhandlung gemacht hatte. Die Kombination ermöglichte es dem Tool, neue synthetische Audiodateien zu erzeugen, die so klingen sollen, als würde Yost dieselben Worte sprechen. Es handelt sich um einen der ersten bekannten Versuche, eine per KI geklonte Stimme als Beweismittel im Zusammenhang mit einem Tötungsdelikt im Gerichtssaal zu verwenden.
Verteidigungsexperten heben Risiken und Grenzen von KI‑Stimmenbeweisen hervor
Zwei Informatiker, die vom Verteidigungsteam Lovells benannt wurden, argumentieren, dass eine ElevenLabs‑Rekonstruktion der KI‑Stimme, so überzeugend sie auch sein mag, nicht in gleicher Weise vertrauenswürdig sei wie ein lebender Zeuge oder eine tatsächliche Aufnahme – und dass Geschworene möglicherweise nicht in der Lage sind, den Unterschied zu erkennen.
Sameer Patil, außerordentlicher Professor für Informatik an der University of Utah mit einem PhD der University of California Irvine, sagte dem Gericht, dass Menschen routinemäßig emotionale Bindungen an KI‑generierte Inhalte entwickeln, selbst wenn sie wissen, dass diese nicht menschlich sind. „Jeder weiß, dass es KI ist“, sagte Patil in Bezug auf Tools wie ChatGPT. „Es ist kein Mensch beteiligt, aber die Leute entwickeln emotionale Bindungen daran. Die Leute fluchen es an, als wären sie wütend. Oder wenn sie beschreiben, was es tut, beschreiben sie es, als wäre es etwas Lebendiges.“ Er warnte, Geschworene könnten auf die synthetische Yost‑Stimme auf dieselbe Weise reagieren – sie als echte Aussage behandeln statt als maschinell erzeugte Annäherung, selbst nachdem ihnen etwas anderes erklärt wurde.
Patil brachte auch eine technischere Sorge vor: Das Transkript, das zum Aufbau des Klons verwendet wurde, erfasst nur Yosts Worte, nicht aber, wie sie sie tatsächlich gesagt hat. Ohne Betonung, Sprechtempo oder Tonfall – das, was Forscher paralinguistische Hinweise nennen – gibt es keine Möglichkeit zu überprüfen, ob die KI‑Ausgabe dem entspricht, wie Yost im Zeugenstand wirklich klang. „Ähnlich wie Joyce Yost zu klingen, bedeutet nicht notwendigerweise, dabei auch korrekt zu sein, und bedeutet absolut nicht, korrekt darin zu sein, wie sie diese Worte bei dieser Aussage gesprochen hat“, sagte Patil. „Das kann schlicht nicht validiert werden, weil die Audioaufnahme nicht existiert.“
Bedenken wegen nicht offengelegter Trainingsdaten durch ElevenLabs
Der zweite Zeuge der Verteidigung, Kenneth Marino, Assistenzprofessor für Maschinelles Lernen an der University of Utah und ehemaliger Forschungswissenschaftler bei Google DeepMind, erläuterte dem Gericht, wie Text‑zu‑Sprache‑Systeme typischerweise aufgebaut werden. KI‑Unternehmen, sagte er, neigen dazu, ihre Modelle mit beliebigen Audiodaten zu trainieren, die sich online in großen Mengen leicht finden lassen. „Bei Audio sind das wahrscheinlich Dinge wie Podcasts und YouTube‑Videos“, sagte Marino. Die Ausgabe könne dann mithilfe interner Parameter, sogenannter Gewichte, feinabgestimmt werden – aber ElevenLabs, merkte Marino an, lege weder seine Trainingsdaten noch diese Gewichte öffentlich offen. „Wir haben also im Grunde keine Ahnung, mit welchen Daten es trainiert wurde“, sagte er.
Diese Intransparenz ist zu einem juristischen Streitpunkt geworden. Lovells Verteidigungsteam hat eine Vorladung an ElevenLabs geschickt, in der Details darüber verlangt werden, wie das Stimmenklon‑Tool trainiert und verfeinert wurde. Bislang hat das Unternehmen nicht reagiert, sodass dem Gericht eine unabhängige Überprüfung fehlt, wie die synthetische Yost‑Audio tatsächlich erzeugt wurde.
Beispiellose Rechtsfragen zum Einsatz von KI bei der Strafzumessung in einem Kapitalmordfall
Gerichte haben seit Langem zugelassen, dass menschliche Stellvertreter das Transkript eines verstorbenen oder nicht verfügbaren Zeugen laut vorlesen, wenn diese Person nicht erneut aussagen kann. Was laut Aktenlage bisher nicht vorgekommen ist, ist die Präsentation der eidesstattlichen Aussage eines Tötungsopfers durch einen KI‑generierten Stimmenklon in einem Fall, in dem die Todesstrafe im Raum steht. Genau dieser Unterschied ist der Grund, warum der Streit über eine ElevenLabs‑KI‑Stimmenrekonstruktion weit über den Weber County hinaus Aufmerksamkeit erregt – er könnte eine Blaupause oder ein Warnsignal dafür liefern, wie Gerichte anderswo mit synthetischen Beweismitteln umgehen.
Richter Michael DiReda hat erklärt, er rechne damit, bis Mitte November darüber zu entscheiden, ob der KI‑Stimmenklon den Geschworenen vorgespielt werden darf. Die Strafzumessung für Lovell soll derzeit Ende Februar 2027 beginnen, doch sein Verteidigungsteam hat bereits signalisiert, dass es voraussichtlich eine Verschiebung beantragen wird – was bedeutet, dass der Zeitplan, ähnlich wie die zugrunde liegende Rechtsfrage, weiterhin ungeklärt bleibt.
Warum dies über einen Gerichtssaal in Utah hinaus von Bedeutung ist: Da generative Stimmwerkzeuge billig und weit verbreitet werden, werden Staatsanwälte und Verteidiger gleichermaßen zunehmend unter Druck geraten zu entscheiden, wann eine synthetische Rekonstruktion die Grenze von hilfreicher Veranschaulichung zu unzuverlässigem – oder unfair überzeugendem – Beweismittel überschreitet. Eine Entscheidung in diesem Fall könnte zu einem der ersten Praxismaßstäbe dafür werden, wie US‑Gerichte KI‑generierte Sprache in Fragen von Leben und Tod behandeln.
FAQ
Warum wollen Staatsanwälte einen KI‑generierten Stimmenklon von Joyce Yost verwenden?
Staatsanwälte wollen den KI‑Stimmenklon nutzen, um synthetisierte Audioaufnahmen von Yosts früherer Aussage bei der anstehenden Strafzumessungsanhörung abzuspielen. Sie argumentieren, dies ermögliche es der Jury, ihre eigenen Worte zu hören, obwohl sie selbst nicht mehr aussagen kann.
Welche Bedenken haben Experten hinsichtlich der Verwendung des KI‑Stimmenklons vor Gericht geäußert?
Experten warnen, dass KI‑Stimmenklone Geschworene emotional beeinflussen könnten und dass ihnen die paralinguistischen Hinweise wie Tonfall und Sprechtempo fehlen, die nötig wären, um ihre Genauigkeit im Vergleich zur ursprünglichen Aussage zu überprüfen.
Wurden KI‑generierte Stimmenbeweise bereits zuvor in Todesstrafenfällen verwendet?
Nein. Die Verwendung eines KI‑Stimmenklons der Aussage eines Tötungsopfers in einem Todesstrafenfall ist beispiellos und macht diesen Streit zu einem potenziell neuartigen juristischen Präzedenzfall.
Wann wird der Richter entscheiden, ob die KI‑Stimmenbeweise zulässig sind?
Richter Michael DiReda wird voraussichtlich bis Mitte November eine Entscheidung treffen, vor der derzeit für Ende Februar 2027 angesetzten Strafzumessungsanhörung für Lovell.
{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Warum wollen Staatsanwälte einen KI‑generierten Stimmenklon von Joyce Yost verwenden?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Staatsanwälte wollen den KI‑Stimmenklon nutzen, um synthetisierte Audioaufnahmen von Yosts früherer Aussage bei der anstehenden Strafzumessungsanhörung abzuspielen. Sie argumentieren, dies ermögliche es der Jury, ihre eigenen Worte zu hören, obwohl sie selbst nicht mehr aussagen kann.“}},{„@type“:“Question“,“name“:“Welche Bedenken haben Experten hinsichtlich der Verwendung des KI‑Stimmenklons vor Gericht geäußert?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Experten warnen, dass KI‑Stimmenklone Geschworene emotional beeinflussen könnten und dass ihnen die paralinguistischen Hinweise wie Tonfall und Sprechtempo fehlen, die nötig wären, um ihre Genauigkeit im Vergleich zur ursprünglichen Aussage zu überprüfen.“}},{„@type“:“Question“,“name“:“Wurden KI‑generierte Stimmenbeweise bereits zuvor in Todesstrafenfällen verwendet?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Nein. Die Verwendung eines KI‑Stimmenklons der Aussage eines Tötungsopfers in einem Todesstrafenfall ist beispiellos und macht diesen Streit zu einem potenziell neuartigen juristischen Präzedenzfall.“}},{„@type“:“Question“,“name“:“Wann wird der Richter entscheiden, ob die KI‑Stimmenbeweise zulässig sind?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Richter Michael DiReda wird voraussichtlich bis Mitte November eine Entscheidung treffen, vor der derzeit für Ende Februar 2027 angesetzten Strafzumessungsanhörung für Lovell.“}}]}
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.
