So verbannen Hollywood-Stars ihre KI-Deepfakes aus dem Netz

Ein Experte erklärt, was gegen unerwünschte digitale Doppelgänger unternommen werden kann.

Im vergangenen Mai veröffentlichte die Schauspielerin Scarlett Johansson eine Stellungnahme zur Veröffentlichung einer neuen Stimme für den ChatGPT 4.0-Bot von OpenAI namens „Sky“. Für viele – auch für ihre „engsten Freunde“, wie Johansson sagte – war die Stimme nicht von ihrer eigenen zu unterscheiden.

Das wäre schon beunruhigend genug gewesen, aber es kam noch schlimmer: Der Technologieriese hatte sie Monate zuvor gebeten, „Sky“ selbst zu vertonen, in der Hoffnung, ihre Berühmtheit teilweise nutzen zu können, um die Spannungen zwischen Hollywood und der Industrie für künstliche Intelligenz zu verringern. Sie habe abgelehnt, erklärte sie in ihrer Stellungnahme.

Johansson sagte, sie sei „schockiert, verärgert und verwundert“, als sie die Demo hörte, die veröffentlicht wurde, während der CEO von OpenAI, Sam Altman, sie bat, eine offizielle Partnerschaft in Betracht zu ziehen. Altman versuchte den Johansson-Effekt sogar bewusst zu erzeugen, indem er vor dem Start das Wort „Her“ auf X (ehemals Twitter) postete, was eine Anspielung auf den Science-Fiction-Liebesfilm „Her“ aus dem Jahr 2013 zu sein schien, in dem Johansson ein intelligentes Chat-System spricht.

Mit einem Rechtsbeistand an ihrer Seite, so Johansson, habe sie das Unternehmen dazu gedrängt, die konkreten Schritte zur Programmierung von „Sky“ offenzulegen. Daraufhin habe man sich „widerwillig“ bereit erklärt, die Funktion zu entfernen.

Raubzug der KI-Firmen

Willkommen in einer neuen Normalität für prominente Persönlichkeiten des öffentlichen Lebens: Sie müssen sich nicht nur Sorgen machen, dass sich zufällige Betrüger mithilfe von KI-generierten Stimmen oder Bildern als sie ausgeben (Brad Pitt äußerte sich bestürzt über die Geschichte einer Französin, die mehr als 850.000 Dollar an einen Betrüger verlor, der einen Instagram-Account mit KI-generierten Darstellungen des Schauspielers im Krankenhaus einrichtete), sondern auch, dass ein milliardenschweres Unternehmen aus dem Silicon Valley versuchen könnte, sich ihr wertvolle Konterfei „auszuleihen“, um ihre Unternehmensziele voranzutreiben.

Da ihre Bots bereits mit privaten Daten und urheberrechtlich geschütztem Material trainiert werden, warum sollten sie dann bei der Verwendung berühmter Gesichter Halt machen?

In diesem Zusammenhang könnte ein Prominenter erleichtert sein, von Loti zu hören, einem Unternehmen für „Ähnlichkeitschutztechnologie“, das im vergangenen Herbst eine 7 Millionen Dollar schwere Startkapitalrunde aufgebracht hat und weiter wächst. Und obwohl Mitbegründer und CEO Luke Arrigoni keine konkreten Kunden nennen kann, die von Schwergewichten wie William Morris Endeavor, Creative Artists Agency und United Talent Agency vertreten werden, kann er guten Gewissens sagen, dass er bei vielen hochkarätigen Vorfällen konsultiert wurde, bei denen ein Schauspieler oder Musiker den Verdacht hatte, dass seine einzigartigen Eigenschaften in der einen oder anderen Form unrechtmäßig kopiert wurden.

Wenn es den Anschein hat, dass nicht lizenzierte Bilder, Videos oder Audiodateien nach dem Vorbild einer lebenden Person erstellt wurden, wird Loti wahrscheinlich vom Managementteam dieser Person kontaktiert. „Wir werden fast immer in Situationen eingeschaltet, in denen man hört, dass ein Prominenter entweder gefälscht oder speziell in einem großen KI-Produkt verwendet wird“, sagt Arrigoni ROLLING STONE.

Die Arbeit von Loti kann eine technische Analyse des Inhalts beinhalten, um Anwälten zu helfen, die Wahrscheinlichkeit zu verstehen, ob ein Deepfake auf ihrem Mandanten basiert. „Zum Beispiel könnte man jemandem sagen, dass diese Stimme zu diesem oder jenem Prozentsatz übereinstimmt“, erklärt Arrigoni. „Wenn man ein 10- oder 15-sekündiges A-cappella-Segment singt, kann ich herausfinden, wann Menschen diese Stimme mithilfe von KI in einem anderen Lied erzeugen.“

Neben solchen Beweisen für eine mögliche Zweckentfremdung kann er die Anwaltsteams auf die Argumente vorbereiten, die sie wahrscheinlich von den Juristen der KI-Firmen hören werden, die ihre Produkte und Inhalte verteidigen. Er weist jedoch schnell darauf hin, dass es seine Aufgabe ist, sie mit relevanten Informationen zu versorgen, „nicht ihnen zu sagen, was sie tun sollen“.

„Euphoria“ als Anstoß

Arrigoni hat mit Gerichtssälen eigentlich wenig am Hut, sondern ist Teil der Datenwissenschaft (er ist ein selbsternannter „Mathe-Typ“ und verabscheut die trendigeren Schlagworte der KI-Szene). Zuvor arbeitete er ein Jahrzehnt lang an Datenfragen für große Marken. Loti entstand erstmals 2022 als eine Art gemeinnützige Organisation, als er und seine Frau, Mitbegründerin Rebekah Arrigoni, die zweite Staffel von HBOs „Euphoria“ sahen, in der es um Rachepornografie ging.

Zu dieser Zeit arbeitete er mit einem Kunden zusammen, der Gesichtserkennungsabgleiche mit nur einem Teil des Gesichts einer Person durchführen konnte. Das Paar hatte die Idee, diese Technologie zu nutzen, um Fälle zu melden, in denen das Bild einer Person ohne deren Erlaubnis online erscheint, und dann Urheberrechtshinweise zu senden, um diese entfernen zu lassen.

„Wir dachten uns: ‚Warum nutzen wir diese Technologie nicht und richten sie dann auf das Internet? Wir können herausfinden, wo Menschen nicht hingehören, und wir erstellen ein Skript, um die Entfernung zu veranlassen‘“, erinnert sich Arrigoni. „Das war etwas, wofür wir uns beide leidenschaftlich interessierten.“

Als Arrigonis Tech-Team dieses KI-Tool zum Durchsuchen des Internets entwickelte und Rebekah begann, eine Beratungsseite dafür zu entwickeln, begannen die Hollywood-Streiks 2023, wobei KI ein Brennpunkt im Arbeitskampf zwischen Schauspielern und Autoren und dem Management der Studios war.

„Ich rief Freunde aus der Unterhaltungsbranche an und fragte: ‚Hey, würdet ihr gerne diese Sache nutzen, die ich entwickelt habe, um in dieser einmaligen, spezifischen Situation KI-Imitationen zu finden und abzuwehren?’“, sagt Arrigoni. Sie waren tatsächlich interessiert und Loti „hat den Umfang dessen, was wir gescannt haben, massiv erweitert“, sagt er. „Es ging nicht nur um ein paar Problemzonen im Internet, sondern um das gesamte Internet, und wir haben auch die Stimme hinzugefügt. Wir hatten eine Deepfake-Erkennung.“

Was Arrigonis hat inzwischen eine Vorreiterrolle in einem wilden neuen Grenzbereich der digitalen Sicherheit und des Datenschutzes und wirbt damit, dass er „100 Millionen Bilder und Videos pro Tag algorithmisch auf den Missbrauch Ihrer Inhalte oder Ihres Abbilds durchsuchen kann“, Inhalte mit dem Gesicht und der Stimme eines Kunden abgleicht und bei Verstößen sofort Benachrichtigungen über die Entfernung von Urheberrechten versendet.

Loti rühmt sich damit, dass seine automatisierte Löschmaschine innerhalb von 17 Stunden eine Erfolgsquote von 95 Prozent aufweist und die meisten Verstöße innerhalb eines Kalendertages beseitigt – was bedeutet, dass dieses Material in der Regel verschwunden ist, bevor es der breiten Öffentlichkeit zugänglich gemacht wird, im Gegensatz zur Johansson-ähnlichen OpenAI-Stimme „Sky“.

Arrigoni sagt, dass sie eine Art von Arbeit effektiv automatisiert haben, die bis vor kurzem noch durch einen weitaus weniger effizienten und lückenhaften Prozess erledigt wurde: Fans bemerkten eine nicht autorisierte Nutzung des Bildes ihres Lieblingsstars und schickten es an das Management dieser Person, woraufhin Anwälte und Agenten mit den Plattformen verhandelten, um die verletzenden Inhalte zu entfernen.

Promis müssen sehr schnell gegen Deepfakes vorgehen

Das reicht in der heutigen beschleunigten Umgebung einfach nicht aus, sagt Arrigoni. „Sie können Ihre Anwaltskanzlei beauftragen, heute 15 Takedowns durchzuführen, und 14 neue Dinge werden hochgeladen“, erklärt er. Loti hingegen ist in der Lage, mit der Flut Schritt zu halten. „Ich kann heute tausend Takedowns für alle 985 Dinge veranlassen, die gestern hochgeladen wurden, und ein paar Dinge werden dann gleich am Morgen hochgeladen“, sagt er.

Im Idealfall haben die Fans gar nicht erst die Chance, auf nicht lizenzierte Inhalte zu stoßen. In der Zwischenzeit können berühmte Kunden spezifische Filter anfordern, um das Material abzufangen, das ihrem Ruf am meisten schadet, wie z. B. explizite Deepfake-Videos.

Natürlich ist es etwas heikel, Unterhaltungskünstler davon zu überzeugen, dass KI die Lösung für die KI-Probleme ist, die die kreative Landschaft in den letzten Jahren heimgesucht haben. Arrigoni muss sie erst davon überzeugen, dass Loti Feuer mit Feuer bekämpft. „Es ist so peinlich, wenn man sagt: ‚Ich habe ein KI-Unternehmen’“, scherzt er und fügt hinzu, dass er sich oft für die Technologie selbst ‚entschuldigt‘. “Viele dieser KI-Unternehmen neigen dazu, sich größer zu machen als sie sind – die Welt zu einem besseren Ort zu machen, solche Dinge. Wir versuchen nicht, so zu tun, als wären wir so etwas.“

Arrigoni sagt potenziellen Kunden: „Was wir tun, ist technisch gesehen KI, aber wir versuchen wirklich zu verhindern, dass jemand KI einsetzt, um ihr Einkommen, ihre Kreativität, ihre Marke, ihren Ruf zu zerstören.“ Letztendlich, so sagt er, sind viele beeindruckt davon, wie viel Loti im Netz fangen kann, obwohl sie nicht nur sich selbst schützen wollen. „Einer der größten Anreize für unser Produkt ist, dass sie nicht unbedingt davon profitieren, wenn sie uns dafür bezahlen, aber sie sind es leid, dass ihre Fans betrogen werden.“ (Nochmals unser Beileid an die Frau, die dachte, sie würde für Brad Pitts Nierenbehandlung bezahlen.)

Loti wird nicht nur von Hollywood genutzt

Neben bekannten Schauspielern arbeitet Loti auch mit hochrangigen Militärs, Politikern, CEOs, Nachlassverwaltern und einer Reihe von Musikern aus Nashville zusammen, was bedeutet, dass in einer Vielzahl von Bereichen neue Herausforderungen und Präzedenzfälle entstehen werden.

Was passiert, wenn DreamWorks mit einem KI-Startup zusammenarbeitet und eine animierte Filmfigur kreiert, die einer nicht am Projekt beteiligten Berühmtheit zum Verwechseln ähnlich sieht? Werden sich einige der Bürger Floridas, die angeblich Vorlage waren für Szenen im kommenden „Grand Theft Auto VI“, zusammenschließen, um Rockstar Games zu verklagen? Und handeln die Bundesstaaten schnell genug, um Gesetze wie den Ensuring Likeness Voice and Image Security (ELVIS) Act von Tennessee zu erlassen, der letztes Jahr in einem bahnbrechenden Versuch unterzeichnet wurde, um zu verhindern, dass die Stimmen von Künstlern unrechtmäßig geklont und gefälscht werden?

Was auch immer kommen mag, Arrigoni möchte, dass Loti weiterhin dafür sorgt, dass Pop-up-„Fakes“ als Internetbetrug nicht mehr „wirtschaftlich tragfähig“ sind: „Macht es für die Entwickler komplizierter, weil es im Moment zu einfach für sie ist – das ist der Teil, den wir ändern wollen“, sagt er.

Da das Wettrüsten im Bereich der künstlichen Intelligenz weitergeht und andere Wettbewerber mit voller Kraft in das Spiel einsteigen werden, kann er sich kaum vorstellen, dass es in Zukunft langweilig wird. Aber zumindest eine Frage bereits geklärt: Ihr Chatbot-Assistent wird nicht wie Scarlett Johansson klingen.

Abonniere unseren Newsletter
Verpasse keine Updates