Report: So will Alexandra Ocasio-Cortez dem Fake-Porn-Wahnsinn ein Ende bereiten
Die Verantwortlichen für die Verbreitung von KI-generierten Pornos sollen zur Rechenschaft gezogen werden.
Alexandra Ocasio-Cortez ist seit Jahren von KI-Deepfake-Bildern betroffen, und sie ist bereit, gegen nicht einvernehmliche, sexuell explizite, KI-generierte Bilder zu kämpfen. Ocasio-Cortez ist US-amerikanische Politikerin der Demokratischen Partei und gehört seit Januar 2019 für den 14. Kongresswahlbezirk von New York dem Repräsentantenhaus der Vereinigten Staaten an.
Ocasio-Cortez verriet ROLLING STONE, dass sie mit einer parteiübergreifenden Gruppe von Abgeordneten den Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act of 2024 im Repräsentantenhaus einbringen wird. Der Gesetzentwurf ist ihr erster Schritt seit ihrer Ernennung in die parteiübergreifende Task Force des Repräsentantenhauses zum Thema KI, die im vergangenen Monat angekündigt wurde.
Der Gesetzentwurf ändert das Gesetz gegen Gewalt gegen Frauen (Violence Against Women Act, VAWA), so dass Menschen diejenigen verklagen können, die gefälschte Pornografie produzieren, verbreiten oder empfangen, wenn sie wussten oder leichtfertig außer Acht ließen, dass das Opfer diesen Bildern nicht zugestimmt hat.
„Wie wir diese Fragen beantworten, wird die Art und Weise, wie wir alle als Gesellschaft leben, und individuell die Dinge, die uns oder jemandem, den wir kennen, passieren, für Jahrzehnte prägen“, sagt Ocasio-Cortez dem ROLLING STONE. Sie sagt, es gebe eine „Dringlichkeit des Augenblicks, weil die Leute zu lange gewartet haben, um den Grundstein dafür zu legen“, so dass wir uns damit auseinandersetzen und Antworten darauf finden müssen, wie die Deepfake-Technologie so reguliert werden kann, dass die Opfer geschützt werden. Aber es besteht auch die Notwendigkeit, gründlich nachzudenken und die Schlussfolgerungen und Maßnahmen, zu denen wir kommen, sehr ernst zu nehmen.
„Wie wir diese Fragen beantworten, wird unser aller Leben als Gesellschaft prägen“
Ocasio-Cortez sagt, dass es für sie und ihr Team bei der Arbeit an dem Gesetzentwurf entscheidend war, eng mit Missbrauchsüberlebenden zusammenzuarbeiten. „Es ist einfach eine andere Art der Gesetzgebung, bei der man wirklich die Menschen in den Mittelpunkt stellt, die am meisten davon betroffen sind“, sagt sie.
Mehr als 25 Organisationen haben die überparteiliche Gesetzgebung unterstützt, darunter das National Women’s Law Center, die Sexual Violence Prevention Association, die National Domestic Violence Hotline und UltraViolet.
Ocasio-Cortez führt den Gesetzentwurf gemeinsam mit Sens. Dick Durbin (D-Ill.) und Lindsey Graham (R-S.C.). Der Senat hat das DEFIANCE-Gesetz am 30. Januar eingebracht, etwa eine Woche nachdem mehrere von einer künstlichen Intelligenz generierte, sexuell explizite Deepfakes von Taylor Swift auf X viral gingen.
Der Gesetzentwurf definiert „digitale Fälschungen“ als visuelle Darstellungen, „die durch den Einsatz von Software, maschinellem Lernen, künstlicher Intelligenz oder anderen computergenerierten oder technologischen Mitteln erstellt wurden, um fälschlicherweise als authentisch zu erscheinen“. Alle digitalen Fälschungen, die die Opfer „nackt oder in sexuell expliziten Handlungen oder sexuellen Szenarien“ zeigen, würden als solche gelten. Die Opfer könnten „Personen verklagen, die die Fälschung in der Absicht hergestellt oder besessen haben, sie zu verbreiten, oder die die Fälschung hergestellt, verbreitet oder erhalten haben“, wenn sie wussten, dass das Opfer nicht zugestimmt hat.
Der Aufstieg der generativen KI macht es für die Öffentlichkeit einfacher denn je, realistische Bilder zu erstellen. Eine 2019 durchgeführte Studie des Cybersicherheitsunternehmens DeepTrace Labs, das Tools zur Erkennung von Deepfakes entwickelt, ergab, dass 96 Prozent der Deepfake-Videos nicht-einvernehmliche pornografische Videos sind, in denen ausschließlich Frauen zu sehen sind. Wie UN Women berichtet, sind Frauen, die vielfältigen Formen der Diskriminierung ausgesetzt sind, darunter Schwarze und indigene Frauen und andere farbige Frauen, LGBTQ-Personen und Frauen mit Behinderungen, einem erhöhten Risiko ausgesetzt, technologiegestützte geschlechtsspezifische Gewalt zu erfahren.
Wenn der Gesetzentwurf das Repräsentantenhaus und den Senat passiert, wäre dies das erste Bundesgesetz zum Schutz von Opfern von Deepfakes, das ihnen einen zivilrechtlichen Regressanspruch einräumt.
Das soll nicht heißen, dass es nicht schon früher Bemühungen gegeben hätte, Deepfakes einzudämmen, auch wenn die bisherigen Gesetzentwürfe, die darauf abzielten, bisher nicht umgesetzt wurden. Die Abgeordnete Yvette Clarke (D-N.Y.) brachte im Juni 2019 und erneut im September 2023 einen DeepFakes Accountability Act ein, um strafrechtliche Sanktionen einzuführen und den Opfern von Deepfakes Rechtsmittel zur Verfügung zu stellen. Im Mai 2023 brachte der Abgeordnete Joe Morelle (D-N.Y.) den Preventing Deepfakes of Intimate Images Act (Gesetz zur Verhinderung von Deepfakes von Intimbildern) ein, der das Teilen von nicht einvernehmlichen und sexuell expliziten Deepfakes unter Strafe gestellt hätte.
„Wir haben schon an dieser Gesetzgebung gearbeitet, bevor ich überhaupt wusste, dass ich in die parteiübergreifende KI-Taskforce berufen werde“, sagt Ocasio-Cortez. “Es ist eine wirklich große Sache.“
