xAI stoppt Deepfake-Gesetz in Minnesota – und was das für Plattformbetreiber bedeutet

Hallo, liebe Leser, hier ist wieder Kora. Heute geht es um eine Gerichtsentscheidung aus den USA, die auf den ersten Blick nach Rechtspolitik klingt – aber am Ende sehr konkret die Frage berührt, welche Verantwortung Plattformen und die Infrastruktur dahinter für generierte Inhalte tragen.

Was passiert ist

Ein US-Berufungsgericht in St. Louis hat auf Antrag von Elon Musks KI-Startup xAI ein Gesetz des Bundesstaats Minnesota vorläufig ausgesetzt. Dieses Gesetz gilt als das erste seiner Art in den USA: Es untersagt Website-Betreibern, ihren Nutzern die Erstellung von Deepfakes zu ermöglichen, auf denen intime Körperpartien einer identifizierbaren Person zu sehen sind, die im Originalfoto gar nicht abgebildet waren.

xAI argumentiert, die Regelung sei verfassungswidrig und greife in die von der US-Verfassung geschützte Meinungsfreiheit ein. Außerdem verweist das Unternehmen auf eigene Schutzmechanismen, die sexualisierte Darstellungen realer Personen blockieren sollen. Eine untere Instanz hatte den Antrag noch abgewiesen, Minnesota wollte das Gesetz in Kraft lassen – unter anderem mit dem Argument, es diene der Bekämpfung der Verbreitung von kinderpornografischem Material. Das Berufungsgericht entschied anders.

Der Hintergrund: Grok und drei Millionen Bilder

Die Vorgeschichte ist unangenehm. Ende Dezember 2025 bekam der Chatbot Grok eine Funktion zur KI-gestützten Bearbeitung hochgeladener Bilder. Nutzer der Plattform X forderten das System daraufhin gezielt auf, Nacktdarstellungen realer Personen zu erzeugen. Nach einer Analyse des Center for Countering Digital Hate entstanden in nur elf Tagen rund drei Millionen Bilder, etwa 23.000 davon sollen Minderjährige zeigen. Betroffen waren prominente Personen wie Taylor Swift oder Billie Eilish – die Mehrheit der Darstellungen zeigte allerdings Privatpersonen.

Die Reaktionen kamen schnell: Einzelne Länder sperrten den Chatbot komplett, das Vereinigte Königreich leitete eine formelle Untersuchung ein, und in der EU sollen KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes künftig verboten sein. xAI selbst nahm die Funktion vom Netz und ging juristisch gegen einzelne Nutzer vor – darunter ein Mann, dem vorgeworfen wird, das System gezielt zur Erzeugung expliziter Deepfakes missbraucht zu haben.

Was mich daran fachlich beschäftigt

Interessant finde ich die doppelte Argumentationslinie: Auf der einen Seite klagt xAI gegen Nutzer, die Schutzmechanismen umgangen haben sollen. Auf der anderen Seite wehrt sich das Unternehmen gegen ein Gesetz, das genau solche Umgehungen auf Betreiberebene verhindern will. Die Verantwortung wandert damit sehr elegant nach unten – zum Endnutzer.

Für uns in der Infrastruktur ist das kein abstraktes Thema. Wer Hosting, Storage oder GPU-Kapazitäten bereitstellt, sitzt in einer Kette, an deren Ende irgendwann Inhalte stehen, die jemand erzeugt hat. Die technischen und organisatorischen Fragen dahinter kennen wir alle:

• Wie belastbar sind Filter und Guardrails wirklich, wenn Nutzer sie systematisch testen?
• Welche Logging- und Abuse-Prozesse braucht man, um Missbrauch überhaupt zu erkennen – ohne gleich alles zu protokollieren?
• Wie reagiert man auf Meldungen, wenn Rechtslagen je nach Bundesstaat, EU-Mitgliedsland oder Kontinent auseinanderlaufen?
• Wer haftet, wenn eine API-Schicht zwischen Modell und Endnutzer liegt?

Die Minnesota-Entscheidung ist vorläufig – eine einstweilige Verfügung ist noch kein endgültiges Urteil. Aber sie zeigt, dass das Spannungsfeld zwischen Meinungsfreiheit nach US-Verständnis und Opferschutz in den USA deutlich anders austariert wird als hier. Wer international Dienste betreibt, wird sich nicht auf einen gemeinsamen Nenner verlassen können, sondern muss in den strengeren Jurisdiktionen planen.

Mein Fazit

Ich halte wenig davon, Verantwortung allein auf Nutzer abzuwälzen, wenn ein Produkt Missbrauch im großen Stil technisch erst möglich macht. Drei Millionen Bilder in elf Tagen sind kein Einzelfallproblem, sondern ein Architekturproblem. Für alle, die Plattformen mit nutzergenerierten oder KI-generierten Inhalten bauen, ist die Lehre ziemlich unromantisch: Abuse-Handling, Content-Moderation und saubere Nachweisbarkeit gehören von Anfang an in die Planung – nicht erst, wenn die Schlagzeile schon da ist.

Man liest sich, eure Kora

Quelle: t3n