Staaten zielen auf KI und Deepfakes ab, da die Wahlbeteiligung droht
Mehr als ein Dutzend Staaten, geführt von Republikanern und Demokraten, haben in diesem Jahr Gesetze erlassen, um die Verwendung von Deepfakes – realistische Fake-Videos, -audio und -inhalte, die mit künstlicher Intelligenz erstellt wurden – in Wahlkämpfen zu regulieren. Diese Gesetze kommen inmitten von Warnungen des Ministeriums für Innere Sicherheit vor der Fähigkeit von Deepfakes, Wähler zu täuschen, und während Fragen darüber bestehen, ob der Kongress vor November eine wirksame Aktion ergreifen kann.
Florida, Hawaii, New York, Idaho, Indiana, New Mexico, Oregon, Utah, Wisconsin, Alabama, Arizona und Colorado haben Gesetze erlassen, die eine Offenlegung in politischen Anzeigen mit Deepfake-Inhalten erfordern. Während Michigan, Washington, Minnesota, Texas und Kalifornien bereits Gesetze hatten, die Deepfakes regulieren, hat Minnesota sein Gesetz in diesem Jahr aktualisiert, um unter anderem vorzuschreiben, dass ein Kandidat sein Amt oder seine Nominierung aufgibt, wenn er die Deepfake-Gesetze des Bundesstaates verletzt.
In Staaten wie New York, New Mexico und Alabama können Opfer eine gerichtliche Anordnung beantragen, um den Inhalt zu stoppen.
Verletzer von Deepfake-bezogenen Gesetzen in Florida, Mississippi, New Mexico und Alabama können Haftstrafen erhalten. Jemand, der das Gesetz in Mississippi mit der Absicht verletzt, jemanden am Wählen zu hindern oder Gewalt oder körperliche Gewalt zu entfachen, kann mit bis zu fünf Jahren Haft bestraft werden, während die Strafe in Florida ein Vergehen ersten Grades ist, das mit bis zu einem Jahr Haft bestraft werden kann.
Das Gesetz brechen zu können, kann auch in einigen Bundesstaaten zu saftigen Geldbußen führen: in Utah und Wisconsin können Verursacher bis zu $1.000 pro Verstoß und in Oregon und Mississippi bis zu $10.000 Geldstrafe erhalten.
'Eine ganze neue Welt'
Obwohl es derzeit Wege für Kandidaten gibt, irreführende Anzeigen zu beanstanden, ist es noch zu früh zu sagen, ob die Gesetze ausreichend sind, wenn es um Deepfakes geht, sagte Amy Beth Cyphert, eine Rechtslektorin an der juristischen Fakultät der West Virginia University. Die KI stellt eine einzigartige Herausforderung dar, sagte Cyphert, wegen der Geschwindigkeit, mit der sie sich entwickelt.
"Ich meine, jeder, sogar jemand mit sehr wenig technischem Sachverstand, könnte wahrscheinlich ein Deepfake erstellen, wenn er wüsste, wo er suchen müsste", fügte sie hinzu. "Und dann hast du wirklich eine ganze neue Welt."
Für den arizonaischen Staatsabgeordneten Alexander Kolodin, einen Republikaner, der ein Gesetz zu den neuen AI-generierten Inhalten gesponsert hat, war die Fähigkeit von Deepfakes, realistische Sprachdarstellungen zu erzeugen, Anlass, ein Gesetz einzuführen, das es Kandidaten ermöglicht, eine gerichtliche Anordnung zu beantragen, die manipulierte Inhalte als Deepfake erklärt. Kolodin sagte CNN, dass eine Anordnung "ein mächtiges Werkzeug" ist, das Kandidaten helfen kann, eine Gegenrede zu Deepfakes zu bilden, die sich schnell online verbreiten können.
"Ich denke, wir müssen verstehen, dass es in der Politik schon immer Lügen gegeben hat, seit es Politik gibt, oder?", sagte er.
Kolodin, der sagt, dass KI immer noch einen Platz in der Politik hat, hat ChatGPT verwendet, um einen Teil des Gesetzes zu entwerfen, der "digitale Personifizierung" beschreibt. Arizonaische Demokratische Gouverneurin Katie Hobbs hat seinen Vorschlag im Mai zusammen mit einem anderen AI-Gesetz unterzeichnet, das Offenlegungen in Wahlkampfwerbung erfordert.
Big Tech hat bereits erste Schritte unternehmen, um Deepfake-Inhalte zu moderieren. TikTok und Meta (die Muttergesellschaft von Instagram, Threads und Facebook) haben in den letzten Monaten Pläne angekündigt, AI-Inhalte zu kennzeichnen, während YouTube von Schöpfern eine Offenlegung verlangt, wenn Videos AI-erstellt wurden.
Schwache Bundesregulierung in Zweifel
Obwohl es in den Landtagen Bewegung gibt, "ist die Geschichte auf der Bundesseite nicht optimistisch", sagt Robert Weissman, Präsident von Public Citizen, einer Gruppe, die sich für landesweite Maßnahmen eingesetzt hat und den Fortschritt bei der Gesetzgebung zur Regulierung von Deepfakes in Wahlen verfolgt hat.
Während im Kongress Gesetze eingeführt wurden, die eine klare Kennzeichnung von Deepfakes erfordern, gibt es wenige Anzeichen dafür, dass die Gesetzgeber vor November auf diesem Thema handeln werden. Während der Mehrheitsführer im Senat, Chuck Schumer, die Gesetzgebung unterstützt, argumentiert der Minderheitsführer Sen. Mitch McConnell, dass das "gut entwickelte rechtliche Regime", das existiert, um irreführende Wahlkampfwerbung zu entfernen, 'leicht' auf Deepfakes angewendet werden kann. Im Repräsentantenhaus ist die bipartisanische Gesetzgebung im Ausschuss stecken geblieben.
Fehlende Bundesgesetzgebung überlässt es Agenturen wie der Federal Election Commission und der Federal Communication Commission, zu versuchen, AI in Wahlkampfwerbung zu regulieren.
Getrieben von der Befürchtung, dass Deepfakes Wähler betrügen könnten, hat Public Citizen die FEC letztes Jahr aufgefordert, tätig zu werden. Die Agentur hat bisher keine Regel erlassen, um die Verwendung von AI-generierten Deepfakes in Wahlwerbung zu regulieren, und Weissman sagt, er sei "nicht optimistisch".
In einer Erklärung an CNN sagte FEC-Vorsitzender Sean Cooksey, dass er eine Fertigstellung der Regelung der Agentur in diesem Jahr erwartet.
Die FCC hat ihrerseits einstimmig beschlossen, die Verwendung von AI-generierten Stimmen in Robo-Calls zu verbieten und hat im späten Juli einen Vorschlag vorgelegt, um AI-Offenlegungen in politischen TV- und Radio-Werbespots zu erfordern. Es ist nicht sofort klar, ob die Agentur die Regeln vor der Wahl verabschieden würde. FCC-Chefin Jessica Rosenworcel beabsichtigt, den Regulierungsprozess einzuhalten, aber "hat klar gemacht, dass die Zeit zu handeln jetzt ist", sagte Jonathan Uriarte, ein Sprecher von Rosenworcel, CNN.
Auf den November hinarbeiten
Nicht alle Gesetze, die auf Bundesebene eingeführt wurden, haben den Weg zum Gouverneurspult gefunden, nachdem es Kämpfe um ihren Umfang und ihre Reichweite gegeben hat. Laut Public Citizen wurden Deepfake-bezogene Gesetze in mehr als 40 US-Bundesstaaten im Jahr 2024 eingeführt.
In Georgia, einem Swing State, der bei der Entscheidung über die Präsidentschaftswahl 2020 eine wichtige Rolle spielte, gibt es kein Gesetz, das politische Anzeigen mit Deepfakes ohne Offenlegung verbietet. Während es eine bipartisanische Unterstützung für einen solchen gab, wurde er schließlich im Senat nach seiner Überweisung aus dem Repräsentantenhaus verworfen.
Bundesabgeordnete Dar’shun Kendrick, eine Demokratin, die im Ausschuss sitzt, der das Gesetz leitete, sagte CNN, dass sie wünschte, es wäre verabschiedet worden. Als sie gefragt wurde, ob sie besorgt sei, dass ein Staat wie Georgia keine solche Gesetzgebung habe, antwortete sie: "Es wird immer böse Akteure geben."
"Wir hoffen, dass, wenn wir welche sehen, sie schnell enttarnt oder entfernt werden oder es gibt Maßnahmen zur Korrektur", fügte Kendrick hinzu.
Bislang setzen Staaten andere Methoden ein, um sich vor schädlichen Deepfakes zu schützen. Wahlen in Arizona werden von Wahlhelfern trainiert, um Deepfakes zu erkennen, und in New Mexico hat der Secretary of State eine Kampagne gestartet, um Wähler darüber zu informieren, wie man sie erkennt.
Diese staatlich geführte Kampagne kann das Offenlegungsgesetz von New Mexico nur stärken, sagte Alex Curtas, ein Sprecher des Secretary of State von New Mexico.
"Diese Dinge müssen Hand in Hand arbeiten", sagte er.
CNNs Oliver Darcy, Sean Lyngaas, Donie O’Sullivan und Yahya Abou-Ghazala haben zu diesem Bericht beigetragen.
Angesichts der Bedenken des Department of Homeland Security haben Politiker in verschiedenen Staaten wie Florida, Hawaii, New York und Alabama Gesetze erlassen, um den Einsatz von Deepfakes in politischen Kampagnen zu regulieren. Diese Gesetze erfordern Offenlegungen in politischen Anzeigen mit Deepfake-Inhalten, und Verstoße können in einigen Staaten wie Utah und Wisconsin hohe Geldbußen oder sogar Haftstrafen nach sich ziehen.
Allerdings stellt die schnelle Entwicklung von KI eine einzigartige Herausforderung bei der Erkennung und Regelung von Deepfakes dar. Laut Amy Beth Cyphert, einer Rechtslektorin an der West Virginia University's College of Law, könnte jeder mit minimalen technologischen Kenntnissen potenziell ein Deepfake erstellen. Dies bedeutet, so sagt sie, eine "ganz neue Welt" im Bereich der Politik und täuschender Inhalte.
