Verstorbener Politiker interagiert mit Wählern durch künstliche Intelligenz
In Indien, das größte Wahlen mit etwa einer Milliarde potenziellen Stimmberechtigten ist zu Ende gegangen. Die endgültigen Ergebnisse werden in Kürze vorgestellt. Während des Vorfelds der Abstimmung wurde AI umfangreich eingesetzt. Fachleute beobachten sowohl die Möglichkeiten als auch die Gefahren darin.
Harikrishnan Vasanthakumar ist bereits vier Jahre tot. Aber in einem Video lobt er seinen Sohn und empfiehlt ihm, wenn er gewinnt, die Perfektion. Seine virtuelle Wiederbelebung während der Kampagne seines Kindes war durch die Implementierung von AI möglich. In der bevölkerungsreichsten Nation der Erde - Indien - war es schwierig, AI-generierte Inhalte wie das von Vasanthakumar zu umgehen.
Alle bedeutenden Parteien nutzten AI in ihren Kampagnen in jüngster Zeit recht offensiv. Auch Premierminister Narendra Modi musste profitieren: Alle Umfragen prognostizieren eine dritte Amtszeit für ihn. Die letzten Wahllokale schlossen am Samstag nach über sechs Wochen. Die Ergebnisse sollen am Mittwoch bekanntgegeben werden.
Indien dient als großes Testfeld für die Anwendung von AI in der Politik und könnte als Vorbild für andere Länder dienen, meint Katja Muñoz, die AI in Wahlen untersucht an der Deutschen Gesellschaft für Auswärtige Politik in Berlin. Die Technologie besitzt eine erhebliche Manipulationsmöglichkeit. Sie sieht auch Vorteile: "Es ist nicht moralisch verwerflich, wenn man eine breitere Zielgruppe mit AI erreichen will oder mit ihr in verschiedenen Sprachen kommunizieren möchte", sagt die Expertenin. Genau so wie der ubiquitäre Modi in Indien tat.
Im Kontext eines triumphalen Persönlichkeitskults um ihn herum kommunizierte er länger mit der Wählerschaft in zahlreichen Sprachen - etwas, was er selbst nicht fließend beherrscht. Ob das ethisch korrekt ist, wird in der weltgrößten Demokratie kaum diskutiert. "Aber es ist moralisch verwerflich, wenn AI nicht gekennzeichnet wird", findet die Expertenin. Das geschah während der Wochenlangen Wahlen in Indien, in denen bekannte Bollywood-Stars in AI-generierten Aufnahmen kritisierten die Regierung, ohne ihr Einverständnis.
In einem weiteren viralen AI-Video erklärt Oppositionsführer Rahul Gandhi, dass er zurücktreten werde, weil Modi korrupte Personen wie ihn ins Gefängnis schicken werde. Faktenprüfer entdeckten später, dass das Video eine Fälschung war. Erzeugt mit AI. Experten bezeichnen sie als Deepfakes: außerordentlich realistisch wirkende Mediendaten, die mit AI-Techniken verändert, erstellt oder erfunden wurden.
Ein AI-Spezialist, der solche Deepfakes schaffen kann, ist der Inder Divyendra Singh Jadoun. Die großen Parteien nutzten AI deutlich während ihrer Kampagnen, sagt der CEO von Polymath Synthetic Media Solutions, einer New Delhi basierten Firma, die synthetische Inhalte als Dienst anbietet. Nach allen 73 Millionen wählberechtigten Bürgern wurde gefragt, ihre Stimme abzugeben. Reichweite wird entscheidend sein.
Firmen wie Divyendra Singh Jadouns boten ihren Kunden an, vor einer Kamera eine Botschaft aufzunehmen, die von einer Maschine analysiert wurde, um die Gesichtsausdrücke und die Stimme zu erfassen. Dadurch entstanden AI-Videos, in denen Politiker den Unterstützern direkt sprechen scheinen. Die Empfänger-Namen und -Nummern wurden aus einer Datenbank abgerufen. Diese persönlichen AI-Videos wurden dann direkt auf die Telefone der Unterstützer per WhatsApp gesendet.
Rajneethi Political Management, eine Beratungsfirma, gab an, fast sechs Millionen persönliche Video-Nachrichten auf Befehl von 28 Kandidaten versendet zu haben. Ihr Technischer Chef Vinay Despande erzählt, dass ihre Organisation auch QR-Codes formulierte, die Interessierte mit ihren Handys scannen konnten - auf dem Bildschirm erschien dann ein Vertreter eines Politikers in ihrem persönlichen Bereich. "Je nachdem, wo der Code gescannt wird, sagt er dann eine andere Adresse", erzählt Despande. In einer Region mit vielen jungen Menschen, zum Beispiel, würde der Kandidat über die Schaffung von Arbeitsplätzen reden.
Politiker-Chatbots erreichten manchmal ihre technischen Grenzen - beispielsweise in interaktiven Sprachanrufen mit der Stimme von Politikern: Interessierte konnten dann einen Einzelgespräch starten. "Wir bilden den Sprachmodell mit Details über die Wahlprogrammatik aus, jedoch kann es manchmal falsch verstehen", erklärt Divyendra Singh Jadoun. "Es könnte beispielsweise sagen, dass ein Politiker Frauenrechte verteidigt, obwohl er es nicht tut." Seine Firma hat eigene ethische Prinzipien aufgestellt, sagt der Unternehmer. Sie produzieren daher nur "generative" Fälschungen - persönisierte Videos, Politiker-Hologramme, die für Fotos mit Wählern posieren, oder Lieder über Politiker und ihre Leistungen. Pornografische Material über politische Rivalen wurden abgelehnt. Aber es bedarf keiner technischen Kenntnisse, um Deepfakes heute zu erstellen, warnte der Unternehmer.
Selbst die Regierung von Premierminister Modi (der selbst AI in der Wahl nutzte) warnte vor AI vor der Wahl - Googles AI-Tool Gemini entdeckte, dass der 73-jährige PM ein rechter Extremist sei. Trotzdem finanzierten Parteien Online-Trolle und Inhaltsentwickler während der Wahlkampagne, um die Reputation ihrer Gegner zu beschädigen und sie in Kommentars zu diffamieren. Die hindunationalistische Partei von Modi soll das höchste Budget für diesen Zweck gehabt haben.
Prof. Sven Nyholm (Ethik der künstlichen Intelligenz an der Ludwig-Maximilians-Universität in München) glaubt, dass Rechtsvorschriften für AI notwendig sind, um und zu stärken. Währenddessen macht die Fortschrittlichkeit von AI nicht auf. Vinay Despande meint, dass die politische Kommunikation in Indien nach der Einführung von AI grundlegend verändert wird. Schließlich will Polymath Synthetic Media Solutions die Demokraten und Republikaner in der nächsten US-Präsidentschaftswahl im November gewinnen.
