KI-Deepfakes und Desinformation drohen bei den Wahlen in der Türkei (2023)

Türkische Internetnutzer waren überrascht, als sie in einem vor zwei Wochen online gestellten Video herausfanden, dass Kemal Kilicdaroglu, der Hauptgegner von Präsident Recep Tayyip Erdogan bei der Wahl am Sonntag, perfektes Englisch sprach.

„Mein Augapfel spricht auch Englisch. Ich verspreche dir, Opa, wir machen dich zum Präsidenten“, kommentierte ein Twitter-Nutzer und teilte das Video des 74-jährigen Kandidaten. Doch zwei Tage später enthüllte die unabhängige türkische Website zur Faktenprüfung TeyitDas Video war gefälscht.

Laut Teyit, was auf Türkisch „Bestätigung“ bedeutet, hatte das KI-generierte Video nicht die Absicht, jemanden zu täuschen, und wurde zunächst mit einem Haftungsausschluss veröffentlicht.

„Ich experimentiere ständig mit KI, um neue Funktionalitäten kennenzulernen. Ich habe Kemal Kilicdaroglus Stimme auf KI erstellt und sie für eine englische Version seiner Kandidaturrede verwendet“, sagte er@ytc06, der das Video als erster Twitter-Nutzer mit seinen 11 Followern geteilt hat, bevor es viral ging.

Der jüngste Boom beim Zugang zu KI-Tools verschärft solche Situationen, so der Deepfake-Spezialist Henry Ajder.

„Wenn etwas, das satirisch sein soll, aus dem Kontext gerissen wird, kann es fälschlicherweise als real angesehen werden, insbesondere wenn man mit einem Publikum spricht, das gewisse Vorurteile hat“, sagte er gegenüber Euronews Next.

„Berühmte Persönlichkeiten und Politiker sind besonders gefährdet, weil sie viel in die Kamera sprechen, still stehen und direkt in die Linse schauen. Das ist eine einfachere Form von Videos, die man manipulieren kann, als wenn sie sich bewegen und ihr Profil sich ändert“, erklärte er.

Überschwemmung der sozialen Medien mit Deepfakes

Am selben Tag wurde das manipulierte Video, in dem er Englisch spricht, veröffentlicht – was ihm größtenteils Unterstützer einbrachte –, warnte Kilicdaroglu seine Social-Media-Follower vor einer möglichen Wahleinmischung.

„Bei Cambridge Analytica zu spielen, übersteigt eure Kapazitäten, Jungs“, sagte er zu Regierungsbeamtenauf Twitter, und bezog sich dabei auf die unbefugte Nutzung personenbezogener Daten und gezielte Kampagnen in den sozialen Medien, um die US-Präsidentschaftswahl 2016 zu beeinflussen.

Die bevorstehenden Präsidentschafts- und Parlamentsabstimmungen in der Türkei könnten Erdogans 20-jährige Herrschaft beendendie politische Landschaft des Landes verändern.Sie sind auch eine der ersten großen Wahlen, die sich mit solch fortschrittlicher KI befassen.

„Wenn man anspruchsvolle und sehr menschlich klingende Sprache in großen Netzwerken und unauthentischen Konten mit einer Erzählung überfluten kann, könnte das offensichtlich dazu beitragen, eine Sphäre zu erobern“, sagte Ajder.

Genau das haben Internetnutzer in der Türkei versucht zu erreichen. In den letzten Monaten hatte Teyit mit einer Welle manipulierter Inhalte zu kämpfen und hat diese entlarvtüber 150 umstrittene Behauptungen im Zusammenhang mit den Wahlen,allein am 10. Mai waren es acht. Bei vielen davon handelte es sich um Deepfakes, die darauf abzielten, die Leser in die Irre zu führen, indem Kandidaten (hauptsächlich Oppositionskandidaten) des Terrorismus und der Unhöflichkeit beschuldigt wurden.

„Es ist leicht zu erkennen, dass diese Art von Inhalten gefälscht sind, aber für Leute, die nicht mehr kritisch denken, ist das nicht der Fall“, sagte der türkische KI-Experte Cem Say gegenüber Euronews Next.

Die Mehrheit der Türken ist zwischen Erdogan und Kilicdaroglu polarisiert, und Umfragen gehen derzeit davon aus, dass dies der Fall sein wirdextrem knappes Rennenzwischen den beiden Kandidaten.

Die Partei für Gerechtigkeit und Entwicklung (AKP) des amtierenden Präsidenten hat ihre Konkurrenten wiederholt attackiert, zuletzt bei ihrer größten Kundgebung in Istanbul am 7. Mai, als auf riesigen Bildschirmen ein nicht veröffentlichter Schnitt von Kilicdaroglus Wahlkampfvideo abgespielt wurde.

Die Deepfake-Version hatte hinzugefügt, dass Murat Karayılan, ein Führer der Kurdischen Arbeiterpartei (PKK), die von mehreren anderen Ländern und der EU als Terrororganisation eingestuft wird, zum Wahlkampflied der Opposition mitklatschte, während der Text „Komm schon, Lasst uns alle wählen gehen“, dröhnte es aus den Lautsprechern.

In einem in den sozialen Medien geteilten Video fragte Erdogan schätzungsweise 1,7 Millionen Anhänger, die an seiner Kundgebung teilnahmen: „Würden meine nationalen und lokalen Landsleute für diese Menschen stimmen?“ bevor er hinzufügt: „Sehen Sie sich das an, es ist wirklich wichtig!“.

Ein weiterer Präsidentschaftskandidat, Muharrem Ince, schied am Donnerstag aus dem Rennen aus, nachdem ein angebliches Sexvideo veröffentlicht worden war, das er als Deepfake bezeichnete.

Der Gründer und Führer der Mitte-Links-säkularen und nationalistischen Heimatpartei, der Erdogans Hauptgegner bei der Wahl 2018 war, sagte, er sei während des diesjährigen Wahlkampfs Opfer eines „Rufmords“ geworden.

„Was ich in den letzten 45 Tagen gesehen habe, ist mir in den letzten 45 Jahren nicht begegnet“, sagte Ince in seinemRücktrittsrede.

„Gefälschte Videos, gefälschte Bilder … sie haben mein Gesicht auf einem Video einer israelischen Porno-Website gezeigt“, fügte er hinzu und warf den Journalisten und Staatsanwälten des Landes vor, ihn nicht vor der „Wut der Verleumdung“ geschützt zu haben.

Experten wie Say befürchten noch aggressivere Last-Minute-Taktiken. „Deepfakes könnten am Wahltag mit der Motivation eingesetzt werden, Menschen davon abzuhalten, zur Wahl zu gehen oder ihre Entscheidung zu beeinflussen“, sagte er und fügte hinzu, dies würde „keine Zeit für eine Überprüfung“ lassen.

Was kann getan werden?

Da die Fortschritte in der künstlichen Intelligenz keine Anzeichen einer Verlangsamung zeigen, liefern sich Entlarvungsexperten einen Wettlauf mit KI-Inhaltsgeneratoren. Genau wie in der Türkei haben auch in den Vereinigten Staaten von offiziellen Quellen erstellte Deepfakes ihren Weg in die politische Szene gefunden.

Nachdem Präsident Joe Biden angekündigt hatte, dass er sich zur Wiederwahl stellen werde, veröffentlichte das gegnerische Republikanische Nationalkomitee ein KI-gestütztes Video, das eine dystopische Zukunft während einer zweiten Amtszeit Bidens zeigt. Experten warnen bereits davor, dass Deepfakes dazu gehören werdeneiner der größten Herausforderungen der US-Präsidentschaftswahl 2024.

„Die Erkennungsseite ist im Moment etwas deprimierend“, sagte Ajder. Seiner Meinung nach sind Tools zur Zertifizierung der Herkunft von Inhalten vielversprechend, bergen jedoch die Gefahr, dass eine Medienhierarchie entsteht: Wenn echte Inhalte nicht zertifiziert sind, „können die Leute sie bei Bedarf als Fälschung abtun“, erklärte er. Seine Empfehlung ist, sich an Medienquellen zu halten, die bekannt sind und Fakten überprüfen können.

Das ist in der Türkei sehr schwierig90 Prozent der inländischen Medien stehen unter staatlicher Kontrolle, so die Pressefreiheitsgruppe Reporter ohne Grenzen. Dies - kombiniert mitein Oktober 2022Ein Gesetz, das darauf abzielt, „Desinformation“ einzudämmen, bedeutet, dass nur sehr wenige Medien tatsächlich über Deepfakes in der Türkei berichten.

Anadolu, die Nachrichtenagentur der türkischen Regierung, wurde beschuldigtZurückhaltung der Ergebnisse der Istanbuler Bürgermeisterwahlen 2019von der Opposition gewonnen, und diesen Monatein Bericht der Wahlbeobachtungsmission der OSZEäußerte Bedenken hinsichtlich der Unparteilichkeit der Medienregulierungsbehörde des Landes, RTÜK.

Nur wenige Tage bevor das Land zu den Wahlen geht, ist die Post-Wahl-Serie des unabhängigen türkischen Medienunternehmens 140journos vielleicht die wirkungsvollste, wenn es darum geht, sich vorzustellen, was als nächstes kommen könnte – auch hier wieder mit Hilfe künstlicher Intelligenz. Veröffentlicht im März mit dem KI-Bildgenerator Midjourney und dem KI-Textgenerator ChatGPT bietet es zwei Narrative für die Zukunft der Türkei.

Die erste Geschichte zeigt einen besiegten und frisch pensionierten Erdogan. „Am Anfang war es etwas schwierig. Mit der Zeit habe ich jedoch die Gelegenheit genutzt, mehr Zeit mit meiner Familie zu verbringen, der Natur näher zu sein und mehr Zeit für mich selbst zu haben“, sagt ein Bot, der sich als Politiker ausgibt, während Fotos von ihm beim Teetrinken im Bademantel den Beitrag veranschaulichen .

In der anderen Erzählung hat Erdogan die Macht nie aufgegeben und die Türkei ist zu einem Imperium im Star-Wars-Stil geworden, das darauf abzielt, „universellen Frieden zu schaffen“.

Auf die Frage „Was waren die größten Herausforderungen bei diesem Erfolg?“ antwortet die Erdogan-imitierende KI: „Eine unserer größten Herausforderungen bestand darin, mit der neuen Ordnung der Welt und des Universums Schritt zu halten und die technologischen Entwicklungen genau zu verfolgen.“ und uns ständig daran anpassen“ – eine Anspielung auf die Herausforderung, vor der alle Politiker jetzt mit KI stehen.