Die Entwicklung von KI-Technologien wirft in allen Bereichen, auch im Journalismus, Bedenken auf, und synthetische Medien verschärfen die Situation. Dieser Leitfaden konzentriert sich auf die Definition synthetischer Medien, ihre Techniken und – besonders alarmierend – auf die damit verbundenen Gefahren für den Journalismus.
Warum das wichtig ist:
Die verschiedenen Datenformen, aus denen Nachrichteninhalte bestehen, stehen kurz vor der Duplizität, da synthetische Medien – ein Algorithmus, der Texte, Bilder und audiovisuelle Inhalte manipulieren kann – derzeit für diejenigen verfügbar sind, die danach suchen. Mit diesem KI-basierten Modell ist es möglich, „Gesichter und Orte zu erschaffen, die nicht existieren, und sogar einen digitalen Sprachavatar zu erstellen, der die menschliche Sprache imitiert.“Aldana Vales 2019) Stellen Sie sich eine Welt vor, in der es äußerst schwierig ist, zwischen Falschmeldungen und echten Nachrichten zu unterscheiden, da die Verbreiter von Falschmeldungen „Beweise“ ihren Zwecken anpassen können. Beispielsweise würde niemand mehr daran glauben, dass der Dritte Weltkrieg begonnen hat, wenn Videos von Trump, Putin und Kim, in denen sie den Krieg erklären, weltweit online kursieren würden. Auch wenn solche Nachrichten von den beteiligten Regierungen als falsch zurückgewiesen würden, könnte die dadurch ausgelöste psychologische und wirtschaftliche Panik verheerender sein als die Wirkung eines Raketenangriffs.Tiefer graben
Synthetische Medien lassen sich mithilfe dreier Formen generativer künstlicher Intelligenz (GAI) erzeugen: Generative Adversarial Networks (GANs), Variational Autoencoder und Recurrent Neural Networks. Diese GAIs werden zur Generierung von Fotos, Videos bzw. Texten eingesetzt. Der Begriff „Generierung“ wird verwendet, da die meisten mit diesen Algorithmen erzeugten Medieninhalte nicht existieren; synthetische Medien können jedoch auch zur Duplizierung genutzt werden. Laut Aldana Vales verwenden Generative Adversarial Networks zwei neuronale Netze (ein neuronales Netz ist ein Computersystem, das komplexe Beziehungen und Muster vorhersagen und modellieren kann), die miteinander konkurrieren. Das erste und das zweite Netz fungieren jeweils als Generator und Diskriminator. Der Diskriminator überwacht den Generator und stellt sicher, dass kein Detail unberücksichtigt bleibt. Nach mehreren Korrekturschleifen durch das Duo ähnelt der erzeugte Inhalt dem Original. Im Gegensatz zu Generative Adversarial Networks werden neuronale Netze in Variational Autoencodern als Encoder und Decoder bezeichnet, da die Technik die Komprimierung und Rekonstruktion von Videoinhalten beinhaltet. Der Decoder beinhaltet Wahrscheinlichkeitsmodelle, die wahrscheinliche Unterschiede zwischen den beiden Texten identifizieren, um Elemente zu rekonstruieren, die sonst im Kodierungs-Dekodierungsprozess verloren gingen. (Aldana Vales 2019) Rekurrente neuronale Netze funktionieren, indem sie die Struktur großer Textmengen erkennen. Diese Methode wird beispielsweise in der Text-Autokorrektur-App für Smartphones verwendet. Solche Techniken kommen in verschiedenen Projekten wie GauGAN zum Einsatz Face-to-Faceund dem GPT-2-Modell. Die neueste Anwendung synthetischer Medien findet sich in Siri und Alexa. Diese virtuellen Assistenten können nun Text in Audio umwandeln und menschliche Sprache imitieren. In einem Artikel von 2017 mit dem Titel „KI-gestützte Pornografie ist da und wir sind alle am Arsch“ deckte Vice die Verbreitung eines gefälschten Pornovideos auf. Das wäre an sich kein Problem, da die meisten Handlungen in Pornofilmen erfunden sind (haha). Nur hatte der Darsteller das Gesicht der bekannten, nicht-pornografischen Schauspielerin Gal Gadot (Wonder Woman). 2018 kursierte außerdem ein Video auf Buzzfeed, in dem Präsident Barack Obama über die Risiken manipulierter Videos sprach. Das Merkwürdige an diesem Video: Die KI-generierte Person hatte Obamas Gesicht und Jordan Peeles Stimme – dank synthetischer Medien. Es gibt eine laufende Kampagne gegen die potenziellen Gefahren synthetischer Medien für die Authentizität von Nachrichten. Allerdings konzentrieren sich Redaktionen neben der Berichterstattung auch auf die Erkennung synthetischer Medien und die Validierung von Informationen. Das Wall Street Journal beispielsweise erstellte ein Leitfaden für die Redaktion Und Ausschuss um Deepfakes zu erkennen. Die New York Times berichtete kürzlich darüber angekündigt „das ein Blockchain-basiertes System zur Bekämpfung von Online-Desinformation erforscht.“ (Aldana Vales 2019)Fazit
Synthetische Medien könnten Nachrichtenagenturen helfen, Sprachbarrieren mühelos zu überwinden. Gleichzeitig könnten sie aber auch die Verbreitung von Falschnachrichten fördern. Zwar lässt sich nicht verhindern, dass große Technologiekonzerne in die KI-Forschung investieren, doch Journalisten können lernen, den Schaden durch synthetische Medien einzudämmen.Inhalte unserer Partner
