DMZ – GESELLSCHAFT / LEBEN ¦ Peter Metzinger ¦ 
Mit der wachsenden Beliebtheit bösartiger Deepfakes erleben wir in der Tat das Aufkommen einer neuen Generation von Fehlinformationen. Jetzt, wo die Deepfakes immer raffinierter und zugänglicher werden, können böswillige Einzelpersonen und Organisationen Täuschungen erstellen und verbreiten, während unsere Gesellschaft nicht in der Lage ist, zwischen dem Echten und dem Gefälschten zu unterscheiden, geschweige denn mit Unterscheidungsvermögen gegen dieses Phänomen vorzugehen.
Deepfake, auch Hypertrucages genannt, sind eine Form des Tricks, die in den sozialen Medien immer mehr an Bedeutung gewinnt. Die Technologie kann zwar interessant sein, weckt aber in mancher Hinsicht auch Ängste vor dem Schlimmsten. Hypertrucages verwenden Audio- und Videoaufnahmen von echten Menschen, die Dinge sagen und tun, die sie nie gesagt oder getan haben, und die mit Hilfe von maschinellen Lernalgorithmen erstellt werden.
Das Dalí Museum hat es zum Beispiel geschafft, Salvador Dalí synthetisch zum Leben zu erwecken, so dass er die Besucher seiner Ausstellung begrüssen und ein Selfie oder Selbstporträt mit ihnen machen kann.
Aber auch auf der Seite der böswilligen Nutzung der Technologie hat eine Frau dieselbe Technologie benutzt, um gefälschte Videos von den rivalisierenden Cheerleadern ihrer Tochter zu erstellen, um sie zu schikanieren.
Ein weiteres alarmierendes Beispiel ist der Einsatz von Täuschungsphishing für Cyberangriffe auf Unternehmen. In einem viel beachteten Beispiel aus dem Jahr 2019 nutzten Cyberkriminelle Deepfake-Phishing, um den CEO eines britischen Energieunternehmens dazu zu bringen, ihnen 243’000 $ zu überweisen, wie The Wall Street Journal berichtet. Mithilfe einer KI-basierten Stimmentäuschungssoftware gelang es den Kriminellen, sich als der Chef der Muttergesellschaft des Unternehmens auszugeben und den CEO glauben zu lassen, er spreche mit seinem Chef.
Deepfake-Phishing Angriffe können entweder eine Echtzeit-Attacke sein: bei der das Deepfake-Audio oder -Video so ausgeklügelt ist, dass es dem Opfer vorgaukelt, die Person am anderen Ende des Anrufs sei die, die sie vorgibt zu sein.
Oder eine Nicht-Echtzeit-Angriffsform: bei der sich ein Cyberkrimineller über gefälschte Audio- oder Videonachrichten als jemand ausgibt, den er dann über asynchrone Kommunikationskanäle wie Chat, E-Mail, Voicemail oder soziale Medien verbreitet. Diese Art der Kommunikation verringert den Druck auf die Kriminellen, in Echtzeit glaubwürdig zu reagieren, und ermöglicht es ihnen, einen Deepfake-Clip zu perfektionieren, bevor sie ihn verbreiten.
Kurz gesagt, kann heute jeder seine eigenen Fake News erstellen, sie mit einem Deepfake-Video oder -Audio beweisen und sie für jeden Zweck verbreiten. Der Einsatz von Deepfake zur Desinformation ist jedoch nicht neu. Warum sollten wir uns also jetzt mehr Sorgen über das Aufkommen dieser Technologie machen?
-
Das Aufkommen dieses Phänomens zwingt uns heute dazu, den Wahrheitsgehalt jeglicher audiovisueller Inhalte anzuzweifeln. Leugnungen werden immer glaubwürdiger und die Dividende des Lügners immer mächtiger. Jeder kann unwiderlegbare Fakten leicht in Frage stellen.
-
Darüber hinaus sind Videos, wie wir bereits erläutert haben, besonders effektiv darin, emotionale Reaktionen auszulösen, weil wir das Video im Allgemeinen als unwiderlegbaren Beweis für den Wahrheitsgehalt ansehen.
Es gibt derzeit viele Debatten über die besten Lösungen, um diesem Problem zu begegnen. Wir glauben, dass Aufklärung den Vorteil hat, das Problem an der Wurzel zu packen und die Widerstandsfähigkeit unserer Gesellschaft zu stärken, um sie zu impfen, damit sie ein besseres Radar für Deepfakes hat.
Dieser Text erschien ursprünglich auf http://ReclaimTheFacts.com beziehungsweise Techniken zur Manipulation der öffentlichen Meinung: Hypertrucage & Deepfake Phishing (reclaimthefacts.com).
Ausflugstipps
Unterstützung
Damit wir unabhängig bleiben, Partei für Vergessene ergreifen und für soziale Gerechtigkeit kämpfen können, brauchen wir Sie.
Rezepte
Persönlich - Interviews
Kommentar schreiben