Deepfakes sind synthetische Medien, die digital manipuliert wurden, um das Aussehen einer Person überzeugend mit dem einer anderen zu ersetzen. 

Der Begriff Deepfake ist eine Zusammensetzung aus „Deep Learning“ und „fake“. Deep Learning ist eine Form des maschinellen Lernens, die auf künstlichen neuronalen Netzen basiert, die große Mengen an Daten verarbeiten können.

Um ein Deepfake-Video zu erstellen, sind einige Schritte nötig. Zunächst muss man eine große Anzahl von Bildern oder Videos von der Zielperson und der Quellperson sammeln, deren Gesichter ausgetauscht werden sollen. Dann muss man ein neuronales Netzwerk trainieren, das die Gesichtsmerkmale der beiden Personen lernt und sie miteinander verbindet. Schließlich muss man das gelernte Modell anwenden, um das Gesicht der Quellperson auf das Video der Zielperson zu übertragen. Das Ergebnis ist ein Deepfake-Video, das so aussieht, als ob die Zielperson die Worte und Handlungen der Quellperson ausführt.

Was sind Beispiele für Deepfakes?

Pornografie: Viele Deepfakes sind pornografisch. Die KI-Firma Deeptrace fand im September 2019 15.000 Deepfake-Videos online, eine fast Verdopplung in neun Monaten. Eine erschreckende 96 % waren pornografisch und 99 % davon projizierten die Gesichter von weiblichen Prominenten auf Pornostars.

Politik: Deepfakes können auch verwendet werden, um politische Meinungen zu beeinflussen oder zu diskreditieren. Zum Beispiel wurde ein Deepfake-Video von Barack Obama erstellt, in dem er Donald Trump einen „kompletten Trottel“ nennt. Ein anderes Deepfake-Video zeigte Nancy Pelosi, die ehemalige Sprecherin des US-Repräsentantenhauses, wie sie lallt und verwirrt wirkt. Kürzlich wurde ein Video von Bundeskanzler Olaf Scholz veröffentlicht, in dem er ein Verbot der Alternative für Deutschland ausspricht.

Unterhaltung: In einem Deepfake-Video von Mark Zuckerberg prahlt dieser damit, die totale Kontrolle über die gestohlenen Daten von Milliarden von Menschen zu haben. Ein anderes Deepfake-Video zeigte Jon Snow, wie er sich für das – für viele Fans – enttäuschende Ende von Game of Thrones entschuldigt.

Warum sind Deepfakes ein Problem, das adressiert werden muss?

Verletzung der Privatsphäre und der Würde: Deepfakes können die Privatsphäre und die Würde von Personen verletzen, die ohne ihre Zustimmung oder ihr Wissen in gefälschten Medien dargestellt werden. Dies kann zu psychologischem Schaden, Rufschädigung, Erpressung oder Mobbing führen. Besonders betroffen sind hierbei Frauen, die oft das Ziel von pornografischen oder diffamierenden Deepfakes sind. Außerdem können Deepfakes die Identität von Personen stehlen oder missbrauchen, indem sie ihre Stimme, ihr Aussehen oder ihre Handlungen nachahmen, ohne, dass das Opfer dies wahrnimmt.

Untergrabung der Wahrheit und des Vertrauens: Deepfakes können die Wahrheit und das Vertrauen in die Medien, die Politik, die Justiz und die Gesellschaft untergraben, indem sie falsche oder irreführende Inhalte verbreiten. Dies kann zu Verwirrung, Desinformation, Hassrede, Polarisierung oder Manipulation führen. Weiterhin können auch die Glaubwürdigkeit von genuinen Beweisen oder Zeugnissen infrage gestellt werden, indem Deepfakes Zweifel an der Authentizität selbiger säen. Dies wiederum kann dazu führen, dass es Menschen schwerer fällt, kritisch zu denken und zwischen Fakten und Fiktion zu unterscheiden.

Warum können Deepfakes für Unternehmen Probleme darstellen?

Sicherheit: Deepfakes können verwendet werden, um die Identität von Mitarbeitern, Kunden, Partnern oder Führungskräften zu imitieren oder zu stehlen, um Zugang zu sensiblen Informationen, Systemen oder Ressourcen zu erhalten. Deepfakes können unter anderem verwendet werden, um Phishing-Angriffe, Social Engineering, Betrug oder Erpressung durchzuführen. Deepfakes können auch verwendet werden, um die Integrität oder Vertraulichkeit von Daten oder Dokumenten zu kompromittieren, indem sie manipuliert oder gefälscht werden.

Ruf: Deepfakes können verwendet werden, um das Image oder die Glaubwürdigkeit von Unternehmen oder ihren Vertretern zu schädigen, indem sie falsche oder negative Inhalte über sie verbreiten. So können Skandale, Gerüchte, Lügen oder Kritik erzeugt oder verstärkt werden. Gleichzeitig kann mit ihnen die Meinung oder das Verhalten von Kunden, Investoren, Medien oder der Öffentlichkeit beeinflusst werden, indem sie negative Emotionen oder Reaktionen hervorrufen.

Finanzen: Deepfakes können verwendet werden, um die finanzielle Leistung oder Stabilität von Unternehmen oder ihren Geschäftspartnern zu beeinträchtigen, indem sie falsche oder irreführende Informationen über sie verbreiten. So können insbesondere ein Aktienkurs, der Umsatz, die Kosten, die Gewinne oder die Verluste von Unternehmen manipuliert oder gefälscht werden. Weiterhin können Deepfakes verwendet werden, um die Marktbedingungen, die Nachfrage, das Angebot, die Konkurrenz oder die Regulierung von Unternehmen oder ihren Branchen zu verzerren oder zu täuschen.

Compliance: Neu Erfunden

VinciWorks ist der führende Anbieter individuell anpassbarer, innovativer Online-Compliance-Schulungen