Deepfake

Was sind Deepfakes?

Deepfakes sind Medieninhalte wie Fotos, Videos, Texte oder Audiodateien, die mithilfe Künstlicher Intelligenz (KI) abgeändert, verfälscht oder gänzlich neu erstellt werden.

Der Begriff ist eine Kombination von „Deep Learning“ und „Fake“ – dem englischen Wort für Fälschung. Deep Learning ist eine Variante der KI, die aus Beispielen „lernt“ und das Gelernte anschließend nachahmen kann.

Wie man auf den Seiten der Bundesregierung genauer nachlesen kann, leitet sich der Begriff Deepfake aus dem Erstellungsprozess ab: In einem „Generative Adversarial Network“ (GAN) werden demnach zwei neuronale Netzwerke kombiniert und anhand vorhandener Bild-, Video- und/oder Sprachaufzeichnungen trainiert. Zuerst lernt die KI also beispielsweise, wie das Gesicht einer Person aussieht, um dieses Gesicht dann in ein beliebiges Video einzufügen. Die so veränderten Medieninhalte sehen täuschend echt aus und sind kaum als Manipulationen oder Fälschungen zu erkennen. So lassen sich beispielsweise per Video aufgezeichnete Reden oder Vorträge derart abändern, dass den Rednern lippensynchron andere Aussagen „in den Mund gelegt werden“.

Wie funktioniert Deepfake Detection?

Bei der Deepfake Detection,  dem Enttarnen manipulierter Medieninhalte, kommt ebenfalls Deep Learning zum Einsatz und auch hier setzt man auf maschinelles Lernen. Die hierbei eingesetzten Technologien analysieren spezifische Merkmale, die für menschliche Augen oft unsichtbar sind, suchen beispielsweise nach Unregelmäßigkeiten in der Bild- und Tonqualität, die selbst raffinierteste Fälscher nicht vollständig verbergen können.

Warum ist Deepfake Detection wichtig?

Die Bedrohung durch Deepfakes trifft nicht mehr bloß prominente Persönlichkeiten. Sie ist sehr real, steigt rasant und die Folgen für Wirtschaft, Wissenschaft, Gesellschaft und Demokratie sind bereits jetzt kaum noch zu beziffern.

Deepfake Detection ist entsprechend essenziell, um die Verbreitung von Fake News zu verhindern, die Diskreditierung von Personen zu unterbinden oder Betrugsfälle zu vermeiden. Und die Liste der möglichen Gefährdungen durch Deepfake ließe sich unendlich weiterführen.

Wie können Deepfakes die Gesellschaft und einzelne Personen beeinflussen?

Deepfakes haben ein enormes Potenzial zur Beeinflussung sowohl einzelner Personen als auch der Gesellschaft. Sie können beispielsweise das Privatleben von Einzelpersonen und deren Angehörigen ruinieren, das Vertrauen in die Demokratie unterlaufen, politische Unruhen auslösen, die Reputation von Unternehmen schädigen und/oder erhebliche finanzielle Verluste verursachen. Nicht umsonst haben vertrauenswürdige Unternehmen der Medienbranche inzwischen ganze Teams zur Enttarnung von Deepfakes etabliert.

Erkennung von Deepfakes: Was sind die Herausforderungen?

Analog zur rasanten Weiterentwicklung KI-basierter Lösungen werden natürlich auch Deepfakes immer raffinierter und schwerer zu erkennen. Die größte Herausforderung bei der Erkennung von Deepfakes besteht entsprechend darin, mit der Geschwindigkeit der technologischen Entwicklung Schritt zu halten – und die Deepfake-Detection-Instrumente und -Methoden kontinuierlich zu optimieren.

Welche Technologien werden zur Erkennung von Deepfakes genutzt?

WebID als Pionier und Vorreiter im Bereich digitaler Identifikationslösungen setzt zur Erkennung von Deepfakes auf biometrische Erkennung und Live-Verifikation. Aus gutem Grund, denn erst die Kombination aus „Einsatz KI-basierter, biometrischer Prüfung“ und einer anschließenden Verifikation während eines Video-Calls mit umfangreich geschulten Agents kann dabei unterstützen, selbst kleinste Unstimmigkeiten zu identifizieren. Dieses zweistufige Ident-Verfahren trägt dazu bei, den Schutz vor gefälschten Identitäten zu verbessern.

Können Deepfake-Detection-Tools zwischen echten und gefälschten Inhalten unterscheiden?

Moderne Deepfake-Detection-Instrumente und -Tools sind in der Lage, mit hoher Genauigkeit zwischen echten und gefälschten Inhalten zu differenzieren. Sie nutzen eine Vielzahl von Datenpunkten und Algorithmen, um subtile Fälschungen zu enttarnen.

Wie genau sind aktuelle Deepfake-Detection-Systeme?

Eine pauschale Aussage zur Genauigkeit und Treffsicherheit von Deepfake-Detection-Systemen ist nicht ohne weiteres möglich und hängt von vielen Faktoren ab. Die Genauigkeit der Deepfake-Detection-Systeme der WebID liegt weit über dem Branchendurchschnitt. Dank kontinuierlicher Weiterentwicklung und Optimierung der zugrundeliegenden Algorithmen bleiben diese Systeme stets auf dem neuesten Stand.

Welche rechtlichen Regelungen gibt es zur Eindämmung der Erstellung und Verbreitung von Deepfakes?

Aktuell gibt es noch keine rechtlichen Regelungen zur Eindämmung der Erstellung und Verbreitung von Deepfakes. Soweit personenbezogene Daten von Deepfakes betroffen sind, gelten in Europa die Einschränkungen und Anforderungen des Rechts auf Achtung des Privat- und Familienlebens aus Artikel 8 der Europäischen Menschenrechtskonvention (EMRK) sowie der Datenschutz-Grundverordnung (DSGVO), die für alle europäischen Mitgliedsstaaten bindend ist. Darüber hinaus sieht Artikel 35, Absatz 1des Digital Services Acts (DSA), dass Betreiber von Online-Plattformen und Online-Suchmaschinen verpflichtet sind Risikominderungsmaßnahmen vorzunehmen.

Die Gesetzgebung wird kontinuierlich angepasst und es ist davon auszugehen, dass die Thematik „Deepfakes“ in absehbarer Zeit in die überarbeiteten rechtlichen Vorgaben einfließen werden. Inzwischen sind viele Unternehmen dazu angehalten, sich vor den rechtlichen Konsequenzen, die mit Deepfakes einhergehen können, zu schützen. Und dazu setzen sie beispielsweise auf ausgefeilte Identifikations- und Know-Your-Customer-Lösungen.

Welche Branchen benötigen besonders robuste Deepfake-Detection-Methoden?

Besonders robuste Deepfake-Detection-Methoden werden inzwischen für alle Branchen relevant, allen voran die Finanzdienstleistungsbranche. Aber auch Versicherungsunternehmen, Behörden, Informationsdienste, Medienunternehmen und Betreiber von Social-Media-Plattformen sind von den Bedrohungen durch Deepfakes betroffen, weshalb sie ebenfalls ausgefeilte Detection-Instrumente benötigen.

Wie schützen sich Privatpersonen vor Deepfakes?

Privatpersonen sollten immer eine gewisse Skepsis gegenüber unbestätigten Medieninhalten haben und vertrauenswürdige Quellen bevorzugen. Websites von Banken, Versicherungen, Online-Shops und anderen Unternehmen, die eine persönliche Identifikation erfordern, sollten fortschrittliche Technologien einsetzen, um die Identität der Nutzer:innen zu schützen. Dienste, die biometrische Daten zur Personenverifikation verwenden, sind weniger Deepfake-anfällig für die Manipulation persönlicher Informationen.

Gibt es Fortschritte in der Entwicklung von Deepfake-Detection-Technologien?

In den letzten Jahren gab es einige Fortschritte bei der Entwicklung von Deepfake-Detection-Lösungen. Dank neuer Algorithmen und stark ausgebauter Rechenleistung sind viele Erkennungssysteme heute besser in der Lage, selbst gut getarnte Deepfakes zu erkennen.

Wie wird sich die Deepfake-Detection-Technologie in Zukunft entwickeln?

Die Entwickler von Deepfake-Detection-Technologien arbeiten intensiv daran, die Integration von KI und maschinellem Lernen auszubauen, denn selbst ein kurzer Entwicklungsstopp würde den sehr agilen Kriminellen in die Karten spielen.

WebID Solutions hat die aktuellen Entwicklungen jederzeit im Blick, um sicherzustellen, dass die Online-Ident-Verfahren auch in den kommenden Jahren sicher bleiben.