Vom Spaßfaktor zur Betrugsgefahr über KI
Der Name Deepfake ist eine Kombination aus Deep Learning und dem englischen Wort „fake“ für gefälscht. Er steht für Bilder, Videos oder Audioaufnahmen, in denen mit Hilfe von Deep Learning Netzen Gesichter oder Stimmen ersetzt oder manipuliert wurden. Die zugrundeliegenden Techniken wurden in den letzten Jahren immer weiter verbessert und vereinfacht, so dass es nun relativ leicht möglich ist, Gesichter in Videos durch andere Gesichter auszutauschen, Lippenbewegungen an andere Worte anzupassen, oder Stimmen zu verändern.
Neben seriösen Anwendungen, wie zum Beispiel in der Filmindustrie oder als spaßige App für lustige Videos, bringt diese Technologie aber viele Schattenseiten mit sich. Sie birgt zum Beispiel die Gefahr für Betrugs- oder Täuschungsversuche genutzt zu werden. So ist es schon heute schwer, ein gutes Deepfake zu erkennen, was in der Zukunft weitreichende Auswirkungen haben kann. Deepfakes können genutzt werden um zum Beispiel Politikern falsche Worte in den Mund zu legen und so die Meinung der Wähler zu beeinflussen. Bisher wäre so eine Manipulation sehr schwierig und kostenaufwändig gewesen und Video- oder Tonaufnahmen galten eher als glaubwürdige Beweismittel der Wahrheit. Durch die einfache und schnelle Erstellbarkeit überzeugender Fälschungen könnten sie diese Glaubwürdigkeit aber bald verlieren. Deepfakes wurden auch schon für Betrugsversuche angewandt. Es ist zum Beispiel möglich, einen gefälschten Anruf zu erstellen, der sich von einem Opfer schwer von einem Anruf eines echten Bekannten unterscheiden lässt.
Ein Großteil der Deepfake-Forschung beschäftig sich deshalb mit deren Erkennung. Dazu werden oft dieselben Technologien wie zu deren Generierung genutzt. Allerdings wird hier kritisiert, dass die in dieser Forschung gewonnenen Ergebnisse wiederum auch dazu genutzt werden können, die Generierung von Deepfakes weiter zu verbessern. Deshalb wird auch versucht, ob durch den Einsatz von anderen Technologien, wie zum Beispiel der Blockchain, die Echtheit einer Video- oder Audioaufnahme garantiert werden kann.