Deepfake: co to jest i jak nie dać się nabrać na fałszywe wideo

Deepfake to zdjęcie, wideo lub nagranie audio stworzone albo zmienione przez AI tak, że osoba na nim mówi lub robi coś, czego naprawdę nie było.

Prostymi słowami

Kiedyś, żeby podrobić zdjęcie, potrzebny był mistrz Photoshopa i kilka dni. Teraz AI jest jak bardzo utalentowany parodysta, który w godzinę uczy się twojej twarzy i głosu i może „zagrać” ciebie w każdej scenie. Parodia dla śmiechu - w porządku. Ale gdy parodysta dzwoni do twojej babci i prosi o pieniądze - to już oszustwo.

Jak to działa

1. Zbiera się zdjęcia, filmy lub nagrania głosu osoby - czasem wystarczy kilka minut.
2. Sieć neuronowa uczy się rysów twarzy, mimiki, barwy głosu i sposobu mówienia.
3. Potem nakłada te cechy na inne wideo albo generuje nowe.
4. Nowoczesne narzędzia potrafią to robić nawet w czasie rzeczywistym, podczas wideorozmowy.
5. Jakość zależy od ilości danych i mocy obliczeniowej - najlepsze fałszywki trudno odróżnić na oko.

Gdzie to zobaczysz

Deepfake'i pojawiają się w fałszywych reklamach ze „znanymi osobami”, oszukańczych telefonach „od krewnych”, propagandzie politycznej, memach i filmach. W czasie wojny to także narzędzie wojny informacyjnej - na przykład fałszywe wystąpienia urzędników.

Czy to ważne przy wyborze

Bardzo. Moje zasady bezpieczeństwa: nie wierz w wideo tylko dlatego, że „widziałeś na własne oczy”; sprawdzaj wiadomości w oficjalnych źródłach; umów się z bliskimi na hasło na wypadek „pilnie potrzebuję pieniędzy”; nie publikuj bez potrzeby wielu nagrań głosu i filmów.

Mity

• Mit: Deepfake zawsze widać - twarz „pływa”. W rzeczywistości: Stare - tak. Nowe bywają prawie bez skazy.
• Mit: Deepfake'i robi się tylko o celebrytach. W rzeczywistości: Oszuści wykorzystują też zwykłych ludzi - zwłaszcza głos do telefonów do bliskich.

Częste pytania

Jak rozpoznać deepfake?

Patrz na mruganie, zęby, granicę twarzy i włosów, synchronizację ust, oświetlenie. I przede wszystkim sprawdzaj źródło.

Czy robienie deepfake'ów jest legalne?

Zależy od celu i kraju. Oszustwa, zniesławienie i intymne podróbki bez zgody są nielegalne.

Czy są programy do wykrywania deepfake'ów?

Są, ale nie dają 100% gwarancji. Pomagają też oznaczenia treści AI.

Powiązane pojęcia

Klonowanie głosu, Oznaczenia treści AI, Generatywna AI, Phishing