Sztuczna inteligencja w oszustwach: deepfake i klon głosu

Jeszcze pięć lat temu ostrzeżenie „nie ufaj obcemu głosowi w słuchawce” było wystarczające. Dziś obcy głos może brzmieć dokładnie jak twoja matka, szef albo znany dziennikarz z telewizji. Sztuczna inteligencja nie wymyśliła nowych oszustw; wzięła stare, sprawdzone scenariusze — na wnuczka, na inwestycję, na pilny przelew — i usunęła z nich jedyny element, który dotąd dawało się łatwo zweryfikować: brzmienie i wygląd drugiej osoby. W 2024 roku na krajową listę ostrzeżeń CERT Polska trafiło ponad 92 tysiące niebezpiecznych domen, z czego zdecydowana większość to fałszywe platformy inwestycyjne, a coraz więcej z nich reklamuje się właśnie twarzą i głosem, których właściciel nigdy nie miał z nimi nic wspólnego.

Co to właściwie jest deepfake i klonowanie głosu?

Deepfake to nagranie wideo lub audio wygenerowane albo zmodyfikowane przez sztuczną inteligencję tak, żeby przedstawiało osobę mówiącą lub robiącą coś, czego naprawdę nie powiedziała ani nie zrobiła. Klonowanie głosu to węższy wariant tej samej technologii: model uczy się brzmienia konkretnego głosu na podstawie próbek nagrań, a potem potrafi „przeczytać” dowolny tekst tym głosem, z odpowiednią intonacją i emocjami. Obie technologie były przez lata domeną laboratoriów badawczych i efektów specjalnych w filmach; dziś działają w przeglądarce, w darmowych albo tanich narzędziach, bez żadnej specjalistycznej wiedzy po stronie użytkownika.

Różnica między deepfake sprzed kilku lat a dzisiejszym jest kolosalna. Wczesne próby miały charakterystyczne wady: sztywną mimikę, migotanie obrazu, syntetyczny, płaski głos, który każdy rozpoznał po kilku sekundach. Obecne narzędzia radzą sobie z niuansami: naturalnym oddechem między zdaniami, lokalnym akcentem, a nawet emocjonalnym zabarwieniem głosu odpowiednim do kontekstu rozmowy. To właśnie ta poprawa jakości sprawiła, że deepfake przestał być ciekawostką technologiczną i stał się realnym narzędziem w rękach zorganizowanych grup przestępczych.

Jak wygląda dziś typowy atak na głos — telefon od „wnuczka” albo „szefa”?

Klasyczna metoda na wnuczka od dekad opierała się na tym, że ofiara sama „rozpoznawała” w płaczącym, zniekształconym głosie swoje dziecko czy wnuka. Oszust nie musiał brzmieć identycznie, wystarczyło, że nie brzmiał zupełnie obco. Klonowanie głosu usuwa nawet tę barierę. Wystarczy kilkanaście sekund nagrania — z relacji w mediach społecznościowych, z automatycznej sekretarki, z filmiku wrzuconego kiedyś na grupę rodzinną — żeby model wygenerował głos brzmiący nie „podobnie”, ale rozpoznawalnie jak konkretna osoba.

W wariancie firmowym schemat nazywa się CEO fraud: pracownik działu finansowego dostaje telefon albo wiadomość głosową od „prezesa”, który w typowym dla siebie tonie i tempie mówienia nakazuje pilny przelew na wskazane konto, tłumacząc pośpiech poufną transakcją albo zbliżającym się terminem. Ton głosu, sposób zwracania się do rozmówcy, nawet charakterystyczne pauzy — wszystko to może być odtworzone przez model wytrenowany na publicznie dostępnych nagraniach z konferencji, wywiadów czy webinarów, w których dana osoba występowała.

W obu wariantach mechanizm psychologiczny pozostaje ten sam, co opisujemy szerzej w analizie manipulacji stosowanej przez oszustów: presja czasu, autorytet znajomego głosu i prośba o dyskrecję. Zmienia się tylko jeden składnik: dowód, który dotąd uspokajał („przecież poznaję ten głos”), teraz działa dokładnie odwrotnie i wzmacnia oszustwo zamiast je demaskować.

Dlaczego deepfake wideo z celebrytami zalewa reklamy inwestycyjne?

Najbardziej masową odmianą zjawiska są dziś nie prywatne telefony, a reklamy inwestycyjne z twarzami znanych osób — przedsiębiorców, prezenterów, sportowców, a nawet polityków. Mechanizm opisujemy szczegółowo w fiszce o deepfake z celebrytami w reklamach inwestycyjnych: spreparowane nagranie pokazuje znaną twarz „zdradzającą sekret” szybkiego zarobku, kieruje na fałszywą stronę udającą duży portal informacyjny, a stamtąd do formularza zbierającego dane kontaktowe przyszłej ofiary.

Ten wariant jest skuteczny z bardzo prostego powodu — twarz i głos budzą natychmiastowe zaufanie, zanim odbiorca zdąży racjonalnie ocenić treść przekazu. CERT Polska ostrzega wprost przed takimi kampaniami reklamowymi na dużych platformach społecznościowych, zwracając uwagę, że sama obecność reklamy w serwisie nie oznacza, że przeszła ona jakąkolwiek merytoryczną weryfikację. Fałszywe platformy inwestycyjne, do których prowadzą takie reklamy, łączą się zresztą często z innymi metodami z tego samego klastra: scamem inwestycyjnym na Telegramie i WhatsAppie czy klasycznymi piramidami finansowymi i programami HYIP — deepfake jest tu tylko przynętą otwierającą lejek, reszta scenariusza (fałszywy panel z rosnącym saldem, żądanie „podatku” przy wypłacie) przebiega identycznie jak w oszustwach bez udziału AI.

Ile potrzeba nagrania, żeby sklonować czyjś głos?

To pytanie, które najczęściej pojawia się po pierwszym kontakcie z tematem, i odpowiedź bywa nieprzyjemnym zaskoczeniem: kilkanaście sekund czystego nagrania wystarcza do wygenerowania podstawowej, rozpoznawalnej próbki głosu. Im dłuższe i bardziej zróżnicowane emocjonalnie nagranie źródłowe — na przykład wywiad, w którym ktoś mówi zarówno spokojnie, jak i z ożywieniem — tym wierniejszy i bardziej elastyczny jest wygenerowany klon, zdolny wypowiadać dowolne, nowe zdania z odpowiednią intonacją.

Problem w tym, że każdy, kto publicznie występuje — nagrywa filmiki, prowadzi profil w mediach społecznościowych, uczestniczy w podcastach czy webinarach — pozostawia w sieci wystarczający materiał źródłowy zupełnie bezwiednie. Nie trzeba być celebrytą ani prezesem spółki. Wystarczy, że twój głos gdzieś w sieci istnieje w formie nagrania trwającego dłużej niż kilkanaście sekund, żeby teoretycznie dało się go sklonować. To nie oznacza, że każdy jest w równym stopniu zagrożony — grupy przestępcze wybierają cele, przy których inwestycja w przygotowanie ataku ma sens finansowy — ale mechanizm techniczny nie ma już nic wspólnego ze sławą czy zamożnością ofiary.

Czy da się rozpoznać deepfake gołym okiem i uchem?

Coraz trudniej, ale nie jest to niemożliwe — zwłaszcza w materiałach wideo, które wciąż zdradzają się drobnymi niedoskonałościami. Warto zwracać uwagę na kilka sygnałów jednocześnie, bo żaden z osobna nie jest rozstrzygający:

• Mimika i mruganie. Sztucznie wygenerowane twarze często mrugają nienaturalnie rzadko albo w nietypowym rytmie, a mimika bywa lekko opóźniona względem wypowiadanych słów.
• Synchronizacja ust. Ruch warg czasem nie trafia dokładnie w wypowiadane głoski, szczególnie przy spółgłoskach wymagających wyraźnego zamknięcia ust.
• Krawędzie i tło. Granica między twarzą a włosami lub tłem bywa lekko rozmyta albo migocze przy szybszych ruchach głowy, a samo tło może wyglądać na spłaszczone albo niespójne oświetleniowo z resztą kadru.
• Brzmienie głosu. Nawet dobre klony miewają lekko „płaski” ton w dłuższych, spontanicznych zdaniach albo nienaturalne akcentowanie mniej typowych słów, których nie było w materiale źródłowym.
• Kontekst przekazu. To najsilniejszy sygnał ze wszystkich: żadna prawdziwa firma inwestycyjna nadzorowana przez KNF nie ogłasza gwarantowanych zysków w reklamie na Facebooku, niezależnie od tego, kto rzekomo ją poleca.

Żaden z tych elementów osobno nie jest dowodem. Ludzie oceniający deepfake wyłącznie „na oko” mylą się regularnie, bo jakość technologii rośnie szybciej niż intuicja odbiorców. Dlatego ostatni punkt — ocena samej treści przekazu, a nie jego formy — pozostaje najbardziej niezawodnym testem.

Pierwsza sprawa sądowa w Polsce o klonowanie głosu — co z tego wynika?

W Polsce doszło już do pierwszej sprawy sądowej dotyczącej bezprawnego wykorzystania sztucznie wygenerowanego głosu konkretnej osoby. To ważny sygnał: prawo zaczyna reagować na zjawisko, które jeszcze niedawno nie miało w ogóle swojego miejsca w kodeksach ani orzecznictwie. Jednocześnie warto mieć realistyczne oczekiwania — postępowanie sądowe toczy się już po fakcie, czyli po tym, jak do naruszenia doszło i szkoda (finansowa albo wizerunkowa) już powstała. Żaden wyrok nie cofnie utraconych pieniędzy automatycznie ani nie usunie nagrania, które zdążyło się rozejść w sieci.

Znaczenie takich precedensów jest raczej systemowe niż indywidualne: pokazują drogę, którą będą podążać kolejne sprawy, i wywierają presję na platformy społecznościowe, żeby skuteczniej moderowały tego typu treści. Dla zwykłego odbiorcy płynie z tego jeden praktyczny wniosek: ochrona prewencyjna — czujność w momencie kontaktu, a nie liczenie na późniejsze dochodzenie roszczeń — wciąż jest jedynym realnym zabezpieczeniem.

Jak firmy i banki bronią się przed deepfake?

Sektor finansowy traktuje deepfake jako jedno z rosnących zagrożeń najbliższych lat, nie odległą ciekawostkę. CSIRT KNF wskazuje zagrożenia związane ze sztuczną inteligencją — w tym deepfake wykorzystywany do obchodzenia procedur weryfikacji tożsamości klienta oraz do wspierania kampanii fałszywych inwestycji — jako jeden z priorytetów obserwacji na najbliższy okres. W praktyce oznacza to, że banki dokładają kolejne kroki weryfikacji przy nietypowych, dużych transakcjach zlecanych zdalnie, zamiast polegać wyłącznie na rozpoznaniu głosu czy obrazu w rozmowie wideo.

Po stronie firm najbardziej rozpowszechnionym zagrożeniem pozostaje wspomniany CEO fraud: pracownik dostaje polecenie przelewu rzekomo od przełożonego, czasem w formie nagrania głosowego, czasem podczas krótkiej rozmowy wideo o słabej jakości połączenia, która utrudnia dokładną weryfikację obrazu. Firmy, które traktują to zagrożenie poważnie, wprowadzają proste, ale skuteczne procedury: każdy nietypowy przelew wymaga potwierdzenia drugim, niezależnym kanałem komunikacji (na przykład telefonem na numer zapisany wcześniej w firmowej bazie, nie na numer podany w wiadomości), niezależnie od tego, jak bardzo autentycznie brzmiało pierwotne polecenie.

Co zrobić, jeśli podejrzewasz, że rozmawiasz z klonem głosu?

Reakcja w praktyce nie różni się wiele od tego, co zalecamy przy oszustwie na pracownika banku czy innych metodach telefonicznych. Zmienia się tylko powód nieufności.

• Rozłącz się i oddzwoń samodzielnie. Nie na numer podany przez rozmówcę ani wyświetlony na ekranie (może być podszyty przez spoofing) — na numer, który sam wcześniej zapisałeś w kontaktach albo znalazłeś na oficjalnej stronie instytucji czy firmy.
• Ustal hasło rodzinne albo firmowe. Jedno proste słowo lub fraza znane tylko najbliższym albo zespołowi, o które pytasz przy każdej nietypowej prośbie o pieniądze przekazywanej telefonicznie. Prawdziwy bliski czy przełożony je zna; oszust — nawet ze sklonowanym głosem — nie.
• Zyskaj na czasie, zanim cokolwiek zrobisz. Presja natychmiastowego działania jest częścią ataku, nie prawdziwej pilności sprawy. Każda uczciwa transakcja przetrwa kilka minut potrzebnych na weryfikację niezależnym kanałem.
• Nie ufaj obrazowi z rozmowy wideo bardziej niż głosowi. Słaba jakość połączenia bywa wykorzystywana celowo, żeby ukryć niedoskonałości deepfake wideo — prośba o „lepsze połączenie” albo przejście na zwykły telefon to rozsądna, niepodejrzana reakcja z Twojej strony.
• Jeśli już doszło do przelewu lub podania danych, działaj dokładnie według kroków opisanych w poradniku co zrobić po oszustwie, bo czas ma tu bezpośrednie przełożenie na szansę odzyskania środków.

Jak sprawdzić, czy „okazja inwestycyjna” z reklamy jest w ogóle realna?

Bez względu na to, jak przekonujące jest nagranie, sama decyzja o wpłacie pieniędzy powinna zawsze przechodzić przez tę samą, niezależną od formy przekazu weryfikację. Krok po kroku pokazujemy to w poradniku jak sprawdzić platformę inwestycyjną: sprawdzenie licencji w rejestrze KNF i listy ostrzeżeń publicznych zajmuje kilka minut i działa niezależnie od tego, czy przekaz reklamowy wygląda na autentyczny, czy nie. To jedyny test, którego jakość generowanego wideo czy głosu nie jest w stanie oszukać, bo nie polega na ocenie samego nagrania, tylko na sprawdzeniu podmiotu w niezależnym, oficjalnym źródle.

Jak to się będzie zmieniać w najbliższych latach?

Trend jest jednoznaczny: koszt i próg technicznej wiedzy potrzebnej do wygenerowania przekonującego deepfake spada z każdym rokiem, a jakość rośnie. To, co jeszcze niedawno wymagało specjalistycznego sprzętu i wiedzy, dziś działa w darmowych albo tanich narzędziach dostępnych dla każdego, kto ma dostęp do internetu i kilkanaście sekund nagrania. Instytucje takie jak CSIRT KNF wprost sygnalizują, że traktują to zjawisko jako jedno z kluczowych zagrożeń najbliższego okresu dla sektora finansowego, nie jako odległą prognozę.

Oznacza to, że pojedyncze, techniczne sztuczki rozpoznawania deepfake (nienaturalne mruganie, płaski ton głosu) będą tracić na skuteczności w miarę jak technologia się poprawia — dokładnie tak, jak to się już stało z wcześniejszymi, prymitywniejszymi wersjami tych narzędzi. Trwałym zabezpieczeniem pozostają nawyki niezależne od jakości nagrania: weryfikacja niezależnym kanałem, hasło rodzinne czy firmowe, i traktowanie presji czasu jako sygnału ostrzegawczego samego w sobie, a nie przeszkody do pokonania.

Gdzie zgłosić podejrzenie oszustwa z użyciem AI?

Zgłoszenie fałszywej reklamy, spreparowanego nagrania albo strony, do której prowadzi deepfake, warto złożyć równolegle w kilku miejscach — dokładną listę instytucji i procedur zebraliśmy w poradniku gdzie zgłosić oszustwo. W skrócie: podejrzaną stronę albo reklamę zgłaszasz do CERT Polska przez formularz na incydent.cert.pl, a jeśli doszło do utraty pieniędzy — dodatkowo na policję i do własnego banku, najszybciej jak się da. Samo nagranie warto też zgłosić bezpośrednio na platformie, na której się pojawiło (Meta, YouTube, TikTok), korzystając z wewnętrznego formularza zgłaszania nadużyć — to nie zastępuje zgłoszenia do CERT Polska, ale zwiększa szansę na szybsze usunięcie treści.