Sobota , 18 Maj 2024

Klonowanie głosu z pomocą sztucznej inteligencji. Jak nie dać się oszukać?

   05.03.2024
Klonowanie głosu to w ostatnich miesiącach swoisty (i bardzo niebezpieczny) „hit” wśród cyberprzestępców i internetowych naciągaczy. Jest to bowiem szybko postępujący trend, polegający na wykorzystywaniu do przeprowadzenia manipulacji złożonych algorytmów sztucznej inteligencji, najczęściej w celu wiarygodnego podszywania się pod inne osoby i dokonania z tą pomocą oszustwa. Jak wykryć takie manipulacje? W tym wpisie postaramy się przybliżyć, czym jest klonowanie głosu, jak działa i jak można się przed nim bronić.
Sztuczna Inteligencja może podrobić głos praktycznie każdej osoby. Cyberprzestępcy wykorzystują to do oszustw. Fot. Unsplash

Postęp w nauce i technice zwykle nas zachwyca i inspiruje, jednak od zawsze towarzyszy temu także i ciemniejsza strona – każda zdobycz techniki czy kreacja myśli inżynierskiej może być też niestety wykorzystywana w niecnym, szkodliwym celu. Tak też stało się bardzo szybko ze sztuczną inteligencją, którą przestępcy coraz śmielej wykorzystują do oszustw. Jedną z takich nowatorskich metod, jest funkcja klonowania głosu. Warto się z tym zjawiskiem zapoznać, by nie stać się jego ofiarą.

Klonowanie głosu – co to jest?

Klonowanie głosu polega na tym, że za pomocą specjalnego oprogramowania wykorzystującego możliwości AI, przestępcy są w stanie tworzyć mowę (w tym długie, złożone wypowiedzi) dowolnej osoby, na podstawie nagranych próbek jej wypowiedzi.

Następnie, używając tego głosu, mogą bardzo łatwo podszywać się pod kogoś innego i próbować wyłudzić pieniądze lub informacje. Na przykład, tacy sprytni oszuści mogą zadzwonić do firmy i podając się za szefa, poprosić o pilny przelew lub zmianę danych konta. Niemal nikomu nie przyjdzie w takie sytuacji weryfikować, czy to faktycznie dzwonił przełożony, gdyż większość ludzi nawet nie wie, że możliwości współczesnej techniki są aż tak wielkie. Zdarzały się też przypadki telefonów do niczego nieświadomej rodziny ofiary i udawania, że jest ona w niebezpieczeństwie, w celu wyłudzenia przelewu pieniędzy (na rzekomy ratunek), miały też już miejsce próby szantażu i żądania okupu pod groźbą publicznego przedstawienia zmanipulowanych nagrań jako autentycznych. Wyobraźnia oszustów bywa nieograniczona.

Niestety profesjonalne klonowanie głosu jest bardzo trudne do wykrycia, ponieważ to, co wytwarza AI brzmi bardzo naturalnie i wiarygodnie. Dlatego, należy być bardzo ostrożnym i sprawdzać tożsamość rozmówcy, zanim podejmie się jakiekolwiek działania, zwłaszcza w sytuacjach, gdy nie mamy 100% pewności z kim rozmawiamy.

Na czym polega klonowanie głosu?

Klonowanie głosu – w dużym skrócie – polega na tworzeniu sztucznego głosu, który brzmi jak głos prawdziwej osoby. Może to być osoba znana, np. polityk, celebryta lub dziennikarz, albo osoba prywatna, np. znajomy, partner lub szef. Aby sklonować głos, wystarczy mieć dostęp do nagrań tej osoby lub nagrać ją samemu, np. podczas rozmowy telefonicznej. Następnie te nagrania są przetwarzane przez specjalne algorytmy sztucznej inteligencji, które uczą się charakterystycznych cech głosu i potrafią je naśladować. W ten sposób można wygenerować dowolny tekst w głosie danej osoby, nawet jeśli ta osoba nigdy go nie wypowiedziała. W efekcie powstaje możliwość niemal nieograniczonej manipulacji, zwłaszcza teraz gdy wiedza o tak zaawansowanych możliwościach techniki nie jest powszechna i ludzie po prostu nie wiedzą, że głos można podrobić tak skutecznie.

Jakie zastosowania może mieć klonowanie głosu?

Technologia może mieć wiele zastosowań, zarówno pozytywnych, jak i negatywnych. Z jednej strony może być używane do celów artystycznych, edukacyjnych lub rozrywkowych, np. do tworzenia audiobooków, podcastów, filmów czy gier wideo. Z drugiej niestety może zostać zaprzężone do celów kryminalnych, np. do oszustw, szantaży, nękania czy manipulacji. Przykłady takich nadużyć to np.

  • podszywanie się pod kogoś i żądanie pieniędzy od rodziny lub znajomych,
  • udawanie znanej osoby i tym samym wpływanie na decyzje polityczne lub biznesowe powiązanych z nią osób, lub po prostu jej kompromitacja.
  • podszywanie się pod dziennikarza i rozpowszechnianie fałszywych informacji,

Klonowanie głosu – jedno z najtrudniejszych wyzwań nadchodzących lat w przestrzeni społecznej

Oszustwa, w których użyto sklonowanego głosu (jak i wszystkie zagadnienia związane z technologią deepfake), są tak skuteczne, ponieważ wykorzystują zaufanie, które ludzie zwykle mają do znajomych rozmówców. Sklonowany głos brzmi tak samo, jak prawdziwy, więc ofiara nie ma powodu, by podejrzewać, ze jest wciągana w pułapkę. Ponadto oszuści często wybierają momenty, w których ofiara jest zajęta, znajduje się pod presją lub w stresie, co utrudnia krytyczne myślenie. Przestępcy mogą też podszywać się pod osoby znane ofierze, takie jak szef, współpracownik, przyjaciel lub członek rodziny, i wykorzystywać ich autorytet lub emocje, by nakłonić do podjęcia niekorzystnej decyzji. Oszustwa z użyciem sklonowanego głosu są więc bardzo niebezpieczne i wymagają ostrożności i weryfikacji ze strony potencjalnych ofiar.

Jak wykryć, że nagranie z głosem jest zmanipulowane?

Jak więc wykryć takie nowatorskie i sprytne manipulacje? Trzeba sobie od razu powiedzieć — nie jest to łatwe zadanie, ponieważ sztuczna inteligencja jest coraz lepsza w naśladowaniu ludzkiego głosu i coraz trudniej odróżnić go od prawdziwego.

Istnieją jednak pewne sposoby, które mogą pomóc w identyfikacji podejrzanych nagrań lub rozmów:

Przede wszystkim warto zawsze sprawdzić źródło otrzymanego nagrania lub rozmowy. Jeśli pochodzi z nieznanej lub niezaufanej strony, może być sfałszowane.

Warto sprawdzić treść nagrania lub rozmowy pod kątem zgodności ze stylem mówienia osoby, do której głos teoretycznie należy. Jeśli zawiera błędy językowe, których ta osoba zwykle nie popełnia (lub jest od nich wolne w przeciwnym wypadku), znajdują się w nim sprzeczności logiczne lub niepasujące do kontekstu informacje, może być spreparowane.

Warto zwrócić uwagę na jakość nagrania lub rozmowy. Jeśli słyszysz szumy, zakłócenia, przerwy lub zmiany tonu głosu, może być to znak, iż jest ono sfałszowane.

Sprawdź, jakie emocje wyrażane są podczas nagrania lub rozmowy. Jeśli brakuje im naturalności, ekspresji lub zgodności z sytuacją, to może być oznaka, fałszerstwa.

Jeśli masz wątpliwości co do tożsamości rozmówcy lub wiarygodności przekazu, poproś o dodatkowe dowody lub potwierdzenie.

Oprócz tych metod można także skorzystać z narzędzi technologicznych, które pomagają w analizie i weryfikacji nagrań głosowych. Są to chociażby programy do porównywania głosów (voice biometrics) np. ten, programy do wykrywania fałszerstw (deepfake detection) lub programy do sprawdzania prawdy (fact-checking). Możesz je znaleźć w internecie lub w sklepach z aplikacjami.

Podsumowanie

Pamiętaj, że klonowanie głosu z pomocą sztucznej inteligencji może być bardzo niebezpieczne i należy być czujnym i ostrożnym w kontaktach z nagrań lub rozmowami głosowymi. Nie daj się oszukać ani zmanipulować. Sprawdzaj, pytaj i weryfikuj. W przeciwnym razie możesz się stać ofiarą groźnego w skutkach oszustwa.

Tomasz Sławiński

To też Cię zainteresuje

KOMENTARZE (0) SKOMENTUJ ZOBACZ WSZYSTKIE

Najczęściej czytane