Muszę przyznać, że do niedawna zagrożenia związane z rozwojem AI trochę bagatelizowałam. Albo inaczej – jestem ich świadoma, ale w sumie dość naiwnie sądziłam, że to rozdmuchany problem, który mnie w jakiś magiczny sposób ominie.
Oczywiście śledzę doniesienia na ten temat, przez moje dłonie przechodzą często teksty, które o sztucznej inteligencji publikujemy w „Magazynie Wprost PREMIUM”. Czytam na ten temat dużo.
Być może nawet wiadomość o tym, że znany naukowiec, Andrzej Dragan, fizyk kwantowy i popularyzator nauki, stworzył dzięki AI klip do nowego singla Quebonafide pt. „Futurama 3” – nie zelektryzowałaby mnie tak bardzo – podeszłabym do niego na zasadzie, „co oni znowu wymyślili?”...
Gdyby nie fakt, że jego premiera właściwie zbiegła się z socjalmediową „premierą” pewnego deepfake’a, w którym mimowolnie się znalazłam.
Czytaj też:
Quebonafide wrócił z przytupem. Stanowski zagrał w teledysku. „Zaszczyt”
„To jest bandyctwo”
Piątek, 22:39 (podaję tę godzinę specjalnie, ale o tym za moment). Dostaję wiadomość od „Mądrej Babci”. Wklejony jakiś dziwny link i komentarz:
„Zobacz, jakie oszustwo nas spotkało. To jest bandyctwo. Zgłaszamy do FB, ale to nic nie daje”.
Po takim wstępie nie mogłam nie otworzyć linka. I wtedy zamarłam. Na „nagraniu” widać mnie, słychać nawet mój głos, ale zmodyfikowany. Głos pozbawiony jest jakiejkolwiek modulacji. Z delikatnym komputerowym brzmieniem. Samo nagranie też dalekie jest od jakości, którą dajemy państwu w podcastach…
Mówię na nim o „innowacyjnym produkcie leczniczym”, który Beata Borucka miała wprowadzić na rynek (miała nazwać oszustami tych, którzy w „2024 roku nadal leczą nadciśnienie tradycyjnymi tabletkami”).
I wtedy wchodzi „Mądra Babcia” i mówi o skutkach ubocznych większości leków, które „zabijają szybciej niż zawał serca czy udar”. I że jej zespół opracował innowacyjny produkt, który „w ciągu 3 dni usuwa objawy nadciśnienia i zaczyna regenerować serce od wewnątrz, poprawia pamięć, rozpuszcza zakrzepy, uruchamia organizm na pełnych obrotach”. Dodaje, że wystarczy zażywać go raz dziennie, by zapomnieć o nadciśnieniu, arytmii etc. I że produkt zmienił życie 100 tysięcy osób z Czech, Słowacji i Polski.
Na co ja odpowiadam, że to imponujące wyniki. I dopytuję, gdzie można znaleźć szczegóły dotyczące tego leku.
Borucka uzupełnia, że „jest dostępny dla każdego, kto chce zmienić swoje życie”. – Ja jedynie oferuję sprawdzony sposób leczenia. Wszystko, co musicie zrobić, to wykonać pierwszy krok. Dowiedzcie się więcej o produkcie, a zmiana na lepsze będzie bliżej niż wam się wydaje – mówi.
Całość opublikowana na jakimś „koncie krzak”. Ale to wiem ja. Przypadkowy internauta dostaje nagranie z udziałem idolki seniorów, „Mądrej Babci”, która opowiada o tajemniczym specyfiku. Prawdziwej rewolucji...
Czytaj też:
Podszywają się już nawet pod Andrzeja Dudę. Wystarczy dać się nabrać, by stracić oszczędności życia
„Jestem przerażona”
Od razu widzę, że facebookowe konto, które kolportuje tego deepfake’a jest „lewe”, że ani moja podcastowa rozmówczyni, ani ja – nie brzmimy tak w rzeczywistości. W końcu wiem, że nie rozmawiałyśmy o żadnym magicznym leku na nadciśnienie. Nigdy w życiu.
I znowu: to wiemy my, nasi słuchacze i widzowie, znajomi i współpracownicy. Zaś przypadkowy emeryt (co oczywiste, oszustwo wymierzono w grupę odbiorców „Mądrej Babci”, czyli korzystających z sieci silversów) tego już nie wie.
Zresztą, czy w tej reklamie chodzi faktycznie o jakikolwiek lek? A może to próba zdyskredytowania świetnie radzącej sobie w sieci „Mądrej Babci”?
– Jestem nie tyle oburzona, co przerażona. Bezprawnie użyty wizerunek to w mojej opinii kwestia drugoplanowa. Te materiały narażają moich gości (w SilverTV – red.)i rozmówców, a co najgorsze nabywców preparatów niewiadomego pochodzenia – mówi Beata Borucka.
– Latami pracujemy na naszą wiarygodność i zaufanie społeczności i taki bandycki proceder rujnuje to w jednej chwili. Kiedy dostaję linki do tych deepfake’ów, oczywiście zgłaszam je do FB. Oni blokują zgłoszony profil, ale co z tego, jak powstają nowe i tak bez końca. Zasięgałam rady prawnika, który powiedział, że sprawcy są nie do ustalenia więc to walka z wiatrakami. Jestem tylko jedną z ofiar tego nie niecnego procederu, a jest nas setki. I co mamy zrobić? – pyta „Mądra Babcia”.
Dlaczego kilka akapitów wyżej podałam dokładną godzinę pierwszej wiadomości od Beaty Boruckiej na temat deepfake’a, w którym się znalazłyśmy? Bo kiedy piszę te słowa jest niedzielne przedpołudnie, godzina 11:32 i do tej pory to nagranie jest dostępne na Facebooku. Mimo reakcji Boruckiej, „Wprost” i mojej, a także poproszonych przeze mnie o „zgłaszanie” tego nagrania osób.
Jak ta historia się skończy? Jeszcze nie wiem. Ale jedno jest pewne: To się dzieje naprawdę i teraz od nas, ludzi którzy są w stanie wychwycić jednolity, dość „komputerowy” ton głosu, fatalną jakoś nagrania, kiepski montaż, sześciopalczaste dłonie na przerobionych przez AI zdjęciach zależy, czy krytyczne myślenie i konieczność weryfikowania treści z sieci zaszczepimy i u naszych dzieci, i – tu działka Bety Boruckiej – u seniorów.
Inaczej bezkarni oszuści od deepfake'ów zawładną nie tylko socialmediami.
Czytaj też:
Wszechobecna twarz Tuska, „metoda na wnuczka” i farmy trolli na sterydach. O co chodzi?Czytaj też:
Deepfake nie pomoże. To fatalna wiadomość dla Putina i groźba nowej wojny
Aktualne cyfrowe wydanie tygodnika dostępne jest w specjalnej ofercie WPROST PREMIUM oraz we wszystkich e-kioskach i w aplikacjach mobilnych App Store i Google Play.
Dalsze rozpowszechnianie artykułu tylko za zgodą wydawcy tygodnika Wprost.
Regulamin i warunki licencjonowania materiałów prasowych.