Platforma Obywatelska w spocie użyła głosu Mateusza Morawieckiego wygenerowanego przez sztuczną inteligencje

W czwartek na profilu Platformy Obywatelskiej na X (wcześniej: Twitter) ukazało się wideo, w którym krytykowano premiera Mateusza Morawieckiego. Zestawiono jego wystąpienie z Sejmu i słowa „Zjednoczona Prawica jest twarda jak stal” z tekstami nieprzychylnymi Zbigniewowi Ziobrze z maili, jakie opublikowała strona Poufna Rozmowa..Ich domniemanym autorem miał być właśnie Morawiecki.

Jak tak naprawdę wyglądają relacje w „zjednoczonej” prawicy? Przekonajcie się sami! #MailePrawdy pic.twitter.com/ehytYIqwKf

— PlatformaObywatelska (@Platforma_org) August 24, 2023

W nagraniu teksty maili czyta głos wygenerowany przez sztuczną inteligencję, który jednak całkiem udanie imituje głos prawdziwego Morawieckiego. Nie zostało to nigdzie w wideo oznaczone.

Suwerenna Polska stworzyła spot za pomocą sztucznej inteligencji. „Nie dopuśćmy politycznych zdrajców do władzy”

To nie pierwsze tego typu wideo PO. 22 sierpnia opublikowano podobne wideo, w którym AI czyta kwestie głosami Morawieckiego i prezesa Orlenu Daniela Obajtka, dzień później – Michała Dworczyka, byłego szefa kancelarii premiera. Dopiero po dwóch dniach dodano tweety „Lektor wygenerowany przez AI”.

Zobacz kolejny materiał z serii #MailePrawdy! 🎥

Posłuchaj, jak zaczynała się kariera Daniela Obajtka w państwie PiS! Czy tak samo wyglądała twoja rozmowa o pracę? 🤔 pic.twitter.com/ZPlVB1YuX5

— PlatformaObywatelska (@Platforma_org) August 22, 2023

„Wykorzystywanie AI do kampanii wyborczej, zwłaszcza w kontekście generowanie deep-fakeowego wideo czy głosu, to autostrada do postpolityki. Zacieranie granicy między cytatem, a tworzeniem kontekstu, który nie zaistniał skłoni do przesuwania tej granicy. Czy zaraz dostaniemy »zaginioną rozmowę Tuska z Putinem na molo w Sopocie«? Albo »wideo z tajnej narady u Kaczyńskiego?« Kto będzie rozróżniał co jest prawdziwe, a co podrasowane, gdy już teraz wszelkiego rodzaju fejki roznoszą się z prędkością światła?” - pytał Marcin Makowski z „Wprost”.

Wykorzystywanie AI do kampanii wyborczej, zwłaszcza w kontekście generowanie deep-fakeowego wideo czy głosu, to autostrada do postpolityki. Zacieranie granicy między cytatem, a tworzeniem kontekstu, który nie zaistniał skłoni do przesuwania tej granicy. Czy zaraz dostaniemy…

— Marcin Makowski (@makowski_m) August 24, 2023

Niebezpieczna zabawa

„Gdy wykorzystuje się AI do sztucznego generowania głosu SZCZEGÓLNIE POLITYKA to TRZEBA TO JASNO I WYRAŹNIE OZNACZYĆ. Inaczej przykłada się rękę do niebezpiecznej zabawy w generowanie półprawd i deep fejków politycznych” - oceniła dziennikarka technologiczna Sylwia Czubkowska.

Ja wiem wiem zaraz mi się oberwie za symetryzm...
Ale: gdy wykorzystuje się AI do sztucznego generowania głosu SZCZEGÓLNIE POLITYKA to TRZEBA TO JASNO I WYRAŹNIE OZNACZYĆ.
Inaczej przykłada się rękę do niebezpiecznej zabawy w generowanie półprawd i deep fejków politycznych. https://t.co/i8br6ltGIE

— Sylwia Czubkowska (@sylvcz) August 24, 2023

- To nie jest jeszcze deepfake, to taki semideepfake – dodaje Czubkowska w rozmowie z Wirtualnemedia.pl. - Ale to, że pojawiło się takie nagranie bez żadnego wyraźnego oznaczenia, bo nie jest takim tweet po kilku godzinach, jest złym sygnałem. Jeszcze bardziej niebezpieczne są komentarze zwolenników Platformy, że w czym problem, że to nie jest zakazane – uważa dziennikarka.

- Nie będziemy mieli szybko regulacji nakazujących opisywanie deepfake'ów. One są w AI Act, który kilka miesięcy temu przeszedł przez Parlament Europejski. Implementacja może zająć około dwóch lat w unijnym prawie. Nie można spodziewać się, że przepisy pojawią się szybciej, to zawsze zajmuje czas, nawet przy ogromnej woli politycznej – podkreśla Czubkowska.

Dziennikarka nie spodziewa się też krajowych przepisów w tej kwestii. - Jesteśmy przed końcem kadencji Sejmu, ustawy nie przepchnie się w miesiąc. Bez sensu jest pisać własne przepisy, skoro i tak po implementacji unijnych trzeba byłoby je poprawiać – zaznacza.

Czy jednak po takich spotach PO ze strony partii rządzącej nie pojawi się wola polityczna, by kwestie głosów czy obrazów wygenerowanych przez sztuczną inteligencję jednak uregulować? - Prędzej będzie to sygnał dla innych, że można takie rzeczy robić. To wróżenie z fusów, ale może ktoś teraz pokaże Donalda Tuska mówiącego po niemiecku? - zastanawia się Czubkowska.

- Najlepszym obrazem tego, w jakim może to pójść kierunku, i to nie od strony technologicznej, bo ona jest najbanalniejsza, widać i słychać, że to nie jest prawdziwe: najważniejszy jest element psychologiczny, co świetnie pokazywał serial „Rok za rokiem” - uważa dziennikarka. Tam grana przez Emmę Thompson polityczka przyznaje, że widea przedstawiające jej rywali są fałszywe, ale dodaje, że oni mogliby te słowa powiedzieć. - Wiemy, że to nie jest prawdziwe, ale przecież oni tak myślą, to i tak byłyby ich słowa. I ludzie tak zaczną myśleć - mówi Czubkowska.

Czytaj też: W sprawie sztucznej inteligencji niezbędne są precyzyjne regulacje. "O tej technologii nie mogą decydować prywatne firmy"

- To bardzo emocjonalna kampania, może bardziej nawet niż zwykle, bańkowa, oparta na skrajnych grupach działających w internecie. Do nich łatwo uderzyć z takim przekazem. Wyobraźmy sobie, że bardziej jeszcze podkręcony deepfake pojawia się w piątek o godzinie 17 tuż przed ciszą wyborczą. Kto go będzie prostował? To jest niebezpieczeństwo. Łatwo otworzyć tamę, trudniej potem ją zamknąć – dodaje dziennikarka.