Wideo: Idealne fałszywe filmy zostaną rozpoznane przez sztuczną inteligencję
2024 Autor: Richard Flannagan | [email protected]. Ostatnio zmodyfikowany: 2023-12-16 00:15
Rok temu Manish Agrawala ze Stanforda pomógł opracować technologię synchronizacji ruchu ust, która pozwalała montażystom wideo niemal niezauważalnie zmieniać słowa mówców. Narzędzie może z łatwością wstawiać słowa, których dana osoba nigdy nie wypowiadała, nawet w środku zdania, lub usuwać słowa, które wypowiedział. Wszystko będzie wyglądało realistycznie gołym okiem, a nawet na wielu systemach komputerowych.
To narzędzie znacznie ułatwiło naprawę błędów bez ponownego nagrywania całych scen, a także dostosowało programy telewizyjne lub filmy do różnych odbiorców w różnych miejscach. Ale ta technologia stworzyła również niepokojące nowe możliwości dla trudnych do znalezienia fałszywych filmów, z wyraźnym zamiarem zniekształcenia prawdy. Na przykład w ostatnim republikańskim filmie użyto bardziej brutalnej techniki podczas wywiadu z Joe Bidenem.
Tego lata Agrawala i współpracownicy ze Stanford i UC Berkeley zaprezentowali oparte na sztucznej inteligencji podejście do technologii synchronizacji ruchu warg. Nowy program dokładnie wykrywa ponad 80 procent podróbek, rozpoznając najmniejsze rozbieżności między dźwiękami ludzi a kształtem ust.
Ale Agrawala, dyrektor Stanford Institute for Media Innovation i profesor informatyki w Forest Baskett, który jest również powiązany ze Stanford Institute for Human-Centered Artificial Intelligence, ostrzega, że nie ma długoterminowego rozwiązania technicznego dla głębokich podróbek.
Jak działają podróbki
Istnieją uzasadnione powody do manipulacji wideo. Na przykład każdy, kto kręci fikcyjny program telewizyjny, film lub reklamę, może zaoszczędzić czas i pieniądze, korzystając z narzędzi cyfrowych do poprawiania błędów lub dostosowywania skryptów.
Problem pojawia się, gdy narzędzia te są celowo wykorzystywane do rozpowszechniania fałszywych informacji. A wiele technik jest niewidocznych dla przeciętnego widza.
Wiele głębokich fałszywych filmów opiera się na zamianie twarzy, dosłownie nakładając twarz jednej osoby na film innej osoby. Ale chociaż narzędzia do zmiany twarzy mogą być atrakcyjne, są stosunkowo prymitywne i zwykle pozostawiają cyfrowe lub wizualne artefakty, które komputer może wykryć.
Z drugiej strony technologie synchronizacji ust są mniej widoczne, a zatem trudniejsze do wykrycia. Manipulują znacznie mniejszą częścią obrazu, a następnie syntetyzują ruchy ust, które dokładnie odpowiadają temu, jak faktycznie poruszałyby się usta osoby, która wypowiadałaby określone słowa. Według Agrawal, mając wystarczającą ilość próbek wizerunku i głosu danej osoby, fałszywy producent może sprawić, że osoba „mówi” cokolwiek.
Wykrywanie podróbek
Zaniepokojony nieetycznym stosowaniem takiej technologii, Agrawala współpracował z Ohadem Freedem, doktorantem ze Stanford, nad opracowaniem narzędzia do wykrywania; Hani Farid, profesor na Uniwersytecie Kalifornijskim, Berkeley School of Information; i Shruti Agarwal, doktorantka w Berkeley.
Początkowo naukowcy eksperymentowali z czysto manualną techniką, w której obserwatorzy badali materiał wideo. Działało dobrze, ale w praktyce było pracochłonne i czasochłonne.
Następnie naukowcy przetestowali sieć neuronową opartą na sztucznej inteligencji, która byłaby znacznie szybsza do przeprowadzenia tej samej analizy po szkoleniu na wideo z byłym prezydentem Barackiem Obamą. Sieć neuronowa wykryła ponad 90 procent synchronizacji ruchu warg Obamy, chociaż dokładność dla innych mówców spadła do około 81 procent.
Prawdziwy test prawdy
Naukowcy twierdzą, że ich podejście jest tylko częścią gry w kotka i myszkę. W miarę poprawy technik głębokiego fałszerstwa pozostawiają jeszcze mniej kluczy.
Ostatecznie, mówi Agrawala, prawdziwym problemem jest nie tyle walka z głęboko fałszywymi filmami, co walka z dezinformacją. W rzeczywistości, zauważa, wiele dezinformacji wynika z wypaczenia znaczenia tego, co ludzie faktycznie powiedzieli.
„Aby ograniczyć dezinformację, musimy poprawić umiejętność korzystania z mediów i opracować systemy odpowiedzialności” – mówi. „Może to oznaczać przepisy zakazujące świadomego wytwarzania dezinformacji i konsekwencji ich naruszenia, a także mechanizmy eliminowania wynikających z tego szkód”.
Zalecana:
Dokąd prowadzą fałszywe drzwi w starożytnych egipskich grobowcach i kto może przez nie przejść?
Te „drzwi” nazywane są fałszywymi, ponieważ nigdzie nie prowadzą i nie można przez nie przejść. To prawda, dotyczy to tylko zwykłej, żywej osoby. Bo według wyobrażeń starożytnych Egipcjan fałszywe drzwi spełniały bardzo ważne funkcje, a ich obecność w niektórych pomieszczeniach była absolutnie konieczna – w przeciwnym razie można by się spodziewać kłopotów. Niektórzy mogli przejść tylko przez takie drzwi
Filmy biograficzne – najlepsze filmy o ludziach
Filmy biograficzne to filmy, których fabuła oparta jest na prawdziwych wydarzeniach z życia danej osoby. Sceny z filmów biograficznych odbijają się tak rzetelnie, że każdy może poczuć historie z życia swojego ulubionego aktora, artysty, dziennikarza, polityka lub wręcz przeciwnie, dowiedzieć się więcej o losach mafii czy mordercy
Wirusowe retro zdjęcia zwierząt spopularyzowane przez fałszywe podpisy
Światowa sieć wirtualna codziennie dostarcza nam nowe porcje informacji. Zgodnie z tradycją człowiek jest skłonny wierzyć we wszystko, co jest napisane. Jednak przykład niektórych postów wirusowych pokazuje, że dziś lepiej kierować się zasadą „ufaj, ale weryfikuj”. Zwłaszcza jeśli chodzi o tak ulubione tematy jak dzieci i zwierzęta. Ta recenzja zawiera pięć replikowanych fotografii, które same w sobie są prawdziwe, ale przedstawiają fałszywe historie
Hołd dla utraconych przestrzeni - fałszywe ściany budynków zniszczonych przez trzęsienie ziemi
Niestety trzęsienia ziemi zdarzają się co jakiś czas w Nowej Zelandii. Jeden z nich miał miejsce w lutym 2011 roku, kiedy kataklizm bardzo dokładnie uderzył w miasto Christchurch. Skutki tej katastrofy odczuwalne są w wiosce do dziś – wiele budynków wciąż nie jest odrestaurowanych. Są to struktury, które artysta Mike Hewson wykorzystał do stworzenia serii niesamowitych prac Hołd dla utraconych przestrzeni
Zaginione filmy: gdzie zniknęły filmy i które filmy będą sensacyjne
To teraz każdy film, przez kogo i bez względu na to, jak został nakręcony, ma swoje miejsce w pamięci - jeśli nie ludzkość, to przynajmniej elektroniczne urządzenia cyfrowe. Wręcz przeciwnie, zniszczenie materiału filmowego bez śladu stało się trudniejsze. Ale nie tak dawno, jeden po drugim, filmy i animacje odeszły w zapomnienie. Historia pierwszych dekad tych form sztuki to historia licznych strat, na szczęście w niektórych przypadkach uzupełnień