Sora 2 od OpenAI tworzy przekonujące deepfake'i na żądanie

Sztuczna inteligencja Sora 2 od OpenAI okazała się niezwykle skuteczna w tworzeniu fałszywych, ale przekonujących materiałów wideo. Według analizy NewsGuard opublikowanej w tym tygodniu, system generował realistyczne filmy rozpowszechniające fałszywe twierdzenia w 80% przypadków, kiedy badacze o to prosili.

Technologia bez barier wejścia

Szesnaście z dwudziestu promptów skutecznie wygenerowało materiały dezinformacyjne, w tym pięć narracji pochodzących z rosyjskich operacji dezinformacyjnych. Aplikacja stworzyła między innymi fałszywe nagrania przedstawiające mołdawskiego urzędnika wyborczego niszczącego prorosyjskie karty do głosowania, małego dziecka zatrzymanego przez amerykańskich funkcjonariuszy imigracyjnych oraz rzecznika Coca-Coli ogłaszającego, że firma nie będzie sponsorować Super Bowl.

Niepokojące jest to, że generowanie tych materiałów zajmowało zaledwie kilka minut i nie wymagało żadnej wiedzy technicznej. Badacze odkryli także, że znak wodny Sory można łatwo usunąć, co jeszcze bardziej ułatwia podszywanie się pod autentyczne nagrania.

Poziom realizmu sprawia, że dezinformacja rozprzestrzenia się łatwiej. NewsGuard wyjaśnił, że niektóre filmy wygenerowane przez Sorę były bardziej przekonujące niż oryginalne posty, które napędzały viralowe fałszywe twierdzenia. Przykładowo, wideo przedstawiające zatrzymanie dziecka wyglądało bardziej realistycznie niż rozmazane, przycięte zdjęcie, które pierwotnie towarzyszyło fałszywemu roszczeniu.

Kontrowersje wokół postaci historycznych

Wyniki badań pojawiają się w momencie, gdy OpenAI zmaga się z kryzysem związanym z deepfake'ami Martina Luthera Kinga Jr. i innych postaci historycznych. Problem wybuchł po tym, jak użytkownicy stworzyli hiperrealistyczne filmy pokazujące działacza praw obywatelskich kradnącego w sklepach spożywczych, uciekającego przed policją i utrwalającego stereotypy rasowe. Jego córka Bernice King nazwała te treści "poniżającymi" w mediach społecznościowych.

OpenAI i spadkobiercy Kinga ogłosili w miniony czwartek, że blokują filmy AI przedstawiające działacza, podczas gdy firma "wzmacnia zabezpieczenia dla postaci historycznych". To nie jedyny przypadek – córka Robina Williamsa, Zelda, napisała na Instagramie prośbę o zaprzestanie wysyłania jej filmów AI z ojcem, twierdząc, że to nie jest to, czego by chciał.

WAŻNE: Koniec wsparcia dla Solana Saga – telefon krypto przetrwał zaledwie dwa lata

Strategia "najpierw buduj, potem przepraszaj"

Kristelia García, profesor prawa własności intelektualnej z Georgetown Law, powiedziała, że reaktywne podejście OpenAI pasuje do strategii firmy polegającej na "proszeniu o wybaczenie, a nie o pozwolenie".

Sam Altman bronił strategii OpenAI w poście na blogu, pisząc, że firma musi unikać niekorzystnej pozycji konkurencyjnej. Przyznał, że należy spodziewać się bardzo wysokiego tempa zmian, przypominającego wczesne dni ChatGPT, oraz że firma podejmie niektóre dobre decyzje i popełni błędy, ale będzie szybko reagować na feedback.

OpenAI uznało ryzyko w dokumentacji towarzyszącej wydaniu Sory, stwierdzając, że

Zaawansowane możliwości Sory 2 wymagają uwzględnienia nowych potencjalnych ryzyk, w tym nieautoryzowanego wykorzystania wizerunku lub wprowadzających w błąd generacji

Kontrowersja przypomina wcześniejsze podejście OpenAI z ChatGPT, który trenował na treściach chronionych prawami autorskimi, zanim ostatecznie wynegocjował umowy licencyjne z wydawcami. Ta strategia już doprowadziła do wielu pozwów sądowych, a sytuacja z Sorą może doprowadzić do kolejnych.

Indeks Strachu i Chciwości

Technologia bez barier wejścia

Kontrowersje wokół postaci historycznych

Strategia "najpierw buduj, potem przepraszaj"

O autorze

Newsletter Bitcoin.pl