OpenAI zatrzymało 5 kampanii, które wykorzystywało ChatGPT do szerzenia fake newsów

Gigant generatywnej sztucznej inteligencji zaczyna filtrowanie sieci. OpenAI zatrzymało 5 kampanii, które wykorzystywały ChatGPT do manipulowania opinią publiczną na całym świecie. Problem fake newsów i manipulacji opinią publiczną jest coraz większy, zaś teoria martwego internetu przestaje być tylko i wyłącznie teorią spiskową. Czy działania OpenAI stworzą precedens, który ukształtuje etyczne wykorzystanie AI?

OpenAI na tropie 5 kampanii stojących za domniemanymi zagranicznymi operacjami wpływu

Generatywna sztuczna inteligencja jest w stanie skutecznie zwiększać naszą produktywność. Niestety istnieją także ciemne strony AI, o których w sieci mówi się stosunkowo rzadko. Jednym z takich mrocznych sposobów na wykorzystanie sztucznej inteligencji jest tworzenie treści, które mają za zadanie manipulowanie opinią publiczną i wpływanie na wyniki wyborów politycznych. Niechlubnym przykładem miejsca opanowanego przez boty jest portal X, czyli dawny Twitter. Elon Musk świadomy jest, że ilość botów stanowi poważne zagrożenie, stąd liczne (nieskuteczne) próby naprawienia tej sytuacji.

O wiele skuteczniejszym szeryfem postanowiło być OpenAI, ponieważ firma odpowiedzialna za ChatGPT ujawniła, że zatrzymała 5 kampanii wykorzystujących ich technologię do „tajnych operacji wpływu”. Informacja ta pojawiła się w sieci 30 maja, zaś OpenAI podkreśliło, że:

W ciągu ostatnich trzech miesięcy zakłóciliśmy pięć tajnych operacji wpływu, które starały się wykorzystać nasze modele do szerzenia manipulacji w internecie.

Podmioty te używały generatywnej sztucznej inteligencji do tworzenia komentarzy do artykułów oraz kont i biografii w mediach społecznościowych. Co więcej, OpenAI twierdzi, że szerzej zakrojona operacja nazwana „Spamouflage” używała technologii OpenAI do badania mediów społecznościowych i generowania wielojęzycznych treści na platformach, takich jak X, Medium, czy Blogspot. Celem tych działań było „manipulowanie opinią publiczną oraz wpływanie na wyniki wyborów politycznych”.

How we're disrupting attempts by covert influence operations to use AI deceptively: https://t.co/ddGJvM7yES

— OpenAI (@OpenAI) May 30, 2024

Działania OpenAI odsłaniają wierzchołek góry lodowej problemów, które pojawiają się w związku z AI

Druga operacja nazwana została przez OpenAI „Bad Grammar” i skierowana była na Ukrainę, Mołdawię, państwa bałtyckie oraz na Stany Zjednoczone. Wykorzystywano w niej modele od OpenAI do obsługi botów na Telegramie i generowania komentarzy politycznych. Inny podmiot nazwany roboczo „Doppelganger” używał modeli AI do generowania komentarzy w języku angielskim, francuskim, niemieckim, włoskim i polskim. Komentarze te publikowane były na platformie X oraz 9GAG, w celu manipulowania opinią publiczną.

OpenAI wspomniało także o grupie zwanej „International Union of Virtual Media”, która używała generatywnej AI do tworzenia długich artykułów, nagłówków i treści na strony internetowe, które były publikowane na powiązanych stronach internetowych.

Teoria Martwego Internetu zaczyna nabierać całkiem nowego znaczenia

Działania OpenAI wyraźnie pokazują, że problem generowania treści przez boty oparte na AI jest prawdziwy i coraz bardziej poważny. Co ciekawe, takie zagadnienie pojawiło się na długo przed premierą ChatuGPT-3,5 w listopadzie 2022 roku. Otóż około roku 2016 w sieci pojawiła się teoria spiskowa nazywana „Teorią Martwego Internetu”. Zakładała ona, że internet jest już tak naprawdę pustym miejscem, w którym boty rozmawiają z botami, zaś nawet 80% treści spotykanych w sieci nie jest stworzona przez ludzi.

Teoria ta z początku była raczej obiektem żartów, niż poważnego rozważania. Dziś w dobie generatywnej sztucznej inteligencji, teoria martwego internetu wcale nie wydaje się tak abstrakcyjna, jak te 8 lat temu. Problem generowania treści przez boty na social mediach stale się zwiększa, zaś włodarz portalu X nie ma pomysłu na to, w jaki sposób przerwać to błędne koło. Działania OpenAI stanowią jednak swego rodzaju nowy początek w kontroli treści pojawiających się w sieci.

Czy AI może wpłynąć na wyniki wyborów?

Wybory prezydenckie w Stanach Zjednoczonych zbliżają się wielkimi krokami. Będą to pierwsze wybory, które odbywają się w trakcie tak zwanej generatywnej rewolucji, czyli momentu, w którym pojawił się ChatGPT i inne modele AI. Wpływ botów opartych o AI najbardziej widoczny jest na portalu X, na którym komentarze potrafią się pojawić dosłownie kilka sekund po opublikowaniu tweeta. To prowadzi do sytuacji, w której manipulowanie opinią publiczną jest łatwiejsze, niż kiedykolwiek wcześniej. Prewencyjne działania OpenAI mogą być spowodowane zbliżającymi się wyborami prezydenckimi w USA oraz w innych krajach świata.