Sztuczna inteligencja zbanuje toksycznych graczy w Call of Duty

Problem toksycznych zachowań w grach wideo rozwiąże sztuczna inteligencja. Taką decyzję podjął gigant gamingowej branży, czyli Activision, podejmując współpracę z firmą Modulate.

System ToxMod bazuje na sztucznej inteligencji, której zadaniem będzie wyłapywanie toksycznych zachowań graczy i ich blokowanie. System ma zawitać do jednej z najbardziej znanych gier FPS, czyli do Call of Duty. Czy oznacza to, że każda rozmowa będzie monitorowana i analizowana przez sztuczną inteligencję?

ToxMod, czyli  sztuczna inteligencja będzie wyłapywać toksycznych graczy

Toksyczność w grach dla wielu graczy jest sporym problemem od wielu lat. Nie chodzi tu oczywiście o zdrową rywalizację, tylko o hejt potrafiący przyjmować naprawdę bardzo skrajne formy. Przez lata firmy próbowały walczyć z tym zjawiskiem poprzez różne systemy zgłoszeń, jednak efekt prawie zawsze był znikomy.

ToxMod jest rewolucyjnym systemem opartym na sztucznej inteligencji. Oprogramowanie wyszkolono dzięki uczeniu maszynowemu. To pozwoli ToxMod określić konkretny przekaz wypowiadanych przez graczy słów. Sztuczna inteligencja weźmie pod uwagę takie czynniki, jak ton wypowiedzi, emocje oraz intencje gracza. Firma Modulate podniosła poprzeczkę wysoko, ponieważ ToxMod ma być zdolny do odróżniania hejtu, od zwykłych przyjacielskich zaczepek. System będzie wykrywał także toksyczne zachowania o podtekście seksualnym.

Warto dodać, że zadaniem ToxMod będzie zgłoszenie użytkownika, który powinien dostać bana, ponieważ ostateczną decyzję nadal podejmie człowiek. Firma zapewnia także, że wszystkie konwersacje będą odpowiednio zabezpieczone. Gracze jednak nie podzielają tego entuzjazmu.

Czy sztuczną inteligencję przejmie moderację gier online i social mediów?

ToxMod będzie odsyłał toksycznych graczy do moderatorów, jednakże z pewnością to kwestia kilku lat, jak sztuczna inteligencja przejmie ich rolę. Czy będzie to skutecznym sposobem na walkę z toksycznymi zachowaniami nie tylko w grach wideo, ale także np. na social mediach? Skuteczność takiego rozwiązania z pewnością będzie niezwykle wysoka, jednakże może to wprowadzać poczucie nieustającej inwigilacji i kontroli.

Kolejnym problemem jest także fakt, że nawet najlepiej wyszkolona sztuczna inteligencja nie jest nieomylna. Niemniej jednak, już teraz wiele firm decyduje się na zastąpienie np. pracowników działu supportu sztuczną inteligencją, dlatego moderacja treści lub gier online przez AI wcale nie brzmi jak futurystyczna wizja, tylko bardziej jak opis jutra.