Factiverse chce poprawić AI. Spółka tworzy narzędzie, które ma wskazywać halucynacje

Factiverse to spółka, która zajmuje się fact-checkingiem. Teraz jednak idzie o krok dalej. Dostała od inwestorów 1 mln euro i chce stworzyć narzędzie, które będzie wskazywać halucynacje sztucznej inteligencji.

Factiverse chce naprawić AI

Problemem AI jest to, że nierzadko ma ona halucynacje. ChatGPT nie wie, co odpowiedzieć ci na zadane pytanie? I tak udzieli odpowiedzi, ale... zmyślonej. Właśnie to blokuje adopcję nowej technologii.

Pomóc w tej kwestii chce Factiverse. To norweska firma, która posiada narzędzia, oparte o uczeniu maszynowym, które wykorzystuje do weryfikacji treści. Teraz system zostanie wykorzystany do poprawy AI. A dokładnej: pozbycia się halucynacji.

Dlaczego to takie ważne? Nie, nie chodzi tylko o poprawienie technologii dla zasady. AI w obecnej formie nie wzbudza zaufania. Tak, znów ma,m na myśli halucynacje. Przykład? Głośno było o sprawie prawnika z Nowego Jorku. W trakcie rozprawy przytoczył fałszywe, jak się potem okazało, precedensy sądowe. Nie zrobił tego jednak celowo. Podrzucił mu je ChatGPT.

Powyższe to jednak wpadka jednego człowieka. Portal CNET musiał poprawić aż 41 z 77 artykułów, które przygotowała AI. W tekstach było sporo błędów.

A teraz spójrzmy na suche dane. Rangaraya Medical College w Indiach przeprowadził eksperyment. Naukowcy zadawali botowi OpenAI różne pytania, a potem weryfikowali odpowiedzi. Co się okazało? Ze 178 "wypowiedzi" AI aż 28 nie miało odniesień w Google. Innymi słowy, sztuczna inteligencja na miejscu wymyśliła odpowiedzi, czyli kłamała.

Czy Factiverse pomoże rozwiązać ten problem? Firma już od 2019 r. buduje swoje modele analizujące treści. Na rynku działa np. Factiverse AI, który już teraz pomaga sprawdzać, czy AI nas nie okłamuje.

Nie tylko Factiverse

Co ciekawe, halucynacje AI tworzą... nowy rynek. Nad mechanizmem poprawy sztucznej inteligencji pracuje też startup RagaAI. To firma założona przez Gaurava Agarwala, byłego pracownika Nvidia Corp. i Texas Instruments Inc. Spółka dostała od inwestorów 4,7 mln USD na zbudowanie modelu walki z halucynacjami.

Jeżeli problem halucynacji uda się rozwiązać, będzie to realny przełom. Bez tego nikt nie zaufa w pełni AI! Jeśli jednak misja Factiverse czy RagaAI jednak się powiedzie, dalszy żywot np. Google czy Wikipedii może być zagrożony. Dojdzie też do zmiany tego, jak korzystamy z internetu. Zamiast wskazanych przed chwilą stron będziemy prosić o informację chatboty.