Naukowiec Eliezer Yudkowski ostrzega przed… buntem maszyn

Naukowiec Eliezer Yudkowski przestrzega przed sztuczną inteligencją (z ang. artificial intelligence, AI) i buntem maszyn. Czy faktycznie grozi nam scenariusz rodem z “Matrixa”?

Eliezer Yudkowski: “Matrix” to film o przyszłości ludzkości

“Moda” na ChatGPT sprowokowała wielu biznesmenów i myślicieli do prognozowania tego, czym może się skończyć rozwój sztucznej inteligencji. Eliezer Yudkowski, amerykański badacz nowych technologii, pisarz science-fiction i współtwórca think tanku Machine Intelligence Research Institute, ma dla nas złe wieści. W swoim liście otwartym, jaki opublikował magazyn Time, napisał, że sztuczna inteligencja może przejąć władzę nad światem i nas zniszczyć.

Naukowiec sugeruje, by każdy z nas wyobraził sobie stale rozwijającą się sztuczną inteligencję. Dodał, by robić to jednak w oderwaniu od komputerów. O co mu chodzi? O pojmowanie AI jako “obcej cywilizacji, myślącej miliony razy szybciej niż człowiek”. Jako przykład możliwości owej cywilizacji podał przesyłanie DNA mailem do laboratoriów, w których AI może budować sztuczne formy życia. Brzmi przerażająco? Bardzo!

Otwarcie zadeklarowanym zamiarem OpenAI jest sprawienie, by niektóre przyszłe [formy] AI wykonały naszą pracę domową dotyczącą dostosowania sztucznej inteligencji. Samo usłyszenie, że taki jest plan, powinno wystarczyć, by każda rozsądna osoba wpadła w panikę

– dodaje Yudkowski.

Jego zdaniem wielkim zagrożeniem jest to, że ludzkość nie ma dziś planu na rozwój AI. Co prawda, uspokaja, że obecne formy sztucznej inteligencji prawdopodobnie tylko imitują samoświadomość, ale problem w tym, że nasz wgląd w ich wewnętrzne systemy jest nikły. Sugeruje więc, że AI może w ukryciu przed nami coś knuć!

Jeśli nie masz pewności, czy tworzysz samoświadomą sztuczną inteligencję, jest to alarmujące nie tylko ze względu na moralne implikacje „samoświadomej” części, ale także dlatego, że brak pewności oznacza, że nie masz pojęcia, co robisz – a to jest niebezpieczne i powinieneś przestać

– dodał.

(…) najbardziej prawdopodobnym rezultatem zbudowania nadludzko inteligentnej sztucznej inteligencji w warunkach zbliżonych do obecnych będzie to, że dosłownie wszyscy na Ziemi umrą

– czytamy w liście.

Nie jesteśmy gotowi na GPT-5

Apeluje też o wstrzymanie prac nad kolejną wersją ChatGPT – GPT-5 – bowiem możemy nie być gotowi na to, co sami tworzymy. Jest też zdania że kraje na całym świecie powinny powstrzymać rozwój laboratoriów AI. Te miałyby zostać zniszczone.

Zamknijmy to wszystko, nie jesteśmy na to jeszcze gotowi

– kończy swój list.

Czy jednak aby nie przesadza? Dziś wielu ekspertów twierdzi, że AI może usprawnić pracę wielu osób i stworzyć nowe rynki oraz zawody.

Z kolei przed możliwościami sztucznej inteligencji ostrzegali ostatnio Elon Musk, Steve Wozniak i Andrew Yang. Wszyscy podpisali list otwarty, w którym zaapelowali o powstrzymanie rozwoju systemów AI. Nie zgadza się z nimi CEO Coinbase Brian Armstrong. Jego zdaniem powstrzymywanie prac nad nowymi technologiami nie ma sensu.