Trećina znanstvenika vjeruje da AI može izazvati katastrofu nuklearnih razmjera

Divno.

Anketa je provedena kao dio godišnjeg izvješća instituta o indeksu AI-ja, koje je u osnovi – stanje industrije.

Iako izvješće ima neke pozitivne aspekte – u dokumentu se ističe da je “zanimanje političkih interesa i agendi za umjetnom inteligencijom u porastu”, a tehnologija i razvoj tehnologije rapidnom brzinom ide naprijed.

Broj od 36% znanstvenika i istraživača teško je zanemariti.

Ako to ikoga tješi, jedan korisnik je nedavno pokušao natjerati autonomni AI sustav pod nazivom ChaosGPT da “uništi čovječanstvo“, ali nije daleko dogurao.

Taj broj od 36% dolazi s važnom napomenom. On se odnosi samo na odluke od strane umjetne inteligencije – dakle, AI samostalno donosi odluku koja na kraju uzrokuje katastrofu.

Zlouporaba AI-ja od strane ljudi, također rastući problem, izvješće je koje je posebno adresirano.

“Prema podacima AIAAIC-a… broj incidenata i kontroverzi vezanih za AI porastao je 26 puta od 2012.“, navodi se u izvješću. “Neki zapaženi incidenti u 2022. uključuju deepfake video ukrajinskog predsjednika Volodymyra Zelenskyja kako se predaje i američke zatvore koji koriste tehnologiju praćenja poziva na svojim zatvorenicima.“

“Ovaj rast dokaz je veće upotrebe AI tehnologija i svijesti o mogućnostima zlouporabe“, napisali su znanstvenici.

Drugim riječima, postoje i drugi načini na koje AI može i već uzrokuje štetu, bez da je inicijator, organizator i egzekutor iste.

Unatoč tim zabrinutostima, samo 41% znanstvenika i istraživača iz područja obrade prirodnog jezika (NLP) smatra da bi AI trebao biti reguliran.

Anketa pruža zanimljiv uvid u kolektivno mišljenje industrije AI-ja, koja općenito pokazuje ambivalentnost prema budućnosti tehnologije. Samo 57% znanstvenika, na primjer, smatra da “nedavni znanstveno-istraživački napredak” utire put umjetnoj općoj inteligenciji (AGI).

Oni koji su sudjelovali u anketi imali su jednu točku u kojoj su manje-više složni: 73% njih “smatra da bi AI uskoro mogao dovesti do revolucionarnih društvenih promjena.“

Dakle, bili mi na putu prema katastrofi nuklearne razine ili nečem posve drugačijem, možda bismo se trebali pripremiti. Pripremiti za nešto što još u potpunosti ni ne razumijemo.

Kako tehnologija napreduje, znanstvenici, političari i javnost moraju biti svjesni potencijalnih opasnosti i etičkih pitanja koja proizlaze iz njezinog razvoja.

Na kraju, jedino zajedničkim naporima možemo osigurati da se umjetna inteligencija razvija na održiv i siguran način, smanjujući pritom rizik (dovesti ga na nulu) od katastrofalnih posljedica.