U novom eseju za Time, opisuje prilično sumorno sliku budućnosti koju određuje AI koji nas može nadmašiti.
“Nažalost, osjećam da živimo kao u film ‘Ne gledaj gore’ jer zanemarujemo još jednu egzistencijalnu prijetnje: opće superinteligencije,” napisao je Tegmark, uspoređujući ono što percipira kao letargičan odgovor na rastuću prijetnju AGI-ja s popularnom satiričnom komedijom redatelja Adama McKaya.
Za one koji nisu gledali, “Ne gledaj gore” je fiktivna priča o timu astronoma koji, nakon otkrića da uništavajući asteroid juri prema Zemlji, kreću upozoriti ostatak ljudskog društva.
No, na njihovo iznenađenje i frustraciju, veliki dio čovječanstva ih uopće ne doživljava.
Asteroid je u toj priči metafora za klimatske promjene.
Tegmark smatra da se priča može primijeniti i na rizik od AGI-ja.
“Nedavna anketa pokazala je da polovica istraživača umjetne inteligencije AI-ju daje najmanje deset posto šanse da uzrokuje izumiranje ljudi,” nastavio je Tegmark. “S obzirom na to da imamo povijest razmišljanja o ovoj prijetnji i što učiniti s njom, od znanstvenih konferencija do hollywoodskih blokbastera, mogli biste očekivati da će čovječanstvo požuriti s misijom da AI usmjerava u sigurnijem smjeru nego da bude izvan kontrole superinteligencije.“
“Pomislite ponovno,” dodao je, “umjesto toga, najčešći odgovori (u spomenutom filmu) bili su kombinacija negiranja, ismijavanja i rezignacije tako mračno komične da doista zaslužuje Oscara.”
Ukratko, prema Tegmarku, AGI je vrlo stvarna prijetnja, a ljudsko društvo ne čini gotovo ništa da je zaustavi – ili, barem, ne osigurava da će AGI biti ispravno usklađen s ljudskim vrijednostima i sigurnošću.
I baš kao u McKayovom filmu, čovječanstvo ima dva izbora: početi ozbiljno djelovati protiv prijetnje – ili, ako stvari krenu prema scenariju filma, gledati kako naša vrsta nestaje.
Tegmarkova tvrdnja prilično je provokativna, posebno s obzirom na to da se mnogi stručnjaci ne slažu da će AGI ikada zapravo postati stvarnost, ili tvrde da će trebati vrlo dugo vremena da se dođe do toga, ako ikada.
Tegmark se u svom eseju obraća ovoj nesuglasici, iako njegov argument možda nije najuvjerljiviji.
“Često mi govore da se AGI i superinteligencija neće ostvariti jer je to nemoguće: inteligencija na razini ljudi je nešto tajanstveno što može postojati samo u ljudskom mozgu,” piše Tegmark. “Takav karbonski šovinizam ignorira ključni aspekt AI revolucije: inteligencija raste i bazira se na obradi informacija, i nije važno obrađuje li informacije spoj ugljikovih atoma u mozgu ili silicijski atomi u računalima.“
Tegmark ide toliko daleko da tvrdi kako superinteligencija “nije dugoročni problem,” već je čak “kratkoročniji od npr. klimatskih promjena.”
Kako bi podržao svoju teoriju, istraživač je ukazao na nedavnu studiju Microsofta koja tvrdi da OpenAI-jev veliki jezični model GPT-4 već pokazuje naznake AGI-ja i nedavno predavanje istraživača dubinskog učenja Yoshua Bengioa.
Iako studija Microsofta nije recenzirana i moguće je da se više konzumira kao marketinški materijal, Bengioovo upozorenje je mnogo uvjerljivije.
Njegov poziv na djelovanje utemeljen je na onome što ne znamo o programima strojnog učenja koji već postoje, a ne na iznošenju velikih tvrdnji o tehnologiji koja još ne postoji.
U tom smislu, trenutna skupina manje sofisticiranih AI-ja već predstavlja prijetnju, od širenja dezinformacija putem sintetičkog sadržaja do prijetnje AI-om potpomognutim oružjem.
I industrija u cjelini, kako Tegmark dalje primjećuje, do sada nije baš napravila dobar posao u osiguravanju sporog i sigurnog razvoja, tvrdeći da ga ne bi trebali učiti kako kodirati, povezati ga na internet ili mu dati javni API.
Na kraju, još uvijek nije jasno kada bi AGI mogao postati stvarnost.
Iako postoji financijski poticaj da se polje nastavi brzo razvijati, mnogi stručnjaci se slažu da bi trebali usporiti razvoj naprednijih AI-ja, bez obzira je li AGI iza ugla ili je još uvijek svjetlosnim godinama daleko.
U međuvremenu, Tegmark tvrdi da se trebamo složiti da pred nama postoji vrlo stvarna prijetnja s kojom se trebamo pouzabaviti (prije nego što bude prekasno).
“Iako čovječanstvo juri prema litici, još uvijek nismo tamo, i još uvijek imamo vremena da usporimo, promijenimo smjer i izbjegnemo pad – i umjesto toga uživamo u nevjerojatnim prednostima koje siguran, usklađen AI ima za ponuditi,” piše Tegmark. “A za to se potrebno usuglasiti da ta litica postoji i da nitko neće imati koristi ako s nje padnemo.“