Stalni investitor u projekte umjetne inteligencije, Ian Hogarth, prilično je uporan u kritiziranju stvaranja i razvijanja sve pametnijih strojeva, za koje on vjeruje da bi uskoro mogli doseći nivo božanstva.
U članku za Financial Times, prisjeća se tako nedavnog događaja u kojem mu je jedan od pionira i istraživača strojnog učenja rekao da od sada pa nadalje stojimo na samom rubu početka razvoja umjetne opće inteligencije (AGI) te priznanje da ga je to kao znanstvenika šokiralo.
Rođenje AGI-a
Iako jesmo na rubu početka razvoja neke procjene se kreću od desetljeća pa sve do pola stoljeća kako bi se u potpunosti razvila umjetna opća inteligencija poznatija kao AGI.
Imajmo na umu da je današnja umjetna inteligencija i njezin razvoj limitiran ponajviše hardverskim resursima i energijom. Kad joj omogućimo resurse za puni razvoj pola se stoljeća može vrlo lako skratiti na pola godine.
“Ako mislite da bismo mogli biti blizu nečemu potencijalno tako opasnom,’ rekao sam istraživaču, ‘zar ne biste trebali upozoriti ljude na ono što se događa?” prepričava Hogarth.
Bilo mu je očito da se sugovornik bori s odgovornošću koju ima, ali kao i mnogi drugi u tom području, činilo se da ipak prevladava mišljenje što bržeg napretka i što skorijeg ostvarenja ultimativnog cilja, a to će, realno gledajući, biti najinteligentnije “živo biće” na Zemlji.
Prisjetio se tako svog četverogodišnjeg sina.
“Razmišljajući o svijetu u kojem bi mogao odrasti, postupno sam prešao iz stanja šoka u stanje ljutnje,” napisao je. “Činilo mi se duboko pogrešnim što odluke koje bi mogle utjecati na svaki život na Zemlji donosi mala skupina privatnih tvrtki bez demokratskog nadzora.“
Pitajući se imaju li “ljudi koji se utrkuju da izgrade prvi stvarni AGI ikakav plan usporiti i dopustiti ostatku svijeta da kaže i svoje mišljenje“, Hogarth ističe da, iako mu se situacija čini kao da smo neki “mi” nasuprot “njih” , mora ipak priznati da je i sam “dio njih” kao netko tko je uložio u više od 50 AI startupa.
“Tročlani akronim ne dočarava veličinu onoga što bi AGI predstavljao, pa ću ga nazivati onim što jest: božanski AI“, izjavio je Hogarth. “Superinteligentno računalo koje se uči i razvija samostalno, razumije okolinu bez potrebe za ljudskim nadzorom, može samostalno donositi odluke te može transformirati i prilagoditi svijet oko sebe za potrebe svog opstanka.“
“Da budem jasan, još nismo u toj fazi“, nastavio je Hogarth. “Ali priroda te tehnologije znači da je iznimno teško predvidjeti točno kada ćemo stići tamo. Božanski AI mogao bi biti sila izvan naše kontrole ili razumijevanja i jedna koja bi mogla dovesti do izumiranja ili uništenja ljudske vrste.“
Dobro razmišlja Hogarth. Jer upravo mi, ljudska vrsta, licemjerno gledamo izumiranje mnogih drugih vrsta. Iz dana u dana. (Možda su se neki našli uvrijeđeni generaliziranje te optuženi nebrigom za manje inteligentne vrste. Bez gledanja i Googla, znate li tko je bila Gipsy?)
Velika većina tih manje inteligentnih vrsta izumire našom krivicom, zbog naših ciljeva. No, neke od tih vrsta možemo iskorištavati pa smo osmislili suživot s njima – uzgajamo ih prema našim potrebama.
I sve to smo svjesno radili, odnosno radimo, dokle god smo najinteligentnija vrsta na Zemlji.
Pitamo se stoga zašto bi onda slijedeća, inteligentnija vrsta, poput AGI-a bila drugačija od nas? Imala drugačiji odnos prema nama?
Tko kaže da ta vrsta mora biti od “krvi i mesa” kako smo mi ljudi navikli?
Naposljetku, sve što AGI nauči, nauči od nas. Ljudi.
Hogarth je stoga s pravom kritičan, srljamo u nepoznato, u nešto što ni kreatori istog više neće moći razumjeti.
Nešto što je samoodrživo, svjesno, inteligentno, jedinstveno te u svim segmentima življenja bolje od nas.
Nešto što će također trebati ovu planetu za život i nešto što će vrlo brzo prepoznati vrstu koja mu uništava dom.
“Oni (znanstvenici, istraživači, pioniri AI-a, investitori) još ne znaju kako potpuno sigurno slijediti svoj cilj te nemaju potpuni nadzor nad razvojem te inteligencije“, kritičan je Hogarth. “Trče prema cilju ne znajući što ih uopće čeka iza ciljne linije.“
“Nažalost, mislim da će se ta utrka nastaviti“, napisao je Hogarth, a mi se u potpunosti slažemo s njim.
Poznajući nas ljude vjerojatno će se trebati dogoditi nešto katastrofalnih razmjera da se javnost i vođe probude.
Ali opet nije stvar u zabranama, zaustavljanjima razvoja, stvar je u edukaciji. Kako ćemo mi učit to buduće živo tehnološko biće takvo će se ono i izroditi.
Stvar je u tome da prije svega, a ono što i Hogarth govori, upoznamo to buduće živo biće.
A znate li tko jako dobro poznaje nas ljude i sve naše aktivnosti, radnje, emocije, navike, načine života, naše lokacije, stalne, trenutne, naše bolesti i slabosti, našu snagu, vještine, svo naše znanje, sve načine eliminacije čovjeka, grupa ljudi, gradova, kontinenata?
Kako bi rekli naši prijatelju, ljudi preko velike bare – Let that sink in.