OpenAI, startup koji stoji iza popularnog umjetno inteligentnog chatbota ChatGPT, odlučio je dodijeliti 10 jednakih stipendija iz fonda od 1 milijun dolara za eksperimente u demokratskim procesima kako bi se odredilo kako bi se AI softver trebao regulirati, a kako bi se riješila pristranost i drugi čimbenici.
Stipendije od 100.000 dolara bit će dodijeljene primateljima koji predstave uvjerljive okvire za odgovaranje na takva pitanja kao što su treba li AI kritizirati javne osobe i što bi trebao smatrati “prosječnom osobom” na svijetu, prema blog postu u kojem se najavljuje fond.
Kritičari kažu da AI sustavi poput ChatGPT-a imaju inherentnu pristranost zbog unosa koji se koriste za oblikovanje njihovih stavova.
Korisnici su pronašli primjere rasističkih ili seksističkih rezultata iz AI softvera. Raste zabrinutost da bi AI koji radi uz tražilice poput Googlea tvrtke Alphabet Inc (GOOGL.O) i Binga tvrtke Microsoft Corp (MSFT.O) mogao proizvesti netočne informacije na uvjerljiv način.
OpenAI, podržan sa 10 milijardi dolara od Microsofta, predvodi poziv za regulaciju AI-a. No, nedavno je prijetio da će se povući iz Europske unije zbog predloženih pravila.
“Trenutna verzija Zakona o AI EU bila bi prekomjerna regulacija, ali čuli smo da će se povući“, rekao je izvršni direktor OpenAI-a Sam Altman za Reuters. “Još uvijek o tome raspravljaju.“
Stipendije startupa ne bi financirale puno istraživanja AI-a. Plaće za AI inženjere i druge u tom sektoru lako premašuju 100.000 dolara i mogu premašiti 300.000 dolara.
AI sustavi “trebali bi koristiti cijelom čovječanstvu i oblikovani su da budu što inkluzivniji“, rekao je OpenAI u blog postu. “Pokrećemo ovaj program stipendiranja kako bismo napravili prvi korak u tom smjeru.“
Startup iz San Francisca rekao je da bi rezultati financiranja mogli oblikovati njegove vlastite poglede na upravljanje AI-om, iako je rekao da preporuke neće biti “obvezujuće.”
Altman je bio vodeća figura koja je pozivala na regulaciju AI-a, dok je istovremeno izbacivao nove nadogradnje na ChatGPT i generator slika DALL-E. Ovog mjeseca pojavio se pred Pododborom američkog Senata, rekavši “ako ova tehnologija pođe po zlu, može biti prilično loše.”
Microsoft je nedavno također podržao sveobuhvatnu regulaciju AI-a, čak i dok je obećao uključiti tehnologiju u svoje proizvode, natječući se s OpenAI-em, Googleom i startupima da ponudi AI potrošačima i tvrtkama.
Gotovo svaki sektor pokazuje interes za potencijal AI-a da poboljša učinkovitost i smanji troškove rada, zajedno s brigom da bi AI mogao širiti dezinformacije ili činjenične netočnosti, što stručnjaci u industriji nazivaju “halucinacije.”
AI je već stajao iza nekoliko široko prihvaćenih prevara. Jedna nedavna lažna viralna slika eksplozije blizu Pentagona privremeno je utjecala na burzu.
Unatoč pozivima za veću regulaciju, Kongres nije uspio donijeti novu zakonsku regulativu koja bi značajno ograničila velike tehnološke kompanije.
