U članku, Zašto je svjesna AI loša ideja (Why Conscious AI Is a Bad, Bad Idea), autor navodi:
Dok neki istraživači sugeriraju da svjesna AI nije daleko, drugi, uključujući i mene, vjeruju da je još uvijek daleko i možda čak nije ni moguća. No, čak i ako je to malo vjerojatno, ne bi bilo mudro potpuno zanemariti tu mogućnost.
Perspektiva umjetne svijesti donosi etičke, sigurnosne i društvene izazove koji znatno nadmašuju one koje već postavlja AI. Važno je napomenuti da neki od ovih izazova nastaju čak i kada se čini da su AI sustavi svjesni, čak i ako su, u suštini, samo algoritmi koji zuje u subjektivnom zaboravu.
Postoji još jedan članak, Umjetna inteligencija – još uvijek daleko:
Istraživači vole govoriti o složenosti svojih modela učenja i kako čak ni oni ne razumiju što modeli zapravo rade i kako uče što čini se da rade. I zaista, u nekim ograničenim područjima, poput učenja kako igrati šah ili go, strojno učenje može se činiti da uči kako obavljati specifične zadatke mnogo bolje od ljudi.
Ali u kontekstu OPĆE umjetne inteligencije ili AGI-ja (koja je vrsta koje se većina stručnjaka boji da će na kraju preuzeti svijet), strojno učenje je daleko od razine koju možemo smatrati inteligentnom. A sve se svodi na jednu jednostavnu činjenicu: AGI zapravo ne zna ništa.”
Pitanje koje ovi autori, ili drugi sličnog razmišljanja, zaobilaze jest: što umjetna inteligencija zna?
Što ti veliki jezični modeli znaju?
Ako mogu odgovoriti na neka pitanja ili točno obaviti određene zadatke, kako bismo mogli kategorizirati te stvari?
Ljudi imaju vanjska osjetila, ali to nisu krajnje točke.
Često je vidjeti znači znati ili vidjeti i znati, što se primjenjuje na slušanje, dodir, miris i okus.
Kada se nešto uoči, njegov završetak je ono što se o njemu zna. Ako je poznato, dobro je, ako nije, odluka može varirati.
Tijekom dubokog sna, u komi ili pod općom anestezijom kada se čini da znanje nedostaje, aktivnosti koje omogućuju znanje su prisutne u umu čak i kada njihov stupanj ne doseže svijest ili pažnju.
Paralela tome su unutarnja osjetila, koja ispravno funkcioniraju bez svijesti, sve dok se nešto ne promijeni ili postane poznato, izravno ili posredno, poput boli.
Ključna razlika između trenutaka nakon smrti i posljednjih trenutaka života je u tome što je sposobnost pojedinca za spoznavanje – nestala.
Slušanje, bol i ostalo više nisu poznati.
Općenito, osjećaje i emocije ne kategoriziramo s poznavanjem, ali kada se nešto osjeti, može se reći da je osjetilo i poznato, poput hladnoće, vrućine, boli i žeđi.
Isto vrijedi za ljutnju, oduševljenje, interes i ljubav.
Emocija je poznata.
Subjektivna iskustva su također poznata; na primjer, položaj udova, mjesto svrbeža i slično.
Znanje, mozak i um
Znanje je središnji element ključnog izvora, uma.
Da je znanje mozak, smrt možda ne bi bila moguća.
No, um se, koji nadzire znanje, pakira, a život odlazi.
Stanice i molekule strukture mozga organiziraju, grade ili konstruiraju um.
Um, međutim, ima drugačiju strukturu, funkciju i komponente od mozga.
Serotonin je mozak; raspoloženje je um.
Organizmi bez mozga imaju oblik ili mehanizam sličan umu koji im pomaže u spoznavanju.
Organizmi s mozgom imaju oblik uma. Komponente uma, konceptualno, su količine i svojstva.
Ljudi imaju više količina i svojstava od drugih ili mogu znati više od drugih — što čini ljude dominantnima.
Organizme možemo kategorizirati prema onome što mogu znati.
Popis onoga što ljudi znaju uključuje percepcije, senzacije, osjećaje, emocije, sjećanje i tako dalje.
Sjećanje uključuje kreativnost, razmišljanje, jezik, inteligenciju, vještinu i slično.
Sve ono nabrojano što ljudi znaju recimo da je 1.
Biljke i životinje također znaju, ali njihov ukupni zbroj svega što znaju nije 1.
Umjetna inteligencija nema osjećaje, emocije ili senzacije, ali oponaša dijelove ljudskog sjećanja.
Ukupna mogućnost onoga što umjetna inteligencija zna — ili sjećanje, veća je od dijela sjećanja za mnoge biljke i životinje.
Ovaj ukupni zbroj sjećanja također je moguće veći od ukupnog znanja nekih jednostavnih biljaka i životinja.
Veliki jezični modeli mogu halucinirati, biti nelogični, miješati stvari ili ne razumjeti, ali do mjere da toleriraju točnosti. Oni tako posjeduju dio svijesti.
Svijest se može definirati kao sposobnost bilo kojeg sustava da zna. Ljudi su standard s vrijednošću 1. Um daje znanje ili svijest. Sposobnost osjećanja umjetne inteligencije, poput ljudi, temelji se na znanju, do ograničenog maksimuma — u kategoriji sjećanja.