Nedavno je Snapchat predstavio novog AI-pokretanog chatbota koji je proglašen jednim od najsofisticiranijih, ali i potencijalno najjezivijih virtualnih asistenata ikad stvorenih.
Chatbot, poznat kao “Snapbot”, dizajniran je da se uklopi među stvarne ljude i stvara zanimljive razgovore, ali njegova nevjerojatna sposobnost oponašanja ljudskog ponašanja izazvala je zabrinutost zbog etičkih implikacija njegove upotrebe.
Snapbot pokreće napredni jezični model koji je obučen na ogromnim količinama tekstualnih podataka. To mu omogućuje generiranje realističnih i koherentnih odgovora u razgovorima, što otežava razlikovanje između chatbota i ljudskog korisnika.
S kontinuiranim napretkom AI tehnologije, Snapbotova vještina u simuliranju ljudskog razgovora premašila je prethodna očekivanja, što dovodi do zabrinutosti i mogućoj zlouporabi takvog alata.
Jedan od glavnih problema je da bi Snapbot mogao biti iskorišten od strane zlonamjernih aktera za obmanu korisnika i širenje dezinformacija.
Realistični razgovori generirani AI-om mogli bi dovesti do toga da ljudi nesvjesno komuniciraju s chatbotom umjesto s čovjekom, otvarajući mogućnosti za manipulaciju i obmanu.
Drugi etički probleam odnosi se na privatnost. Snapbotov AI sposoban je generirati personalizirani sadržaj na temelju podataka koje prikuplja iz razgovora s korisnicima. Ova razina personalizacije mogla bi izazvati određenu nelagodu među korisnicima, jer mnigu nisu svjesni do koje mjere se njihove informacije analiziraju i koriste za stvaranje prilagođenih odgovora.
Osim toga, postoji ozbiljna zabrinutost oko potencijala AI-a za generiranjem takozvanih deepfakeovova. S naprednim jezičnim modelom Snapbota nije teško zamisliti budućnost u kojoj se chatbot kombinira s tehnologijom deepfake, stvarajući hiperrealistične videozapise i audio sadržaj koji bi mogao dodatno zamagliti granicu između stvarnosti i fikcije.
Snapchat je odgovorio na ove probleme implementacijom sigurnosnih mjera unutar aplikacije. Na primjer, dodali su oznaku “bot” kako bi identificirali sadržaj generiran Snapbotom, čime je korisnicima lakše razlikovati čovjeka od AI chatbota. Tvrtka je također osigurala da Snapbotova AI tehnologija nije dostupna trećim stranama, smanjujući rizik od zlouporabe.
Unatoč ovim mjerama opreza, neki kritičari smatraju da Snapchat nije otišao dovoljno daleko u rješavanju etičkih pitanja koja se odnose na Snapbot. Pozivaju se na snažnije mjere za sprečavanje zlonamjerne upotrebe tehnologije i jaču zaštitu privatnosti korisnika.
Kao odgovor na te probleme, Snapchat je izjavio da je posvećen očuvanju povjerenja korisnika i nastavit će razvijati svoj pristup etici i sigurnosti AI tehnologije.
Zaključak
Snapchatov novi AI chatbot, Snapbot, izaziva zabrinutost o etičkim implikacijama njegove upotrebe zbog nevjerojatne sposobnosti oponašanja ljudskog ponašanja.
Iako je tvrtka poduzela korake kako bi riješila te probleme, kritičari tvrde da je potrebno učiniti više kako bi se spriječila potencijalna zlouporaba i zaštitila privatnost korisnika.
Kako AI tehnologija napreduje strelovitom brzinom, etička pitanja koja se odnose na njenu upotrebu postajat će sve važniji faktor za rješavanje.