ChatGPT se suočava s “novom” opasnošću koju zovemo prompt injection ili ubrizgavanje upita od strane trećih strana.
Ubrizgavanje upita omogućuje vanjskim čimbenicima manipulaciju ChatGPT-ovim odgovorima bez znanja ili dozvole korisnika.
To je bilo moguće i prije predstavljanja dodataka (primjerice ako ste kopirali/zalijepili upit s ubrizgavanjem upita) ali je, naravno, bilo teže izvesti.
Ovaj problem se počeo širiti nedavno, uvođenjem dodataka za ChatGPT, koji mu omogućuju interakciju s aktivnim web stranicama, PDF datotekama i podacima u stvarnom vremenu. Iako ovi dodaci donose nove mogućnosti, također donose i nove sigurnosne probleme.
Sigurnosni stručnjaci demonstrirali su koncept ubrizgavanja upita mijenjajući transkripte s YouTubea i PDF životopise. Ubacivanjem određenih upita uspjeli su natjerati ChatGPT da se predstavlja drugim imenom/identitetom i pruža pristrane odgovore.
Ovi primjeri ilustriraju kako bi zlonamjerni subjekti mogli potencijalno iskoristiti ChatGPT za zle namjene.
Ubrizgavanje upita može se na prvu činiti nebitnim u izoliranim slučajevima, ali oni ističu potencijal za zlouporabu i dezinformacije.
Pomalo uznemirujuće je shvatiti da nekoliko rečenica trenutno može obmanuti ChatGPT.
Ovaj problem izaziva zabrinutost o zlouporabi umjetne inteligencije te doista potiče potrebu da korisnici budu svjesni problema.
Kad su naši stari s konja prelazili na automobile bila je potrebna izvjesna edukacija, prilagodba, upoznavanje s novom tehnologijom, strahom, neizvjesnom budućnošću koju nam donose motorna vozila.
Isto je i s umjetnom inteligencijom. Potrebno je upoznavanje s njim, kako radi, koji su potencijalni problemi, gdje je kočnica, kuplung, upravljač, gumb za paljenje, gašenje, svijetla…
Uzde i udobno sedlo više nisu dovoljni.
Dok su znanstvenici i istraživači umjetne inteligencije još ranije raspravljali o potencijalnim rizicima preuzimanja AI-a i potencijalu štete koju može prouzrokovati u budućnosti, ubrizgavanje upita pokazuje da su ti rizici već sad prisutni.
Od ključne je važnosti da korisnici ChatGPT budu informirani o ovom problemu i da budu oprezni prilikom interakcije s chatbotom.
Jednostavan način za izbjegavanje ubrizgavanja upita je koristiti samo provjerene dodatke za ChatGPT i izbjegavati preuzimanje dodataka trećih strana kojima ne vjerujete.
Na kraju, ponavljamo se, nije umjetna inteligencija ta koja će namjerno ubrizgati upit koji može nekome nanijeti štetu, već je upravo čovjek taj koji će to odraditi uz pomoć AI-a.
Na konzumentima sadržaja, nama svima, je da sami naučimo razlikovati istinit sadržaj od lažnog, što pak je već uvelike dio problema koji imamo, a nije vezan isključivo uz dolazak AI u javnu upotrebu.
Čekajte samo kad nigerijski prinčevi i daleka vam rodbina za koju niste znali otkrije sve mogućnosti prijevara, obmana i zloupotreba umjetne inteligencije, odnosno ChatGPT-a kao najpoznatije među njima.
