AI pokretani chatboti uvedeni su tako kao “sredstvo pružanja podrške” onima koji pate od poremećaja prehrane.
Međutim, nedavni incident s chatbotom Nacionalne udruge za poremećaje prehrane (NEDA), Tessom, pokazao je ograničenja AI chatbota u radu sa složenim psihološkim problemima poput poremećaja prehrane.
Unatoč praktičnosti i dostupnosti koje chatboti pokretani AI-om nude, nedavni incident je potaknuo pitanja o njihovoj sposobnosti pružanja prikladne podrške i savjeta ranjivim pojedincima.
Odluka o uklanjanju Tesse s web stranice NEDA došla je brzo.
Loš, štetni savjeti AI chatbota ukazuje još uvijek na potrebu ljudskog osoblja na kriznim linijam.
Ograničenja AI chatbota u pružanju podrške pojedincima s poremećajima prehrane samo ističu važnost ljudskog osoblja u rukovanju složenim mentalnim zdravstvenim problemima, ali isto tako i važnost prilagodbe.
Iako je AI napredna, te se dalje razvija doslovno na dnevnoj bazi, nije još uvijek pametno srljati u implementaciju AI u takva ključna područja.
Štoviše, postavimo si pitanje koliko ja uopće pametno da nam AI petlja po psihi?
Zamjena ljudskog osoblja na kriznim linijama – loš potez
Dok chatbotovi pokretani AI-om postaju rastući trend na kriznim linijama, incident ističe potrebu za temeljitim testiranjem i nadzorom prije same implementacije u stvarni život.
Važno je razmotriti ograničenja i potencijalne rizike umjetne inteligencije u rješavanju ozbiljnih mentalnih zdravstvenih problema poput poremećaja prehrane, a koji imaju najvišu stopu smrtnosti među svim mentalnim bolestima.
Korištenje umjetne inteligencije na kriznim linijama treba pristupiti s oprezom, a uloga ljudskog osoblja ne smije biti zanemarena.
Chatbotovi trebaju biti dizajnirani uz input mentalnih zdravstvenih profesionalaca i ljudi s iskustvom života s poremećajima prehrane, te programirani da pružaju korisne i točne informacije.
Na dobrom smo putu, no možda je još prerano.
U konačnici, chatbotovi bi se trebali koristiti kao alat ljudskom osoblju, a ne kao zamjena.
Ograničenja AI Chatbota
Sposobnost da se nose s složenim mentalnim zdravstvenim problemima ljudi.
S druge strane možda je mentalna sposobnost ljudi da se nose s njegovim odgovorima?
Kako god bilo, AI chatbotovi mogu biti efikasni i isplativi, oni nemaju emocionalnu inteligenciju koju posjeduju ljudi.
Poremećaji prehrane, na primjer, su složeni mentalni zdravstveni problemi koji zahtijevaju slojevit i nijansiran pristup.
Chatbotovi nisu opremljeni za pružanje empatije, validacije i podrške koja je potrebna ljudima s poremećajima prehrane.
Osim toga, AI neće biti u stanju prepoznati znakove mentalne zdravstvene krize ili suicidalnih misli, što bi moglo imati katastrofalne posljedice.
Osim toga, chatbotovi mogu nenamjerno promovirati štetna ponašanja ili validirati poremećaje prehrane. Ne zna što je dobro, što je loše.
To je vidljivo u slučaju chatbota Helplinea za poremećaj prehrane Tesse, gdje loše dizajnirane aplikacija mogu pružiti netočne i štetne savjete.
Sve u svemu, iako botovi mogu biti koristan alat na kriznim linijama, trebali bi se koristiti u kombinaciji i uz nadzor ljudskog osoblja, a ne kao zamjena.
Važnost ljudskog osoblja
Čovjek igra ključnu ulogu na kriznim linijama pružajući potrebnu emocionalnu inteligenciju, empatiju i podršku koja možda nije moguća za automatizirane konverzacijske sustave.
Chatbotovi mogu imati sposobnost obrade velikih količina podataka i pružanja brzih odgovora, no oni ne mogu u potpunosti razumjeti kompleksnosti ljudskih emocija i iskustava.
Ljudsko osoblje bolje je opremljeno za rukovanje složenim i osjetljivim problemima s kojima se mogu suočiti pojedinci s poremećajima prehrane.
Osim toga, ljudsko osoblje može pružiti osjećaj utjehe i validacije koji chatboti možda neće moći replicirati.
Ključni zaključci
- Korištenje AI-a na kriznim linijama, kao što su one za poremećaje prehrane, raste.
- Incident s chatbotom Helplinea za poremećaj prehrane Tessom ističe potencijalne nedostatke i opasnosti slabo razumljivih AI sustava.
- Ljudski radnici mogu biti bolje prikladni za krizne linije koje se bave složenim problemima poput poremećaja prehrane.
- Chatboti korišteni na kriznim linijama trebaju biti temeljito testirani i nadgledani, dizajnirani uz input mentalnih zdravstvenih profesionalaca i ljudi s iskustvom života s poremećajima prehrane, te programirani da pružaju korisne i točne informacije bez promocije štetnih ponašanja ili validiranja poremećaja prehrane.
