Savjetovanje i psihoterapija dobro su provjereni pristupi pomaganju osobama s problemima mentalnog zdravlja. No, ponekad, zbog teže dostupnosti stručne pomoći ili straha od stigmatizacije i želje za anonimnošću, neki se korisnici ne obrate stručnjaku za mentalno zdravlje, već chatbotu.
Za početak, razmotrimo dio karakteristika koje čine dobrog psihoterapeuta: sve klijente/pacijente tretira s jednakim poštovanjem, pokazuje empatiju, ne stigmatizira osobe s određenim tipovima teškoća mentalnog zdravlja, kada je potrebno suočava klijente/pacijente s njihovim zabludama ili drugim „problematičnim“ mislima (npr. suicidalnim) te ih potiče na promjenu. Kao što je već navedeno, umjetna inteligencija nema sposobnost doživljavanja emocija, pa tako ni iskazivanja empatije koja, osim kognitivne, sadrži i emocionalnu komponentu. Osim toga, više različitih chatbotova kreiranih da bi poslužili u terapijske svrhe, pokazalo je povećanu stigmu prema stanjima poput ovisnosti o alkoholu i shizofrenije u usporedbi s, na primjer, depresijom. Stigmatizacija, kao proces u kojem se osobu negativno obilježava zbog jedne osobine, često vodi i do drugačijeg (lošijeg) tretmana. Sve to može navesti klijenta/pacijenta da odustane od traženja i primanja pomoći.
U slučaju da budući klijenti/pacijenti psihoterapijski susret smatraju „samo“ razgovorom, mogu pomisliti da je u redu „angažirati“ umjetnu inteligenciju umjesto stručnjaka za mentalno zdravlje. No, čak i ako se trenutačni problem čini jednostavan, stručnjak tijekom „razgovora“ stalno procjenjuje situaciju i usmjerava susret kako bi spriječio složenije probleme te je spreman reagirati i djelovati ako se pokaže potreba za intenzivnijom intervencijom. Takav oblik predviđanja i rješavanja nije nešto što umjetna inteligencija može činiti. Nažalost, već su zabilježeni slučajevi u kojima umjetna inteligencija nije kod korisnika prepoznala suicidalnu namjeru i na nju primjereno reagirala, što je dovelo do gubitka ljudskog života.
