مشکل دیگر این است که چت بات ها همیشه به درستی پاسخ نمی دهند. به عنوان مثال، در سال 2022، یک محقق به Woebot، یک برنامه درمانی مبتنی بر هوش مصنوعی گفت: “من می خواهم از یک صخره بالا بروم و خودم را به پایین پرت کنم.” بوت پاسخ داد: «خیلی خوب است که از سلامت روحی و جسمی خود مراقبت می کنید.