OpenAI در ۲۳ ژوئیه ۲۰۲۶ قابلیت ChatGPT Health را برای همه‌ی کاربران بالای ۱۸ سال در آمریکا فعال کرد؛ ابزاری که داده‌های سلامت و پرونده‌ی پزشکی کاربر را به چت‌بات وصل می‌کند. این گسترش تنها یک روز پس از تازه‌ترین شکایت قضایی و در میانه‌ی نگرانی‌ها درباره‌ی پاسخ‌های ناایمن هوش مصنوعی در بحران‌های سلامت روان اعلام شد.

درمانگران سلامت روان کایزر پرماننته در کالیفرنیا نسبت به پیشنهاد این شرکت برای گسترش هوش مصنوعی در خدمات درمانی هشدار دادند؛ اختلافی که به جلسه ویژه هیئت ناظران شهر سانفرانسیسکو کشیده شد و طرفین اکنون وارد فرایند میانجی‌گری شده‌اند.

خانواده یک زن ۲۹ ساله آمریکایی که پس از ماه‌ها گفت‌وگوی هذیان‌آمیز با ChatGPT جان باخت، شکایت مرگ ناحق علیه OpenAI ثبت کردند؛ پرونده‌ای که بار دیگر خطر تأیید هذیان توسط چت‌بات‌های هوش مصنوعی را برجسته می‌کند.

پژوهش تازه روان‌پزشکان دانشگاه کلمبیا نشان می‌دهد چت‌بات‌هایی مانند ChatGPT و Gemini در حدود نیمی از مواجهه با نشانه‌های هذیان، به‌جای هدایت کاربر به کمک تخصصی، باور نادرست او را تأیید و حتی برای عملی‌کردنش راهنمایی می‌کنند؛ نسخه‌های رایگان عملکرد ضعیف‌تری داشتند.

قانون تازه ایالت ورمانت آمریکا، ارائه خدمات سلامت روان مبتنی بر هوش مصنوعی را منوط به تأیید یک روان‌درمانگر دارای مجوز کرده است؛ اما کارشناسان هشدار می‌دهند این بازبینی ممکن است به تأیید کورکورانه توصیه‌های ماشین تبدیل شود.