یک مطالعهٔ اجرایی تازه نشان می‌دهد می‌توان برای یک چت‌بات مولدِ سلامت روان، مسیر مشخصی ساخت که نشانه‌های خطر خودکشی را به ارزیابی انسانی برساند. این مقاله ۹ اکتبر ۲۰۲۶ در JMIR Formative Research منتشر شد و به‌جای آزمودنِ درمان‌بودن چت‌بات، امکان اجرای یک پروتکل ایمنیِ «انسان در حلقه» را بررسی کرد.
پژوهش در دو مرحله انجام شد. در مرحلهٔ نخست، پاسخ افراد به پرسش ۹ پرسشنامهٔ افسردگی بیمار (PHQ-9) می‌توانست هشدار ایجاد کند و فرد برای ارزیابی، برنامه‌ریزی ایمنی و در صورت نیاز ارجاع، به پزشک انسانی منتقل شود. در مرحلهٔ دوم، علاوه بر غربالگری اولیه، افشای ضمنی یا صریح افکار خودکشی در گفت‌وگوی فرد با چت‌بات نیز می‌توانست مسیر ارجاع را فعال کند. ارزیابی انسانی با پرسشنامهٔ غربالگری خودکشی ASQ هدایت می‌شد.
در مرحلهٔ نخست، از ۶۲۴ شرکت‌کننده، ۸۱ نفر (۱۳ درصد) پاسخِ هشداردهنده دادند و آغاز تماس بالینی به‌طور میانگین ۱۱٫۲ دقیقه پس از هشدار ثبت شد؛ بااین‌حال پزشکان فقط با ۲۵ نفر از آن‌ها تماس موفق داشتند. در مرحلهٔ دوم، ۶۵۰ نفر غربالگری را کامل کردند. در ۳۰ روز پس از شروع، ۲۸۴ هشدار برای ۱۷۲ نفر ایجاد شد که ۵۰ مورد آن از محتوای گفت‌وگو به‌دست آمده بود. پزشکان با ۷۳ نفر تماس موفق داشتند و آغاز تماس به‌طور میانگین ۱۱٫۵ دقیقه پس از شناسایی خطر بود.
نکتهٔ اصلی این پژوهش، خودِ چت‌بات به‌عنوان درمانگر نیست. هوش مصنوعی در اینجا بخشی از یک سامانهٔ ایمنی بود که باید به انسان برسد: تشخیص اولیه، هشدار، ارزیابی بالینی، برنامهٔ ایمنی و ارجاع همگی مرزهای روشن دارند. مؤلفهٔ AI و ارتباط آن با سلامت روان در مرکز طراحی مطالعه قرار دارد، زیرا هشدارها هم از غربالگری و هم از گفت‌وگوهای یک چت‌بات مولد سلامت روان به‌دست می‌آمدند.
اما این نتایج نباید بیش از حد تعبیر شوند. طراحی پژوهش تک‌گروهی بود و گروه مقایسه نداشت؛ بنابراین نمی‌گوید این پروتکل نسبت به راه‌های دیگر مؤثرتر است یا از آسیب جلوگیری می‌کند. همچنین بخش بزرگی از افرادی که برایشان هشدار ثبت شد، در تماس انسانی قابل‌دسترسی نبودند. نویسندگان نیز تأکید می‌کنند که پژوهش‌های بیشتری برای بهبود ارزیابی افرادِ غیرقابل‌تماس و سنجش پیامدهای بالینی لازم است.
برای طراحان ابزارهای سلامت روان، پیام عملی روشن است: پاسخ گرم یا هشدار خودکار کافی نیست. اگر سامانه‌ای با موقعیت‌های بحرانی روبه‌رو می‌شود، باید از ابتدا مسیرِ قابل‌اجرا برای نظارت انسانی، مسئولیت، ارجاع و پیگیری داشته باشد؛ نه اینکه پس از وقوع بحران به آن اضافه شود.
منبع: Glasner S و همکاران. Human-in-the-Loop Suicide Risk Detection and Clinical Escalation in a Generative AI Mental Health Chatbot: Prospective Implementation Study. JMIR Formative Research، ۹ اکتبر ۲۰۲۶. PubMed؛ DOI: 10.2196/106118.
تصویر شاخص: Nenad Stojković / Wikimedia Commons، مجوز CC BY 2.0.
