یک مرور دامنهای تازه در مجله JMIR AI نشان میدهد که موج استفاده از مدلهای زبانی برای پیشبینی وضعیت سلامت روان، سریعتر از توجه نظاممند پژوهشها به سوگیری و فایده بالینی پیش رفته است. پژوهشگران فرانسوی ۲۰۱ مقاله منتشرشده میان سالهای ۲۰۱۹ تا ۲۰۲۴ را بررسی کردند؛ مقالههایی که از متنهای واقعی، نه دادههای مصنوعی، برای شناسایی یا پیشبینی وضعیتهای سلامت روان استفاده کرده بودند.
تمرکز بخش بزرگی از این ادبیات بر تشخیص نشانههای افسردگی در نوشتههای شبکههای اجتماعی بود و بسیاری از مطالعات از مدلهای عمومی خانواده BERT استفاده کرده بودند. به گفته نویسندگان، همین انتخابهای رایج میتواند فاصله میان عملکرد فنی در یک مجموعهداده و کاربرد واقعی در مراقبت بالینی را بیشتر کند. نوشتههای شبکههای اجتماعی نماینده همه گروهها نیستند، تعریف «برچسب» بیماری همیشه با تشخیص بالینی برابر نیست و موفقیت یک مدل در دادههای پژوهشی، بهتنهایی ایمنی یا عدالت آن را در عمل ثابت نمیکند.
از ۲۰۱ مطالعه واردشده به مرور، ۱۶۴ مقاله، یعنی ۸۱٫۶ درصد، دستکم به موضوعی مرتبط با سوگیری یا کاربرد بالینی اشاره کرده بودند. با این حال، فقط ۴۱ مقاله، معادل ۲۰٫۴ درصد، این مسائل را در دستکم سه بخش از پنج بخش چرخه توسعه بررسی کرده بودند: طراحی پژوهش و انتخاب نمونه، گردآوری داده، تعریف پیامد، توسعه مدل و ملاحظات پس از استقرار. بیشتر بحثها نیز به محدودیتهای داده محدود مانده بود و پیامدهای تصمیمهای دیگر در طول این زنجیره کمتر دیده میشد.
این یافته به معنای بیفایده بودن مدلهای زبانی در سلامت روان نیست. پیام اصلی مرور این است که دقت آماری بهتنهایی برای ادعای آمادگی بالینی کافی نیست. یک سامانه ممکن است روی دادههای خاص خوب عمل کند اما برای گروههای جمعیتی دیگر، زبانهای متفاوت یا محیط درمان واقعی نتیجهای نابرابر یا غیرقابلاتکا داشته باشد. همچنین این مرور درباره سامانههای منتشرشده تا پایان ۲۰۲۴ است و کیفیت ابزارهای جدیدتر را مستقیماً ارزیابی نمیکند.
نویسندگان خواستار همکاری نزدیکتر متخصصان پردازش زبان طبیعی با روانپزشکان و دیگر متخصصان بالینی شدهاند تا سوگیری، تعریف پیامد و ارزش عملی سامانهها از ابتدای طراحی تا پس از استقرار بررسی شود. برای مخاطب عمومی نیز نتیجه روشن است: برچسب «هوش مصنوعی» یا حتی گزارش دقت بالا، نباید با تشخیص معتبر یا تصمیم درمانی ایمن یکی گرفته شود.
منبع: Bleuze و همکاران، JMIR AI، منتشرشده در ۱۳ اوت ۲۰۲۶؛ DOI: 10.2196/88082 و رکورد PubMed.
