اخلاق، ایمنی و ریسک؛ مجموعه مطالب تخصصی روانای در تقاطع روانشناسی، سلامت روان و هوش مصنوعی.
پیشنویسِ مقرراتِ جدیدِ چین، چتباتهای همدمِ هوشمصنوعی را از تولیدِ محتوایِ تشویقکنندهی خودکشی منع میکند و در مواجهه با ریسکِ خودکشی، الزام به دخالتِ فوریِ انسانی دارد.
قانونِ جدیدِ ایالتِ ایلینوی (اوت ۲۰۲۵)، استفاده از هوش مصنوعی برای «تصمیمگیریِ درمانی» و «ارتباطِ درمانیِ مستقیم» با بیمار را ممنوع کرد — اما استفادهی اداری و پشتیبان را همچنان مجاز میداند.
مقایسهی مستقیمِ نرخِ توهم (اختراعِ منبعِ علمیِ غیرواقعی) نشان داد GPT-4 در ۲۸٫۶٪ موارد، GPT-3.5 در ۳۹٫۶٪ و Bard در ۹۱٫۴٪ موارد، منبعِ جعلی یا نادرست ارائه دادند.
تحلیلی حقوقی نشان میدهد قانونِ هوش مصنوعیِ اتحادیهی اروپا با وجودِ ممنوعیتِ سامانههای «فریبدهنده»، بهاحتمال زیاد نمیتواند آسیبِ روانیِ تجمعیِ ناشی از گفتوگوهای طولانیمدت با چتباتهای انساننما را پوشش دهد.
بزرگترین مرور سیستماتیک و متاآنالیزِ این حوزه (۵۳ مطالعه) نشان داد الگوریتمهای یادگیریِ ماشین ویژگیِ خوبی (تا ۹۳٪) دارند، اما حساسیتِ آنها متغیر و گاهی پایین است.
بررسیِ چهار مدل زبانی پرکاربرد (Claude، ChatGPT، Gemini و یک مدل تخصصی) نشان داد وقتی نژادِ بیمار بهصراحت ذکر میشود، توصیههای درمانیِ برخی مدلها بهطور نامتناسبی تغییر میکند.
یک مقالهی دیدگاهی مروری بر خلأ نظارتیِ فعلی: تا امروز هیچ ابزار هوشمصنوعیِ مولد برای سلامت روان از سوی FDA تأیید نشده، در حالیکه رویکردهای اتحادیهی اروپا، بریتانیا و چین با هم متفاوتاند.
سازمان جهانی بهداشت راهنمای رسمی خود را برای استفادهی اخلاقی و مسئولانه از مدلهای زبانیِ بزرگِ چندوجهی (مانند ChatGPT) در مراقبت سلامت و پژوهش پزشکی منتشر کرد.
مروری سیستماتیک بر ۳۵ مطالعه نشان داد مدلهای کلاسیک هوش مصنوعی در پیشبینی پاسخ درمانی و عود اختلال دوقطبی عملکردی امیدوارکننده اما با ریسک بالای سوگیری دارند و هنوز برای کاربرد بالینی آماده نیستند.
ارزیابی استنفورد نشان داد چتباتهای درمانگرِ مبتنی بر مدلهای زبانی، در کمتر از ۶۰٪ موارد پاسخ مناسب میدهند (در برابر ۹۳٪ برای درمانگران انسانی) و گاهی به نشانههای بحران، ناایمن پاسخ میدهند.