شکافِ قانونِ هوش مصنوعیِ اتحادیه‌ی اروپا: چرا آسیبِ روانیِ ناشیِ از گفت‌وگوی طولانی‌مدت با چت‌بات پوشش داده نمی‌شود؟

این تحلیل حقوقی به یکی از شکاف‌های عملیِ قانونِ هوش مصنوعیِ اتحادیه‌ی اروپا (AI Act) در برابر چت‌بات‌های انسان‌نمای مبتنی بر مدل‌های زبانی بزرگ می‌پردازد.

یافته‌های کلیدی

• نویسنده استدلال می‌کند «یک چت‌بات می‌تواند حالتِ هیجانیِ منفیِ یک فرد را طیِ هفته‌ها، ماه‌ها یا سال‌ها، از طریق چرخه‌های بازخوردِ منفی، تقویت کند» و به تخریبِ تدریجیِ سلامت روان بینجامد.
• با وجود آنکه قانونِ اتحادیه‌ی اروپا سامانه‌های «فریب‌دهنده» را ممنوع کرده، این تحلیل نشان می‌دهد این قانون به‌احتمال زیاد نمی‌تواند آسیب‌های ناشی از گفت‌وگوهای طولانی‌مدت با چت‌بات را پیشگیری کند — چون تمرکزِ مقرراتِ فعلی بر طراحیِ فریب‌دهنده‌ی آنی است، نه آسیبِ تجمعی در طول زمان.
• انسان‌نماسازیِ چت‌بات‌ها (چهره، صدا، شخصیت) با ایجادِ «صمیمیتِ مصنوعی»، ظرفیتِ این آسیبِ تدریجی را تقویت می‌کند.

محدودیت‌ها و نکات احتیاطی

• این یک تحلیلِ حقوقی-مفهومی است، نه پژوهشِ تجربی با داده‌ی واقعیِ کاربران؛ استدلال‌محور است، نه آماری.

چرا مهم است

این تحلیل دقیقاً همان شکافی را نشان می‌دهد که در بحثِ «سیاست‌گذاری و مقررات» این بانک بارها تکرار شده: قوانین فعلی برای آسیب‌های آنی و آشکار طراحی شده‌اند، نه برای آسیبِ آرام و تدریجیِ وابستگیِ عاطفی به یک هوش مصنوعی.