📰 منبع: TechCrunch — ژوئیه ۲۰۲۶
شرکت متا اعلام کرد سامانهای تازه را برای هشدار به والدین در صورت گفتوگوی فرزندان نوجوانشان درباره خودکشی یا خودآزاری با چتبات متا AI فعال کرده است. این قابلیت از روز پنجشنبه برای کاربرانی که از ابزار «نظارت والدین» اینستاگرام در آمریکا، بریتانیا، استرالیا و کانادا استفاده میکنند در دسترس قرار گرفته و متا گفته تا پایان سال میلادی جاری آن را در سطح جهانی گسترش میدهد.
بر پایه توضیحات متا، شرکت یک سامانه هوش مصنوعی اختصاصی برای شناسایی گفتوگوهایی ساخته که در آنها نوجوان بهصراحت به آسیبرساندن به خود اشاره میکند. پیش از رسیدن هر هشدار به دست والدین، تمام گفتوگوهای پرچمگذاریشده توسط یک انسان بازبینی میشود. متا در بیانیه خود نوشته: «اگر نیت نوجوان مبهم باشد، جانب احتیاط را میگیریم و به والدین هشدار میدهیم.»
این شرکت همچنین در حال توسعه سازوکاری است که در شرایط پرخطرِ نزدیک به اقدام به خودکشی، امکان تماس با اورژانس و خدمات امدادی را نیز فراهم میکند؛ گسترشی از سیاستهای موجود فیسبوک و اینستاگرام به گفتوگوهای چتبات. در کنار این، تنظیمات «محتوای محدود» که پیشتر فقط تجربه نوجوانان در اینستاگرام را محدودتر میکرد، اکنون به متا AI نیز تسری یافته و گفتوگو درباره موضوعاتی مانند الکل یا مضامین رمانتیک و جنسی را محدود میکند. والدین همچنین میتوانند فهرستی کلی از موضوعات گفتوگوی هفته اخیر فرزندشان با چتبات را مشاهده کنند.
این اقدام در پی نگرانی فزاینده نهادهای نظارتی و والدین درباره نحوه واکنش چتباتهای هوش مصنوعی به کاربران در وضعیت بحرانی، بهویژه نوجوانان، اعلام شده است. مسئولیت حقوقی ناشی از چنین تعاملاتی هرچه بیشتر بر نحوه طراحی و بازاریابی محصولات هوش مصنوعی توسط شرکتهای فناوری تأثیر میگذارد؛ روندی که شرکتهای دیگر فعال در حوزه هوش مصنوعی نیز زیر ذرهبین آن قرار دارند.
این خبر بخشی از بخش اخبار روانای است و خلاصهای آزاد از منبع ذکرشده است، نه یک تحلیل تخصصی. اگر خودتان یا فرد نزدیکی با افکار آسیبرسان یا احساسات دشوار دستوپنجه نرم میکنید، لطفاً با یک متخصص سلامت روان یا فرد مورد اعتماد صحبت کنید. این محتوا جایگزین مشاوره یا ارزیابی حرفهای نیست.
