شرکت متا اعلام کرد که از این پس اگر کاربران نوجوان در چتبات هوش مصنوعی این شرکت یعنی Meta AI درباره خودکشی یا آسیب وارد کردن به خود گفتگو کنند، این موضوع به والدین آنها اطلاع داده خواهد شد. این غول فناوری همچنین تأکید کرده که درحال توسعه قابلیتی است تا در صورت تشخیص خطر آسیب به خود در مکالمات کاربران، مستقیماً با خدمات اضطراری و امدادی تماس بگیرد.
تصمیم جدید متا در شرایطی اتخاذ میشود که این غول فناوری و سایر شرکتهای بزرگ با نظارت شدید و گسترده رگولاتورها مواجه هستند. نحوه پاسخگویی چتباتهای هوش مصنوعی به کاربران در مواقع بحرانی، بهویژه نوجوانان، به یک چالش حقوقی و اخلاقی بزرگ تبدیل شده و مسیر طراحی و بازاریابی محصولات این شرکتها را تغییر داده است.
متا در بیانیه خود اعلام کرده است که به دلیل حساسیت بالا و کاهش ضریب خطا، تمامی گفتگوهای پرچمگذاریشده توسط هوش مصنوعی، پیش از ارسال هشدار به والدین، به صورت دستی توسط کارشناسان بازبینی خواهند شد. بااینحال، اگر قصد نوجوان از گفتگو مبهم باشد، متا با تکیه بر اصل احتیاط، هشدار را برای والدین ارسال خواهد کرد. این شرکت میپذیرد که این رویکرد ممکن است گاهی منجر به هشدارهای غیرضروری شود، اما آن را نقطه شروع مناسبی برای تضمین امنیت میداند.
این هشدارهای جدید هماکنون برای والدینی که از ابزار «نظارت والدین اینستاگرام» در کشورهای ایالات متحده، بریتانیا، استرالیا و کانادا استفاده میکنند فعال شده است و تا پایان سال جاری میلادی به صورت جهانی عرضه خواهد شد. این ویژگی در واقع مکمل هشدارهایی است که پیش از این در صورت جستجوی مکرر عبارات مربوط به خودکشی در اینستاگرام برای والدین ارسال میشد.
همچنین، تنظیمات Limited Content اینستاگرام اکنون روی چتبات Meta AI نیز اعمال میشود تا مانع از ورود هوش مصنوعی به گفتگوهای نامناسب با نوجوانان شود. علاوهبراین، در صورت تشخیص خطر خودکشی در چتهای هر بازه سنی (نوجوان یا بزرگسال)، متا مانند پلتفرمهای فیسبوک و اینستاگرام، با سازمانهای امدادی و اورژانسی تماس خواهد گرفت.
