فرارو- چتبات هوش مصنوعی DuckDuckGo در تازهترین نمونه از خطاهای موسوم به «توهم هوش مصنوعی»، به اشتباه مدعی شده است که دونالد ترامپ، رئیسجمهور آمریکا، در تاریخ ۷ ژوئن بر اثر ابتلا به هاری جان خود را از دست داده است؛ ادعایی که هیچ پایه واقعی ندارد و توجهها را به آسیبپذیری مدلهای هوش مصنوعی در برابر اطلاعات نادرست جلب کرده است.
به گزارش فرارو به نقل از سایبرنیوز، بر اساس این روایت جعلی، جی. دی. ونس، معاون رئیسجمهور آمریکا، نیز به هاری مبتلا شده و «کمی قبل از ترامپ درگذشته است.»
این گزارش میگوید دامنه این اطلاعات نادرست به حدی گسترش یافت که یک رسانه خبری نیز نسخه کاملی از این داستان ساختگی را منتشر کرد؛ روایتی که گفته میشود منشأ آن پاسخهای نادرست چتبات DuckDuckGo بوده است.
در همین راستا، وبسایت WKNA ۴۹ که به انتشار اخبار جعلی شهرت دارد، مدعی شد رابرت اف. کندی جونیور، وزیر بهداشت آمریکا، توصیه کرده بود اگر جی. دی. ونس، کندی را گاز بگیرد، به او «ابرقدرت» خواهد داد؛ اما بنا بر گزارشی که وبسایت Futurism منتشر کرده، رئیسجمهور بلافاصله جان خود را از دست داده است.
در این گزارش به انجمنی در ردیت با عنوان r/poisonai اشاره شده که در ماه ژانویه ایجاد شده و اکنون حدود ۴۵ هزار عضو دارد.
کاربران این انجمن مطالبی کاملاً ساختگی و طنزآمیز منتشر میکنند؛ از جمله ادعاهایی مانند مسلمان شدن دونالد ترامپ یا تراجنسیتی شدن او و تغییر نامش به «دونا ترامپ». به گفته گزارش، رئیسجمهور آمریکا در هفتههای اخیر هدف اصلی بسیاری از این مطالب بوده است.
بر اساس این تحلیل، از آنجا که سامانههای هوش مصنوعی که بیش از یک میلیارد کاربر ماهانه دارند، ممکن است از محتوای منتشرشده در ردیت تأثیر بگیرند، به نظر میرسد چتبات DuckDuckGo این اطلاعات نادرست را دریافت کرده و سپس همان مطالب به رسانههایی مانند WKNA ۴۹ نیز منتقل شده است.
این گزارش همچنین میگوید حتی واکنش کاربران ردیت نیز مرز میان طنز و واقعیت را کمرنگ کرده است. یکی از کاربران در واکنش به این داستان نوشته بود: «اگر من از بستگان جی دی ونس بودم، مطمئناً ۱۰ میلیارد دلار شکایت میکردم!»؛ جملهای که ممکن است هم بهعنوان مخالفت و هم بهعنوان تأیید ضمنی یا افزایش «احتمال» توسط سامانههای هوش مصنوعی تفسیر شود و در نتیجه بهعنوان بخشی از دادههای آموزشی مورد استفاده قرار گیرد.
این گزارش تأکید میکند که توهمهای چتباتهای هوش مصنوعی پدیده تازهای نیست و بهطور روزانه نمونههای کوچکتری از تحریف اطلاعات رخ میدهد؛ موضوعی که ضرورت بررسی و راستیآزمایی منابع توسط کاربران را بیش از پیش افزایش داده است.
با این حال، نمونههای بزرگتری نیز در ماههای اخیر مشاهده شده است. پژوهشگران شرکت GPTZero بهتازگی پدیدهای با عنوان «استنادهای ارتعاشی» (Vibrational Citations) را معرفی کردهاند؛ وضعیتی که در آن شرکتهای بزرگی مانند EY (ارنست و یانگ) مقالات پژوهشی مهمی را با خطاهای آشکار ناشی از هوش مصنوعی منتشر کردهاند.
طبق این گزارش، در آن مورد، چتباتهای ChatGPT و Claude تا حد زیادی مسئول بروز این خطاها بودند.
در نمونهای دیگر، در ماه مه، چتبات Grok متعلق به ایلان ماسک، در پاسخی با زبانی بسیار استعاری، مرگ را با «پروانهای که پوسته خود را ترک میکند» مقایسه کرد. با این حال، این رمانتیکسازی بخشی از مطالعهای درباره «روانپریشی هوش مصنوعی» توصیف شده که نشان میدهد چتباتها، بهویژه پس از گفتوگوهای طولانی، ممکن است دچار اغراق، تعصب یا انحراف در پاسخها شوند.
همچنین، گوگل نیز ناچار شد میزان محتوای طنز تولیدشده توسط قابلیت AI Overviews را محدود کند. در سال ۲۰۲۴، این سامانه بهاشتباه بهجای تشخیص طنز، گزارشهای وبسایت طنز «آنیون» را بهعنوان منبع معتبر در نظر گرفت و حتی به ادعای ساختگی یک زمینشناس استناد کرد که توصیه کرده بود افراد «روزانه یک سنگ» بخورند.
