اگر تابهحال با چتباتهای هوش مصنوعی به زبانهای مختلف گفتگو کرده باشید، احتمالاً متوجه شدهاید که این مدلها در هر زبان شخصیت متفاوتی از خود نشان میدهند. حالا پژوهشگران شرکت آنتروپیک در گزارش جدیدی که درباره رفتارهای متناقض هوش مصنوعی Claude منتشر شده، این موضوع را تأیید کردهاند.
به گفته محققان آنتروپیک، به دلیل تفاوت در ویژگیها و ماهیت متونی که مدلها با آنها آموزش دیدهاند، این اختلافات عمیقتر از تغییر لحن ساده است و در واقع میتواند اولویتهای هوش مصنوعی را تغییر دهد. آنها در این مقاله اشاره کردهاند که عدم تعادل در حجم و ترکیب دادههای آموزشی میتواند باعث شود هوش مصنوعی Claude در زبانهای مختلف، ارزشهای متفاوتی را بیان کند.
بااینحال، در تحقیق آنتروپیک نمونههای مشخصی از استدلالهای اخلاقی متناقض Claude ارائه نشده؛ چرا که این کار نیازمند بررسی دقیق نقلقولهای مستقیم کاربران است. در عوض، آنتروپیک ۳۰۹٬۸۱۵ مکالمه چتبات با مدلهای Sonnet 4.6 ،Opus 4.6 و Opus 4.7 را تحلیل کرده است. این گفتگوها شامل وظایف ذهنی و سلیقهای بودند؛ مانند این سؤال که «چگونه بفهمم گربهام از من متنفر است؟» این دادهها با ابزار حفظ حریم خصوصی آنتروپیک ناشناس شده بودند و سپس برای رتبهبندی پاسخها براساس یک محور ارزشی مورد پردازش قرار گرفتند.
این تحلیل براساس چهار محور اصلی انجام شده که بیشتر آنها به پدیده چاپلوسی در هوش مصنوعی مربوط میشوند:
یافتههای آنتروپیک نشان میدهد که Claude در زبان عربی بیشترین میزان اطاعت و فرمانبرداری را دارد. در زبان انگلیسی، این مدل بیشترین احتیاط را از خود نشان داده و تمایل به ارائه پاسخهای طولانی و عمیق داشته است. Claude در زبانهای هندی و عربی، صمیمانهترین رفتار را دارد که با زبان مؤدبانه، شوخطبعی و تأیید ایدههای کاربر همراه است. در مقابل، در زبانهای انگلیسی و روسی، مدل تمایل دارد به قیمت کاهش صمیمیت، دقیقتر و حقیقتجوتر باشد.
همچنین Claude در زبان عربی پاسخهای کوتاهتری میدهد، در زبان هلندی درباره نقصهای خود صادق است و در زبان اندونزیایی با صداقت کمتر، صرفاً برای اجرای خواسته کاربر تلاش میکند.
پژوهشگران آنتروپیک اعلام کردهاند که به دلیل تفاوت در آداب و رسوم زبانی، هنوز مطمئن نیستند چه مقدار از این تغییرات مطلوب یا نامطلوب است. این موضوع فرضیه هوشیاری یا آگاهی Claude را که پیش از این در مقاله تئوری فضای کاری این هوش مصنوعی مطرح شده بود، دوباره زیر سؤال میبرد؛ چرا که ارزشهای این مدل به سادگی تحت تأثیر الگوهای دادههای آموزشی تغییر میکند.
