سازنده ChatGPT قابلیت تشخیص متن‌های نوشته شده توسط هوش مصنوعی را عرضه کرد

حدود دو ماه پس از عرضه عمومی چت‌بات ChatGPT که می‌تواند تکالیف دانش‌آموزان و دانشجویان را انجام دهد، شرکت OpenAI، سازنده این هوش مصنوعی، از ابزار جدیدی رونمایی کرده است که به معلمان و استادان کمک خواهد کرد تا مقاله‌های نوشته‌شده با این چت‌بات را تشخیص دهند.

به‌گزارش سی‌ان‌ان، OpenAI ساعاتی پیش قابلیت جدیدی را برای ChatGPT معرفی کرد که به کاربر اجازه می‌دهد امکان بررسی‌کردن یک نوشته را داشته باشد. با این ویژگی کاربر از این چت‌بات می‌خواهد تا تشخیص بدهد که یک متن توسط انسان نوشته شده است یا هوش مصنوعی. با این حال، این شرکت اذعان کرده است که این قابلیت کامل و بی‌نقص نیست.

این ویژگی روی متون انگلیسی کار می‌کند و سعی دارد با کمک یادگیری ماشینی ماهیت نویسنده را تشخیص دهد. زمانی که کاربر متن را به ChatGPT می‌دهد، این چت‌بات به او اعلام می‌کند که چقدر احتمال دارد یک هوش مصنوعی آن را نوشته باشد.

«لاما احمد»، مدیر بخش تحقیقات سیاست‌های OpenAI می‌گوید جامعه معلمان خواستار چنین قابلیتی برای ChatGPT بودند و حالا این عرضه شده است. با این حال، او تأکید می‌کند که نتایج عملکرد این ویژگی قطعی نیستند: «واقعاً توصیه نمی‌کنیم که از این ابزار به‌تنهایی نتیجه‌گیری کنید، چون می‌دانیم که این قابلیت می‌تواند اشتباه بکند و در برخی مواقع اشتباه خواهد کرد.» بنابراین مهم است که یک انسان هم در پروسه ارزیابی دخیل باشد.

برای بررسی تکالیف نباید تنها به ChatGPT اکتفا کرد

لاما احمد می‌گوید بعضی از معلمان و اساتید از تکالیف قبلی دانش‌آموزان و دانشجویان برای بررسی کارهای جدید آن‌ها استفاده می‌کردند. حالا اگرچه این ابزار می‌تواند به آن‌ها کمک کند تا کار ساده‌تری در این زمینه داشته باشند اما باید خیلی مراقب باشند که در اعلام تقلب آکادمیک شتاب‌زده عمل نکنند.

«جن لیکی»، مدیر تیم هماهنگی OpenAI می‌گوید با وجود اشتباهات که این ویژگی جدید ممکن است داشته باشد، بخشی از هدف این شرکت از عرضه این ابزار فراهم‌سازی بستر گفتگو درباره این مسئله است که آیا انسان‌ها این حق را دارند که بدانند چه زمانی با یک هوش مصنوعی طرف هستند و چه زمانی با آثار انسانی یا خیر: «این سؤال خیلی بزرگ‌تر از کاری است که ما داریم می‌کنیم؛ جامعه به‌طور کلی باید با این پرسش دست‌وپنجه نرم کند.»

پیش‌تر محققان دانشگاه استنفورد ابزاری را برای شناسایی متون ساخته‌شده با ChatGPT معرفی کرده بودند. همچنین مدرسه‌ای در لندن اعلام کرده بود که در شرایط فعلی شاید ارائه تکلیف به شیوه فعلی را کنار بگذارد.