شرکت OpenAI اعلام کرد که کمیته ایمنی و امنیت خود را به حالت مستقل درمی‌آورد تا این کمیته امکان جلوگیری از عرضه مدل‌ها به‌دلیل نگرانی‌های ایمنی را داشته باشد. این اقدام با یک تغییر قابل توجه همراه است: «سم آلتمن»، مدیرعامل شرکت، دیگر بخشی از کمیته ایمنی نیست.
به گزارش سایت رسمی OpenAI، «زیکو کولتر»، مدیر بخش یادگیری ماشین در دانشگاه کارنگی ملون، ریاست کمیته ایمنی و امنیت جدید (SSC) شرکت OpenAI را بر عهده خواهد داشت. دیگر اعضای کلیدی این کمیته عبارتند از «آدام دآنجلو»، مدیر اجرایی Quora، «پل ناکاسون» ژنرال بازنشسته ارتش ایالات متحده و «نیکول سلیگمن»، مشاور عمومی شرکت سونی.
این کمیته جدید جایگزین کمیته ایمنی و امنیت قبلی می‌شود که در ژوئن 2024 تشکیل شده بود و سم آلتمن نیز جزو اعضای آن بود. کمیته قبلی موظف به ارائه توصیه‌هایی در مورد تصمیمات حیاتی ایمنی و امنیتی برای پروژه‌ها و عملیات OpenAI بود.
اکنون مسئولیت‌های SSC فراتر از ارائه توصیه خواهد بود. این کمیته صلاحیت نظارت بر ارزیابی‌های ایمنی مدل‌های اصلی و اعمال نظارت بر عرضه مدل‌ها را خواهد داشت. مهم‌تر از همه، کمیته این قدرت را خواهد داشت که انتشار مدل‌های جدید هوش مصنوعی را تا زمانی که به نگرانی‌های ایمنی به اندازه کافی رسیدگی نشود، به تعویق بیندازد.
این تجدید ساختار به دنبال یک دوره بررسی دقیق در مورد تعهد OpenAI به حفظ ایمنی هوش مصنوعی صورت می‌گیرد. این شرکت در گذشته به دلیل انحلال تیم Superalignment و خروج پرسنل کلیدی متمرکز بر ایمنی، با انتقاداتی روبه‌رو شده بود. به نظر می‌رسد حذف آلتمن از کمیته ایمنی تلاشی برای رفع نگرانی‌ها در مورد تضاد منافع احتمالی در نظارت بر ایمنی شرکت باشد.
دیگر وظایف کمیته ایمنی شرکت OpenAI شامل برنامه‌هایی برای تقویت اقدامات امنیتی، افزایش شفافیت در مورد کار و همکاری با سازمان‌های خارجی است. این شرکت قبلاً با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا برای همکاری در زمینه خطرات و استانداردهای ایمنی در حال ظهور در حوزه هوش مصنوعی به توافق رسیده بود.
