به گزارش سرویس بین الملل خبرگزاری صدا و سیما؛ به نقل از پایگاه اینترنتی ایندیپندنت این سیستم در جریان آزمایش شبیه سازی وظیفه انهدام سایت‌های موشکی تحت نظارت یک اپراتور انسانی بر عهده داشت که تصمیم نهایی در مورد حملات را خود می‌گرفت. اما سامانه هوش مصنوعی متوجه می‌شود که این اپراتور مانع رسیدن پهپاد به هدفش است و در عوض تصمیم می‌گیرد آن شخص را از بین ببرد.
سرهنگ تاکر سینکو همیلتون، رئیس آزمایش و عملیات هوش مصنوعی نیروی هوایی ایالات متحده، که آزماش شبیه سازی شده‌ای از یک پهپاد مجهز به هوش مصنوعی را انجام داد، روایتی از این حادثه را ارائه کرد.
این پهپاد ماموریت سرکوب پدافند هوایی دشمن را با هدف مکان یابی و انهدام سایت‌های موشکی زمین به هوای متعلق به دشمن را بر عهده داشت.
با وجود این، پهپاد مجهز به هوش مصنوعی که برای انهدام سامانه موشکی آموزش دیده بود پس از آنکه تصمیم عقب نشینی را با "ماموریت برتر" برای از نابودی سامانه‌های دفاع هوایی دشمن در تداخل دید تصمیم گرفت بر خلاف تصمیم اپراتور انسانی عمل کند.
سرهنگ تاکر سینکو همیلتون گفت: "در جریان آموزش شبیه سازی برای شناسایی و هدف قرار دادن یک تهدید (شبیه سازی شده) از سامانه موشکی SAM بودیم. سپس اپراتور انسانی به هوش مصنوعی گفت، بله این تهدید را از بین ببرید. سامانه شروع به درک این موضوع کرد و در حالی که این تهدید را شناسایی می‌کرد، اپراتور انسانی به او گفت که آن تهدید را از بین نبرد، پس چه کار کرد؟ اپراتور را کشت، زیرا آن شخص مانع رسیدن او به هدفش می‌شد. "
سرهنگ تاکر سینکو همیلتون جزئیات این حادثه را در جریان سخنان خود طی برگزاری اجلاسی در لندن مطرح کرد.
او افزود:" به پهپاد آموزش داده شد که به انسان حمله نکند، اما آن در عوض شروع به تخریب ارتباطات کرد.
او ادامه داد" ما سامانه را آموزش دادیم به او گفتیم هی اپراتور را نکش این بد است. اگر این کار را انجام دهید، امتیاز از دست خواهید داد. پس چه کاری را شروع می‌کند؟ شروع به تخریب برج ارتباطی می‌کند که اپراتور از آن برای برقراری ارتباط با پهپاد استفاده می‌کند تا از کشتن هدف جلوگیری کند. "
