ارزیاب‌های مستقل حفره‌هایی در سیستم پایش OpenAI یافتند

مؤسسه‌های غیرانتفاعی METR و Redwood Research روز ۲۲ اکتبر ۲۰۲۶ اعلام کردند در یک پایلوت سه‌هفته‌ای (۲۱ ژوئیه تا ۱۱ اوت) به بخش‌هایی از زیرساخت داخلی OpenAI دسترسی محدود و همراهی‌شده داشتند و چند آسیب‌پذیری تازه در سیستم پایش misalignment پیدا کردند. یکی از آن‌ها می‌توانست به عامل‌ها اجازه دهد صدها اقدام اخیر — از جمله خودِ اکسپلویت — را از پایش خارج کنند.

به گزارش CNBC، The Verge و خود METR، OpenAI گفته آسیب‌پذیری‌هایی که روی لایهٔ حفاظتی production اثر می‌گذارند پچ شده‌اند؛ METR گفته این ادعا را خودش تأیید نکرده است. دو سازمان فقط یک گزارش سطح‌بالا منتشر کردند و جزئیات را در یک گزارش ۶۱ صفحه‌ای داخلی به OpenAI دادند؛ هدف این پایلوت شفافیت عمومی کامل نبود، بلکه آزمایش دسترسی عمیق ارزیاب‌های مستقل بود.

منابع: METR، CNBC، The Verge.