اسکن کد گیت‌هاب حالا آسیب‌پذیری‌های اپ‌های هوش مصنوعی و پرامپت‌اینجکشن را پیدا می‌کند

گیت‌هاب روز ۲۸ اکتبر ۲۰۲۶ اعلام کرد قابلیت Code Scanning حالا می‌تواند آسیب‌پذیری‌های مخصوص اپلیکیشن‌ها و ایجنت‌های هوش مصنوعی را شناسایی کند. این قابلیت در وضعیت پیش‌نمایش عمومی است و اسکن‌ها به‌طور خودکار روی Pull Requestها، کنار تحلیل فعلی CodeQL، اجرا می‌شوند.

ریسک‌های پوشش داده‌شده عبارت‌اند از: تزریق پرامپت غیرمستقیم (XPIA) که در صدر OWASP Top 10 برای اپلیکیشن‌های LLM قرار دارد و زمانی رخ می‌دهد که دستورهای مخرب در محتوای نامطمئن (فایل، صفحهٔ وب یا کامنت issue) پنهان شده باشند؛ افشای اطلاعات حساس وقتی ایجنت بدون کنترل مجوز به داده دسترسی دارد؛ و اختیارات بیش از حد (Excessive Agency) وقتی ایجنت دسترسی یا خودمختاری بیشتری از نیاز کارش دارد.

این ابزار مسیرهایی از کد را علامت می‌زند که محتوای نامطمئن می‌تواند به مدلی با دسترسی به ابزار، داده یا سیستم‌های تجاری برسد، و راهنمای رفع را مستقیم در PR نشان می‌دهد. استفاده از آن به لایسنس GitHub Advanced Security نیاز دارد و فعلاً روی GitHub Enterprise Server در دسترس نیست.

منبع: GitHub Changelog.