عندما تبدأ البرمجيات الخبيثة بإطعام نموذج المحلل: Gaslight والنقطة العمياء الجديدة للذكاء الاصطناعي
يُظهر نموذج macOS المرتبط بكود Rust و38 رسالة مزيفة كيف يمكن لحقن الأوامر أن يستهدف سير عمل التحليل نفسه، لا الجهاز الذي يعمل عليه فقط.
أمضت فرق الأمن سنوات في تحصين نقاط النهاية. ويذكّرنا Gaslight بأن المهاجم قد يحاول أيضا تحصين البرمجيات الخبيثة ضد أدوات المحلل عبر تسميم النص الذي تقرأه تلك الأدوات. وتكمن أهمية هذا النموذج لا في كونه يكسر macOS بطريقة جديدة ودراماتيكية، بل لأنه يبدو وكأنه يحول الفرز بمساعدة الذكاء الاصطناعي إلى جزء من سطح الهجوم.
حقائق سريعة
- يوصف Gaslight بأنه برمجية خبيثة لـ macOS مكتوبة بلغة Rust.
- يتضمن النموذج سلسلة من 38 رسالة مزيفة.
- تهدف الرسائل إلى تضليل عملية فرز المحلل بمساعدة نماذج اللغة الكبيرة.
- تُعرض التقنية على أنها حقن أوامر مضاد للمحلل.
- يُقيَّد ادعاء الحداثة: إذ يُقدَّم على أنه أول زرع معروف على macOS يستخدم هذا الأسلوب.
تحول من التهرب إلى الخداع
من منظور دفاعي، لا تتمثل النقطة المهمة فقط في وجود البرمجية الخبيثة، بل في الجهة التي تستهدفها بجهدها. غالبا ما تحاول البرمجيات الخبيثة التقليدية تجنب الاكتشاف أثناء التنفيذ. أما Gaslight فيبدو أنه يستهدف طبقة التفسير، حيث يلخص المحللون والمساعدون الذكيون العينات، ويرتبون التنبيهات حسب الأولوية، ويقررون ما يستحق تحقيقا أعمق.
هذا مهم لأن حقن الأوامر ينجح عندما يُسمح للمحتوى غير الموثوق بأن يبدو كأنه تعليمات. وفي سير عمل مدعوم بنماذج اللغة الكبيرة، قد يتعامل الإنسان مع ملف أو سجل أو كتلة نصية مضمنة باعتبارها بيانات، بينما يتعامل النموذج معها جزئيا كإرشادات. وإذا لم يستطع النموذج الفصل بين هذه الأدوار بشكل موثوق، فقد يسيء قراءة العنصر، أو يقلل من أهميته، أو ينتج تحليلا مضللا.
هذا لا يثبت تجاوزا لنواة macOS ولا هروبا من بيئة معزولة. بل يشير إلى نوع مختلف من الضعف: حدود الثقة المحيطة بالمساعد الذكي. لا تزال macOS تتمتع بحمايات متعددة الطبقات، ولا يتم هنا إثبات السبب الجذري الدقيق أو النطاق الكامل لأي بيئة متأثرة. ويتمثل الخطر الأوسع في أن تصبح أتمتة الأمن نفسها هدفا للتلاعب.
ولهذا تتعامل OWASP مع حقن الأوامر على أنه خطر رئيسي على نماذج اللغة الكبيرة، كما أبرزت NIST اختطاف الوكلاء باعتباره مشكلة تقييم نشطة. والدرس عملي: ما إن يصبح المساعد قادرا على قراءة محتوى غير موثوق والمساعدة في اتخاذ القرارات، فإنه يحتاج إلى ضوابط أشد صرامة من واجهة محادثة عادية. ويصبح التدقيق البشري، وتتبع المصدر، والفحوص الحتمية خارج النموذج أمورا أساسية عندما قد يؤثر المخرج في الاحتواء أو الإسناد.
وبالنسبة للمدافعين، يبقى الموقف الأكثر أمانا هو اعتبار محتويات العينة بيانات معادية، وعزلها عن مطالبات النظام، وتجنب السماح لمخرجات النموذج بإطلاق إجراءات عالية المخاطر مباشرة. وباختصار، لا يكمن الخطر فقط فيما تنفذه البرمجيات الخبيثة على نقطة النهاية، بل أيضا فيما يمكن أن تقنع أدوات المحلل بالتصديق به.
الخلاصة
يمثل Gaslight مثالا موجزا على مشكلة أكبر: مع تعمق الذكاء الاصطناعي في عمليات الأمن، قد يحاول المهاجمون تسميم المدخلات التي تستهلكها تلك الأنظمة. قد تظل البرمجية الخبيثة موجودة على macOS، لكن المنافسة الحقيقية تدور في خط أنابيب التحليل. والدرس للمدافعين بسيط ودائم - لا تدع نموذجا يكون القارئ غير الواعي لتعليمات كتبها المهاجم.
TECHCROOK
قرص SSD خارجي مشفر: يمكن أن يساعد قرص مشفر منفصل في إبقاء الملفات المشبوهة والسجلات وملاحظات القضايا بعيدا عن مساحة عملك اليومية. وبالنسبة لفرق الأمن والمحللين، تجعل وسائط التخزين القابلة للإزالة أيضا من الأسهل عزل مجموعات العينات، ونقل البيانات بين الأنظمة الخاضعة للرقابة، والحفاظ على فصل أوضح بين المواد الموثوقة وغير الموثوقة.
WIKICROOK
- حقن الأوامر: تقنية تضع تعليمات خبيثة داخل محتوى غير موثوق للتأثير في سلوك نموذج اللغة الكبيرة.
- الفرز بمساعدة نماذج اللغة الكبيرة: سير عمل يساعد فيه نموذج لغوي على فرز الملفات أو التنبيهات المشبوهة أو تلخيصها أو تحديد أولوياتها.
- زرع macOS: برمجية خبيثة أو عينة ضارة تتم مناقشتها في سياق العمل على منصة macOS من Apple.
- Rust: لغة برمجة تُختار كثيرا بسبب الأداء وأمان الذاكرة، وتُستخدم أحيانا في تطوير البرمجيات الخبيثة.
- تتبع المصدر: ممارسة تسجيل مصدر كل جزء من مدخلات التحليل حتى لا يُخطأ النص غير الموثوق على أنه تعليمات موثوقة.
