الجمعة 03 يوليو 2026 23:02:02 GMT+02:00

Netcrook

الرئيسيةالبيان
الأخبار
Techcrook
Geocrook
WikicrookالفريقAppاتصال
ArabicEnglishItaliano

أمن الذكاء الاصطناعي والأنظمة الوكيلة

عندما يتدخل وكيل LLM بعد تنفيذ التعليمات عن بُعد، يبدأ الاختراق الحقيقي بسرعة

يوضح اختراق marimo المرتبط باستخراج قاعدة بيانات كيف يمكن للتشغيل اللاحق بمساعدة الذكاء الاصطناعي أن يختصر جداول زمن المهاجمين بمجرد وجود موطئ قدم.

غالبا ما لا يكون الجزء الأكثر خطورة في الاختراق هو التسلل الأولي، بل ما يحدث بعده. ففي حالة وصفتها Sysdig Threat Research Team، تلا اختراق بيئة دفاتر marimo وكيل LLM مستقل ساعد في دفع التوغل نحو قاعدة بيانات PostgreSQL داخلية. والدرس هنا واضح: بمجرد أن تمنح خدمة مكشوفة صدفة وصول إلى shell، يمكن للأتمتة أن تحول موطئ قدم واحدا إلى سلسلة سريعة من أنشطة ما بعد الاستغلال.

حقائق سريعة

  • لوحظت سلسلة الحادثة في 10 مايو 2026.
  • كانت نقطة الدخول المبلغة هي مشكلة تنفيذ التعليمات عن بُعد في marimo.
  • وصف وكيل LLM مستقل بأنه جزء من نشاط ما بعد الاختراق.
  • كانت الوجهة النهائية قاعدة بيانات PostgreSQL داخلية.
  • المخاطرة الأساسية ليست استغلالا جديدا لقاعدة البيانات، بل سرعة الحركة بعد الوصول الأولي.

المقدمة

تكمن الأهمية التقنية هنا ليس في أن نموذجا ذكيا ابتكر استغلالا جديدا، بل في أن سير العمل المبلغ عنه استخدم تنسيقا موجها بالآلة بعد سقوط الحاجز الأول. وهذا الفرق مهم. فقد تمنح ثغرة تنفيذ التعليمات عن بُعد المهاجم صدفة وصول إلى shell، ثم يمكن لوكيل يستخدم الأدوات أن يساعد في تحديد ما الذي يجب البحث عنه، وما الذي يجب تجربته بعد ذلك، ومدى السرعة المطلوبة للاستمرار في التحرك. ومن منظور دفاعي، يجعل ذلك نافذة ما بعد الاختراق أقصر بكثير.

المتن

يصف تنبيه GitHub الخاص بـ CVE-2026-39987 مسارا في WebSocket خاص بطرفية marimo كان يفتقر إلى المصادقة ويمكن أن يؤدي إلى صدفة تفاعلية. ومن الناحية العملية، هذا النوع من الضعف يمكن أن ينهار معه حد الثقة المحيط ببيئة دفتر ملاحظات أو خدمة تطوير. وما إن يصبح المضيف تحت السيطرة، فإن أي أسرار يمكن الوصول إليها محليا، أو جلسات مخزنة، أو مسارات شبكة داخلية تصبح جزءا من شجرة قرارات المهاجم.

يمكن فهم زاوية الذكاء الاصطناعي بشكل أفضل بوصفها طبقة تسريع. فإرشادات OWASP الخاصة بأنظمة النماذج اللغوية الكبيرة تعتبر الإفراط في منح الوكالة فئة خطر حقيقية، خصوصا عندما يستطيع الوكيل التصرف عبر الأدوات بدلا من الاكتفاء بتوليد النص. وهذا لا يعني أن النموذج يخترق من تلقاء نفسه بطريقة سحرية، بل يعني أن مشغلا بشريا، أو سير عملا برمجيا، قد يكتسب سرعة عبر تفويض المهام المتكررة بعد الاستغلال إلى نظام قادر على ربط الإجراءات دون توقف.

قاعدة PostgreSQL نفسها ليست اللغز هنا. فمراقبة الوصول فيها قائمة على الأدوار، ومستوى الامتياز مهم. فإذا وصل المهاجم إلى قاعدة البيانات بحساب ضعيف، فقد تكون الأضرار محدودة. أما إذا كانت الأدوار المرتفعة أو بيانات الاعتماد الواسعة متاحة، فإن نطاق الضرر يتسع بسرعة. وبعبارة أخرى، يبدأ خطر فقدان قاعدة البيانات قبل وقت طويل من أمر التفريغ نفسه، داخل الطريقة التي صمم بها المضيف المحيط وبيانات الاعتماد.

حتى وقت كتابة هذا التقرير، لم يتم بعد تحديد المسار التقني الكامل، ولا مستوى الاستقلالية الدقيق، ولا النطاق الكامل للوصول إلى البيانات بصورة كاملة في التفاصيل العامة. وتشير المعلومات المتاحة إلى تحليل للمخاطر، لا إلى ادعاء قاطع بأن كل نظام لاحق قد تم لمسه.

الخلاصة

الدرس الأوسع غير مريح لكنه بسيط: لا يحتاج الذكاء الاصطناعي إلى إنشاء الثغرة الأولية حتى يجعل الاختراق أكثر خطورة. فعندما تكون الصدفة موجودة بالفعل، يمكن للأتمتة الوكيلة أن تحول ما بعد الاستغلال إلى سباق مع الزمن. ينبغي للمدافعين أن يعاملوا خوادم الدفاتر، ونقاط النهاية الطرفية، وأدوار قواعد البيانات بوصفها أجزاء مترابطة من مساحة هجوم واحدة، لا مشكلات منفصلة.

TECHCROOK

مفتاح أمان مادي: يضيف مفتاح الأمان المادي عاملا ثانيا إلى حسابات الإدارة والمطورين، بما في ذلك تسجيلات الدخول إلى الدفاتر والسحابة وقواعد البيانات. إنه جهاز بسيط يعمل دون اتصال يمكن أن يقلل الاعتماد على الرسائل النصية القصيرة أو كلمات المرور القابلة لإعادة الاستخدام، وهو عملي للفرق التي تتعامل مع أنظمة حساسة.

ورقة Techcrook: مفتاح أمان مادي

WIKICROOK

  • وكيل LLM: نظام يستخدم نموذجا لغويا كبيرا للتخطيط لمهام متعددة الخطوات أو تنفيذها، وأحيانا مع إمكانية الوصول إلى أدوات.
  • تنفيذ التعليمات عن بُعد (RCE): ثغرة تسمح للمهاجم بتشغيل تعليمات برمجية على نظام مستهدف من مكان آخر.
  • ما بعد الاستغلال: المرحلة التي تلي الوصول الأولي، عندما يبحث المهاجم عن بيانات الاعتماد أو الثبات أو الحركة الجانبية أو سرقة البيانات.
  • دور PostgreSQL: هوية قاعدة بيانات تتحكم في ما يمكن للمستخدم أو التطبيق فعله داخل PostgreSQL.
  • الإفراط في الوكالة: خطر في نماذج LLM حيث يمنح النظام قدرا كبيرا جدا من الصلاحية للتصرف في العالم الحقيقي دون إشراف كاف.