عندما يبدأ الذكاء الاصطناعي في التصرف، تصبح الحماية سباقا ضد أدواتها نفسها
إن التحول إلى الأنظمة الوكيلة يحول الأمن السيبراني إلى مسألة تحكم، لا مجرد كشف، إذ يُدفَع المدافعون إلى مجاراة الهجمات بسرعة الآلة والاستجابة على نطاق واسع.
إن عبارة "العصر الوكيلي" مهمة لأنها تشير إلى تغيير أعمق من مجرد روبوتات دردشة أذكى. فالقادة الأمنيون يتعاملون الآن مع ذكاء اصطناعي يستطيع أن يفعل أشياء، لا أن يصفها فقط. وهذا يغيّر معادلة المخاطر: فبمجرد أن يتمكن النظام من استخدام الأدوات، أو نقل البيانات، أو تشغيل سير العمل، يصبح السؤال الأمني هو: من يسيطر على تلك الأفعال، ومدى سرعتها، وما الذي يمنعها من المضي أبعد من اللازم.
ولهذا أصبحت الهجمات بسرعة الآلة مصدر قلق بالغ. وعمليا، تشير هذه العبارة إلى أنماط الهجوم والاستغلال التي يمكن أن تتحرك أسرع من دورات المراجعة اليدوية. فقد يتمكن فريق بشري من التحقيق في مطالبة أو سير عمل مشبوه، لكنه قد يكون بطيئا جدا إذا كان النظام يتخذ القرارات وينفذ الأفعال بشكل مستمر.
حقائق سريعة
- يرتبط التركيز الأمني الآن بأفعال الذكاء الاصطناعي أكثر من مخرجاته.
- يمكن للهجمات بسرعة الآلة أن تتجاوز حلقات الموافقة البشرية.
- تثير الأنظمة الوكيلة مخاوف بشأن النطاق والصلاحيات وحدود الثقة.
- أصبح التصحيح على نطاق واسع جزءا من الحديث الأمني، وليس مجرد الكشف.
- مبدأ أقل قدر من الصلاحيات ومراجعة الأفعال من الأفكار الدفاعية المحورية في هذا النموذج.
لماذا أصبحت طبقة التحكم هي الهدف الجديد
من منظور دفاعي، ليست المشكلة الأساسية أن الذكاء الاصطناعي "ذكي" بصورة مجردة. بل إن الأنظمة الوكيلة يمكن ربطها بالبريد الإلكتروني أو الشيفرة أو المستندات أو التذاكر أو واجهات برمجة التطبيقات، ما يعني أنها تعمل داخل حدود ثقة أعمال حقيقية. وإذا تمكن مهاجم من التأثير في ما يراه النظام، فإن الخطر الأوسع هو أن يتصرف النظام بناء على ذلك التأثير قبل أن يتمكن شخص من التدخل.
ومن الأمثلة المهمة على ذلك الحقن غير المباشر للمطالبات، حيث يمكن لمحتوى غير موثوق أن يوجّه سلوك النظام. وهذا لا يتطلب كسر النموذج نفسه. إنه يستغل حقيقة أن الوكلاء غالبا ما يستهلكون نصوصا خارجية كمدخلات ثم يقررون ما الذي ينبغي فعله بعد ذلك. والنتيجة مشكلة أمنية تبدو أقل شبها بالبرمجيات الخبيثة التقليدية وأكثر شبها بالتلاعب بالحكم الآلي.
ويتوافق الدعوة إلى التصحيح على نطاق واسع مع هذه الواقعية. فعندما تصل المشكلات المرتبطة بالذكاء الاصطناعي بأعداد كبيرة، تحتاج فرق الأمن إلى سير عمل يمكنه فرز المشكلات والتحقق منها واحتواؤها بسرعة. ومن غير المرجح أن تكفي المعالجة اليدوية وحدها إذا كانت البيئة نفسها تولد النتائج وتتخذ الإجراءات بسرعة الآلة.
وهذا يجعل الحوكمة الطبقة المفقودة. فالصلاحيات القوية، والنطاقات الضيقة، وتأكيد الإنسان للخطوات الحساسة، والسجلات لكل استدعاء أداة، كلها تساعد على تقليل نصف قطر الانفجار. والدرس الأوسع بسيط: مع اكتساب أنظمة الذكاء الاصطناعي القدرة على الفعل، يتعين على المدافعين أن يحكموا ليس فقط ما تعرفه هذه الأنظمة، بل أيضا ما يُسمح لها بفعله.
الخلاصة
إن العصر الوكيلي هو تحذير من أن الأمن السيبراني يقترب من نقطة اتخاذ القرار. فبمجرد أن يصبح الذكاء الاصطناعي قادرا على الفعل، لم تعد المعركة الحقيقية تقتصر على حظر المحتوى السيئ. بل تتعلق بتقييد الأفعال، وإبطاء التصعيد، والتأكد من أن الأتمتة لا تسبق الإشراف. وبعبارة أخرى، قد يعتمد مستقبل أمن الذكاء الاصطناعي أقل على مقدار ما يستطيع النظام قوله، وأكثر على مقدار الضرر الذي يمكنه إحداثه بنفسه.
ويكي كروك
- النظام الوكيلي: نظام ذكاء اصطناعي يمكنه التخطيط واستخدام الأدوات واتخاذ الإجراءات بدلا من مجرد توليد النص.
- حد الثقة: خط يفصل البيانات أو الأفعال التي ينبغي الوثوق بها عن تلك التي يجب التعامل معها على أنها محفوفة بالمخاطر.
- الحقن غير المباشر للمطالبات: نمط هجوم يؤثر فيه محتوى غير موثوق في سلوك نظام ذكاء اصطناعي عبر سياقه.
- أقل قدر من الصلاحيات: مبدأ أمني يمنح النظام فقط الأذونات التي يحتاجها فعلا.
- نصف قطر الانفجار: النطاق المحتمل للضرر إذا أسيء استخدام نظام أو حساب أو سير عمل أو تعرض للاختراق.
