طبقة الأمان الجديدة لوكلاء الذكاء الاصطناعي تتحول إلى بوابة تحكم

تنتقل وكلاء الذكاء الاصطناعي من المحادثة إلى التنفيذ: إذ يمكنها الوصول إلى صناديق البريد، ومستودعات الشيفرة، ومسارات الدفع، والأدوات الداخلية. وهذا يجعل الهوية نقطة التحكم الحاسمة. ويُظهر إعلان حديث من إحدى الشركات حول برنامج التحقق السيبراني من Anthropic والإطلاق العلني لبروتوكول ثقة الوكيل مدى السرعة التي يحاول بها القطاع بناء طبقة ثقة للآلات التي لم تعد تكتفي بالرد على المطالبات، بل تنفذ المهام.

حقائق سريعة

• تقول شركة OTT Cybersecurity LLC إنها قُبلت ضمن برنامج التحقق السيبراني من Anthropic.
• وتقول الشركة إنها أطلقت علنًا بروتوكول ثقة الوكيل، أو ATP، بوصفه معيارًا مفتوحًا ومجانيًا من دون حقوق ملكية.
• ويُوصف ATP بأنه يغطي الهوية والنطاق والإثبات والتفويض والإلغاء لوكلاء الذكاء الاصطناعي.
• ويُقال إن هناك تنفيذًا مرجعيًا متاحًا على GitHub بموجب ترخيص MIT.
• ويُفترض تقديم البروتوكول إلى IETF، وفقًا للإعلان.

لماذا تهم هوية الوكيل الآن

المشكلة التقنية ليست فقط ما إذا كان نموذج الذكاء الاصطناعي قادرًا على التفكير جيدًا بما يكفي. بل هل يمكن للنظام المحيط به أن يثبت من هو الوكيل، وما الذي يُسمح له بفعله، وما إذا كانت تلك الصلاحية لا تزال سارية. وتكتسب هذه المسألة أهمية لأن الأنظمة الوكيلة غالبًا ما تعمل داخل منظومات أدوات: موصلات البريد الإلكتروني، ومخازن المستندات، ومشغلات الشيفرة، وواجهات البرمجة. وعندما يستطيع الوكيل ربط هذه المكونات معًا، يمكن لضوابط الهوية الضعيفة أن تتحول إلى خطر تجاري، لا إلى مجرد عيب في التصميم.

ومن منظور دفاعي، فإن الجزء المثير للاهتمام في ATP هو تركيزه على بدائيات التحقق بدلًا من أداء النموذج. فالهوية والتفويض مفهومان مألوفان في الأمن السيبراني، لكن الوكلاء يضيفون طبقة جديدة من التعقيد لأن الصلاحية يمكن أن تُسلم أو تُوسَّع أو تُلغى عبر تدفقات عمل متعددة الخطوات. وإذا لم تكن هذه السلسلة واضحة، فقد يفقد المشغلون تتبع ما يمكن للنظام فعله فعليًا.

تولي المعايير ومجتمعات الأمن مثل IETF وOWASP اهتمامًا متزايدًا بالهوية، وأقل صلاحية، والإلغاء، وحقن الأوامر، وإساءة استخدام الأدوات، وتلويث الذاكرة في أمن الذكاء الاصطناعي الوكلي. وهذا لا يعني أن كل بروتوكول جديد ناضج أو معتمد على نطاق واسع؛ بل يعني أن طبقة التحكم لا تزال قيد البناء بينما تتوسع مساحة الهجوم بالفعل.

ويضيف برنامج التحقق السيبراني من Anthropic طبقة أخرى من الحوكمة. فهو يشير إلى أن العمل السيبراني المشروع داخل بيئات الذكاء الاصطناعي عالية القدرة يمر عبر مسارات وصول خاضعة للتدقيق بدلًا من اعتباره استخدامًا غير مقيد. وبالنسبة للمدافعين، فذلك تذكير بأن الأدوات ثنائية الاستخدام تحتاج اليوم إلى حدود سياساتية بقدر ما تحتاج إلى حدود تقنية.

حتى وقت كتابة هذا التقرير، تدعم المعلومات المتاحة تحليلًا للمخاطر، لا ادعاءً بأن ATP قد تم التحقق منه بشكل مستقل باعتباره معيارًا، أو أن مشكلة هوية الوكيل الأوسع قد حُلّت. والدرس الأوسع أبسط من ذلك: في الأنظمة الوكيلة، لا يمكن افتراض الثقة عند مستوى المطالبة. بل يجب إثباتها وتحديد نطاقها ومراقبتها وإلغاؤها.

الخلاصة

لم تعد قصة الأمان حول وكلاء الذكاء الاصطناعي تتعلق بسلامة النموذج فقط. بل تتعلق بهوية الآلة، والسلطة المفوضة، والقدرة على إيقاف هذه السلطة قبل أن تتحول إحدى سلاسل العمل إلى حادثة. ولن تكون المؤسسات التي تنجح في ذلك هي صاحبة الادعاءات الأعلى صوتًا، بل تلك التي تجعل كل إجراء قابلًا للتتبع، ومحدودًا، وقابلًا للعكس.

WIKICROOK

• الذكاء الاصطناعي الوكلي: أنظمة ذكاء اصطناعي يمكنها تخطيط المهام واستخدام الأدوات والتصرف بدرجة محدودة من الاستقلالية.
• الهوية التشفيرية: طريقة لإثبات هوية آلة أو وكيل باستخدام المفاتيح والتواقيع.
• التفويض: نقل الصلاحية من كيان إلى آخر، غالبًا مع حدود.
• الإلغاء: عملية إبطال الوصول أو الصلاحية الممنوحة سابقًا.
• أقل صلاحية: قاعدة أمنية تمنح النظام فقط الأذونات التي يحتاجها.