النقطة العمياء في أمن الذكاء الاصطناعي: عندما يكون الجرد بلا ذكاء

غالبا ما يُتحدث عن أمن الذكاء الاصطناعي كما لو كان مجرد فرع آخر من أمن التطبيقات. هذا التأطير مرتب أكثر من اللازم. فأنظمة الذكاء الاصطناعي تتصرف بشكل مختلف، وتتغير بشكل مختلف، وتفشل بشكل مختلف. والتحذير الأوضح هو هذا: يمكن أن يبدو جرد الذكاء الاصطناعي كاملا بينما يظل عديم الفائدة تشغيليا، ويمكن لقاعدة بيانات الثغرات أن تكون فارغة بالقدر نفسه إذا لم تُربط بالأنظمة الحقيقية التي تديرها المؤسسة.

حقائق سريعة

• يُستخدم AIBoM اختصارا للدلالة على جرد أصول ومكونات الذكاء الاصطناعي.
• يشير AIVD إلى قاعدة بيانات مخصصة لثغرات الذكاء الاصطناعي.
• يمكن أن يتحول AIBoM من دون ذكاء الثغرات إلى أوراق امتثال فقط.
• يمكن أن تصبح AIVD من دون ربط بالأصول فهرسا منفصلا قليل القيمة التشغيلية.
• السؤال الأمني المركزي هو كيفية ربط الجرد وبيانات الضعف والإصلاح ضمن سير عمل واحد.

لماذا يهم هذا التمييز

المسألة ليست دلالية. ففي العمليات الأمنية، السياق هو ما يحول القائمة إلى قرار. إذا كانت لدى الفريق معرفة بوجود نموذج أو أداة أو تبعية للذكاء الاصطناعي، لكنه لا يستطيع تحديد ما إذا كانت معرضة للثغرات، أو بالغة الأهمية للأعمال، أو تم ترقيعها بالفعل، فإن الجرد لا يفيد كثيرا أثناء حادثة حقيقية.

لهذا السبب يهم الجمع بينهما. جانب AIBoM يتعلق بالرؤية: ما أصول الذكاء الاصطناعي الموجودة، وما الذي تعتمد عليه، وأين يتم نشرها. أما جانب AIVD فيتعلق بالذكاء: ما نقاط الضعف التي تم تحديدها، وما مدى خطورتها، وأي الأصول تتأثر بها. كل منهما منفردا غير مكتمل. ومعا، يتيحان إمكانية تحديد الأولويات.

من منظور دفاعي، هذه مسألة نضج بقدر ما هي مسألة تقنية. فعديد من المؤسسات يمكنها توثيق ما لديها. لكن عددا أقل يمكنه الإجابة عن السؤال الأصعب: ما الذي يجب إصلاحه أولا عندما يتغير نظام ذكاء اصطناعي، أو يتم تحديث تبعية، أو تُكتشف ثغرة. ومن دون هذا الرابط، قد تنزلق إدارة مخاطر الذكاء الاصطناعي نحو التوثيق من أجل التوثيق.

والدرس الأوسع هو أن أمن الذكاء الاصطناعي يحتاج إلى أكثر من مجرد تسمية. إنه يحتاج إلى خريطة عملية بين الأصول ونقاط الضعف. وتلك الخريطة هي ما يمكّن فرق الأمن من تجنب فشلين في آن واحد: الإفراط في الثقة الناتج عن جرد مرتب، والشلل الناتج عن قاعدة بيانات لا تعكس الأنظمة المستخدمة.

حتى وقت كتابة هذا المقال، تدعم المعلومات المتاحة تحليلا للمخاطر، لا ادعاء بأن أي مؤسسة بعينها قد تبنت طريقة معيارية أو أن أي نموذج واحد يحل المشكلة. والخلاصة المفيدة أضيق وأكثر قوة: تصبح إدارة ثغرات الذكاء الاصطناعي قابلة للتنفيذ فقط عندما يُبنى الجرد والذكاء ليعملا معا.

الخلاصة

الدرس بالنسبة للمدافعين بسيط لكنه غير مريح. في أمن الذكاء الاصطناعي، الاكتمال لا يعني التحكم. فالقائمة من دون سياق هي أوراق، والسياق من دون ربط هو ضجيج. وستكون المؤسسات الأقدر على التعامل مع مخاطر الذكاء الاصطناعي هي تلك التي تربط ما تشغله بما يمكن أن يخطئ، قبل أن تتحول الفجوة إلى حادثة.

WIKICROOK

• AIBoM: قائمة مواد الذكاء الاصطناعي، وهي جرد لأصول الذكاء الاصطناعي واعتماداته ومكوناته ذات الصلة.
• AIVD: قاعدة بيانات الثغرات في الذكاء الاصطناعي، وهي مستودع لنقاط الضعف الخاصة بالذكاء الاصطناعي والسجلات ذات الصلة.
• ذكاء الثغرات: بيانات أمنية مُثرية تساعد الفرق على فهم الشدة والأثر وأولوية المعالجة.
• أمن التطبيقات: التخصص المعني بالعثور على المخاطر في تطبيقات البرمجيات ومكوناتها وتقليلها.
• CWE: التصنيف الشائع لنقاط الضعف، وهو تصنيف طوّرته المجتمعات البرمجية لنقاط الضعف في البرمجيات.