أصبح مدير تقنية المعلومات الآن بوابة المرور إلى الذكاء الاصطناعي - والتطبيقات الظلية بدأت بالفعل تطرق الأبواب

يفرض الذكاء الاصطناعي إعادة صياغة هادئة لوصف وظيفة مدير تقنية المعلومات. فالضغط لا يتمثل فقط في نشر المزيد من الأدوات، بل في إثبات القيمة التجارية مع الإبقاء على الأمن والامتثال تحت السيطرة، ومعالجة عادة الموظفين المتزايدة في اللجوء إلى خدمات ذكاء اصطناعي غير معتمدة عندما تكون الخيارات المعتمدة بطيئة جدًا. وقد أصبح هذا التوتر الآن في قلب استراتيجية الذكاء الاصطناعي المؤسسي.

حقائق سريعة

• يتحرك تبني الذكاء الاصطناعي من مرحلة التجربة إلى الاستخدام التشغيلي عبر فرق الهندسة والتسويق والمبيعات والمالية والدعم.
• يخلق الذكاء الاصطناعي الظلي مشكلة في الرؤية عندما يستخدم الموظفون خدمات ذكاء اصطناعي غير معتمدة خارج السياسة والرقابة.
• يصعب التنبؤ بسلوك الذكاء الاصطناعي أكثر من البرمجيات التقليدية، لذا يجب أن تتجاوز الحوكمة الموافقة لمرة واحدة.
• تفصل بعض المؤسسات بين أعمال تبني الذكاء الاصطناعي وبين الامتثال والرقابة القانونية لتقليل الصراع الداخلي.
• تتحول عقود الموردين وقواعد معالجة البيانات وضوابط الأجهزة المُدارة إلى جزء من إدارة مخاطر الذكاء الاصطناعي.

لماذا تغيرت صورة المخاطر

المشكلة التقنية ليست أن الذكاء الاصطناعي غير آمن بطبيعته. بل إنه يخلق مزيجًا جديدًا من السرعة والغموض وحماس المستخدمين. إذا تمكن العاملون من الحصول على إجابات مفيدة من الأدوات العامة في ثوانٍ، فغالبًا ما سيفعلون ذلك ما لم توفر المؤسسة بديلاً معتمدًا بنفس سهولة الاستخدام. ولهذا السبب يهم الذكاء الاصطناعي الظلي: فهو ليس مجرد مخالفة للسياسة، بل علامة على أن السيطرة تأخرت عن الطلب.

من منظور دفاعي، تتمثل المشكلة الأصعب في أن الأنظمة التوليدية لا تتصرف مثل برمجيات المؤسسات التقليدية. فقد تنتج مخرجات مختلفة لطلبات متشابهة، وقد تبدو هذه المخرجات معقولة من دون أن تكون موثوقة. وهذا يعني أن أساليب التحقق القديمة ليست كافية بمفردها. تحتاج فرق الأمن إلى حوكمة لدورة الحياة، وتسجيل، وضوابط هوية، وقاعدة واضحة تحدد متى يجب أن يراجع البشر ما ينتجه النموذج.

وفي ممارسة أمن الذكاء الاصطناعي الأوسع، تُستخدم أطر مثل NIST AI RMF وتوجيهات CISA وOWASP غالبًا لدعم الإدارة المستمرة للمخاطر. والدرس العملي بسيط: حوكمة الذكاء الاصطناعي ليست مذكرة، بل هي نموذج تشغيلي. ويجب أن تغطي استخدام النموذج، ومعالجة المطالبات، ومراجعة المخرجات، والخدمات الخارجية، والجهاز أو الحساب الذي يتم عبره الوصول إلى النظام.

تستجيب بعض المؤسسات عبر فصل المسؤوليات. فتدفع مجموعة التبني والإنتاجية، بينما تتولى مجموعة أخرى الامتثال والمراجعة القانونية والرقابة الأمنية. ويمكن لهذا الفصل أن يخلق توترًا مفيدًا، لأنه يمنع تحول أقوى حجة تجارية إلى الحجة الوحيدة. وهو يعكس أيضًا الواقع القائل إن مخاطر الذكاء الاصطناعي ليست تقنية فقط. فالعقود، وشروط استخدام البيانات، والتزامات الحوادث تصبح مهمة عندما تعالج خدمة خارجية معلومات الشركة.

والخلاصة الأوسع هي أن مدير تقنية المعلومات الحديث يصبح مشغل طبقة الثقة الخاصة بالذكاء الاصطناعي: فهو لا يكتفي بتسليم البرمجيات، بل يقرر أي ذكاء اصطناعي يُسمح له بلمس الأعمال، وتحت أي شروط، وبأي أدلة.

الخلاصة

الشركات التي تتحرك بأسرع وتيرة في مجال الذكاء الاصطناعي لن تكون بالضرورة تلك التي تمتلك أكبر ميزانية للنماذج. بل ستكون تلك القادرة على جعل الوصول آمنًا، والاستخدام مرئيًا، والمراجعة إلزامية حيثما كان ذلك مهمًا. في الذكاء الاصطناعي، السرعة من دون حوكمة ليست سوى طريقة أسرع لفقدان السيطرة.

TECHCROOK

مفتاح أمني مادي: مفتاح مادي صغير يوفر حماية أقوى لتسجيل الدخول إلى حسابات الشركة، ووحدات تحكم الإدارة، وغيرها من الخدمات الحساسة. يضيف عاملًا ثانيًا يصعب التصيد به مقارنة بكلمات المرور أو الرموز وحدها. وبالنسبة للفرق التي تدير الوصول إلى الذكاء الاصطناعي، يمكن أن يكون جزءًا عمليًا من ضوابط الهوية الأكثر صرامة وتقوية الحسابات.

ورقة Techcrook: مفتاح أمني مادي

WIKICROOK

• الذكاء الاصطناعي الظلي: استخدام غير معتمد لأدوات أو خدمات الذكاء الاصطناعي خارج سياسة الشركة ورقابتها.
• غير حتمي: خاصية في النظام حيث قد لا ينتج عن الطلب أو الإدخال نفسه دائمًا المخرج نفسه.
• حوكمة الذكاء الاصطناعي: السياسات والضوابط وعمليات المراجعة المستخدمة لإدارة مخاطر الذكاء الاصطناعي داخل المؤسسة.
• RBAC: التحكم في الوصول القائم على الأدوار، وهو أسلوب يحد من الوصول إلى النظام بناءً على الدور الوظيفي للمستخدم.
• MDM: إدارة الأجهزة المحمولة، وهو برنامج يُستخدم لفرض إعدادات الأمان والإشراف على الأجهزة الطرفية المُدارة.