أصبح المتصفح الحلقة الأضعف للذكاء الاصطناعي ونقطة التحكم الجديدة في الأمن
مع إدخال الموظفين لروبوتات الدردشة والمطالبات والإضافات في العمل اليومي، يتحول المتصفح إلى المكان الذي يصبح فيه خطر الذكاء الاصطناعي مرئيًا وقابلًا للتنفيذ.
بالنسبة لفرق الأمن، كان المتصفح يُنظر إليه سابقًا على أنه نافذة على الويب. أما الآن فهو أيضًا مساحة عمل، وحدًا فاصلًا للسياسات، ومسارًا للبيانات. وهذه النقلة مهمة لأن استخدام الذكاء الاصطناعي يحدث بشكل متزايد داخل الجلسة نفسها: حيث ينسخ الأشخاص النصوص إلى أدوات الدردشة، ويوافقون على الأذونات، ويثبتون الإضافات، وينقلون المواد الحساسة عبر تطبيقات ويب قد تقع خارج الحوكمة المركزية.
ولهذا السبب يجذب الوضوح على مستوى المتصفح الاهتمام. فالمشكلة الأساسية لا تتمثل في الأتمتة الخبيثة فحسب، بل أيضًا في استخدام الذكاء الاصطناعي غير المصرح به، والذي يُسمى أحيانًا الذكاء الاصطناعي الخفي، حيث يعتمد الموظفون على أدوات الذكاء الاصطناعي دون موافقة رسمية. وفي هذا السياق، يمكن أن يصبح المتصفح المكان الذي تلتقي فيه البيانات السرية والأذونات الخطرة والاستخدام غير المتتبع.
حقائق سريعة
- يعني الذكاء الاصطناعي الخفي أن الموظفين يستخدمون أدوات الذكاء الاصطناعي دون موافقة تقنية المعلومات أو الأمن.
- يمكن لإضافات المتصفح أن تطلب وصولًا واسعًا إلى محتوى الصفحات واللسانات وبيانات المتصفح.
- حوكمة الذكاء الاصطناعي هي مشكلة إدارة مخاطر، وليست مجرد مشكلة تطوير نماذج.
- يمكن للوضوح على مستوى المتصفح أن يساعد فرق الأمن على ملاحظة استخدام الذكاء الاصطناعي حيث يحدث فعليًا.
- يمكن للهجمات التي تتم على مستوى المتصفح أن تهدد الجلسات والاعتمادات وسير العمل الحساسة.
لماذا يكتسب المتصفح أهمية الآن
المسألة التقنية بسيطة: المتصفح يقع بين المستخدمين ومعظم أدوات السحابة الحديثة، بما في ذلك خدمات الذكاء الاصطناعي. وهذا يجعله نقطة مراقبة عالية القيمة. فإذا قام موظف بلصق سجل عميل في روبوت دردشة خارجي، أو إذا حصلت إضافة متصفح على أذونات أكثر مما ينبغي، فقد لا يظهر الخطر بوضوح في سجلات الشبكة أو لوحات إدارة البرمجيات كخدمة.
من منظور دفاعي، يمكن للوضوح على مستوى المتصفح أن يكشف نشاطًا يندمج بخلاف ذلك في العمل الطبيعي. كما يمكنه المساعدة في تحديد تطبيقات الذكاء الاصطناعي المستخدمة، وما الإضافات النشطة، وما إذا كانت جلسات المتصفح تنقل بيانات حساسة بطرق لم توافق عليها فرق السياسات قط. وهذا لا يجعل المتصفح حلًا سحريًا، لكنه يجعله سطح تحكم عمليًا.
الدرس الأمني الأوسع هو أن حوكمة الذكاء الاصطناعي لا يمكن أن تبقى في وثائق السياسات وحدها. بل تحتاج إلى تطبيق وقياس عن بعد. ويطرح إطار NIST لإدارة مخاطر الذكاء الاصطناعي أمان الذكاء الاصطناعي كمشكلة إدارة مخاطر منظمة، بينما تتعامل مايكروسوفت مع الذكاء الاصطناعي الخفي بوصفه مسألة استخدام غير مصرح به يمكن أن يخلق مخاطر على البيانات والامتثال. وإذا جُمعت هذه الأفكار معًا، فإنها تشير إلى النتيجة نفسها: إذا كان العمل يحدث في المتصفح، فيجب أن ترى الحوكمة المتصفح.
وتضيف الإضافات طبقة أخرى من القلق. فتوثيق موزيلا يوضح أن إضافات المتصفح يمكن أن تطلب أذونات قوية، بما في ذلك الوصول إلى محتوى الصفحات وبيانات المتصفح الأخرى. ومن الناحية العملية، يعني ذلك أن إضافة لم يتم التحقق منها جيدًا يمكن أن تصبح مسارًا للوصول إلى البيانات، خاصة عندما يثبت المستخدمون أدوات لتسريع سير عمل الذكاء الاصطناعي.
في وقت كتابة هذا المقال، تدعم المعلومات المتاحة تحليلًا للمخاطر، لا ادعاء بأن عنصر تحكم واحد في المتصفح يحل كل شيء. فما زال حماية الهوية، وتقوية نقاط النهاية، ومراجعة الإضافات، وضوابط منع فقدان البيانات مهمة. المتصفح ببساطة هو المكان الذي تتقاطع فيه عدة مسارات تهديد حديثة الآن.
الخلاصة
لا يحل المتصفح محل بقية منظومة الأمن، لكنه يصبح المكان الذي يلتقي فيه استخدام الذكاء الاصطناعي وسلوك المستخدم ومعالجة البيانات. وهذا يجعله مكانًا مهمًا لاكتشاف الذكاء الاصطناعي الخفي، ومراجعة الأذونات، ورصد إساءة الاستخدام قبل أن تنتشر. والدرس الدائم واضح: في عصر الذكاء الاصطناعي، تكون الجلسة جزءًا من المحيط الأمني.
TECHCROOK
مفتاح أمان مادي: يمكن لجهاز MFA مادي بسيط أن يعزز عمليات تسجيل الدخول إلى البريد الإلكتروني وتطبيقات السحابة والبوابات الإدارية التي يُجري الوصول إليها غالبًا عبر المتصفح. وهو خيار عملي لتقليل مخاطر الاستيلاء على الحسابات وحماية الجلسات عالية القيمة، خاصة عندما يستخدم الموظفون العديد من أدوات الويب والإضافات.
WIKICROOK
- الذكاء الاصطناعي الخفي: استخدام أدوات أو خدمات الذكاء الاصطناعي دون موافقة تقنية المعلومات أو الأمن.
- وضوح المتصفح: القدرة على ملاحظة نشاط المتصفح والجلسات وسلوك الإضافات لأغراض الأمن والحوكمة.
- حوكمة الذكاء الاصطناعي: السياسات والضوابط المستخدمة لإدارة المخاطر المرتبطة بأنظمة الذكاء الاصطناعي واستخدامها داخل المؤسسة.
- إضافة متصفح: برنامج إضافي يمكنه توسيع ميزات المتصفح، وبحسب الأذونات، الوصول إلى محتوى الصفحات أو بيانات المتصفح.
- إطار NIST لإدارة مخاطر الذكاء الاصطناعي: إطار عمل إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST، وهو إطار طوعي لإدارة المخاطر المرتبطة بالذكاء الاصطناعي.
