عندما يستطيع الذكاء الاصطناعي أن يتحدث نيابةً عنك، تصبح الهوية أكثر من مجرد مشكلة تسجيل دخول
لم تعد المعركة الأمنية الجديدة تتعلق فقط بالوصول إلى الأنظمة؛ بل تتعلق بإثبات أي هوية آلية يحق لها أن تعرف، وتقرر، وتتحدث، وتُنشئ نيابةً عن المؤسسة.
المقدمة
تجري مناقشة وكلاء الذكاء الاصطناعي والتوائم الرقمية لاستخدامها في سير العمل المؤسسي، وقد تعمل نيابةً عن البشر أو المؤسسات، مما يثير أسئلة جديدة حول الحوكمة. ويبدو هذا التحول مجردًا إلى أن يصبح صوت تنفيذي اصطناعي، أو سير عمل للموافقات، أو وكيل مخصص لمهمة ما، موثوقًا به افتراضيًا. والخطر لا يقتصر على الانتحال، بل يتمثل أيضًا في الالتباس حول التأليف، والتفويض، وإلغاء الصلاحيات في أنظمة أصبحت الآن قادرة على التصرف أسرع من قدرة الإنسان على مراجعتها.
حقائق سريعة
- يتم تقديم الكيانات المعتمدة على الذكاء الاصطناعي إما كمساعدين تشغيليين أو كتمثيلات لخبرات محددة، ولا ينبغي أن تُحكم بالطريقة نفسها.
- تقترح هيئات المعايير والمجموعات الصناعية سجلات للوكلاء، ونماذج للسلطة المفوضة، ودورات حياة هوية قابلة للتدقيق للفاعلين غير البشريين.
- حذر الباحثون من أن أسراب الذكاء الاصطناعي المنسقة يمكن أن تضخم الإقناع وتغمر الويب بمواد مفبركة تلوث لاحقًا مدخلات النماذج.
- يمكن لأصل المحتوى أن يساعد في التحقق من المصدر والتعديلات، لكنه لا يحل محل ضوابط الهوية أو التفويض أو إلغاء الصلاحيات للوكلاء.
- السؤال الأمني الأساسي أصبح: من أنشأ الوكيل، ومن فوضه، ومن يمكنه إيقافه؟
مشكلة طبقة التحكم
صُممت إدارة الهوية والوصول التقليدية للأشخاص والجلسات والحسابات الخدمية. وتكسر الأنظمة الوكيلة هذا النموذج لأن طلبًا واحدًا قد ينشئ وكلاء فرعيين، ويستدعي أدوات، ويحمل سلطة مفوضة عبر عدة قفزات. وإذا لم تُحدَّد صلاحيات كل قفزة بشكل منفصل، فقد لا يحتاج المهاجم إلى كلمة المرور أصلًا؛ وقد يكفي استهداف سلسلة التفويض.
ولهذا فإن الإرشادات الناشئة بشأن سجلات الوكلاء مهمة. فالسجل أكثر من مجرد جرد؛ إنه سجل مرجعي لماهية الوكيل، ومن يملكه، وما المسموح له به، ومتى تنتهي تلك الإذنات. وتحوّل الاعتمادات قصيرة الأجل، وتدفقات العمل الصريحة بالنيابة عن، والسجلات المقاومة للعبث، سير عمل مستقلًا إلى شيء يمكن لفريق الأمن إعادة بنائه لاحقًا بعد وقوع الحدث.
وتزداد المخاطر مع التوائم الرقمية لأنها مصممة لتمثيل حكم شخص حقيقي أو المعرفة المؤسسية للمؤسسة. وإذا لم يكن هذا التمثيل مرتبطًا بوضوح بمصدر مخوّل، يصبح من الصعب التمييز بين الإرشاد المشروع والمحاكاة المقنعة.
لماذا مهم التحذير من السرب
تتمثل إحدى الأفكار الأكثر إزعاجًا في هذا المجال في السرب الخبيث: عدد كبير من الوكلاء المنسقين القادرين على التكيف، ودمج النبرة، والحفاظ على الضغط عبر المنصات. ولا يقتصر القلق هنا على الرسائل المزعجة على نطاق واسع، بل يتعلق أيضًا بالإجماع الاصطناعي، حيث يمكن لنشاط آلي عالي الحجم أن يشوه ما يعتقده الناس والنماذج المستقبلية أنه طبيعي أو موثوق.
وهنا أيضًا يدخل الأصل الرقمي إلى الصورة. يمكن لاعتمادات المحتوى أن تساعد في إظهار مصدر الأصل الرقمي وما إذا كان قد عُدّل، وهو أمر مفيد للطب الشرعي وبناء الثقة. لكن البيانات الوصفية الخاصة بالأصل لا يمكنها وحدها إثبات أن نموذجًا أو وكيلاً أو نسخة تنفيذية كانت مخوّلة للتصرف. فهي تساعد في الإجابة عن مصدر الشيء، لا عما إذا كان مسموحًا له بذلك.
حتى وقت كتابة هذا النص، لا تحدد المعلومات العامة بالكامل السبب الجذري التقني لكل حالة انتحال بالذكاء الاصطناعي ولا النطاق الكامل للمخاطر اللاحقة. وتدعم المعلومات المتاحة تحليل المخاطر، لا الادعاء بحدوث اختراق شامل.
الخلاصة
الدرس الأعمق هو أن الهوية في أنظمة الذكاء الاصطناعي تتحول من التحكم في الوصول إلى التحكم في التأليف. وستحتاج فرق الأمن إلى معرفة ليس فقط من سجّل الدخول، بل أيضًا أي هوية آلية سُمح لها بأن تعرف، وتقول، وتقرر، وتُنشئ. والمؤسسات التي تبني اليوم على أساس النسب والتفويض وإلغاء الصلاحيات ستكون لديها فرصة حقيقية عندما تبدأ الأصوات الاصطناعية في الظهور بمظهر رسمي.
TECHCROOK
Hardware security key: عامل ثانٍ مقاوم للتصيد الاحتيالي لحماية حسابات الإدارة، وعمليات تسجيل الدخول إلى السحابة، وخطوات الاستعادة. بالنسبة للفرق التي تدير وصولًا مفوضًا أو هويات حساسة، يضيف المفتاح المادي تحكمًا بسيطًا وغير متصل بالشبكة، سهل التدقيق وصعب إعادة الاستخدام عن بُعد.
WIKICROOK
- Digital Twin: تمثيل بالذكاء الاصطناعي خاضع للحوكمة لشخص أو مؤسسة محددة، ومصمم ليعكس خبرتهما أو حكمهما.
- Agent Registry: سجل مرجعي يتتبع وكلاء الذكاء الاصطناعي، ومالكيهم، وصلاحياتهم، وحالة دورة حياتهم.
- Delegated Authority: نموذج صلاحيات محدود يسمح لوكيل بالتصرف نيابةً عن إنسان أو نظام آخر.
- LLM Grooming: أسلوب يغرق المساحات الإلكترونية بالمحتوى المفبرك حتى قد تستهلكه أنظمة الذكاء الاصطناعي المستقبلية على أنه موثوق.
- Provenance: بيانات وصفية تسجل أصل المحتوى الرقمي وتاريخ تعديله، بما يدعم الموثوقية والتحقيق الجنائي.
