عندما يخترع الذكاء الاصطناعي نطاقًا، يسبق الصيادون بالتصيّد
تُظهر قضية تصيّد نُسبت إلى Montana Empire في مونتانا كيف يمكن لعنوان ويب مختلق من نظام ذكاء اصطناعي أن يتحول إلى بنية تحتية حقيقية للمهاجمين قبل أن يتمكن المدافعون من الرد.
ماذا يحدث عندما يبتكر نموذج لغوي نطاق ويب يبدو مقنعًا ويكون المهاجم سريعًا بما يكفي لتسجيله؟ في هذه الحالة، يبدو أن ذلك الخطأ الصغير من الذكاء الاصطناعي قد انتقل إلى مستوى الجريمة التشغيلية. فقد أُبلغ عن حزمة تصيّد تُدعى Montana Empire على صلة بنطاق من وحي هلوسة الذكاء الاصطناعي، وهو تذكير بأن الخطر لا يكمن فقط في النص السيئ، بل في البنية التحتية السيئة التي تُنشأ من ذلك النص.
الآلية مهمة. يمكن للنماذج اللغوية الكبيرة أن تنتج أسماء تبدو معقولة لكنها غير موجودة، بما في ذلك عناوين URL. إذا تحققت جهة إجرامية من تلك المخرجات، وحجزت أحدها لدى مسجل نطاقات، ووجّهته إلى صفحة استدراج لتسجيل الدخول، فإن النموذج يكون قد ساعد فعليًا في إنشاء الخطوة الأولى من حملة تصيّد. المواد المقدمة لا تحدد بشكل كامل النطاق الدقيق أو الضحية أو ما إذا كانت بيانات الاعتماد قد استُخرجت بالفعل، لذا فإن القراءة الأكثر أمانًا أضيق: فقد ارتبطت الحزمة بالنطاق ووُصفت بأنها استُخدمت لسرقة بيانات الاعتماد.
حقائق سريعة
- يمكن للنماذج اللغوية الكبيرة أن تولد نطاقات مقنعة لكنها مزيفة وتبدو حقيقية بما يكفي لتسجيلها.
- أُبلغ عن Montana Empire على صلة بنطاق من وحي هلوسة الذكاء الاصطناعي.
- وُصفت الحزمة بأنها استُخدمت لسرقة بيانات الاعتماد، لكن النتيجة الكاملة غير محددة بالكامل.
- قد تمتلك النطاقات المسجلة حديثًا سمعة قليلة أو معدومة، ما قد يبطئ الاكتشاف.
- ينبغي التعامل مع عناوين URL التي ينشئها الذكاء الاصطناعي على أنها غير موثوقة حتى يتم التحقق منها مقابل مصادر معتمدة.
لماذا ينجح هذا
الأمر هنا أقل ارتباطًا بنوع جديد من البرمجيات الخبيثة وأكثر ارتباطًا بمصدر جديد لسطح الهجوم. يعتمد التصيّد التقليدي بالفعل على الإلحاح والتقليد وثقة المستخدم. تضيف هلوسة الذكاء الاصطناعي اختصارًا آخر في المراحل السابقة - لا حاجة لاختراع النطاق المزيف يدويًا من الصفر. يمكن لنظام آلي أن يقترحه، ثم يطالب به مشغل بشري بسرعة.
هذا يخلق مشكلة توقيت للمدافعين. تكون الفلاتر المعتمدة على السمعة، وقوائم الحظر، ومصادر التهديدات أكثر فاعلية بعد أن يكون النطاق قد رُصد وصُنّف بالفعل. قد يصل نطاق شبحي مسجل حديثًا من دون تاريخ، ومن دون تنبيهات، ومن دون سبب واضح لعدم الثقة به. ومن منظور دفاعي، هذه الفجوة الزمنية هي النافذة التي يريدها المهاجمون.
الدرس الأوسع ليس أن الذكاء الاصطناعي "يسبب" التصيّد بمفرده. بل إن أخطاء الذكاء الاصطناعي يمكن أن تصبح مفيدة للمجرمين عندما تُحوّل إلى عمليات بسرعة كافية. وينطبق الفارق نفسه في الثقة على المطورين وفرق الأمن الذين ينسخون نقاط نهاية يقترحها الذكاء الاصطناعي إلى سير العمل من دون التحقق منها مقابل قوائم الجرد الرسمية أو سجلات مسجلي النطاقات.
حتى وقت كتابة هذا التقرير، لا تقدم المعلومات العامة ما يثبت بالكامل النطاق الدقيق أو الجهة المهاجمة أو الضحايا أو ما إذا كانت بيانات الاعتماد قد سُرقت بالفعل. تدعم المعلومات المتاحة تحليلًا للمخاطر، لا ادعاءً نهائيًا بحدوث اختراق كامل.
الخلاصة
تسلط قضية Montana Empire الضوء على تحول بسيط لكنه مزعج: لم تعد أخطاء الذكاء الاصطناعي مجرد مشكلة دقة. ففي يد صياد تصيّد، يمكن أن يصبح النطاق المتوهم طُعمًا حيًا، ويمكن أن يصبح الطُعم الحي فخًا لبيانات الاعتماد. العادة الدفاعية الجديدة واضحة لكنها تتطلب جهدًا - تحقّق من العناوين التي أنشأتها الآلة قبل أن يثق بها أي شخص.
TECHCROOK
مفتاح أمان الأجهزة: يمكن لجهاز مصادقة صغير عبر USB أو NFC أن يضيف عاملًا ثانيًا قويًا لتسجيلات الدخول. وهو مفيد بشكل خاص للبريد الإلكتروني ومديري كلمات المرور والحسابات الأخرى التي يستهدفها المهاجمون غالبًا عبر التصيّد. اقترنه بكلمات مرور فريدة وبالتحقق الحذر من عناوين الويب.
WIKICROOK
- حزمة تصيّد: مجموعة أدوات مُعبأة تُستخدم لبناء صفحات تسجيل دخول خادعة أو أتمتتها والبنية التحتية المرتبطة بها.
- نموذج لغوي كبير (LLM): نظام ذكاء اصطناعي مُدرَّب على توليد النصوص والرموز البرمجية ومخرجات أخرى من أنماط البيانات.
- هلوسة: مخرجات من الذكاء الاصطناعي تبدو معقولة لكنها مختلقة أو غير صحيحة.
- سرقة بيانات الاعتماد: الاستيلاء على أسماء المستخدمين أو كلمات المرور أو أسرار الجلسات للوصول غير المصرح به.
- سمعة النطاق: درجة أمان أو سجل ثقة يُستخدم للحكم على ما إذا كان نطاق الويب آمنًا أم خبيثًا على الأرجح.
