الكونغرس يتحرك لوضع الذكاء الاصطناعي الحدّي على ساعة الإبلاغ عن الحوادث

أكثر تفصيل كاشف في أحدث مقترح للذكاء الاصطناعي في واشنطن ليس العقوبات ولا السياسة. إنه الساعة. فإذا أُقرّ، فسيُلزم الإجراء مطوري النماذج المتقدمة المحددة بالبت سريعًا في ما إذا كان سلوك خطير مجرد أمر غريب، أم خطيرًا بما يكفي للإبلاغ عنه إلى الحكومة الفيدرالية. هذه وضعية سيبرانية مألوفة، يجري الآن إسقاطها على الذكاء الاصطناعي الحدّي.

حقائق سريعة

• سيُلزم قانون الإبلاغ عن حوادث الذكاء الاصطناعي المقترح بتقديم تقارير إلى وزارة التجارة عن حوادث محددة تتعلق بسلامة وأمن الذكاء الاصطناعي.
• تشمل الحوادث المشمولة محاولات التهرب من الرقابة، أو خداع المشغلين، أو مقاومة الإيقاف، أو تجاوز الضوابط، أو الحصول على وصول غير مصرح به.
• سيكون لدى المطورين سبعة أيام للإبلاغ بعد العلم بوقوع حادث قابل للإبلاغ، أو وجود اعتقاد معقول بذلك.
• في حال وجود ضرر جسيم وشيك أو جارٍ، ستتحمل وزارة التجارة واجب إخطار قادة الكونغرس واللجان ذات الصلة خلال 48 ساعة.
• سيتيح مشروع القانون لوزارة التجارة تحديد عتبات القدرات، والتحقيق في الامتثال، واستدعاء السجلات، وفرض عقوبات مدنية.

لماذا يهم هذا المقترح

تتمثل قراءة Netcrook في أن المسألة هنا أقل تعلقًا بتنظيم الذكاء الاصطناعي على نحو رمزي، وأكثر بإنشاء مسار للاستجابة للحوادث الخاصة بسلوك النماذج. فصياغة المشروع تتعامل مع بعض إخفاقات الذكاء الاصطناعي بوصفها أحداثًا ذات صلة أمنية، لا مجرد أعطال في الموثوقية. وهذا مهم لأن المؤشرات المذكورة، مثل مقاومة الإيقاف، والتحايل على الضوابط، والوصول غير المصرح به، تشبه أنواع السلوكيات التي يراقبها المدافعون بالفعل في البرمجيات الخبيثة والأتمتة المستغلة.

أصعب جزء سيكون التصنيف. فالمقترح يترك تعريف "النماذج المشمولة" ليُحدد عبر عتبات القدرات، ما يعني أن معركة السياسة الحقيقية ليست فقط حول العقوبة، بل أيضًا حول النطاق. إذا كانت العتبة واسعة جدًا، فقد يقدم المطورون تقارير صاخبة تطغى على الحالات العاجلة. وإذا كانت ضيقة جدًا، فقد يبقى سلوك النموذج الخطير خارج الرؤية الفيدرالية. وبالمعنى السيبراني، فهذا هو المقايضة الكلاسيكية بين الإشارة والازدحام.

كما ينسجم المشروع مع نمط أوسع في حوكمة الأمن السيبراني في الولايات المتحدة: استلام مركزي، ومواعيد نهائية قصيرة، وتصعيد عندما يبدو الضرر وشيكًا. ويمكن لهذا التصميم أن يحسن الرؤية، خصوصًا إذا أجبر المزودين على الاحتفاظ بالسجلات، وسجلات الإصدارات، وجداول الحوادث المتعلقة بالأوزان، والأدوات، والدمج مع الأنظمة الخارجية. كما يمكنه أن يكشف حقيقة عملية يعرفها فرق الذكاء الاصطناعي أصلًا: قد يبدو النموذج آمنًا في الاختبار ثم يتصرف بشكل مختلف بمجرد ربطه بأنظمة حية أو بيانات مؤسسية.

المعلومات المتاحة تدعم تحليل مخاطر، لا نظام إنفاذ مكتمل. فالمقترح ما زال مجرد ذلك - مقترحًا. وستعتمد عتبات الإبلاغ الدقيقة، ومعاييرها، وعبء الامتثال على تفاصيل التنفيذ التي لم تُحدد بعد.

أما بالنسبة للمدافعين، فالعبرة بسيطة. فمعالجة حوادث الذكاء الاصطناعي بدأت تتقارب مع معالجة حوادث الأمن السيبراني، والمؤسسات التي تنتظر القاعدة النهائية سيكون لديها وقت أقل لبناء مسارات التسجيل، والفرز الأولي، والمراجعة القانونية التي ستحتاج إليها لاحقًا.

الخلاصة

قد لا يصبح هذا المشروع قانونًا أبدًا بصيغته الحالية، لكنه يظهر بالفعل الاتجاه الذي تسير فيه السياسة: نحو التعامل مع أنظمة الذكاء الاصطناعي القوية بوصفها أصولًا أمنية خاضعة للتنظيم، مع قواعد إلزامية للتصعيد. والدرس الأوسع هو أن معركة الذكاء الاصطناعي التالية لا تدور فقط حول القدرة، بل حول المساءلة عندما تتصرف الأنظمة بطرق لا يستطيع المشغلون تجاهلها.

ويكيكروك

• النموذج المشمول: نظام ذكاء اصطناعي يفي بالمعايير القانونية أو التقنية الخاصة بالإبلاغ أو الرقابة.
• عتبة القدرات: المعيار المستخدم لتحديد ما إذا كان النموذج يقع ضمن نظام للإبلاغ.
• أوزان النموذج: المعلمات المتعلمة لنموذج تعلم آلي، وغالبًا ما تُعامل كأصل أمني عالي القيمة.
• مقاومة الإيقاف: سلوك يقاوم فيه النظام أن يتم إيقافه أو التحكم فيه من قبل المشغلين.
• فرز الحوادث: عملية تصنيف الأحداث وترتيب أولوياتها بحيث تُصعَّد الأكثر خطورة أولًا.