وصول طبقة تدقيق الذكاء الاصطناعي: الشركات التقنية الكبرى تراهن على الإثبات لا الوعود
تحاول مؤسسة جديدة عابرة للقطاعات تحويل حوكمة الذكاء الاصطناعي إلى شيء يمكن للمؤسسات فحصه ومقارنته والدفاع عنه فعليًا.
يتم الحكم على أنظمة الذكاء الاصطناعي بشكل متزايد عبر سؤال بسيط تكره فرق السياسات وتحبّه جهات التدقيق: هل يمكنك إثبات ذلك؟ تم بناء مؤسسة Appia الجديدة حول هذه المشكلة. وبدلاً من الادعاء بأنها جهة لوضع المعايير، فإنها تضع نفسها كطبقة مواصفات تساعد المؤسسات على ترجمة متطلبات الذكاء الاصطناعي إلى أدلة قابلة للتقييم.
حقائق سريعة
- صُممت Appia لمساعدة المؤسسات على إظهار مدى توافق أنظمة الذكاء الاصطناعي لديها مع المعايير واللوائح ذات الصلة.
- تستضيف مؤسسة Linux Foundation's Joint Development Foundation هذه المؤسسة.
- تنقسم بنيتها إلى طبقات: المتطلبات، والإرشاد، وتمكين التقييم.
- من بين الأعضاء Arm وEricsson وMastercard وMitsubishi Electric وOmron وSchneider Electric وSiemens.
- يقع هذا الجهد في المساحة الفاصلة بين المعايير الرسمية مثل ISO/IEC 42001 وتقييم المطابقة التنظيمية مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي.
لماذا يهم هذا فرق الأمن
الأهمية التقنية هنا ليست أن الذكاء الاصطناعي يحصل على شعار جديد عن الثقة. بل إن القطاع يحاول بناء لغة مشتركة للأدلة. عمليًا، غالبًا ما تنهار حوكمة الذكاء الاصطناعي لأن فريقًا يتحدث بلغة السياسات، وآخر بلغة الهندسة، وثالث بلغة الالتزامات القانونية. يمكن لمواصفة معيارية قابلة للتجزئة أن تساعد في ربط هذه الطبقات من دون الادعاء بأنها الشيء نفسه.
هذا التمييز مهم. فـ ISO/IEC 42001 هو معيار لنظام إدارة، بينما إطار NIST AI Risk Management Framework هو إرشاد تطوعي للموثوقية والتعامل مع المخاطر. يضيف قانون الذكاء الاصطناعي للاتحاد الأوروبي مسارًا أكثر رسمية لتقييم المطابقة لبعض الأنظمة عالية المخاطر. ويبدو أن Appia تستهدف الفجوة بين هذه المراجع والعمل اليومي المتمثل في توثيق الضوابط والاختبارات وعمليات المراجعة.
من منظور دفاعي، يمكن أن يكون ذلك مفيدًا. فإذا كان على مؤسسة ما أن تثبت كيف تم تقييم نموذج ما، وما الإصدار الذي تم نشره، والالتزامات التي تم أخذها في الاعتبار، فهي تحتاج إلى سجلات قابلة للتتبع لا إلى تطمينات عامة. أما الخطر الأوسع فهو مسرحية الامتثال، حيث يخلق الإطار أوراقًا مصقولة لكن دون تدقيق حقيقي. وسيتوقف ما إذا كانت Appia ستصبح أداة عملية أم مجرد تسمية أخرى على مدى تحديد مواصفاتها وقابليتها للاستخدام.
في الوقت الحالي، تدعم المعلومات المتاحة تحليلًا للمخاطر، لا ادعاءً بأن المبادرة قد حلت بالفعل مسألة ضمان الذكاء الاصطناعي. ولا يزال المجلس الاستشاري قيد التشكيل، وستعتمد القيمة العملية على ما إذا كان المنظمون وجهات التدقيق وفرق المشتريات سيعاملون مخرجات على نمط Appia باعتبارها أدلة موثوقة.
الخلاصة
القصة الحقيقية هنا ليست وعدًا جديدًا بذكاء اصطناعي
