منصة حوكمة الذكاء الاصطناعي هي برنامج يساعد المؤسسة على فرض القواعد والإشراف والامتثال عبر أنظمة الذكاء الاصطناعي. ويمكنها تتبع جرد النماذج، وحالات الاستخدام المعتمدة، ومصادر البيانات، وحقوق الوصول، وخطوات المراجعة البشرية، وسجلات التدقيق. وعمليًا، تعمل كطبقة تحكم للذكاء الاصطناعي، بما يضمن نشر النماذج واستخدامها ضمن السياسات المعتمدة.
تكتسب هذه المسألة أهمية لأن الذكاء الاصطناعي يمكنه معالجة بيانات حساسة، والتأثير في القرارات، والعمل عبر سير عمل مؤتمت. ومن دون الحوكمة، قد تنشر الفرق نماذج غير معتمدة، أو تكشف بيانات خاضعة للتنظيم، أو تفقد الرؤية حول كيفية إنتاج المخرجات. تستخدم فرق الأمن منصات الحوكمة لتطبيق أقل قدر من الامتيازات، والتحقق من مصدرية البيانات، ومراقبة انحراف النموذج، والاحتفاظ بالأدلة اللازمة لعمليات التدقيق. وقد يحاول المهاجمون تجاوز هذه الضوابط عبر استبدال النماذج، أو تسميم المدخلات، أو إساءة استخدام الأذونات الواسعة جدًا، لذا فإن الحوكمة تمثل سطح دفاعيًا مهمًا إضافة إلى كونها وظيفة إدارية.