ما تتطلّبه حوكمة الذكاء الاصطناعي فعليًا

تفشل حوكمة الذكاء الاصطناعي حين تُكتَب كنثر سياسات وتُسلَّم لفريق لا سبيل له إلى تنفيذها. وتنجح حين تُحدَّد كمتطلبات هندسية يجب أن يستوفيها النظام قبل الإطلاق.

يقرأ المشترون المؤسسيون فصل الحوكمة مرتين. لقد رأوا ما يحدث عندما يصل نموذج غير محوكَم إلى الإنتاج: قرار لا يستطيع أحد شرحه، وتعرّض بيانات لم يسجّله أحد، ومنظِّم يطلب أدلة غير موجودة. الحوكمة هي كيف تتأكد من ألا يكون شيء من ذلك قصتك.

ثلاثة متطلبات، مكتوبة للمهندسين

المراقبة

يجب أن يُصدِر النظام إشارات الانحراف والتكلفة وزمن الاستجابة والسلوك باستمرار، مع تنبيهات قبل أن يلاحظ المستخدمون مشكلة. «سنراقب النموذج» ليس متطلبًا. أما «يُتتبَّع زمن الاستجابة P95، وتكلفة الطلب بالرموز، ومعدّل الرفض، وانحراف توزيع المخرجات لكل سير عمل مع عتبات تنبيه» فهو متطلب.

التقييم

يجب أن تكون هناك مجموعة تقييم خاصة بالمهمة تعمل قبل كل إصدار ووفق جدول في الإنتاج. تغيير النموذج الذي يُدهور الجودة يجب أن يُفشِل البناء، لا أن يظهر كشكوى عميل بعد ثلاثة أسابيع.

تسجيل التدقيق

كل قرار ذي أثر يجب أن يُكتَب في سجل غير قابل للتعديل مع المدخلات والمخرجات وإصدار النموذج وأثر التعليل. هذا ما يحوّل «ثقوا بنا» إلى «هذا هو الدليل».

الحوكمة مدمجة في النظام، لا موثَّقة بعد وقوعها.

اربط الضوابط أثناء تشغيل النظام

ليس على SOC 2 و ISO 27001 أن يكونا سباقًا محمومًا قبل التدقيق. عندما يُصمَّم النظام لإصدار الأدلة، سجلات الوصول، وسجلات التغيير، ونتائج التقييم، يصبح الامتثال استعلامًا على بيانات تجمعها بالفعل. اربط كل ضابط بالإشارة التي تحققه، ويصبح التدقيق تقريرًا لا حفرًا.

عامِل الانحدارات كحوادث

أشيع فشل للحوكمة بعد الإطلاق هو الانحدار الصامت: يبدّل أحدهم نموذجًا أو يعدّل طلبًا، فتنخفض الجودة، ولا يلاحظ أحد حتى يصبح الأمر مهمًا. الانضباط الذي يمنع هذا بسيط في الطرح وصعب في التجاوز: كل تغيير في النموذج أو الطلب يعيد تشغيل إطار التقييم قبل الإصدار، والفشل يمنع الإصدار.