एआई शासन को वास्तव में क्या चाहिए

एआई शासन विफल हो जाता है जब इसे नीतिगत गद्य के रूप में लिखा जाता है और एक ऐसी टीम को सौंप दिया जाता है जिसके पास इसे लागू करने का कोई तरीका नहीं होता है। यह तब काम करता है जब इसे इंजीनियरिंग आवश्यकताओं के रूप में निर्दिष्ट किया जाता है जिसे जहाज भेजने से पहले सिस्टम को पूरा करना होगा।

उद्यम खरीदार शासन अध्याय को दो बार पढ़ते हैं। उन्होंने देखा है कि जब एक अनियंत्रित मॉडल उत्पादन तक पहुंचता है तो क्या होता है: एक निर्णय जिसे कोई भी समझा नहीं सकता है, एक डेटा एक्सपोजर जिसे किसी ने भी लॉग नहीं किया है, एक नियामक सबूत मांग रहा है जो मौजूद नहीं है। शासन यह है कि आप यह कैसे सुनिश्चित करते हैं कि इनमें से कोई भी आपकी कहानी नहीं है।

इंजीनियरों के लिए लिखी गई तीन आवश्यकताएँ

निगरानी

उपयोगकर्ताओं को किसी समस्या का पता चलने से पहले चेतावनी देते हुए सिस्टम को बहाव, लागत, विलंबता और व्यवहार संकेतों को लगातार जारी करना चाहिए। "हम मॉडल की निगरानी करेंगे" कोई आवश्यकता नहीं है। "P95 विलंबता, प्रति अनुरोध टोकन लागत, इनकार दर, और आउटपुट-वितरण बहाव को अलर्ट थ्रेशोल्ड के साथ प्रति वर्कफ़्लो पर ट्रैक किया जाता है"।

मूल्यांकन

एक कार्य-विशिष्ट मूल्यांकन सूट होना चाहिए जो प्रत्येक रिलीज़ से पहले और उत्पादन में एक शेड्यूल पर चलता हो। एक मॉडल परिवर्तन जो गुणवत्ता को ख़राब करता है, उसे निर्माण में विफल होना चाहिए, तीन सप्ताह बाद ग्राहक की शिकायत के रूप में सामने नहीं आना चाहिए।

ऑडिट लॉगिंग

प्रत्येक परिणामी निर्णय को इनपुट, आउटपुट, मॉडल संस्करण और तर्क ट्रेस के साथ एक अपरिवर्तनीय लॉग में लिखा जाना चाहिए। यही वह चीज़ है जो "हम पर भरोसा करें" को "यहां सबूत है" में बदल देती है।

शासन प्रणाली में अंतर्निहित है, तथ्य के बाद इसका दस्तावेजीकरण नहीं किया जाता है।

जैसे ही सिस्टम चलता है मानचित्र नियंत्रित होता है

SOC 2 और ISO 27001 को ऑडिट से पहले हाथापाई करने की ज़रूरत नहीं है। जब सिस्टम को साक्ष्य का उत्सर्जन करने के लिए डिज़ाइन किया जाता है, एक्सेस लॉग, रिकॉर्ड बदलना, मूल्यांकन परिणाम, अनुपालन आपके द्वारा पहले से एकत्र किए जा रहे डेटा के खिलाफ एक क्वेरी बन जाता है। प्रत्येक नियंत्रण को उस सिग्नल पर मैप करें जो इसे संतुष्ट करता है, और ऑडिट खुदाई के बजाय एक रिपोर्ट बन जाता है।

प्रतिगमन को घटनाओं के रूप में मानें

लॉन्च के बाद सबसे आम शासन विफलता साइलेंट रिग्रेशन है: कोई व्यक्ति किसी मॉडल की अदला-बदली करता है या प्रॉम्प्ट को संपादित करता है, गुणवत्ता गिर जाती है, और जब तक यह मायने नहीं रखता तब तक कोई भी इस पर ध्यान नहीं देता है। जो अनुशासन इसे रोकता है, उसे बताना सरल है और छोड़ना कठिन है, प्रत्येक मॉडल या त्वरित परिवर्तन रिलीज़ से पहले मूल्यांकन हार्नेस को फिर से चलाता है, और विफलता रिलीज़ को अवरुद्ध कर देती है।