متطلبات البنك المركزي السعودي لإدارة مخاطر النماذج عند تبنّي البنوك للذكاء الاصطناعي

لماذا تختلف مخاطر نماذج الذكاء الاصطناعي

اعتادت البنوك السعودية على إدارة مخاطر النماذج التقليدية، مثل نماذج التصنيف الائتماني وحساب المخصصات. أما نماذج الذكاء الاصطناعي الحديثة فتضيف مخاطر من نوع مختلف: نتائج يصعب تفسيرها، وأداء يتغير مع تغير البيانات، وانحياز قد يظهر ضد فئات من العملاء، ونماذج لغوية قد تقدم إجابات غير دقيقة بثقة عالية.

والبنك المركزي السعودي (ساما) يتوقع من البنوك أن تدير هذه المخاطر ضمن أطر الحوكمة القائمة، لا خارجها. فأطر ساما للحوكمة والأمن السيبراني وإسناد الأعمال إلى أطراف خارجية تنطبق على أنظمة الذكاء الاصطناعي كما تنطبق على غيرها، وتكملها مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن سدايا.

ما الذي تسأل عنه جهات الرقابة عادة

• الحوكمة: من يملك النموذج، ومن اعتمد استخدامه، وما حدود هذا الاستخدام؟
• البيانات: من أين جاءت بيانات التدريب، وهل هي ممثلة لعملاء البنك، وهل تُعالج وفق نظام حماية البيانات الشخصية؟
• التفسير: هل يستطيع البنك أن يشرح لعميل سبب رفض طلبه؟
• المراقبة: كيف يُكتشف تراجع الأداء أو الانحياز بعد الإطلاق؟
• الأطراف الخارجية: إذا كان النموذج أو البنية من مزود خارجي، فأين تُعالج البيانات، وما حقوق البنك في التدقيق؟

إطار عملي لإدارة مخاطر النماذج

المرحلة	الضوابط الأساسية
قبل التطوير	تسجيل حالة الاستخدام، وتحديد مستوى خطورتها، وتوثيق الغرض والبيانات
التطوير	اختبار الدقة والانحياز وقابلية التفسير، مع توثيق القرارات الفنية
التحقق المستقل	مراجعة من فريق لا علاقة له بالتطوير قبل أي اعتماد
الإطلاق	اعتماد رسمي، وحدود استخدام واضحة، وتدخل بشري في القرارات المؤثرة
ما بعد الإطلاق	مراقبة مستمرة للأداء والانحراف، ومراجعة دورية، وخطة لإيقاف النموذج عند الحاجة

النماذج اللغوية تحتاج ضوابط إضافية

المساعدون والوكلاء المعتمدون على النماذج اللغوية الكبيرة تتطلب عناية خاصة في البنوك:

• ربط الإجابات بمصادر معتمدة داخل البنك، وعرض المرجع مع كل إجابة.
• منع النموذج من الوصول إلى بيانات لا يحق للمستخدم الاطلاع عليها.
• اختبار مقاومة التلاعب بالتعليمات وتسريب البيانات قبل الإطلاق.
• تسجيل كل محادثة وكل إجراء ينفذه الوكيل، لأغراض التدقيق.
• استضافة النماذج ومعالجة البيانات داخل السعودية متى تطلب تصنيف البيانات ذلك.

أين تبدأ البنوك

الخطوة الأولى ليست شراء أداة، بل حصر النماذج المستخدمة فعلًا، بما فيها النماذج المضمنة في أنظمة الموردين. بعدها يُصنف كل نموذج حسب خطورته، وتُطبق عليه الضوابط المناسبة لمستواه. هذا الترتيب يمنع إبطاء المبادرات منخفضة الخطورة، ويركز جهد الرقابة حيث يلزم.

الخلاصة

إدارة مخاطر نماذج الذكاء الاصطناعي امتداد لما تتقنه البنوك أصلًا، لكنها تحتاج بيانات موثقة المصدر، ومراقبة مستمرة، وأدلة جاهزة للمراجعة. وحين تُبنى هذه الأسس، يصبح توسيع استخدام الذكاء الاصطناعي أسرع وأكثر أمانًا. وتعمل بيليتيكا مع البنوك على هذا الأساس: بيانات تخضع لضوابط الحوكمة أولًا، ثم نماذج ووكلاء يمكن تفسيرهم ومراقبتهم.