ضمان الذكاء الاصطناعي

أثبت لمراجعة سعودية أن الذكاء الاصطناعي جدير بالثقة، بالقياس

منظومات تقييم، وقياس للإسناد والهلوسة، واختبار العربية منفصلًا عن الإنجليزية، واختبارات تحيّز واختراق على المسار المنشور، وحزمة أدلة تقرؤها وظيفة المخاطر والجهة التنظيمية دون حضورنا.

الخدمة باختصار

المشكلة، وعملنا، والنتيجة

  1. مشكلة الأعمال

    هل تستطيعون إثبات أن الذكاء الاصطناعي لديكم دقيق وعادل وآمن؟

    تُطلق النماذج دون اختبار للتحيز أو الأخطاء أو سوء الاستخدام، ولا يستطيع أحد تفسير القرار عند الاعتراض.

  2. ما نقوم به

    نختبر أنظمة الذكاء الاصطناعي ونوثقها ونراقبها لتكون كل نتيجة قابلة للتفسير والدفاع عنها.

  3. ما تستلمونه
    • تقرير اختبار النموذج
    • فحوص التحيز والسلامة
    • توثيق النموذج
    • مراقبة مستمرة

لمن هذه الخدمة

لمن يملك القرار

المخاطر والامتثال والأمن السيبراني

أدلة للجهات التنظيمية.

فرق الذكاء الاصطناعي

معايير إطلاق واضحة.

الرئيس التنفيذي والفريق التنفيذي

حماية السمعة.

التدقيق الداخلي

قرارات قابلة للتتبع.

الهدف: منظمة جاهزة للذكاء الاصطناعي

ما تضيفه هذه الخدمة لجاهزيتكم

بيانات جاهزة

مترابطة ونقية ومحكومة ومسموح باستخدامها في الذكاء الاصطناعي.

مؤشرات جاهزة

مؤشرات متفق عليها، بتعريف واحد ومالك محدد لكل منها.

منظمة جاهزةهذه الخدمة

أدوار وصلاحيات قرار ومهارات لتبنّي الذكاء الاصطناعي بأمان.

=ذكاء اصطناعي يصل إلى الإنتاج ويحقق قيمة

المنهجية

كيف نعمل معكم

  1. 01

    التحديد

    اختيار النماذج ومستوى المخاطر.

  2. 02

    الاختبار

    فحص الدقة والتحيز والسلامة.

  3. 03

    التوثيق

    تسجيل التصميم والحدود.

  4. 04

    المراقبة

    متابعة السلوك في التشغيل.

خيارات التعاون

ابدؤوا من حيث أنتم

مراجعة نموذج

اختبار نموذج واحد وتوثيقه.

برنامج الضمان

تغطية جميع الحلول عالية المخاطر.

ضمان مستمر

مراقبة وإعادة اختبار دوري.

النطاق

ما يشمله وما لا يشمله

مشمول

  • اختبار الدقة
  • مراجعة التحيز والسلامة
  • بطاقات النماذج
  • إعداد المراقبة

يُنفّذ ضمن خدمات أخرى

  • إعادة بناء النموذج
  • الاعتماد الرسمي
أين تقع هذه الممارسة
وجهة نظرنا

ما نراه في السوق

ملاحظات من المشاريع والمنافسات التي نعمل عليها في السعودية ومنطقة الخليج.

لا أحد يثق بالذكاء الاصطناعي قبل قياسه

يقنع العرض التقديمي القاعة مرة واحدة. أما المجالس والجهات التنظيمية والعملاء فيسألون اليوم عن رقم: كم مرة يكون صحيحًا، وكم مرة يستند إلى بياناتكم، وماذا يحدث في الحالات التي لا يكون فيها كذلك.

أصبح التقييم مُخرجًا لا مرحلة

الأنظمة التي تصمد في الإنتاج تُسلَّم بمجموعة اختبار تنمو أسبوعيًا، أسئلة حقيقية وإجابات متوقعة ومصائد معروفة، تُشغَّل تلقائيًا مع كل تغيير في الطلب أو النموذج أو الاسترجاع.

العربية تغيّر النتيجة

المساعد الذي يحقّق نتائج جيدة بالإنجليزية يتراجع عادةً بالعربية، لهجة ونقل حرفي وحروف وأرقام مختلطة. والضمان الذي لم يختبر العربية لم يختبر النظام الذي سيقابله مستخدموكم فعلًا.

نطاق العمل

ما تقدّمه هذه الممارسة

منظومات تقييم، وقياس للإسناد والهلوسة، واختبار العربية منفصلًا عن الإنجليزية، واختبارات تحيّز واختراق على المسار المنشور، وحزمة أدلة تقرؤها وظيفة المخاطر والجهة التنظيمية دون حضورنا.

منظومة التقييم

مجموعة اختبار حيّة لكل حالة استخدام بالعربية والإنجليزية، تُقاس فيها الصحة والإسناد وسلوك الرفض والنبرة وزمن الاستجابة، موصولة بخط الإطلاق فلا يصدر تغيير دون قياس.

قياس الإسناد والهلوسة

تتبّع كل إجابة إلى المصدر الذي يبرّرها، مع معدّل ادعاءات غير مُسندة يُبلَّغ عنه لكل إصدار بدل أن يكتشفه العميل.

التحيّز والسلامة والاختبار العدائي

اختبار عدائي منظّم، حقن الطلبات، وتسريب البيانات، والتعليمات غير الآمنة، وتكافؤ الفئات، يتكرّر بجدول لا مرة واحدة عند الإطلاق.

حزم الأدلة ومواءمة المعايير

نتائج مربوطة بضوابط إدارة الذكاء الاصطناعي ISO 42001 وتوقعات الأمن السيبراني والتزامات نظام حماية البيانات، مُجمّعة في حزمة قابلة للقراءة.

كيف يُبنى العمل

حلقة ضمان تزداد صرامة مع كل إصدار

1

التعريف

  • درجة مخاطر الحالة
  • عتبات القبول
2

بناء مجموعة الاختبار

  • أسئلة حقيقية بالعربية والإنجليزية
  • مصائد معروفة
3

القياس

  • الصحة والإسناد
  • التحيّز والسلامة
4

بوابة الإطلاق

  • قبول أو منع
  • مسار التراجع
5

الأدلة

  • مواءمة المعايير
  • حزمة جاهزة للتدقيق
تعود إخفاقات الإنتاج إلى مجموعة الاختبار، فلا يتكرّر الخطأ ذاته مرتين
أعمال مختارة

أعمال نفّذناها

نحجب هوية العملاء. أمّا الحالة وما بنيناه وما تغيّر بعده فكما جرى فعلًا.

تقييم مساعد

بنك خليجي

الحالة
اجتاز مساعد موجّه للعملاء المراجعة الداخلية، لكنه أعطى إجابات واثقة عن منتجات سُحبت من السوق.
ما بنيناه
منظومة تقييم بمرجع منتجات مُصدّر، وفحوص إسناد لكل إجابة، وبوابة إطلاق مرتبطة بمعدّل الادعاءات غير المُسندة.
ما الذي تغيّر
تحوّلت الإجابات غير المُسندة إلى رقم متتبَّع ينخفض إصدارًا بعد إصدار بدل أن تكون رواية متداولة.

اختبار السلامة بالعربية

جهة حكومية

الحالة
تصرّف مساعد خدمات عربي بشكل مختلف حين خلط المستخدمون بين اللهجة والمصطلحات المنقولة حرفيًا.
ما بنيناه
مجموعة تقييم مراعية للهجات، وفحوص رفض وتصعيد، وطلبات عدائية تُشغَّل قبل كل تغيير للنموذج.
ما الذي تغيّر
اجتازت الخدمة المراجعة بنتائج عربية موثّقة بدل الاستدلال بنتائج إنجليزية.

أين تكمن قوتنا

قوتنا الأكبر حين يجب الدفاع عن نظام ذكاء اصطناعي كتابةً أمام من لم يحضر العرض.

القياس قبل الرأي

نبدأ بجعل النظام قابلًا للقياس، لأن كل جدل حول الجودة ينتهي عند وجود رقم يثق به الطرفان.

اختبار العربية عن قصد

اللهجة والنقل الحرفي والمدخلات مختلطة الحروف جزء من مجموعة الاختبار من أول تشغيل، لا تُضاف بعد شكوى.

استقلال عن جهة البناء

نضمن أنظمة لم نبنِها، بما فيها منتجات المزوّدين، ونعرض النتيجة كما هي.

أدلة تنتج تلقائيًا

تُصدر المنظومة الحزمة تلقائيًا، فيصبح التحضير للتدقيق استرجاعًا لا مشروعًا مستقلًا.

إجابات مباشرة

أكثر ما يُسأل عنه

لدينا سياسة حوكمة، فلماذا الضمان؟

تحدّد السياسة النية، بينما ينتج الضمان القياس الذي يثبت تحقّق تلك النية في هذا الإصدار وبهذه اللغة.

هل يمكنكم ضمان نظام بناه مزوّد آخر؟

نعم. نختبر عبر الواجهة التي يراها المستخدمون، فلا نحتاج شفرتهم المصدرية لتقرير الإسناد والسلامة والسلوك بالعربية.

بم يختلف هذا عن ضبط الجودة المعتاد؟

يسأل ضبط الجودة إن كان البرنامج يعمل. أما الضمان فيسأل إن كانت الإجابات صحيحة ومُسندة وآمنة وعادلة، ويبلّغ عن نسبة الإخفاق.

العملاء

جهات نعمل معها

في القطاع المصرفي والصحي والحكومي والتجزئة والطاقة والاتصالات.

Carrefour
STC
Fortum
Marriott International
United Utilities
Mobily
PepsiCo
H&M
Ericsson
Nordisk Film
Posten Bring AS
Norgesgruppen
Central Bank — Gulf Region
Public Investment Fund
Integrys Energy Group
Getinge
Entra
Australia Post
Roche
Ministry of Health
Swedbank
SpareBank 1
Telia Company AB
Danfoss
Kahoot!
Nesma Partners
Gentian Diagnostics
Lufthansa
Sokos Hotels
BHP Group
Emdad Al Khebrat (إمداد الخبرات)
ICA Gruppen
Qt Group
Vodafone
Ministry of Interior
Skatteverket — Swedish Tax Agency
Labster
Türk Telekom
State Bank of Pakistan
Arla Foods
SchoolSoft
Deloitte
Statkraft
DHL
Saudi Cement
Sinch
Zalora
Claned Group
Hurtigruten AS
Ameeri Dewan
MT Højgaard
SEB
Salling Group
Kela — Finnish Social Insurance Institution
YIT
TDC Net (Nuuday)
Bayer
NAV — Norwegian Labour & Welfare Administration
Visma
Novo Nordisk
Ministry of Hajj and Umrah
NEOM
SimCorp (Deutsche Börse)
Najm Insurance Services
Ooredoo
Audi
Novartis
LEGO Group
Skanska
Vero — Finnish Tax Administration
Jeudan
Nykredit
Tivoli A/S
Planmeca
Mölnlycke
Jacobs Engineering
Kesko
Konecranes Plc
NetCompany Group
Albert
Försäkringskassan — Swedish Social Insurance Agency
Kojamo
DSV A/S
Equinor
Volvo Group
Ørsted
VR-Yhtymä Oyj — Finnish State Railways
Sanoma Pro
Viaplay Group AB
Orion Pharma
Standard Chartered Bank
Vattenfall
Nordea Bank
Arp-Hansen Hotel Group
Kongsberg
Itslearning
DNB Bank
S Group
Nokia
E.ON
SkiStar AB
Schibsted Media Group
Danske Bank
Coca-Cola
Photocure
Credito Emiliano (Credem)
AT&T
Veidekke
Tietoevry
Walmart
Alinea Education
OP Financial Group
KONE
People — people-ksa.com
Deutsche Telekom
Elisa Oyj
Imam Abdulrahman Bin Faisal University
Castellum
Elm Company (إلم)
Warner Bros. Discovery
Unilever
SKF
Neste Corporation
Saudi Water Partnership Company (SWPC)
Scania
Finnair Plc
Intercity Istanbul Park
Coloplast
DirecTV
Ministry of Municipal & Rural Affairs
National Oil Company
Wärtsilä
Orkla
Andel
Yara International
Scandic Hotels Group
Sanoma Group
Telenor ASA
A.P. Møller-Mærsk
Shell
أسئلة شائعة

الأسئلة الشائعة

ما مُخرجات مشروع ضمان الذكاء الاصطناعي؟

منظومة تقييم مُصدّرة داخل بيئتكم، ودرجات لكل إصدار للصحة والإسناد والتحيّز والسلامة، وتقرير اختبار عدائي، وحزمة أدلة مربوطة بـ ISO 42001 ونظام حماية البيانات.

هل تغطّون حقن الطلبات وتسريب البيانات؟

نعم. كلاهما فئتان أساسيتان في الاختبار العدائي، تُختبران على طبقة الاسترجاع وعلى أي أدوات أو إجراءات يستطيع الوكيل استدعاءها.

هل يمكن تشغيل الضمان باستمرار؟

نعم، تعمل المنظومة مع كل تغيير ووفق جدول، وتُعاد إخفاقات الإنتاج إلى مجموعة الاختبار تلقائيًا.

ملفات تعريف الارتباط والخصوصية

نستخدم ملفات تعريف الارتباط لتحسين تجربتكم وتحليل زيارات الموقع، وفق سياسة الخصوصية ونظام حماية البيانات الشخصية. يمكنكم الاكتفاء بالملفات الأساسية.