AI الحوكمة قبل الجولة أ: السياسات التي يتوقعها المستثمرون الآن

1. اعتبر حوكمة AI بنية تحتية لقابلية الاستثمار

تحتاج شركة ناشئة في مجال AI تستعد للجولة أ إلى أدلة على أن منتجها قادر على التوسع دون فقدان السيطرة على البيانات أو النماذج أو نتائج العملاء أو الادعاءات التجارية. وتوفر الحوكمة نظام التشغيل لتلك الأدلة. فهي تحدد حقوق اتخاذ القرار، وتعرّف الاستخدام المعتمد، وتشترط اختبارات قبل الإطلاق، وتسجل الاستثناءات، وتمنح مجلس الإدارة وسيلة لربط سرعة تطوير المنتج بالمخاطر والنقد وقيمة العميل.

نقطة البداية هي دور AI الفعلي لدى الشركة. فقد تدرب الشركة نموذجًا، أو تضبط نموذجًا خارجيًا دقيقًا، أو تسترجع معلومات لنموذج أساسي، أو تنشر وكيلًا، أو تضمّن خدمة خارجية، أو تقدم البنية التحتية، أو تستخدم AI داخل العمليات فقط. ويُنشئ كل دور تبعيات وواجبات مختلفة. وينبغي لمجلس الإدارة توثيق نتيجة المنتج، وحدود النظام، والأشخاص والمنظمات المتأثرين، والقرارات الجوهرية، والولايات القضائية، والأطراف التي تورد البيانات والنماذج والأدوات والتوزيع.

ينبغي أن تدعم الحوكمة التنفيذ. وتحتاج فرق المنتجات إلى مسار واضح من التجربة إلى الإطلاق الخاضع للرقابة. وتحتاج الفرق التجارية إلى صياغة دقيقة للقدرات والقيود ومسؤوليات العملاء. ويحتاج مشترو المؤسسات إلى أدلة تغطي الأمن والخصوصية والتوافر وأداء النموذج والمقاولين من الباطن والحوادث والخروج. ويحتاج المستثمرون إلى فهم ما إذا كان النمو يعتمد على حقوق وقدرات واقتصاديات يمكن للشركة الاحتفاظ بها. ويحتاج الموظفون إلى مسارات تصعيد عندما يعمل النظام خارج غرضه المعتمد.

ينظم NIST إدارة مخاطر AI من خلال الحوكمة والرسم والقياس والإدارة. ويستخدم ISO/IEC 42001 نهج نظام إدارة لإنشاء حوكمة AI وتنفيذها وصيانتها وتحسينها باستمرار. وتدعم هذه الأطر هيكلًا عمليًا لمجلس الإدارة: تحديد المساءلة، وفهم السياق، وإنتاج الأدلة، وإدارة المخاطر المتبقية، وإعادة النظر في القرارات مع تغير النظام.

ينبغي لمجلس الإدارة أن يعتمد خمسة أدلة مترابطة. يربط دليل المنتج النظام بنتيجة جوهرية للعميل. ويغطي دليل الحقوق البيانات والبرمجيات والنماذج والمحتوى. ويغطي دليل الأداء الدقة والمتانة والسلامة والمراقبة. ويغطي الدليل التجاري المشتريات والتوزيع واقتصاديات الوحدة والمزاعم. ويغطي دليل الحوكمة المساءلة والحوادث والتنظيم والتغيير. وينبغي أن يعيد ضعف جوهري في أحد الأدلة حالة الإطلاق أو الاستثمار إلى المعالجة.

تربط خمسة أدلة مترابطة تنفيذ المنتج بقرار توسع يتحكم فيه مجلس الإدارة.

2. حدّد النظام والنتيجة وفئة المخاطر

تبدأ الحوكمة بتعريف دقيق للنظام. وينبغي للشركة تحديد المستخدم، والغرض المقصود، والغرض المحظور، والمدخلات، والنموذج، والأدوات، ومصادر الاسترجاع، والمخرجات، والإجراء، والطرف المتأثر، والمسؤول البشري. ويخفي توصيف عام مثل مساعد AI أو منصة ذكية الفرق بين تلخيص المعلومات، والتوصية بإجراء مالي، والموافقة على ائتمان، واختيار مرشح، وتشخيص حالة، وتفويض دفعة.

ينبغي أن يوضح التعريف ما إذا كان النظام ينتج المحتوى فقط أم يمكنه أيضًا استدعاء الأدوات، وتغيير السجلات، وإرسال الاتصالات، وتحريك الأموال، وتعديل الوصول، وشراء الخدمات، أو التأثير في حقوق الشخص. وتتطلب الأنظمة الوكيلية خريطة للأدوات المتاحة وبيانات الاعتماد والذاكرة والخدمات الخارجية ونقاط تحقق القرار وضوابط الإنهاء. ويؤكد إطار سنغافورة النموذجي لحوكمة AI للأنظمة الوكيلية AI على تقييد حالات الاستخدام والصلاحيات، والمساءلة البشرية ذات المعنى، وضوابط دورة الحياة، ومسؤولية المستخدم النهائي.

ينبغي أن يستند تصنيف المخاطر إلى العواقب ومدى التعرض. ويمكن للتقييم أن يراعي السلامة، والخسارة المالية، والحقوق القانونية، والمستخدمين الضعفاء، والبيانات الشخصية أو السرية، والنطاق، وقابلية العكس، والاستقلالية، وعتامة النموذج، والأمن السيبراني، والوضع التنظيمي، وتوافر المراجعة البشرية. وينبغي للشركة أيضًا تقييم المخاطر الناشئة عندما تتحد عدة مكونات منخفضة العواقب في سير عمل ذي عواقب أعلى.

ينبغي لمجلس الإدارة أن يحدد الفئة التي يمكن لقائد المنتج اعتمادها، والفئة التي تتطلب مراجعة أمنية أو خصوصية أو قانونية، والفئة التي تتطلب موافقة تنفيذية أو موافقة مجلس الإدارة. وينبغي أن تتوفر للأنظمة عالية العواقب أدلة أقوى، وأذونات أضيق، واختبار مستقل، وقواعد إيقاف صريحة. وينبغي توثيق الاستخدامات المحظورة والتواصل بشأنها وإنفاذها عبر ضوابط تقنية وتعاقدية.

ينبغي إدارة سجل التصنيف بإصدارات. فتغيير النموذج، أو مصدر بيانات جديد، أو مجموعة عملاء جديدة، أو ولاية قضائية إضافية، أو استقلالية أوسع، أو ادعاء تجاري متغير يمكن أن يغيّر فئة المخاطر. وقد يحتاج نظام استُخدم سابقًا لصياغة نصوص داخلية إلى حوكمة جديدة عندما يبدأ بالرد على العملاء أو تنفيذ المعاملات.

الجدول 1. AI تعريف النظام وسجل فئات المخاطر

تُعد الطبقة قرارًا إداريًا تدعمه مراجعة متخصصة حيثما كان القانون أو النشاط الخاضع للتنظيم معنيًا.

3. إرساء مساءلة مجلس الإدارة وحقوق اتخاذ القرار

يبقى مجلس الإدارة مسؤولاً عن الشركة حتى عندما يؤدي نموذج أو مورّد أو عميل جزءاً من سير العمل. وينبغي أن يعتمد شهية المخاطر الخاصة بـAI، وحالات الاستخدام الجوهرية، ونموذج المساءلة، ووتيرة التقارير، وحدود التصعيد. وينبغي للإدارة تحويل هذا التوجيه إلى مالكين محددين بالاسم وإجراءات تشغيلية.

ينبغي أن تتبع المساءلة النتيجة الكاملة. يمكن لمالك المنتج أن يكون مسؤولاً عن الغرض المقصود ونتيجة العميل. ويمكن لمالك النموذج أن يكون مسؤولاً عن الأداء والتقييم والتغيير. ويمكن لمالك البيانات أن يكون مسؤولاً عن المصدر والجودة والأذونات والاحتفاظ. ويمكن للأمن أن يكون مسؤولاً عن ضوابط التهديدات والاستجابة للحوادث. ويمكن لمستشاري القانون والخصوصية تقييم الواجبات المنطبقة. ويمكن للقيادة التجارية أن تكون مسؤولة عن الادعاءات ووعود الشركاء. ويمكن للراعي التنفيذي حلّ التعارضات وقبول المخاطر المتبقية ضمن الصلاحية المفوّضة.

ينبغي لمجلس الإدارة تجنّب الموافقة المجزأة. فقد يجتاز نظام تقييماً تقنياً بينما يفشل في قضية الحقوق أو العميل أو المشتريات أو الجدوى الاقتصادية. وينبغي أن توفّق مذكرة إصدار واحدة بين جميع الأدلة الجوهرية والاستثناءات. وينبغي أن تذكر المذكرة الاستخدام، والفئة، والإصدار، والأسواق المتأثرة، والاختبارات، والقيود، والمراقبة، والحوادث، والمسائل المفتوحة، والمخاطر المتبقية المقبولة، والمالكين المسؤولين، وتاريخ المراجعة التالي.

ينبغي أن تكون اللجان متناسبة مع المرحلة. يمكن لشركة في مرحلة ما قبل الجولة A أن تستخدم منتدى إصدار أسبوعياً متعدد الوظائف، تدعمه مراجعة تنفيذية شهرية وتقارير فصلية لمجلس الإدارة. ويحتاج المنتدى إلى صلاحية إيقاف إصدار أو تضييق نطاقه أو طلب معالجة. وينبغي أن تتجاوز الحوادث والتغييرات الجوهرية الوتيرة العادية.

ينبغي أن تربط تقارير مجلس الإدارة بين المخاطر والأداء التجاري. وتشمل المقاييس المفيدة الأنظمة النشطة حسب الفئة، والمراجعات المتأخرة، ونتائج التقييم، ونتائج الأمن، واستثناءات حقوق البيانات، وشكاوى العملاء، والتجاوزات البشرية، والحوادث، وتركّز الموردين، وتكلفة النموذج، والهامش الإجمالي، ومدى كفاية النقد. وينبغي أن تميّز التقارير بين النتائج المرصودة والتوقعات وسيناريوهات الإدارة.

4. أنشئ سجلاً لأنظمة AI وتبعياتها

ينبغي للشركة الجاهزة للمستثمرين أن تعرف كل نظام جوهري من أنظمة AI تطوّره أو تشتريه أو تدمجه أو تسمح للموظفين باستخدامه. وينبغي أن يشمل السجل منتجات الإنتاج، والتكوينات الخاصة بالعملاء، والمساعدين الداخليين، والتجارب المرتبطة ببيانات حقيقية، والأدوات الظل، والنماذج التي يستخدمها المتعاقدون، وميزات AI داخل برمجيات المؤسسات.

ينبغي أن يحدد كل إدخال المالك، والغرض، والمستخدمين، وفئة المخاطر، والحالة، والنموذج والإصدار، والمزوّد، والاستضافة، وفئات البيانات، والولايات القضائية، والأدوات، ومصادر الاسترجاع، والقرارات اللاحقة، والتحكم البشري، والتقييمات، والمراقبة، والحوادث، والعقود، وتاريخ المراجعة. وينبغي أن يرتبط السجل بالأدلة الأساسية بدلاً من أن يصبح جدول بيانات ثابتاً منفصلاً عن العمليات.

ينبغي أن يمتد تحليل التبعيات إلى ما هو أبعد من النموذج المسمّى. قد تعتمد خدمة على منطقة سحابية، وقاعدة بيانات متجهة، وإطار تنسيق، ومرشّح محتوى، وأداة قابلة للرصد، ومزوّد هوية، وAPI خارجي، ومخزن بيانات العملاء. وينبغي للشركة أن تحدد أي تبعية يمكن أن تغيّر السلوك أو الشروط أو السعر أو الموقع أو الوصول أو التوافر. وينبغي أن تسجّل وقت الاستبدال وأثر الإنهاء.

تتطلب مكونات المصدر المفتوح مراجعة المصدر والترخيص والأمن. وقد تحمل أوزان النموذج، وشيفرة التدريب، ومجموعات البيانات، والمكتبات تراخيص والتزامات مختلفة. وينبغي للشركة أن تسجّل الإصدار، والمصدر، والتعديل، والاستخدام المسموح، والإسناد، وشروط التوزيع، والثغرات المعروفة. وينبغي أن يؤكّد مستشار مؤهل الاستنتاجات المتعلقة بالملكية الفكرية.

ينبغي أن تتصل ضوابط السجل بالهندسة. يمكن أن تؤدي بيانات اعتماد النموذج الجديدة، والحزم، ونقاط النهاية، وعمليات النشر الإنتاجي إلى تفعيل التسجيل أو التحديث. ويمكن للمشتريات حظر مورّد غير معتمد. ويمكن لضبط الوصول أن يقصر البيانات الحساسة على الأنظمة المصرّح بها. ويمكن للمراقبة أن توفّق بين نقاط النهاية الحية والسجلات المعتمدة. والهدف هو رؤية تشغيلية حالية.

تتراكم الأدلة من تعريف النظام مروراً بالمراقبة وحتى الإخراج من الخدمة الخاضع للرقابة.

5. ارسم خريطة لحقوق البيانات ومصدرها وخصوصيتها والاحتفاظ بها

ينبغي أن تجيب حوكمة البيانات عما إذا كان للشركة الحق في جمع كل فئة بيانات والوصول إليها وتحويلها ودمجها والتدريب عليها والتقييم باستخدامها والإفصاح عنها والاحتفاظ بها. ولا ينشئ عقد العميل أو صفحة ويب عامة أو ترخيص مورّد أو تحميل موظف أو مستودع مفتوح المصدر تلقائياً كل حق مقصود. وينبغي للشركة أن تحتفظ بسجل للأغراض والحقوق يغطي بيانات التدريب وبيانات التقييم ومحتوى الاسترجاع والتوجيهات والمخرجات والقياسات التليمترية والتغذية الراجعة البشرية.

ينبغي أن يحدد السجل المصدر، أو المتحكم، أو المالك، والأساس القانوني أو الإذن التعاقدي، والغرض، والموقع الجغرافي، والحساسية، والوصول، والمعالج، والاحتفاظ، والحذف، والقيود على تدريب النموذج أو إعادة استخدامه. وينبغي ربط البيانات الشخصية بقانون الخصوصية المعمول به. وينبغي ربط البيانات السرية والخاضعة للتنظيم بالواجبات التعاقدية والقطاعية. وقد تتطلب حقوق النشر وحقوق قواعد البيانات والأسرار التجارية وحقوق الشهرة تحليلاً منفصلاً.

يضع قانون UAE لحماية البيانات الشخصية واجبات لمعالجة البيانات الشخصية وحقوقاً لأصحاب البيانات. وتقدم مجموعة أدوات AI الصادرة عن مكتب مفوض المعلومات بالمملكة المتحدة (ICO) مجالات مخاطر عملية عبر دورة حياة AI، وهي قيد المراجعة في أعقاب قانون البيانات (الاستخدام والوصول)؛ وينبغي للشركات إعادة التحقق من الإرشادات الحالية قبل الاعتماد عليها. ويمكن أن يعمل قانون AI الأوروبي وGDPR والقواعد القطاعية معاً. كما تربط الأطر السعودية والسنغافورية AI المسؤولة بالخصوصية وحوكمة البيانات.

يُعد تقليل البيانات جزءاً من تصميم المنتج. وينبغي للشركة تحديد الحد الأدنى من البيانات المطلوبة للنتيجة المعتمدة، وتقييد الوصول، وفصل البيئات، ووضع قواعد للحذف أو إزالة الهوية. وينبغي لأنظمة الاسترجاع أن تفرض أذونات على مستوى المستند. وينبغي تقييم سجلات التوجيهات والمخرجات بحثاً عن البيانات الحساسة. وينبغي فصل تدريب النموذج عن تقديم الخدمة عندما تختلف الحقوق وتوقعات العملاء.

ينبغي أن يظل تتبع المصدر قائماً بعد التحويل. وينبغي للشركة أن تكون قادرة على تتبع مخرج جوهري وصولاً إلى إصدار النموذج، أو التوجيه أو المدخل، ومصادر الاسترجاع، وإعدادات السياسة، والإجراء البشري ذي الصلة. ويدعم ذلك التقييم والتصحيح وتفسير العملاء والتحقيق في الحوادث والعناية الواجبة للمستثمرين. وحيثما لا يكون التتبع الكامل متاحاً تقنياً، ينبغي توثيق هذا القيد وعكسه في نطاق النظام.

6. حوكمة النماذج الأساسية والموردين والمكونات مفتوحة المصدر

يمكن أن تسرّع نماذج الأطراف الثالثة تطوير المنتجات مع خلق مخاطر التركّز والتسعير والبيانات والأداء والاستمرارية. وينبغي للشركة تقييم المزوّد والخدمة والعقد وبطاقة النموذج أو الوثائق الفنية وشروط استخدام البيانات والأمن والخصوصية والاستضافة والمعالجين الفرعيين ومستويات الخدمة وسياسة التغيير والوصول إلى التقييم وشروط الملكية الفكرية والتعويضات والإشعار بالحوادث والإنهاء وإعادة البيانات أو حذفها.

ينبغي أن يكون تقييم المورّد خاصاً بحالة الاستخدام. فالنموذج المقبول لصياغة نص داخلي قد يكون غير مناسب لقرار عميل ذي تبعات مالية أو قانونية. وينبغي للشركة اختبار النموذج والإعدادات والتوجيهات والأدوات وبيانات الاسترجاع وضوابط الحماية المستخدمة في الإنتاج نفسها. ولا تُغني مقاييس الأداء المرجعية للمزوّد عن تقييم الشركة.

إدارة تغيير النموذج مسألة جوهرية. فقد يحدّث المزوّدون الأوزان أو التوجيه أو المرشحات أو حدود السياق أو التسعير أو الشروط. وينبغي للشركة أن تعرف ما إذا كان يمكن تثبيت إصدار ما، وكيف يعمل الإشعار المسبق، وما يحدث عند سحب إصدار. وينبغي أن يؤدي التغيير الجوهري إلى اختبار انحدار وقرار إصدار. وإذا كانت الخدمة تستخدم توجيهاً ديناميكياً للنماذج، فينبغي أن تغطي الموافقة منطق التوجيه وكل نموذج مؤهل.

تتطلب المرونة التجارية خطة خروج. وينبغي لمجلس الإدارة أن يفهم الجهد اللازم لاستبدال المزوّد، وتصدير البيانات، وإعادة إنتاج التقييمات، وترحيل التوجيهات والأدوات، والحفاظ على خدمة العملاء، وإعادة اعتماد النظام. ويمكن لتصميم متعدد النماذج أن يقلل بعض التركّز مع زيادة تعقيد التكامل والاختبار والتكلفة. وينبغي أن يستند الاختيار إلى اقتصاديات مُتحقَّق منها ومتطلبات الخدمة.

الجدول 2. سجل تبعيات النموذج والمورّد والبيانات

تتطلب الاستنتاجات التعاقدية والقانونية مراجعة الشروط الموقعة والاستخدام المقصود.

7. وضع ضوابط للتطوير والاختبار والإصدار

AI يحتاج التطوير إلى مسار قابل لإعادة الإنتاج من التجربة إلى الإنتاج. وينبغي للشركة تسجيل المشكلة، وخط الأساس، والبيانات، والنموذج، والإعدادات، والشيفرة، ومجموعة التقييم، ومعايير القبول، والمراجع، ونطاق الإصدار، وخطة المراقبة. وينبغي أن تتيح الأدلة لشخص مؤهل فهم ما تغير ولماذا تم اعتماد الإصدار.

ينبغي أن يغطي الاختبار الاستخدام المعتمد وأنماط الأعطال المعقولة. ويمكن أن تشمل مقاييس الأداء الدقة والإحكام والاستدعاء والمعايرة وجودة الاسترجاع والدعم الواقعي واتباع التعليمات والاستقرار وزمن الاستجابة والتكلفة. ويمكن أن تغطي الاختبارات القائمة على العواقب التحيز والمحتوى الضار وتسرب الخصوصية وحقن المطالبات وتسريب البيانات واستخدام الأدوات غير الآمن وحجب الخدمة واستخراج النموذج والمدخلات العدائية والفشل في ظل بيانات غير مكتملة أو غير معتادة.

تتطلب الأنظمة التوليدية تقييم المخرجات في سياقها. ويمكن أن تخفي درجة إجمالية واحدة إخفاقات جوهرية حسب اللغة أو مجموعة العملاء أو سير العمل أو المهمة. وينبغي أن تمثل مجموعة التقييم توزيع الإنتاج والحالات الحدية المهمة ومسارات إساءة الاستخدام المعروفة. وينبغي أن تستخدم المراجعة البشرية معايير محددة ومراجعين مدربين ومطابقة حيث يكون للحكم أهمية. ويمكن للاختبارات الاصطناعية أن توسع التغطية مع بقائها محددة بوضوح باعتبارها اصطناعية.

ينبغي اعتماد معايير الإصدار قبل الاطلاع على النتائج. وينبغي أن يحدد السجل الحد الأدنى للأداء، وشروط عدم التسامح، والمخاطر المتبقية المقبولة، والمسائل غير المحلولة، وحد الطرح، وقواعد الإيقاف. ويمكن أن يكون النموذج قوياً تقنياً ومع ذلك يبقى خارج الإصدار لأن الحقوق أو الأمن أو المشتريات أو التواصل مع العملاء أو الدعم غير مكتملة.

يقلل الطرح الخاضع للرقابة من التعرض للمخاطر مع توليد الأدلة. ويمكن للشركة تحديد العملاء أو البيانات أو المعاملات أو الأدوات أو الاستقلالية أو الحجم. وينبغي أن تقارن المراقبة الإنتاج بافتراضات التقييم. وينبغي أن يؤدي الانحراف الجوهري أو الحادث أو الضرر الذي يلحق بالعميل إلى التحقيق واتخاذ قرار موثق بالاستمرار أو التضييق أو التراجع أو السحب.

8. قياس الأداء والمتانة والتحيز والفشل

ينبغي تعريف أداء النموذج بالعلاقة مع قرار تجاري والأشخاص المتأثرين به. ويمكن تقييم نظام التلخيص من حيث التغطية والعبارات غير المدعومة ودقة الاستشهاد. ويمكن تقييم نظام التنبؤ من حيث الخطأ والمعايرة والاستقرار. ويمكن تقييم نظام الترتيب من حيث الملاءمة والظهور ونتائج المجموعات. ويمكن تقييم الوكيل من حيث نجاح المهمة واختيار الأدوات ودقة الإجراء والامتثال للسياسات والتعافي.

يفحص اختبار المتانة التغيّر. فقد تتغير المدخلات في الطول أو اللغة أو التنسيق أو التشويش أو الغموض أو القصد. وقد تتغير توزيعات البيانات. وقد يصبح مصدر استرجاع قديماً أو غير متاح. ويمكن لمورّد أن يحدّث نموذجاً. وينبغي للشركة اختبار أي التغييرات تؤثر في النتيجة ووضع مراقبة للإشارات القابلة للملاحظة.

ينبغي أن يتبع تحليل العدالة سياق القرار والسياق القانوني. وينبغي للفريق تحديد المجموعات ذات الصلة، والأضرار المحتملة في التوزيع أو الجودة، وقيود البيانات، والسمات المسموح بها، وخيارات التخفيف. ولا يثبت التكافؤ الإجمالي بحد ذاته نتيجة عادلة. وينبغي لمستشارين مؤهلين تأكيد متطلبات قطاعات التوظيف والائتمان والتأمين والمستهلك وغيرها حيثما ينطبق.

ينبغي تصميم إدارة الإخفاقات قبل الإطلاق. ويحتاج النظام إلى استجابة آمنة عند انخفاض الثقة، أو تعارض الأدلة، أو فشل أداة، أو تجاوز الإجراء المطلوب للصلاحية. وتشمل الخيارات طلب التوضيح، وإظهار عدم اليقين، ورفض الإجراء، وتحويل الأمر إلى إنسان، واستخدام بديل حتمي، وتقييد النطاق، أو إيقاف سير العمل.

ينبغي أن تعيّن خطة المراقبة مالكاً لكل مقياس وحد. وينبغي أن تشمل الأداء وزمن الاستجابة والتكلفة والأمن والخصوصية والشكاوى والتجاوز والحوادث ونتائج العملاء. وتحتاج التنبيهات إلى إجراءات تحقيق وصلاحية اتخاذ قرار. ويمكن للمستثمرين والمشترين من المؤسسات عندئذ مراجعة نظام رقابة فعّال بدلاً من سياسة تفتقر إلى دليل تشغيلي.

لا ترتفع الصلاحية إلا عندما تدعم الأدلة والأذونات والمساءلة البشرية النتيجة.

9. التحكم في AI التوليدي والإجراء الوكيلي

يمكن لـAI التوليدي أن ينشئ مخرجات سلسة قد تظل غير مكتملة أو غير مدعومة أو غير مناسبة لقرار معين. وينبغي للمنتج أن يميز المحتوى المولّد من الحقائق المتحقق منها، وأن يشترط الاستناد إلى المصادر حيثما كان ذلك مناسباً، وأن يفصح للمستخدم عن القيود الجوهرية. وينبغي أن تصل المخرجات عالية الأثر إلى شخص مؤهل قبل اتخاذ إجراء.

يضيف AI الوكيلي حقوق تنفيذ الإجراءات. فقد يستدعي الوكيل أدوات، أو يتصفح أنظمة، أو يعدّل سجلات، أو يتواصل خارجياً، أو يقدم طلبات، أو يحوّل أموالاً. وينبغي للحوكمة أن تحدد الهدف المسموح به، والأدوات، والبيانات، وبيانات الاعتماد، وحدود المعاملات، وحدود الوقت، وحدود المعدل، ونقاط تفتيش الموافقة، والإجراءات المحظورة، والسجلات، والمراقبة، والإنهاء، والتعافي. وينبغي أن تتبع الأذونات مبدأ أقل صلاحية وأن تُمنح لأقصر فترة عملية ممكنة.

يفصل سلّم الصلاحيات في الشكل 3 بين الإعلام والتوصية والتحضير والتنفيذ. ويمكن للشركة أن تحقق قيمة تشغيلية في المستويات الأدنى مع تراكم الأدلة للانتقال إلى مستوى أعلى. وينبغي لمجلس الإدارة أن يقاوم التعامل مع الاستقلالية كهدف منتج بحد ذاته. وينبغي للحالة التجارية أن توضح أي إجراء يحسّن نتيجة العميل ولماذا تستحق الصلاحية المضافة المخاطر والتكلفة الرقابية الإضافيتين.

ينبغي أن تكون الرقابة البشرية ذات معنى. فلا يمكن لشخص أن يراجع مئات الإجراءات المعقدة في ثوانٍ أو أن يوافق على توصية دون معلومات ذات صلة. وينبغي للعملية أن تمنح المراجع الوقت والكفاءة والأدلة والصلاحية وطريقة قابلة للاستخدام لرفض الإجراء أو تعديله. والموافقة التلقائية المتكررة إشارة إلى أن الرقابة تحتاج إلى إعادة تصميم.

ينبغي للشركة اختبار الفشل المركّب. فقد يتلقى الوكيل تعليمات خبيثة من محتوى مسترجع، ويختار أداة مفرطة الصلاحية، ويكشف بيانات سرية، ثم ينشئ اتصالاً خارجياً. وينبغي لاختبار السيناريوهات أن يتجاوز حدود المكونات. وينبغي للسجلات أن تحافظ على الهدف والخطة واستدعاءات الأدوات والمدخلات والمخرجات والموافقات والأخطاء والإجراء النهائي مع احترام متطلبات الخصوصية والأمن.

10. تأمين النماذج والبيانات والتعليمات التوجيهية والواجهات

AI يجب أن يندرج الأمن ضمن برنامج الأمن الأوسع للشركة وأن يعالج التهديدات الخاصة بكل نموذج. وينبغي لفريق الأمن أن يرسم خريطة الأصول والهويات وتدفقات البيانات وحدود الثقة والأدوات والتبعيات. ويمكن أن تشمل سيناريوهات التهديد حقن الأوامر، والحقن غير المباشر عبر المحتوى المسترجَع، وتسميم البيانات، وملفات النماذج الخبيثة، وإلغاء التسلسل غير الآمن، وسرقة بيانات الاعتماد، واستخراج النموذج، والكشف عن البيانات الحساسة، وحجب الخدمة، واختراق سلسلة التوريد.

يمكن أن تشمل الضوابط عزل المدخلات والمحتوى، والقوائم المسموح بها للأدوات، والامتياز الأقل، وقيود الشبكة، وإدارة الأسرار، وفصل البيئات، والتحقق من النماذج والحزم، والإصدارات الموقّعة، وفحص التبعيات، وحدود المعدل، والتحقق من المخرجات، وفحوص أذونات الاسترجاع، والمراقبة، والاستجابة للحوادث المختبَرة. وينبغي أن تعكس ادعاءات الأمن أدلة من النظام والتهيئة المنشورين.

ينبغي للشركة أن تتعامل مع الأوامر والسياسات باعتبارها شيفرة عندما تؤثر تأثيرًا جوهريًا في السلوك. وهي تحتاج إلى التحكم في الإصدارات والمراجعة والاختبار والتراجع. كما تحتاج فهارس الاسترجاع وتهيئات السياسات إلى سجلات تغيير. ويمكن أن يصبح نموذج أساس آمن غير آمن عبر أداة ذات امتيازات مفرطة، أو أمر ضعيف، أو سر مكشوف، أو حدود غير صحيحة لبيانات العملاء.

ينبغي أن تتضمن اختبارات الأمن مسارات عدائية واقعية. ويمكن لتمارين الفريق الأحمر أن تختبر ما إذا كان مستخدم أو مستند أو صفحة ويب أو تكامل أو حساب مخترَق قادرًا على إعادة توجيه النموذج أو الوكيل. وينبغي ترتيب النتائج بحسب المخاطر وإسنادها وإعادة اختبارها. وينبغي أن يذكر سجل الإصدار أي قيد مقبول وضابطه التعويضي.

ينبغي أن تغطي الاستجابة للحوادث الكشف والاحتواء والحفاظ على الأدلة والتواصل مع العملاء والجهات التنظيمية وتعطيل النموذج أو الأداة وتدوير بيانات الاعتماد ومراجعة البيانات والاستعادة والدروس المستفادة. وينبغي أن تعرف الشركة كيفية إيقاف نموذج أو وكيل أو تكامل دون تعطيل خدمات غير ذات صلة. وقد يطلب العملاء من المؤسسات والمستثمرون أدلة على أن الخطة قد جرى اختبارها.

الجدول 3. أدلة التقييم والأمن والإصدار

ينبغي أن يتبع العمق المطلوب حجمَ تبعات النظام والتزامات العملاء والالتزامات المعمول بها.

11. بناء الرقابة البشرية وسبل الإنصاف للعملاء

ينبغي ربط الرقابة البشرية بحجم التبعات. وعلى الشركة أن تحدد القرارات التي تتطلب تأكيداً بشرياً، والقرارات التي يمكن أخذ عينات منها، والقرارات التي تحتاج إلى مراجعة متخصصة، والقرارات التي يمكن تشغيلها تلقائياً ضمن حدود معتمدة. وينبغي أن يوضح التصميم ما يراه المراجع، والبدائل المتاحة، وكيفية تسجيل الاعتراض.

يحتاج العملاء إلى معلومات واضحة عن الخدمة. وينبغي أن يوضح التواصل النتيجة، والدور الجوهري الذي يؤديه AI حيثما كان ذلك وثيق الصلة، والبيانات المهمة، والقيود، ومسؤوليات العملاء، ومسار الوصول إلى الدعم. وقد يحتاج الشخص المتأثر بقرار ذي تبعات إلى تفسير أو تصحيح أو استئناف بموجب القانون أو العقد المعمول بهما. وينبغي أن يوجّه المنتج ذلك الطلب إلى شخص يمكنه مراجعة الأدلة الأساسية وتغيير النتيجة حيثما كان ذلك مصرحاً به.

تُعد سجلات الشكاوى بيانات حوكمة قيّمة. وينبغي للإدارة أن تصنّف النظام وإصدار النموذج وفئة العملاء والمسألة والتبعة والحل والسبب الجذري. ويمكن أن يكشف الارتباك المتكرر عن إفصاح ضعيف. ويمكن أن تكشف التصحيحات المتكررة عن مشكلات في البيانات أو النموذج. ويمكن أن يكشف بطء الحل عن غياب جهة مسؤولة. وينبغي أن يطّلع مجلس الإدارة على الأنماط الجوهرية إلى جانب لوحة المعلومات التجارية.

تحظى حوكمة الموظفين بأهمية أيضاً. وينبغي أن يعرف الموظفون الأدوات المعتمدة، والبيانات التي يجوز استخدامها، وكيفية التحقق من المخرجات، ومتى يتطلب التواصل الخارجي مراجعة. وينبغي أن يعكس التدريب الدور والمخاطر. ويحتاج المطوّرون إلى ممارسات تصميم آمنة ومسؤولة. وتحتاج الفرق التجارية إلى الانضباط في الادعاءات. وتحتاج فرق العملاء إلى التصعيد والتوضيح. ويحتاج المسؤولون التنفيذيون إلى الالتزامات المتعلقة بالحوادث ومجلس الإدارة.

ينبغي أن تدعم الشركة مساراً للإبلاغ عن المخاوف المتعلقة بـAI. فقد يلاحظ الموظفون والمتعاقدون إساءة استخدام البيانات، أو ادعاءات غير مدعومة، أو ضغطاً لتجاوز الاختبارات، أو إضراراً بالعملاء. وينبغي أن يحمي المسار الأدلة، ويحدد جهة التحقيق، ويتيح التصعيد إلى ما هو أعلى من المالك المباشر للمنتج.

12. حوكمة الادعاءات والمبيعات والعروض التوضيحية ومواد المستثمرين

ينبغي أن تكون الادعاءات المتعلقة بـAI محددة ومدعومة بالأدلة وحديثة. ويمكن لألفاظ مثل مستقل أو احتكاري أو دقيق أو غير متحيّز أو آمن أو متوافق أو في الوقت الفعلي أن تخلق انطباعاً مضللاً عندما تغفل تبعيات أو قيوداً جوهرية. وينبغي أن تحتفظ الشركة بسجل ادعاءات يربط كل عبارة بنتائج الاختبار ونطاق المنتج وإصدار النموذج والتاريخ والمراجع والقناة المعتمدة.

يوضّح الإنفاذ في الولايات المتحدة حدود التعرّض للمخاطر. فقد وجّهت هيئة الأوراق المالية والبورصات اتهامات إلى مستشارَي استثمار في عام 2024 بشأن بيانات كاذبة ومضللة حول استخدامهما المزعوم لـAI. وحذّرت لجنة التجارة الفيدرالية الشركات مراراً بوجوب دعم ادعاءات أداء AI والوفاء بالتزامات الخصوصية والسرية. وتدعم هذه المواد مبدأ رقابياً عاماً: ينبغي أن تتطابق بيانات المنتج والتسويق وجمع الأموال مع القدرات القابلة للإثبات والتشغيل الفعلي.

تحتاج العروض التوضيحية إلى الانضباط نفسه. وينبغي وصف المثال المنتقى أو النتيجة المدعومة بشرياً أو النموذج الأولي وصفاً دقيقاً. وينبغي أن تميّز الشركة ميزات التشغيل الفعلي عن بنود خارطة الطريق. وإذا كان العرض التوضيحي يستخدم بيانات اصطناعية أو تكاملاً مرحلياً أو مراجعة يدوية، فينبغي أن يتلقى الجمهور ذلك السياق. وينبغي ألا تعد فرق المبيعات بحالة تنظيمية أو خاصية أمنية أو مستوى أداء لم يُعتمد.

ينبغي أن توائم مواد المستثمرين بين ادعاءات المنتج والادعاءات المالية. وإذا كان النموذج مملوكاً لطرف ثالث، فينبغي ألا يوحي العرض التقديمي بملكية النموذج الأساسي. وإذا كان هامش الربح يفترض انخفاض تكلفة الاستدلال مستقبلاً، فينبغي أن تحدد التوقعات ذلك الافتراض. وإذا كانت الإيرادات تعتمد على موافقة أمنية مؤسسية أو إذن تنظيمي، فينبغي أن توضح الخطة شرط الاجتياز. وإذا كانت نتائج العملاء مستندة إلى برنامج تجريبي، فينبغي أن تكون المجموعة والمنهجية واضحتين.

ينبغي لمجلس الإدارة أن يعتمد الصياغة الجوهرية المتعلقة بـAI المستخدمة في جمع الأموال. وينبغي أن تحتوي غرفة البيانات على سجل الادعاءات، والنموذج، وخريطة الموردين، والتقييمات، وأدلة الأمن، وقيود العملاء، وتحليل الحقوق، والحوادث، والمسائل المفتوحة. ويدعم الإفصاح الدقيق العناية الواجبة ويقلل من خطر تحوّل الحماس التجاري إلى تصريح مضلل.

القيم افتراضات إدارية توضيحية ويجب استبدالها بمجموعات عملاء وعقود متحقق منها.

13. ارسم خريطة التنظيم والتزامات دخول السوق

تختلف اللوائح المتعلقة بـAI حسب الاختصاص القضائي والقطاع والنشاط والدور. وينبغي لشركة ناشئة أن ترسم خريطة لمكان تطوير النظام وتوريده ونشره؛ ولمكان وجود المستخدمين والأشخاص المتأثرين؛ وللبيانات التي تتم معالجتها؛ وللمنتجات أو القرارات المنظّمة المعنية. وينبغي أن تميّز الخريطة بين القانون الملزم وقواعد الجهات التنظيمية والمتطلبات التعاقدية والمعايير الطوعية والمقترحات.

يُطبّق قانون AI الأوروبي تدريجياً. يوضح الجدول الزمني الرسمي لمكتب الخدمة أن التعريفات ومتطلبات الإلمام بـAI والمحظورات سُريت اعتباراً من فبراير 2025؛ والتزامات AI للأغراض العامة والحوكمة من أغسطس 2025؛ ومعظم القواعد المتبقية وواجبات الشفافية بموجب المادة 50 من أغسطس 2026، رهناً بالجدول الزمني المنشور وتعديلات الحزمة الرقمية الشاملة (Digital Omnibus). وللقواعد الخاصة بالأنظمة عالية المخاطر مواعيد لاحقة. وينبغي للشركة أن تؤكد دورها وفئة نظامها ومرحلة انتقالها ووضعها في السوق مع مستشار مؤهل.

يوفر ميثاق UAE لتطوير واستخدام الذكاء الاصطناعي مبادئ وطنية لممارسات AI المسؤولة. وينظّم نظام حماية البيانات الشخصية في UAE معالجة البيانات الشخصية. ويمكن أن تضيف قواعد القطاعات متطلبات، لا سيما في الخدمات المالية والصحة والأعمال الحكومية. وتستخدم مبادئ أخلاقيات AI الصادرة عن الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA) فئات المخاطر وضوابط دورة الحياة لأصحاب المصلحة الذين يطورون أنظمة AI أو ينشرونها أو يستخدمونها في المملكة.

تطبّق المملكة المتحدة قوانين الخصوصية والمستهلك والمساواة والمنتج والخدمات المالية وغيرها من القوانين القائمة إلى جانب نهجها العابر للجهات التنظيمية بشأن AI. وتدعم مجموعة أدوات مكتب المفوض المعلوماتي (ICO) تحليل مخاطر حماية البيانات المتعلقة بـAI. وتوضح هيئة السلوك المالي (FCA) أن الأطر القائمة، بما في ذلك واجب المستهلك ومساءلة الإدارة العليا والحوكمة والضوابط، تنطبق على AI في الخدمات المالية. وتوفر أطر هيئة تنمية الإعلام والاتصالات في سنغافورة (IMDA) حوكمة عملية لـAI التقليدي والتوليدي والوكيلي. وتدعم مبادئ منظمة التعاون والتنمية في الميدان الاقتصادي (OECD) قابلية التشغيل البيني فيما يتعلق بحقوق الإنسان والشفافية والمتانة والسلامة والمساءلة.

ينبغي أن يكون لدخول السوق بوابة قانونية وتشغيلية. وينبغي لمجلس الإدارة أن يشترط خريطة مكتوبة للأدوار والالتزامات، وتواريخ سريان حالية، وضوابط للمنتجات، وإفصاحات للعملاء، وتفاعلاً مع الجهة التنظيمية أو البرنامج حيثما لزم، ومالكاً لرصد التغييرات. ويمكن لإطار أو معيار طوعي أن يدعم الحوكمة من دون أن يرسّخ الامتثال القانوني بحد ذاته.

الجدول 4. خريطة حوكمة AI ودخول السوق في أسواق متعددة

يلخص هذا الجدول المواقف الرسمية للأطر عند النشر؛ ويجب على كل شركة إعادة التحقق من القانون الساري والدور وتواريخ السريان قبل الإطلاق.

14. تحويل الحوكمة إلى جاهزية المشتريات المؤسسية

غالبًا ما يقيّم عملاء المؤسسات مورّد AI من خلال مراجعات الأمن والخصوصية والمرونة والقانونية والمشتريات ومراجعات مالكي الأعمال. ويمكن للمؤسس تقصير تلك العملية بالحفاظ على غرفة أدلة محدّثة. ويجب أن تطابق الغرفة نطاق المنتج الفعلي وأن تتجنب الشهادات أو السياسات العامة التي لا تغطي الخدمة المنشورة.

يمكن أن تشمل حزمة الأدلة وصف النظام والهندسة المعمارية وتدفق البيانات وبرنامج الأمن واختبار الاختراق وعملية إدارة الثغرات وخطة الحوادث وتقييم الخصوصية وقائمة المعالجين ومواقع البيانات وسجل النماذج والموردين والتقييمات وخطة استمرارية الأعمال ومستويات الخدمة والتأمين وشروط العملاء وموقف الملكية الفكرية ودعم الخروج. وحيث توجد شهادة، ينبغي للإدارة تحديد نطاقها وتاريخها واستثناءاتها.

ينبغي أن تغذي استبيانات العملاء نظام الحوكمة. وتكشف الأسئلة المتكررة عن الأدلة التي يحتاجها المشترون. وتكشف الاستثناءات المتكررة عن فجوات في المنتج أو العقد. ويمكن للشركة إنشاء ردود قياسية مدعومة بوثائق خاضعة للرقابة ومالكين محددين بالاسم. وينبغي إدخال الالتزامات الجوهرية الخاصة بالعملاء في قائمة أولويات المنتج والمراقبة.

ينبغي قياس اقتصاديات المشتريات. تستهلك المراجعة الأمنية والتفاوض القانوني والتكامل وتقييم النماذج والاستضافة والدعم المخصصين للعميل النقد. وينبغي أن تشمل توقعات الإيرادات احتمالية الموافقة ووقت التنفيذ والتجديد والتوسع وتكلفة الخدمة. ويمكن أن يضعف العقد الكبير ذو المسؤولية الواسعة والضوابط المخصصة وهامش الربح الإجمالي المنخفض حالة التمويل.

ينبغي لمجلس الإدارة مراجعة العلاقة بين نضج الحوكمة وتنفيذ المبيعات باستخدام بيانات الشركة المرصودة. وتشمل المقاييس المفيدة سرعة إنجاز الاستبيانات، والوقت المستغرق للحصول على الموافقة الأمنية، والاستثناءات الجوهرية، ودورة العقد، ووقت التنفيذ، والحوادث المتعلقة بالعملاء، والتجديد، والمساهمة. وينبغي للشركة تجنب ادعاء ارتفاع التقييم السببي دون دليل معاملات.

15. ربط الحوكمة باقتصاديات الوحدة والتقييم

ينبغي أن تتضمن اقتصاديات الوحدة AI تكلفة تحقيق نتيجة خاضعة للرقابة. وتُعد رسوم الحوسبة والنماذج أحد المكونات. ويمكن أن تغيّر تكاليف اقتناء البيانات واسترجاعها والمراقبة القابلة للملاحظة والأمن والمراجعة البشرية والدعم ومعالجة الحوادث والضوابط المخصصة للعميل والامتثال والتأمين والحدود الدنيا للموردين المساهمة تغييرًا جوهريًا.

ينبغي لفريق التمويل تتبع مجموعة من المستخدمين المؤهلين من مرحلة الأهلية إلى النتيجة الناجحة والمستدامة. وينبغي أن يسجل استدعاءات النماذج، والرموز أو الحوسبة، وإعادات المحاولة، واستخدام الأدوات، والتدخلات البشرية، والدعم، والمبالغ المستردة، والخسارة. ويمكن أن يكشف التقسيم حسب سير العمل والعميل والنموذج عن المواضع التي يخفي فيها هامش الربح الظاهري المرتفع فشلًا أو مراجعة مكلفة.

يمكن أن يؤثر تحسين النموذج في الاقتصاديات عبر ارتفاع معدل إنجاز المهام، وانخفاض المحاولات المتكررة، وتقليل المراجعة البشرية، وقصر زمن المعالجة، أو تعزيز الاحتفاظ بالعملاء. وقد يحسّن النموذج الأكبر الجودة مع زيادة التكلفة وزمن الاستجابة. وقد يحسّن النموذج الأصغر أو المتخصص المساهمة في مهمة محدودة النطاق. وينبغي أن يخضع التوجيه للحوكمة ويُقيَّم كجزء من المنتج.

ينبغي أن يتبع التقييم أدلة التدفق النقدي المستدام، والحقوق الاستراتيجية، والنمو المعدل بالمخاطر. ويمكن أن تدعم الحوكمة الحالة عبر حماية حقوق البيانات، وتقوية المشتريات المؤسسية، وتقليل مفاجآت الاعتماد، وإثبات الادعاءات، وجعل الأداء التشغيلي قابلاً للقياس. ويعتمد أثر التقييم الفعلي على نتائج الشركة، وظروف السوق، وحكم المستثمر، وشروط المعاملة. ولا ينبغي تقديمه على أنه علاوة ثابتة.

ينبغي لمجلس الإدارة استخدام السيناريوهات. يمكن أن تعكس الحالة الأساسية أسعار النموذج الحالية، ومعدل التحويل المرصود، والمراجعة المعتمدة. ويمكن أن تعكس الحالة الإيجابية أتمتة مدعومة بالأدلة، وتوزيعاً متعاقداً عليه. ويمكن أن تعكس الحالة السلبية زيادات أسعار الموردين، أو مشتريات أطول، أو حادثاً يتعلق بالنموذج، أو مراجعة بشرية إضافية، أو تأخراً في التنظيم. وينبغي أن يُظهر كل سيناريو المدرج النقدي والقرار المتاح للإدارة.

شرائح التمويل وقيم الملكية افتراضات إدارية توضيحية؛ وتتطلب قرارات الشركة جدول رسملة موثقاً وشروط تمويل معتمدة.

16. التمويل على مراحل وجدول الرسملة واستخدام المتحصلات

ينبغي أن تربط خطة التمويل رأس المال بأدلة محددة. ويمكن أن تؤسس الأموال المبكرة تعريف النظام، وحقوق البيانات، وبنية آمنة، وتقييماً تمثيلياً. ويمكن أن تدعم الشريحة التالية عملاء مضبوطين، والمشتريات المؤسسية، ومؤشرات التشغيل. ويمكن لرأس مال الجولة A بعد ذلك تمويل التوزيع، وتوسيع المنتج، والقدرة التنظيمية في مواجهة حالة مخاطر واقتصاديات محددة على نحو أفضل.

ينبغي أن يفصل استخدام المتحصلات بين تطوير المنتج، وتكلفة النموذج والبيانات، والأمن، والخصوصية، والعمل القانوني، والتكاملات المؤسسية، والمبيعات، ودعم العملاء، وقدرة التعامل مع الحوادث، ورأس المال العامل. وقد تخفي ميزانية مصنفة باسم الهندسة استثمار الحوكمة المطلوب. وينبغي أن يتمكن المستثمرون من رؤية أي الإنفاق ينتج بوابة إطلاق وأي الإنفاق يدعم النمو بعد البوابة.

ينبغي أن يتضمن جدول الرسملة الأسهم المصدرة، والخيارات، وأوامر الشراء، والأدوات القابلة للتحويل، واتفاقيات SAFE أو غيرها من الأدوات، وأفضليات التصفية، وحقوق التناسب، وحقوق المعلومات، وحقوق الموافقة، وأي حقوق ملكية لشريك النموذج أو البيانات. وينبغي للإدارة نمذجة الملكية والمتحصلات عبر شروط تمويل معقولة. والنسب التوضيحية في الشكل 5 توضح منهجاً ولا توصي بمعاملة.

ينبغي لمجلس الإدارة حماية المرونة التشغيلية. يمكن أن تؤثر وثائق التمويل والشراكات الاستراتيجية واتفاقيات العملاء في اختيار النموذج، واستخدام البيانات، والحصرية، والتسعير، وجمع التمويل، والملكية الفكرية، وتغيير السيطرة. وينبغي مراجعة هذه القيود مجتمعة. ويمكن أن تضعف اتفاقية توزيع جذابة الخيارات المتاحة إذا منحت حصرية واسعة أو ملكية للتحسينات.

ينبغي أن يتضمن تخطيط المدرج النقدي تقلبات تكلفة AI وتوقيت المشتريات. ويمكن أن تنمذج الحالة السلبية تكلفة استدلال أعلى، أو موافقة مؤسسية أبطأ، أو مراجعة بشرية إضافية، أو تعليقاً مؤقتاً للإطلاق. وينبغي أن يوافق مجلس الإدارة على محفزات التوظيف والالتزامات وعملية تمويل أخرى. وتظل التوقعات تقديرات إدارية إلى أن تدعمها التحصيلات الفعلية والعقود وبيانات التشغيل.

الجدول 5. قائمة تحقق غرفة بيانات الجولة A وأدلة المستثمرين

تختلف متطلبات المستثمرين؛ وتُنظّم هذه القائمة المرجعية الأدلة الشائعة ذات الصلة على صعيد المنتج والجوانب التجارية والقانونية والتشغيلية.

17. تنفيذ برنامج مدته 120 يوماً لما قبل الجولة أ

تُرسي الأيام من الأول إلى العشرين وضوح الرؤية. وتحدد الإدارة نتيجة المنتج، وتحصر الأنظمة والتبعيات، وترسم خريطة البيانات وحقوق الملكية الفكرية، وتحدد الولايات القضائية وتصنف مستويات المخاطر. ويوافق مجلس الإدارة على شهية المخاطر AI والمساءلة وحالات الاستخدام الجوهرية. وتشترط البوابة الأولى وجود جرد محدث ومسار مقبول للحقوق الحرجة.

تُرسي الأيام من الحادي والعشرين إلى الخامسة والأربعين ضوابط دورة الحياة. تحدد فرق المنتج والهندسة والأمن والخصوصية والفرق التجارية معايير التقييم وسيناريوهات التهديد ومتطلبات الموردين واعتماد الادعاءات والاستجابة للحوادث وسبل انتصاف العملاء. تختبر الشركة إعدادات الإنتاج وتغلق النتائج الحرجة. وتشترط البوابة الثانية أدلة قابلة لإعادة الإنتاج ونطاق إصدار محدودًا.

تُرسي الأيام من السادسة والأربعين إلى السبعين إثبات العميل والمشتريات. تشغّل الشركة مجموعة عملاء مضبوطة، وتستكمل أدلة المؤسسة، وتوائم بين الادعاءات والنتائج وتقيس تكلفة الخدمة. وتسجل الشكاوى والتجاوزات اليدوية وأحداث الأمن وتغييرات النموذج. وتشترط البوابة الثالثة نتيجة عميل قابلة للإثبات وأداءً مضبوطًا ومسار شراء قابلًا للتنفيذ.

تُرسي الأيام من الحادي والسبعين إلى الخامسة والتسعين الاقتصاديات والجاهزية السوقية. تبني وظيفة المالية جسر اقتصاديات الوحدة، ومجموعات العملاء، وحساسية تكلفة النموذج، وخارطة طريق التمويل، وسيناريوهات جدول الرسملة. ويؤكد المستشارون القانونيون والتنظيميون تحليل دخول السوق المنطبق. وتشترط البوابة الرابعة مساهمة قائمة على الأدلة وظروفًا اختصاصية حالية.

تُعدّ الأيام من السادسة والتسعين إلى المئة والعشرين الصفقة. تبني الإدارة غرفة البيانات، وتوائم بين بيانات المنتج والقوائم المالية، وتعد مواد مجلس الإدارة، وتغلق الاستثناءات ذات الأولوية. وتجيز البوابة الخامسة نطاقًا محددًا لجمع التمويل، وأوجه استخدام العائدات، وموقف الإفصاح، وخطة التشغيل. وتبقى الفجوات الجوهرية محددة مع المسؤولين عنها والتبعات.

تنتهي كل مرحلة بأدلة يستطيع مجلس الإدارة اعتمادها أو التحفظ عليها أو إعادتها للمعالجة.

18. اجعل قرار مجلس الإدارة والمستثمر صريحًا

ينبغي أن تعرض حزمة مجلس الإدارة النهائية نتيجة المنتج، وحصر الأنظمة، ومستويات المخاطر، وحقوق البيانات والنموذج، والبنية، وتبعيات الموردين، والتقييمات، وأدلة الأمن، والإشراف البشري، وسبل انتصاف العملاء، وسجل الادعاءات، والخريطة التنظيمية، وجاهزية الشراء، واقتصاديات الوحدة، وخطة التمويل، وجدول الرسملة، وحالة غرفة البيانات. وينبغي لكل بند أن يحدد مصدره ومالكه وتاريخه والمسألة المفتوحة.

ينبغي لمجلس الإدارة أن يعتمد قرارًا محدد النطاق. ويمكنه أن يجيز إصدارًا محددًا للنظام، والاستخدام، ومجموعة عملاء، والولاية القضائية، ومستوى الاستقلالية، ومسار التوزيع، والموازنة الرأسمالية. ويمكن أن تشمل الشروط نتائج أمنية مغلقة، وحقوق بيانات حالية، وادعاءات معتمدة، ومراقبة مختبرة، وقدرة دعم العملاء، وتاريخ مراجعة ثابت. وينبغي أن يتطلب التوسع بوابة الأدلة التالية.

ينبغي للإدارة أن تذكر عدم اليقين بوضوح. وينبغي أن يحتفظ أي تحليل قانوني معلق، أو التزام من مورد، أو موافقة عميل، أو تحسين نموذج، أو نتيجة جمع تمويل، أو تحويل توقعات بحالته الحالية. وينبغي للشركة أن تميز بين الإيرادات الموقعة، والمطبقة، والمفوترة، والمحصلة، والمتوقعة. وينبغي أن تميز بين القدرة المختبرة وخارطة الطريق، وبين الوصول المعتمد إلى السوق والطلب أو الخطة.

ينبغي أن يعكس قرار المستثمر كلاً من النمو وقابلية الضبط. وسؤال العناية الواجبة هو ما إذا كانت الشركة قادرة على تحويل رأس المال إلى قيمة للعملاء عبر أنظمة وحقوق تظل متاحة وقابلة للقياس وقابلة للحوكمة. ويمنح برنامج الحوكمة القوي مجلس الإدارة والمستثمر قاعدة أدلة مشتركة لهذا الحكم.

يستمر قرار التشغيل بعد التمويل. وينبغي أن تعود الأسواق والنماذج والبيانات والوكلاء وعمليات الاستحواذ والتزامات العملاء الجديدة إلى النظام نفسه للجرد والتصنيف والأدلة والموافقة والمراقبة. وتظل الحوكمة جزءًا من تنفيذ المنتج ورأس المال مع نمو الشركة.

الجدول 6. قائمة تحقق مجلس الإدارة AI للحوكمة والجولة الأولى من التمويل (Series A)

تتطلب كل بوابة أدلة حديثة، ومالكًا محددًا بالاسم، وقرارًا مسجلًا لمجلس الإدارة أو قرارًا مفوضًا.

خلاصة التنفيذ

تبدأ حوكمة AI قبل الجولة أ بالوضوح. تحدد الشركة كل نظام ونتيجة وحق وتبعية، ثم تعيّن الملاك وبوابات الأدلة القائمة على المخاطر. وتربط أداء النموذج بحقوق البيانات والأمن وسبل انتصاف العملاء والمطالبات والاقتصاديات.

ينتج برنامج الـ120 يومًا خمسة قرارات لمجلس الإدارة: اعتماد النظام وخريطة الحقوق؛ واعتماد التطوير والإطلاق الخاضعين للرقابة؛ والتحقق من إثبات العملاء والمشتريات؛ والتحقق من الاقتصاديات ودخول السوق؛ وتفويض عملية تمويل مُوفّقة. والنتيجة هي سجل تشغيلي عملي يمكن للمستثمرين وعملاء المؤسسات والجهات التنظيمية فحصه.

تظل متطلبات المستثمرين خاصة بالصندوق والمرحلة والمنتج والسوق والمعاملة. وآثار التقييم والتمويل والتكلفة والتوقيت الموضحة في الأرقام هي افتراضات إدارية توضيحية. وينبغي أن تستند قرارات الشركة إلى عقود موثقة وأفواج وأدلة تقنية ومشورة مهنية مؤهلة.

المراجع

1. المعهد الوطني للمعايير والتقنية. إطار إدارة المخاطر. https://www.nist.gov/itl/ai-risk-management-framework
2. المعهد الوطني للمعايير والتكنولوجيا. إطار إدارة مخاطر الذكاء الاصطناعي: ملف الذكاء الاصطناعي التوليدي، NIST AI 600-1. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
3. المنظمة الدولية للمعايير. ISO/IEC 42001:2023، نظام إدارة الذكاء الاصطناعي. https://www.iso.org/standard/42001
4. مكتب مساندة قانون AI التابع للمفوضية الأوروبية. الجدول الزمني لتنفيذ قانون AI في الاتحاد الأوروبي. https://ai-act-service-desk.ec.europa.eu/en/ai-act/eu-ai-act-implementation-timeline
5. مكتب UAE للذكاء الاصطناعي. ميثاق UAE لتطوير الذكاء الاصطناعي واستخدامه، يوليو 2024. https://ai.gov.ae/wp-content/uploads/2024/07/UAEAI-Methaq-EN2-3.pdf
6. تشريعات الإمارات العربية المتحدة. المرسوم بقانون اتحادي رقم 45 لسنة 2021 بشأن حماية البيانات الشخصية. https://uaelegislation.gov.ae/en/legislations/1972
7. الهيئة السعودية للبيانات والذكاء الاصطناعي. مبادئ أخلاقيات AI. https://sdaia.gov.sa/en/SDAIA/about/Documents/ai-principles.pdf
8. هيئة تطوير الإعلام والاتصالات في سنغافورة. الذكاء الاصطناعي في سنغافورة وأطر حوكمة AI النموذجية. https://www.imda.gov.sg/AI
9. مكتب مفوض المعلومات. AI ومجموعة أدوات مخاطر حماية البيانات. https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/ai-and-data-protection-risk-toolkit/
10. هيئة السلوك المالي. AI وهيئة السلوك المالي: نهجنا. https://www.fca.org.uk/firms/innovation/ai-approach
11. هيئة السلوك المالي. AI في الخدمات المالية: تشكيل نهجنا من خلال مشاركة القطاع، 8 يونيو 2026. https://www.fca.org.uk/news/blogs/ai-financial-services-approach
12. منظمة التعاون الاقتصادي والتنمية. مبادئ AI. https://www.oecd.org/en/topics/ai-principles.html
13. هيئة الأوراق المالية والبورصات الأمريكية. هيئة الأوراق المالية والبورصات تتهم مستشارين استثماريين اثنين بتقديم بيانات كاذبة ومضللة بشأن استخدامهما للذكاء الاصطناعي، 18 مارس 2024. https://www.sec.gov/newsroom/press-releases/2024-36
14. لجنة التجارة الفيدرالية الأمريكية. شركات AI: التزموا بتعهداتكم بشأن الخصوصية والسرية، 9 يناير 2024. https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2024/01/ai-companies-uphold-your-privacy-confidentiality-commitments