مقدمة: أصبح الذكاء الاصطناعي قضية حوكمة
لم يعد الذكاء الاصطناعي مشروعًا جانبيًا تديره إدارة تقنية المعلومات. فأدوات الذكاء الاصطناعي تفرز الآن المتقدمين للوظائف، وتوافق على الائتمان، وتُعِدّ مسودات التقارير المالية، كما تعمل بصورة متزايدة من تلقاء نفسها بوصفها وكلاء ذكاء اصطناعي. ويترتب على كل استخدام من هذه الاستخدامات مخاطر جديدة، تتراوح بين القرارات المتحيزة وتسريب البيانات والغرامات التنظيمية والإضرار بالسمعة.
ولهذا السبب حوكمة الذكاء الاصطناعي أصبحت المجال الأسرع نموًا ضمن الحوكمة والمخاطر والامتثال (GRC). وتتوقع مجالس الإدارة والجهات التنظيمية والمستثمرون الآن من المؤسسات أن تثبت ليس فقط أنها تستخدم الذكاء الاصطناعي، بل أيضًا أنها تتحكم فيه.
ومع ذلك، فإن معظم المؤسسات غير مستعدة. وقد وجد استطلاع ديلويت CFO Signals أن 59% من المديرين الماليين يرون أن الموازنة بين سرعة تبني الذكاء الاصطناعي ومخاطره تمثل أكبر تحديات الحوكمة لديهم. ويوضح هذا الدليل معنى حوكمة الذكاء الاصطناعي، واللوائح التنظيمية المحركة لها، والمخاطر التي يجب على فرق الحوكمة والمخاطر والامتثال إدارتها، والمهارات اللازمة للاضطلاع بدور قيادي.
ما حوكمة الذكاء الاصطناعي؟
حوكمة الذكاء الاصطناعي هي مجموعة السياسات والأدوار والعمليات والضوابط التي تضمن تطوير المؤسسة للذكاء الاصطناعي واستخدامه له بمسؤولية وأمان ووفقًا للقانون. وهي تندرج بطبيعتها ضمن الركائز الثلاث للحوكمة والمخاطر والامتثال:
|
ركيزة الحوكمة والمخاطر والامتثال |
ما تعنيه للذكاء الاصطناعي |
|---|---|
|
الحوكمة |
إشراف مجلس الإدارة، واستراتيجية الذكاء الاصطناعي، وتحديد واضح للملكية والمساءلة عن كل نظام ذكاء اصطناعي |
|
إدارة المخاطر |
تحديد مخاطر الذكاء الاصطناعي وتقييمها ومراقبتها، مثل التحيز والأخطاء والمخاطر الأمنية والتعرض لمخاطر الأطراف الثالثة |
|
الامتثال |
الامتثال لقوانين الذكاء الاصطناعي وقواعد حماية البيانات واللوائح القطاعية والسياسات الداخلية |
عمليًا، تجيب حوكمة الذكاء الاصطناعي عن أسئلة بسيطة لكنها بالغة الأهمية. ما أنظمة الذكاء الاصطناعي التي نستخدمها؟ ومن المسؤول عنها؟ وما الذي قد يحدث على نحو خاطئ؟ ومن يراجع المخرجات؟ وهل يمكننا إثبات كل ذلك لجهة تنظيمية أو مدقق حسابات؟
تتمتع المؤسسات ذات الوظائف الناضجة في مجال الحوكمة والمخاطر والامتثال بأفضلية، لأن حوكمة الذكاء الاصطناعي تستند إلى التخصصات نفسها: سجلات المخاطر، والضوابط الداخلية، والسياسات، والتدقيق، وإعداد التقارير.
الموجة التنظيمية: أطر العمل التي ينبغي لكل فريق للحوكمة والمخاطر والامتثال معرفتها
ينتقل تنظيم الذكاء الاصطناعي من المبادئ إلى قواعد قابلة للإنفاذ. وتحدد أربعة أطر عمل حاليًا كيفية حوكمة المؤسسات للذكاء الاصطناعي في جميع أنحاء العالم.
قانون الاتحاد الأوروبي للذكاء الاصطناعي
الـ قانون الاتحاد الأوروبي للذكاء الاصطناعي هو أول قانون شامل للذكاء الاصطناعي في العالم. ويصنّف أنظمة الذكاء الاصطناعي حسب مستوى المخاطر، بدءًا من الممارسات المحظورة وصولًا إلى الاستخدامات عالية المخاطر مثل التوظيف والتقييم الائتماني والبنية التحتية الحيوية. وقد بدأ تطبيق الحظر المفروض على الذكاء الاصطناعي ذي المخاطر غير المقبولة وواجبات الإلمام بالذكاء الاصطناعي منذ فبراير 2025. وبموجب تعديلات الحزمة الرقمية الشاملة، تُطبّق الالتزامات الخاصة بالأنظمة المستقلة عالية المخاطر اعتبارًا من 2 ديسمبر 2027، بينما لم تؤجَّل قواعد الشفافية المتعلقة بروبوتات المحادثة والمحتوى المُنشأ بالذكاء الاصطناعي. وينطبق القانون على أي مؤسسة يؤثر ذكاؤها الاصطناعي في أشخاص داخل الاتحاد الأوروبي، بما في ذلك الشركات التي تتخذ من الخليج مقرًا لها.
ISO/IEC 42001
ISO/IEC 42001 هو أول معيار دولي قابل للاعتماد لنظام إدارة الذكاء الاصطناعي. ويتبع الهيكل نفسه الذي يتبعه ISO 27001 وISO 9001، مما يسهّل دمجه مع أنظمة الإدارة القائمة. وسرعان ما أصبحت الشهادة وسيلة لإثبات الاستخدام المسؤول للذكاء الاصطناعي أمام العملاء والجهات التنظيمية.
إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST
الولايات المتحدة NIST AI RMF يوفر هيكلًا طوعيًا وعمليًا قائمًا على أربع وظائف: الحوكمة، ورسم السياق، والقياس، والإدارة. وتستخدمه فرق مخاطر عديدة بوصفه دليل العمل التطبيقي لها.
مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي ونهج دولة الإمارات العربية المتحدة
إن مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي وضعت خط الأساس العالمي للذكاء الاصطناعي الجدير بالثقة، واعتمدته عشرات الدول. وقد بنت دولة الإمارات العربية المتحدة على هذا الأساس من خلال استراتيجيتها الوطنية للذكاء الاصطناعي وميثاق تطوير واستخدام الذكاء الاصطناعي، وهي تسرّع وتيرة نشره في مختلف الجهات الحكومية، مما يرفع معايير الحوكمة في القطاع الخاص أيضًا.
أبرز مخاطر الذكاء الاصطناعي التي يجب على فرق الحوكمة والمخاطر والامتثال إدارتها
يُدخل الذكاء الاصطناعي مخاطر لم تُصمَّم الضوابط التقليدية للتعامل معها. ومن أبرزها:
- التحيز والتمييز. قد تعامل النماذج المدرَّبة على البيانات التاريخية المرشحين أو العملاء أو الموظفين بصورة غير عادلة.
- المخرجات غير الدقيقة. قد ينتج الذكاء الاصطناعي إجابات تبدو واثقة لكنها خاطئة، مما يشكّل خطرًا في التقارير المالية أو الأعمال القانونية أو تحليل المخاطر.
- خصوصية البيانات وتسريبها. قد يلصق الموظفون بيانات سرية في أدوات الذكاء الاصطناعي العامة دون إدراك مخاطر ذلك.
- تهديدات الأمن السيبراني. يمكن التلاعب بأنظمة الذكاء الاصطناعي من خلال حقن الأوامر أو البيانات المسمومة أو الاحتيال المدعوم بالتزييف العميق.
- مخاطر الأطراف الثالثة والمورّدين. تأتي العديد من قدرات الذكاء الاصطناعي من مزودين خارجيين يصعب تدقيق نماذجهم وممارساتهم المتعلقة بالبيانات.
- مخاطر اتخاذ القرارات ذاتيًا. قد ترتكب وكلاء الذكاء الاصطناعي التي تعمل دون موافقة بشرية أخطاءً مكلفة على نطاق واسع.
- «الذكاء الاصطناعي الخفي». استخدام الموظفين أدوات ذكاء اصطناعي غير معتمدة خارج نطاق أي سياسة أو إشراف.
ينبغي إدراج كل من هذه المخاطر في سجل مخاطر المؤسسة، مع تحديد مسؤول واضح عنها وضوابط وآليات مراقبة، شأنها شأن أي مخاطر جوهرية أخرى.
بناء إطار لحوكمة الذكاء الاصطناعي: خطوات عملية
لست بحاجة إلى البدء من الصفر. يمكن لمعظم المؤسسات بناء حوكمة فعّالة للذكاء الاصطناعي من خلال توسيع هياكل الحوكمة والمخاطر والامتثال الحالية لديها:
- إنشاء سجل لأنظمة الذكاء الاصطناعي. أدرج جميع أنظمة الذكاء الاصطناعي المستخدمة، بما فيها الأدوات المدمجة في برمجيات المورّدين، وحدد الجهة المسؤولة عن كل منها.
- التصنيف حسب المخاطر. صنّف الأنظمة حسب تأثيرها على الأشخاص والشؤون المالية والامتثال، باستخدام نهج قائم على المخاطر مماثل لقانون الاتحاد الأوروبي للذكاء الاصطناعي.
- حدّد المساءلة بوضوح. حدّد أدوار مجلس الإدارة والإدارة العليا وفرق المخاطر والامتثال وتقنية المعلومات ومالكي الأعمال. وتُشكّل العديد من المؤسسات الآن لجنة لحوكمة الذكاء الاصطناعي.
- ضع سياسة للذكاء الاصطناعي. ضع قواعد للاستخدام المقبول ومعالجة البيانات والإشراف البشري واعتماد أدوات الذكاء الاصطناعي الجديدة.
- ادمج الذكاء الاصطناعي في إدارة مخاطر المؤسسة. أضف مخاطر الذكاء الاصطناعي إلى سجل المخاطر، وحدّد مستوى تقبّل المخاطر، وضع مؤشرات رئيسية للمخاطر.
- أنشئ ضوابط وآليات للإشراف البشري. اشترط المراجعة البشرية للقرارات ذات التأثير الكبير، واحتفظ بمسارات تدقيق لمخرجات الذكاء الاصطناعي.
- اختبر وراقب ودقّق. تحقّق بانتظام من دقة النماذج وتحيّزها وانحرافها، وأدرج الذكاء الاصطناعي ضمن خطط التدقيق الداخلي.
- درّب موظفيك. لا تنجح الحوكمة إلا عندما يفهم الموظفون الذكاء الاصطناعي ومسؤولياتهم على حد سواء.
إن مواءمة هذه الخطوات مع ISO/IEC 42001 أو إطار NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF) تضفي على إطار عملك مصداقية دولية.
المهارات التي يحتاج إليها متخصصو الحوكمة والمخاطر والامتثال الآن
تُنشئ حوكمة الذكاء الاصطناعي طلبًا جديدًا على متخصصي الحوكمة والمخاطر والامتثال القادرين على الربط بين التكنولوجيا والمخاطر واللوائح التنظيمية. وتشمل القدرات الأكثر قيمة ما يلي:
- الإلمام بالذكاء الاصطناعي: فهم آلية عمل نماذج الذكاء الاصطناعي ومواطن إخفاقها، دون الحاجة إلى البرمجة.
- المعرفة التنظيمية: تفسير قانون الاتحاد الأوروبي للذكاء الاصطناعي، وقوانين حماية البيانات، والقواعد القطاعية.
- تقييم المخاطر: تطبيق أساليب إدارة مخاطر المؤسسات على أنظمة الذكاء الاصطناعي.
- تصميم الضوابط والتدقيق: إنشاء ضوابط الذكاء الاصطناعي واختبارها، بما في ذلك الإشراف البشري.
- إعداد التقارير لمجلس الإدارة: شرح مخاطر الذكاء الاصطناعي بوضوح لأعضاء مجالس الإدارة والتنفيذيين.
- الأخلاقيات والحكم المهني: الموازنة بين الابتكار والإنصاف والشفافية والمساءلة.
بالنسبة لمسؤولي الامتثال ومديري المخاطر والمدققين الداخليين وأمناء الشركات، سرعان ما أصبحت هذه المهارات ضرورية وليست اختيارية.
تقدم 360 Leaders Training مجموعة متكاملة من الدورات التدريبية في حوكمة الشركات والمخاطر والامتثال (GRC) للمهنيين الذين يرغبون في تولي زمام القيادة في هذا المجال. وتغطي البرامج حوكمة الشركات وإدارة مخاطر المؤسسات والامتثال والتدقيق الداخلي والمخاطر الناشئة مثل الذكاء الاصطناعي، وتُقدَّم في دبي ومواقع دولية أخرى.
هل أنتم مستعدون لتعزيز حوكمة مؤسستكم؟ استكشفوا دوراتنا التدريبية في الحوكمة والمخاطر والامتثال وطوّروا المهارات اللازمة لإدارة مخاطر الغد اليوم.
الأسئلة الشائعة
ما هي حوكمة الذكاء الاصطناعي؟
حوكمة الذكاء الاصطناعي هي إطار من السياسات والأدوار والعمليات والضوابط يضمن تطوير الذكاء الاصطناعي واستخدامه بمسؤولية وأمان وبما يتوافق مع القوانين واللوائح.
ما علاقة حوكمة الذكاء الاصطناعي بالحوكمة والمخاطر والامتثال (GRC)؟
تُوسّع حوكمة الذكاء الاصطناعي نطاق الحوكمة والمخاطر والامتثال التقليدية، إذ تضيف إلى هياكل GRC القائمة إشراف مجلس الإدارة على الذكاء الاصطناعي، وإدارة المخاطر الخاصة به، والامتثال للوائح الجديدة المنظمة له.
هل ينطبق قانون الاتحاد الأوروبي للذكاء الاصطناعي على الشركات في دولة الإمارات العربية المتحدة؟
نعم، إذا طُرحت أنظمة الذكاء الاصطناعي الخاصة بها في سوق الاتحاد الأوروبي أو أثّرت مخرجاتها في أشخاص داخل الاتحاد الأوروبي. وينبغي للشركات الخليجية التي لديها عملاء أو موظفون أو شركاء أوروبيون تقييم مدى انكشافها لهذه المتطلبات.
ما هو معيار ISO/IEC 42001؟
يُعد ISO/IEC 42001 أول معيار دولي قابل للاعتماد لنظام إدارة الذكاء الاصطناعي. ويساعد المؤسسات على إدارة مخاطر الذكاء الاصطناعي وإثبات التزامها بممارساته المسؤولة أمام العملاء والجهات التنظيمية.
ما أكبر مخاطر الذكاء الاصطناعي التي تواجه المؤسسات؟
تتمثل المخاطر الرئيسية في القرارات المتحيزة، والمخرجات غير الدقيقة، وتسريب البيانات، وتهديدات الأمن السيبراني، ومخاطر المورّدين، ووكلاء الذكاء الاصطناعي المستقلين غير الخاضعين للرقابة، واستخدام الموظفين غير المعتمد لما يُعرف بـ«الذكاء الاصطناعي الخفي».
من المسؤول عن حوكمة الذكاء الاصطناعي في المؤسسة؟
يتولى مجلس الإدارة المسؤولية النهائية عن الإشراف، بينما تتقاسم الإدارة العليا وإدارات المخاطر والامتثال وتقنية المعلومات والتدقيق الداخلي ومالكو الأعمال المسؤولية اليومية. وتُعيّن مؤسسات كثيرة لجنة لحوكمة الذكاء الاصطناعي.
من ينبغي له حضور الدورات التدريبية في الحوكمة والمخاطر والامتثال (GRC)؟
مسؤولو الامتثال، ومديرو المخاطر، والمدققون الداخليون، وأعضاء مجالس الإدارة، وأمناء الشركات، وكبار المديرين المسؤولين عن الحوكمة أو الضوابط أو التقارير التنظيمية.
