حوكمة الذكاء الاصطناعي: الآفاق الجديدة للحوكمة والمخاطر والامتثال

مدة القراءة: 1 دقيقة
حوكمة الذكاء الاصطناعي: الآفاق الجديدة للحوكمة والمخاطر والامتثال

مقدمة: أصبح الذكاء الاصطناعي قضية حوكمة

لم يعد الذكاء الاصطناعي مشروعًا جانبيًا يديره قسم تقنية المعلومات. فأدوات الذكاء الاصطناعي تفرز الآن المتقدمين للوظائف، وتوافق على الائتمان، وتُعِدّ مسودات التقارير المالية، وتتصرف بصورة متزايدة من تلقاء نفسها بوصفها وكلاء ذكاء اصطناعي. وينشأ عن كل استخدام من هذه الاستخدامات مخاطر جديدة، بدءًا من القرارات المتحيزة وتسرب البيانات وصولًا إلى الغرامات التنظيمية والإضرار بالسمعة.

ولهذا السبب حوكمة الذكاء الاصطناعي أصبحت أسرع مجالات الحوكمة والمخاطر والامتثال (GRC) نموًا. وتتوقع مجالس الإدارة والجهات التنظيمية والمستثمرون الآن من المؤسسات ألا تُثبت استخدامها للذكاء الاصطناعي فحسب، بل أن تُثبت أيضًا أنها تسيطر عليه.

ومع ذلك، فإن معظم المؤسسات غير مستعدة. وقد وجد استطلاع ديلويت مؤشرات المديرين الماليين أن 59% من المديرين الماليين يرون أن الموازنة بين سرعة تبني الذكاء الاصطناعي ومخاطره هي أبرز تحديات الحوكمة التي تواجههم. ويوضح هذا الدليل معنى حوكمة الذكاء الاصطناعي، واللوائح الدافعة لها، والمخاطر التي يجب على فرق الحوكمة والمخاطر والامتثال إدارتها، والمهارات اللازمة لتولي زمام القيادة.

ما حوكمة الذكاء الاصطناعي؟

حوكمة الذكاء الاصطناعي هي مجموعة السياسات والأدوار والعمليات والضوابط التي تضمن تطوير المؤسسة للذكاء الاصطناعي واستخدامه بمسؤولية وأمان وبما يتوافق مع القانون. وهي تندرج بصورة طبيعية ضمن الركائز الثلاث للحوكمة والمخاطر والامتثال:

ركيزة الحوكمة والمخاطر والامتثال

ما تعنيه للذكاء الاصطناعي

الحوكمة

إشراف مجلس الإدارة، واستراتيجية الذكاء الاصطناعي، والملكية الواضحة والمساءلة عن كل نظام ذكاء اصطناعي

إدارة المخاطر

تحديد مخاطر الذكاء الاصطناعي وتقييمها ومراقبتها، مثل التحيز والأخطاء والأمن والتعرض لمخاطر الأطراف الثالثة

الامتثال

الامتثال لقوانين الذكاء الاصطناعي، وقواعد حماية البيانات، واللوائح القطاعية، والسياسات الداخلية

عمليًا، تجيب حوكمة الذكاء الاصطناعي عن أسئلة بسيطة لكنها بالغة الأهمية. ما أنظمة الذكاء الاصطناعي التي نستخدمها؟ من المسؤول عنها؟ ما الذي قد يحدث على نحو خاطئ؟ من يراجع المخرجات؟ وهل يمكننا إثبات كل ذلك لجهة تنظيمية أو مدقق حسابات؟

تتمتع المؤسسات ذات وظائف الحوكمة والمخاطر والامتثال الناضجة بأفضلية، لأن حوكمة الذكاء الاصطناعي تستند إلى الممارسات ذاتها: سجلات المخاطر، والضوابط الداخلية، والسياسات، والتدقيق، وإعداد التقارير.

الموجة التنظيمية: أطر يجب على كل فريق للحوكمة والمخاطر والامتثال معرفتها

ينتقل تنظيم الذكاء الاصطناعي من المبادئ إلى قواعد قابلة للإنفاذ. وتحدد أربعة أطر الآن كيفية حوكمة المؤسسات للذكاء الاصطناعي في جميع أنحاء العالم.

قانون الاتحاد الأوروبي للذكاء الاصطناعي

الـ قانون الاتحاد الأوروبي للذكاء الاصطناعي هو أول قانون شامل للذكاء الاصطناعي في العالم. ويصنّف أنظمة الذكاء الاصطناعي حسب مستوى المخاطر، بدءًا من الممارسات المحظورة وصولًا إلى الاستخدامات عالية المخاطر مثل التوظيف والتقييم الائتماني والبنية التحتية الحيوية. وقد بدأ تطبيق الحظر المفروض على الذكاء الاصطناعي ذي المخاطر غير المقبولة وواجبات الإلمام بالذكاء الاصطناعي منذ فبراير 2025. ومن خلال تعديلات الحزمة الرقمية الشاملة، أصبحت الالتزامات المتعلقة بالأنظمة المستقلة عالية المخاطر سارية اعتبارًا من 2 ديسمبر 2027، بينما لم تؤجَّل قواعد الشفافية الخاصة بروبوتات الدردشة والمحتوى المُنشأ بالذكاء الاصطناعي. وينطبق القانون على أي مؤسسة يؤثر ذكاؤها الاصطناعي في الأشخاص داخل الاتحاد الأوروبي، بما في ذلك الشركات التي تتخذ من منطقة الخليج مقرًا لها.

ISO/IEC 42001

ISO/IEC 42001 هو أول معيار دولي قابل للاعتماد لنظام إدارة الذكاء الاصطناعي. ويتبع الهيكل نفسه المعتمد في ISO 27001 وISO 9001، ما يسهّل دمجه مع أنظمة الإدارة الحالية. وسرعان ما أصبحت الشهادة وسيلة لإثبات الاستخدام المسؤول للذكاء الاصطناعي أمام العملاء والجهات التنظيمية.

إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي

الولايات المتحدة NIST AI RMF يوفّر هيكلًا طوعيًا وعمليًا قائمًا على أربع وظائف: الحوكمة، وتحديد السياق، والقياس، والإدارة. وتستخدمه فرق مخاطر عديدة بوصفه دليل عملها التطبيقي.

مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي ونهج دولة الإمارات العربية المتحدة

إن مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي وضع خط الأساس العالمي للذكاء الاصطناعي الجدير بالثقة، وقد اعتمدته عشرات الدول. واستندت دولة الإمارات العربية المتحدة إلى هذا الأساس من خلال استراتيجيتها الوطنية للذكاء الاصطناعي وميثاقها لتطوير الذكاء الاصطناعي واستخدامه، كما تعمل على نشر الذكاء الاصطناعي بسرعة في مختلف الجهات الحكومية، مما يرفع معايير الحوكمة في القطاع الخاص أيضاً.

أبرز مخاطر الذكاء الاصطناعي التي يجب على فرق الحوكمة والمخاطر والامتثال إدارتها

يُدخل الذكاء الاصطناعي مخاطر لم تُصمَّم الضوابط التقليدية للتعامل معها. ومن أبرزها:

  • التحيز والتمييز. قد تتعامل النماذج المدرَّبة على البيانات التاريخية مع المرشحين أو العملاء أو الموظفين بصورة غير عادلة.
  • المخرجات غير الدقيقة. قد يقدم الذكاء الاصطناعي إجابات تبدو واثقة لكنها خاطئة، وهو أمر ينطوي على مخاطر في إعداد التقارير المالية أو الأعمال القانونية أو تحليل المخاطر.
  • خصوصية البيانات وتسريبها. قد يُدخل الموظفون بيانات سرية في أدوات الذكاء الاصطناعي العامة دون إدراك ذلك.
  • تهديدات الأمن السيبراني. يمكن التلاعب بأنظمة الذكاء الاصطناعي من خلال حقن الأوامر، أو البيانات المسمومة، أو الاحتيال المدعوم بالتزييف العميق.
  • مخاطر الأطراف الثالثة والمورّدين. تأتي العديد من قدرات الذكاء الاصطناعي من مزودين خارجيين يصعب تدقيق نماذجهم وممارساتهم المتعلقة بالبيانات.
  • مخاطر اتخاذ القرارات ذاتيًا. يمكن لوكلاء الذكاء الاصطناعي الذين يتصرفون دون موافقة بشرية ارتكاب أخطاء مكلفة على نطاق واسع.
  • «الذكاء الاصطناعي الخفي». استخدام الموظفين أدوات ذكاء اصطناعي غير معتمدة خارج نطاق أي سياسات أو رقابة.

ينبغي إدراج كل من هذه المخاطر في سجل مخاطر المؤسسة، مع تحديد مسؤول واضح عنها، وضوابط وآليات للمراقبة، شأنها شأن أي مخاطر جوهرية أخرى.

بناء إطار لحوكمة الذكاء الاصطناعي: خطوات عملية

لا تحتاج إلى البدء من الصفر. يمكن لمعظم المؤسسات بناء حوكمة فعالة للذكاء الاصطناعي من خلال توسيع هياكل الحوكمة والمخاطر والامتثال القائمة لديها:

  1. أنشئ قائمة جرد لأنظمة الذكاء الاصطناعي. أدرج جميع أنظمة الذكاء الاصطناعي المستخدمة، بما في ذلك الأدوات المدمجة في برمجيات المورّدين، وحدد الجهة المسؤولة عن كل منها.
  2. صنّف حسب المخاطر. رتّب الأنظمة حسب تأثيرها في الأشخاص والشؤون المالية والامتثال، باستخدام نهج قائم على المخاطر مماثل لقانون الذكاء الاصطناعي للاتحاد الأوروبي.
  3. حدّد المساءلة بوضوح. حدّد أدوار مجلس الإدارة والإدارة العليا وإدارات المخاطر والامتثال وتقنية المعلومات وأصحاب الأعمال. وتُشكّل العديد من المؤسسات الآن لجنة لحوكمة الذكاء الاصطناعي.
  4. ضع سياسة للذكاء الاصطناعي. ضع قواعد للاستخدام المقبول والتعامل مع البيانات والإشراف البشري واعتماد أدوات الذكاء الاصطناعي الجديدة.
  5. ادمج الذكاء الاصطناعي في إدارة مخاطر المؤسسة. أضف مخاطر الذكاء الاصطناعي إلى سجل المخاطر، وحدّد مستوى تقبّل المخاطر، وضع مؤشرات رئيسية للمخاطر.
  6. أنشئ ضوابط وآليات للإشراف البشري. اشترط المراجعة البشرية للقرارات ذات التأثير الكبير، واحتفظ بسجلات تدقيق لمخرجات الذكاء الاصطناعي.
  7. اختبر وراقب ودقّق. تحقّق بانتظام من دقة النماذج وتحيّزها وانحرافها، وأدرج الذكاء الاصطناعي ضمن خطط التدقيق الداخلي.
  8. درّب موظفيك. لا تنجح الحوكمة إلا عندما يفهم الموظفون الذكاء الاصطناعي ومسؤولياتهم على حد سواء.

إن مواءمة هذه الخطوات مع ISO/IEC 42001 أو إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF) الصادر عن NIST تمنح إطار عملك مصداقية دولية.

المهارات التي يحتاج إليها متخصصو الحوكمة والمخاطر والامتثال الآن

تُنشئ حوكمة الذكاء الاصطناعي طلبًا جديدًا على متخصصي الحوكمة والمخاطر والامتثال القادرين على الربط بين التكنولوجيا والمخاطر واللوائح التنظيمية. وتشمل القدرات الأكثر قيمة ما يلي:

  • الإلمام بالذكاء الاصطناعي: فهم كيفية عمل نماذج الذكاء الاصطناعي ومواطن إخفاقها، من دون الحاجة إلى كتابة التعليمات البرمجية.
  • المعرفة التنظيمية: تفسير قانون الاتحاد الأوروبي للذكاء الاصطناعي، وقوانين حماية البيانات، والقواعد القطاعية.
  • تقييم المخاطر: تطبيق أساليب إدارة مخاطر المؤسسات على أنظمة الذكاء الاصطناعي.
  • تصميم الضوابط والتدقيق: إنشاء ضوابط الذكاء الاصطناعي واختبارها، بما في ذلك الإشراف البشري.
  • إعداد التقارير لمجلس الإدارة: شرح مخاطر الذكاء الاصطناعي بوضوح لأعضاء مجالس الإدارة والتنفيذيين.
  • الأخلاقيات وحسن التقدير: الموازنة بين الابتكار والإنصاف والشفافية والمساءلة.

بالنسبة لمسؤولي الامتثال ومديري المخاطر والمدققين الداخليين وأمناء الشركات، سرعان ما أصبحت هذه المهارات ضرورية وليست اختيارية.

تقدم 360 Leaders Training مجموعة متكاملة من الدورات التدريبية في حوكمة الشركات والمخاطر والامتثال (GRC) للمهنيين الراغبين في تولي أدوار قيادية في هذا المجال. تغطي البرامج حوكمة الشركات وإدارة مخاطر المؤسسات والامتثال والتدقيق الداخلي والمخاطر الناشئة مثل الذكاء الاصطناعي، وتُقدَّم في دبي ومواقع دولية أخرى.

هل أنتم مستعدون لتعزيز حوكمة مؤسستكم؟ استكشفوا دوراتنا التدريبية في الحوكمة والمخاطر والامتثال (GRC) وطوّروا المهارات اللازمة لإدارة مخاطر الغد اليوم.

الأسئلة الشائعة

ما حوكمة الذكاء الاصطناعي؟

حوكمة الذكاء الاصطناعي هي إطار السياسات والأدوار والعمليات والضوابط الذي يضمن تطوير الذكاء الاصطناعي واستخدامه بمسؤولية وأمان وبما يتوافق مع القوانين واللوائح.

ما علاقة حوكمة الذكاء الاصطناعي بالحوكمة والمخاطر والامتثال (GRC)؟

تُوسّع حوكمة الذكاء الاصطناعي نطاق الحوكمة والمخاطر والامتثال التقليدية، إذ تضيف إشراف مجلس الإدارة على الذكاء الاصطناعي، وإدارة المخاطر الخاصة به، والامتثال للوائح الجديدة المنظمة له إلى هياكل الحوكمة والمخاطر والامتثال القائمة.

هل يسري قانون الاتحاد الأوروبي للذكاء الاصطناعي على الشركات في دولة الإمارات العربية المتحدة؟

نعم، إذا طُرحت أنظمة الذكاء الاصطناعي الخاصة بها في سوق الاتحاد الأوروبي أو أثّرت مخرجاتها في أشخاص داخل الاتحاد الأوروبي. وينبغي لشركات الخليج التي لديها عملاء أو موظفون أو شركاء أوروبيون تقييم مدى انكشافها لهذه المتطلبات.

ما معيار ISO/IEC 42001؟

ISO/IEC 42001 هو أول معيار دولي قابل للاعتماد لنظام إدارة الذكاء الاصطناعي. ويساعد المؤسسات على إدارة مخاطر الذكاء الاصطناعي وإثبات تبنيها ممارسات مسؤولة في هذا المجال أمام العملاء والجهات التنظيمية.

ما أكبر مخاطر الذكاء الاصطناعي التي تواجه المؤسسات؟

تتمثل المخاطر الرئيسية في القرارات المتحيزة، والمخرجات غير الدقيقة، وتسريب البيانات، وتهديدات الأمن السيبراني، ومخاطر المورّدين، ووكلاء الذكاء الاصطناعي المستقلين غير الخاضعين للرقابة، واستخدام الموظفين غير المعتمد لما يُعرف بـ«الذكاء الاصطناعي الخفي».

من المسؤول عن حوكمة الذكاء الاصطناعي في المؤسسة؟

يتولى مجلس الإدارة مسؤولية الإشراف النهائي، بينما تتشارك الإدارة العليا وفرق المخاطر والامتثال وتقنية المعلومات والتدقيق الداخلي وأصحاب الأعمال المسؤولية اليومية. وتُعيّن مؤسسات كثيرة لجنة لحوكمة الذكاء الاصطناعي.

من ينبغي له حضور الدورات التدريبية في الحوكمة والمخاطر والامتثال (GRC)؟

مسؤولو الامتثال، ومديرو المخاطر، والمدققون الداخليون، وأعضاء مجالس الإدارة، وأمناء الشركات، وكبار المديرين المسؤولين عن الحوكمة أو الضوابط أو التقارير التنظيمية.

المراجع وقراءات إضافية