تصنيف أنظمة الذكاء الاصطناعي في المؤسسة حسب مستويات المخاطر الواردة في قانون الاتحاد الأوروبي للذكاء الاصطناعي، وتحديد الالتزامات المترتبة على كل دور.
التحول الرقمي والذكاء الاصطناعي
أخلاقيات الذكاء الاصطناعي والامتثال التشريعي (AI Ethics)
يتعلم المشارك تحويل مبادئ أخلاقيات الذكاء الاصطناعي إلى ضوابط قابلة للتحقق: تصنيف الأنظمة وفق القانون الأوروبي، وقياس التحيز، وتصميم التفسير والإشراف البشري، وإعداد تقييم الأثر وملف الامتثال.
🗓️المدة5 أيام تدريبية
📚المحتوى5 محاور · 10 جلسات
🎓بعد البرنامجشهادة حضور معتمدة
لمحة عن الدورة
لم تعد أخلاقيات الذكاء الاصطناعي (AI Ethics) نقاشاً نظرياً على هامش المشاريع التقنية؛ فنموذج يفرز طلبات التوظيف أو يقدّر الجدارة الائتمانية قد يرسّخ تمييزاً غير مقصود، ويعرّض المؤسسة لمساءلة قانونية وضرر في السمعة. ومع دخول قانون الاتحاد الأوروبي للذكاء الاصطناعي حيز التطبيق على مراحل، وصدور مواصفة ISO/IEC 42001:2023 وإطار NIST لإدارة مخاطر الذكاء الاصطناعي، أصبح الامتثال التشريعي متطلباً يطال كل مؤسسة تطور أنظمة ذكية أو تشتريها أو تستخدمها في أسواق متعددة. تربط الدورة المبادئ بأدوات التطبيق: تصنيف الأنظمة حسب مستوى المخاطر، وقياس التحيز، وتصميم التفسير والإشراف البشري، وتقييم الأثر، والتوثيق الجاهز للتدقيق، والاستجابة للحوادث. وتُدرَّس المحاور عبر تمارين تصنيف لأنظمة شائعة، وتدقيق تحيز على نموذج تدريبي، ومحاكاة لجنة أخلاقيات تناقش قرار إطلاق. ويغادر المشارك ومعه تقييم أثر مكتمل لنظام من اختياره وخطة امتثال قابلة للتنفيذ.
الأهداف المتوقعة من الدورة
قياس التحيز في نماذج القرار بمقاييس العدالة المناسبة، واختيار أساليب الحد منه مع توثيق المفاضلات المقبولة ومبرراتها.
تصميم ضوابط الشفافية والتفسير والإشراف البشري بما يمكّن المتأثرين من فهم القرارات الآلية والاعتراض عليها.
بناء منظومة حوكمة للامتثال تشمل تقييم الأثر وسجل الأنظمة والتوثيق الجاهز للتدقيق وإجراءات الإبلاغ عن الحوادث.
المستهدفون
المستشارون القانونيون ومسؤولو الامتثال الذين يقيّمون أنظمة الذكاء الاصطناعي في ضوء التشريعات الجديدة ومتطلبات الجهات التنظيمية.
قادة فرق علوم البيانات والمنتجات الذكية المطالبون بإثبات عدالة أنظمتهم وقابليتها للتفسير قبل إطلاقها.
مديرو المخاطر والتدقيق الداخلي المكلفون بإدراج مخاطر الذكاء الاصطناعي في سجل المخاطر المؤسسي وخطط التدقيق.
أعضاء لجان الأخلاقيات والحوكمة ومسؤولو المشتريات الذين يقرّون حلول الذكاء الاصطناعي المقدمة من مزوّدين خارجيين.
المحاور العلمية
اضغط على أي محور لاستعراض جلساته وبنوده.
01المحور الأول: من مبادئ أخلاقيات الذكاء الاصطناعي إلى متطلبات قابلة للتحقق
2 جلسات · 6 نقاط
1الجلسة الأولى: المبادئ الدولية والوطنية ومواضع التعارض بينها
- مقارنة مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي وتوصية اليونسكو بشأن أخلاقياته مع الأطر الوطنية الصادرة في دول المنطقة.
- تحويل المبادئ العامة كالعدالة والشفافية والمساءلة إلى متطلبات تشغيلية يمكن اختبارها وتوثيقها في مشروع بعينه.
- تحليل التعارض بين المبادئ، كالدقة مقابل قابلية التفسير، أو حماية الخصوصية مقابل الحاجة إلى بيانات الفئات المحمية لقياس التحيز.
2الجلسة الثانية: خريطة الأضرار المحتملة للأنظمة الذكية
- تصنيف الأضرار: التمييز في القرارات، والتلاعب بالسلوك، والمساس بالخصوصية، ونشر المعلومات المضللة، والآثار الاجتماعية والبيئية الأوسع.
- تحديد أصحاب المصلحة المتأثرين بالنظام، ومنهم من لا يستخدمه مباشرة، وتقدير مدى هشاشة كل فئة أمام أخطائه.
- تمرين تحليل ما قبل الفشل (Pre-mortem) لنظام قرار آلي: افتراض إخفاقه أخلاقياً بعد عام من إطلاقه وتتبع الأسباب إلى قرارات التصميم الحالية.
02المحور الثاني: الامتثال التشريعي لقانون الذكاء الاصطناعي الأوروبي والأطر المقارنة
2 جلسات · 6 نقاط
1الجلسة الأولى: منطق التصنيف حسب المخاطر وأدوار الجهات في سلسلة القيمة
- بنية اللائحة (EU) 2024/1689: الممارسات المحظورة، والأنظمة عالية المخاطر، والتزامات الشفافية، ونماذج الذكاء الاصطناعي العامة الغرض.
- تحديد دور المؤسسة بوصفها مزوّداً أو ناشراً أو مستورداً أو موزعاً، وما يترتب على كل دور، بما في ذلك سريان القانون على جهات خارج الاتحاد.
- تمرين تصنيف أنظمة شائعة كفرز السير الذاتية وتقدير الجدارة الائتمانية وروبوتات المحادثة ضمن فئات المخاطر مع تبرير كل قرار.
2الجلسة الثانية: التزامات الأنظمة عالية المخاطر والمواصفات المساندة
- متطلبات إدارة المخاطر وحوكمة البيانات والتوثيق الفني وحفظ السجلات والإشراف البشري والدقة والمتانة في الأنظمة عالية المخاطر.
- تقييم الأثر على الحقوق الأساسية (FRIA) الواجب على فئات من الناشرين، ومتطلبات الرقابة بعد الطرح والإبلاغ عن الحوادث الجسيمة.
- الربط بين متطلبات القانون ونظام إدارة الذكاء الاصطناعي ISO/IEC 42001:2023 وإرشادات إدارة المخاطر ISO/IEC 23894:2023 لتفادي ازدواجية الجهد.
03المحور الثالث: العدالة وقابلية التفسير والإشراف البشري في تصميم الأنظمة
2 جلسات · 6 نقاط
1الجلسة الأولى: قياس التحيز الخوارزمي والحد منه
- مقاييس العدالة الإحصائية كالتكافؤ الديموغرافي وتكافؤ الفرص وتساوي معدلات الخطأ، وسبب تعذر تحقيقها جميعاً في آن واحد.
- أساليب الحد من التحيز قبل التدريب وأثناءه وبعده، ومتى يكون تعديل العملية أو البيانات أجدى من تعديل النموذج نفسه.
- تدقيق تحيز عملي على نموذج تصنيف تدريبي، وكتابة تقرير نتائج يوضح المفاضلات التي قُبلت ومبررات قبولها.
2الجلسة الثانية: التفسير والإفصاح وتصميم الرقابة البشرية الفعلية
- اختيار مستوى التفسير الملائم للجمهور: تفسيرات عامة للجهة التنظيمية، وتفسيرات مضادة للواقع (Counterfactual) للشخص المتأثر بالقرار.
- تصميم الإشراف البشري بحيث يملك المراجع صلاحية التجاوز والوقت والمعلومة الكافية، مع معالجة انحياز الأتمتة (Automation Bias).
- الإفصاح للمستخدمين عند تفاعلهم مع نظام ذكي، ووسم المحتوى المولَّد أو المعدَّل آلياً كالصور والمقاطع المزيفة بالتزييف العميق.
04المحور الرابع: تقييم أثر الأنظمة الذكية وتوثيقها وإدارة حوادثها
2 جلسات · 6 نقاط
1الجلسة الأولى: تقييم الأثر الأخلاقي والتشريعي قبل الإطلاق
- بناء نموذج تقييم أثر يجمع أسئلة الغرض والبيانات والفئات المتأثرة والمخاطر والضوابط، وينتهي بقرار موثق بالمضي أو التعديل أو الإيقاف.
- تطبيق وظائف إطار NIST لإدارة مخاطر الذكاء الاصطناعي: الحوكمة (Govern) ورسم السياق (Map) والقياس (Measure) والإدارة (Manage)، مع ملف الذكاء الاصطناعي التوليدي المكمل له.
- اختبارات الفريق الأحمر (Red Teaming) لكشف المخرجات الضارة وأساليب إساءة الاستخدام قبل إتاحة النظام للجمهور.
2الجلسة الثانية: ملف الامتثال والتدقيق وقنوات التظلم
- إعداد ملف امتثال لكل نظام يضم التوثيق الفني وسجل القرارات ونتائج الاختبارات بصيغة جاهزة للتدقيق الداخلي أو الخارجي.
- تصميم إجراء للإبلاغ عن حوادث الذكاء الاصطناعي والتحقيق فيها، وقنوات تظلم تتيح للمتأثرين طلب المراجعة والتصحيح.
- العناية الواجبة تجاه مزوّدي الأنظمة الذكية: بنود تعاقدية حول بيانات التدريب ونتائج الاختبار والتحديثات وتوزيع المسؤولية القانونية.
05المحور الخامس: حوكمة الامتثال وأخلاقيات الذكاء الاصطناعي داخل المؤسسة
2 جلسات · 6 نقاط
1الجلسة الأولى: لجنة الأخلاقيات ومصفوفة المساءلة وسجل الأنظمة
- تأسيس لجنة لأخلاقيات الذكاء الاصطناعي: تركيبتها متعددة التخصصات، وصلاحياتها، وحدود تدخلها في قرارات فرق المنتجات.
- توزيع المسؤوليات بين الشؤون القانونية وإدارة المخاطر وفرق البيانات ومالكي المنتجات في مصفوفة مساءلة لكل مرحلة من دورة حياة النظام.
- بناء سجل مؤسسي لأنظمة الذكاء الاصطناعي يصنفها حسب المخاطر ويحدد مواعيد مراجعتها والمتطلبات التشريعية المنطبقة على كل منها.
2الجلسة الثانية: الإلمام بالذكاء الاصطناعي واستدامة الامتثال
- تخطيط برامج الإلمام بالذكاء الاصطناعي (AI Literacy) للموظفين المعنيين، تلبيةً لالتزام صريح في القانون الأوروبي وتوقعات الجهات التنظيمية الأخرى.
- رصد التطورات التشريعية والتنظيمية في الأسواق التي تعمل فيها المؤسسة، وتحديث السياسات والضوابط عبر آلية مراجعة دورية.
- مشروع ختامي: تقييم أثر كامل لنظام ذكاء اصطناعي يختاره المشارك يتضمن التصنيف التشريعي والضوابط وخطة الإشراف البشري.
ما يحصل عليه المشارك
5 محاور علمية
مخطّط علميّ متدرّج
10 جلسة تدريبية
موزَّعة على 5 أيام
30 بنداً تفصيلياً
محتوى تطبيقي مفصَّل
شهادة حضور معتمدة
بعد إتمام البرنامج
أكمل بيانات التسجيل
سنتواصل معك خلال يوم عمل لتأكيد الحجز.
جاهز للبدء؟
احجز مقعدك في البرنامج وابدأ رحلة تطوير مهاراتك.