التحول الرقمي والذكاء الاصطناعي

الأمن السيبراني في أنظمة الذكاء الاصطناعي والبيئات السحابية: من نمذجة التهديدات إلى الاستجابة للحوادث

يصبح المشارك قادراً على كشف التهديدات الخاصة بالنماذج وتطبيقاتها المستضافة سحابياً، وتصميم ضوابط الهوية والتشفير وحماية خطوط التدريب والتشغيل، والتعامل مع حوادث حقن التعليمات وتسرب البيانات وفق دليل استجابة موثق.

المدة5 أيام تدريبية
المحتوى5 محاور · 10 جلسات
بعد البرنامجشهادة حضور معتمدة

لمحة عن الدورة

كل نموذج ذكاء اصطناعي يُنشر في السحابة يضيف سطح هجوم لا تغطيه الضوابط التقليدية وحدها: تعليمات خبيثة مدسوسة في مستند يقرؤه النموذج، أو بيانات تدريب مسمومة، أو مفتاح وصول مكشوف يفتح مخزن البيانات بأكمله. تجمع هذه الدورة الأمن السيبراني في أنظمة الذكاء الاصطناعي والبيئات السحابية في مسار واحد يبدأ بنمذجة التهديدات لتطبيق استرجاع معزز، ثم ينتقل إلى تأمين الهوية والتشفير والإعدادات السحابية، وحماية دورة حياة النماذج وسلسلة توريدها، وضوابط تشغيل النماذج اللغوية والوكلاء الذكيين، ويُختتم بالرصد والاستجابة للحوادث والحوكمة. يتعلم المشاركون من خلال مخططات تدفق البيانات، ومراجعة إعدادات سحابية معيبة، وتمارين الفريق الأحمر، ومحاكاة حادثة اختراق. وتنتهي الدورة بسجل مخاطر وقائمة ضوابط ودليل استجابة يعدّه كل مشارك لمؤسسته.

الأهداف المتوقعة من الدورة

01

نمذجة التهديدات لتطبيق ذكاء اصطناعي مستضاف سحابياً بتصنيف هجمات حقن التعليمات وتسميم البيانات واستخراج النماذج وتسرب المعلومات، وربط كل منها بضوابط مضادة.

02

تصميم ضوابط الهوية والصلاحيات والتشفير وعزل الشبكات لأحمال عمل الذكاء الاصطناعي وفق نموذج المسؤولية المشتركة ومبادئ الثقة المعدومة.

03

بناء قائمة تحقق لتأمين خطوط تدريب النماذج ونشرها تشمل مصدر البيانات وسلامة ملفات النماذج وإدارة الأسرار وسجلات التدقيق.

04

إعداد دليل استجابة لحوادث أنظمة الذكاء الاصطناعي السحابية يحدد مؤشرات الاكتشاف وخطوات الاحتواء والأدلة الرقمية الواجب حفظها.

المستهدفون

01

مهندسو أمن المعلومات وأمن السحابة المسؤولون عن حماية منصات البيانات والنماذج.

02

مهندسو تعلم الآلة وفرق عمليات النماذج (MLOps) الذين ينشرون النماذج اللغوية وتطبيقات الاسترجاع المعزز.

03

محللو مراكز العمليات الأمنية وفرق الاستجابة للحوادث الذين يواجهون أنماط هجوم جديدة على التطبيقات الذكية.

04

مديرو المخاطر والتدقيق التقني ومسؤولو الامتثال المعنيون بتقييم مزودي الذكاء الاصطناعي والخدمات السحابية.

المحاور العلمية

اضغط على أي محور لاستعراض جلساته وبنوده.

01

المحور الأول: نمذجة التهديدات في أنظمة الذكاء الاصطناعي والبيئات السحابية

2 جلسات · 6 نقاط

1الجلسة الأولى: سطح الهجوم الخاص بتطبيقات الذكاء الاصطناعي

  • تصنيف هجمات تعلم الآلة العدائي: التهرب بمدخلات معدلة، وتسميم بيانات التدريب، واستخراج النموذج، واستدلال العضوية على سجلات التدريب.
  • تحليل مخاطر تطبيقات النماذج اللغوية وفق قائمة OWASP لأهم مخاطرها، ومنها حقن التعليمات والإفصاح عن المعلومات الحساسة والصلاحيات المفرطة للوكلاء.
  • الاستعانة بقاعدة معارف MITRE ATLAS لربط أساليب المهاجمين بمراحل دورة حياة النموذج وتحديد نقاط الكشف.

2الجلسة الثانية: تطبيق منهجي لنمذجة التهديدات

  • رسم مخطط تدفق البيانات لتطبيق استرجاع معزز بالتوليد (RAG) يحدد حدود الثقة بين المستخدم والنموذج ومخزن المتجهات والأدوات المتصلة.
  • تطبيق منهجية STRIDE على مكونات التطبيق وترتيب التهديدات الناتجة بحسب احتمال وقوعها وشدة أثرها.
  • تحويل مخرجات النمذجة إلى سجل مخاطر يحدد الضابط المقترح ومالك الخطر وموعد التحقق من التنفيذ.
02

المحور الثاني: تأمين البنية السحابية الحاضنة لأحمال الذكاء الاصطناعي

2 جلسات · 6 نقاط

1الجلسة الأولى: الهوية والصلاحيات والمسؤولية المشتركة

  • توزيع مسؤوليات الأمن بين مزود السحابة والمؤسسة في نماذج البنية كخدمة والمنصة كخدمة والنماذج المقدمة عبر واجهات برمجية.
  • تصميم صلاحيات بأقل امتياز للمستخدمين وهويات أحمال العمل، واستبدال مفاتيح الوصول الدائمة ببيانات اعتماد مؤقتة قابلة للتدقيق.
  • تطبيق مبادئ بنية الثقة المعدومة الواردة في NIST SP 800-207 على الوصول إلى دفاتر التطوير ومجموعات المعالجات الرسومية.

2الجلسة الثانية: حماية البيانات وكشف الإعدادات الخاطئة

  • تشفير بيانات التدريب ومخازن المتجهات أثناء التخزين والنقل، وإدارة مفاتيح التشفير بخيارات يتحكم بها العميل.
  • استخدام أدوات إدارة الوضع الأمني السحابي (CSPM) لرصد حاويات التخزين المكشوفة والمنافذ العامة وسياسات الوصول المتساهلة.
  • فحص قوالب البنية كشيفرة (IaC) وصور الحاويات قبل النشر لمنع وصول الثغرات والإعدادات الخاطئة إلى الإنتاج.
03

المحور الثالث: أمن دورة حياة النماذج وسلسلة توريد الذكاء الاصطناعي

2 جلسات · 6 نقاط

1الجلسة الأولى: تأمين البيانات وخطوط التدريب

  • توثيق مصدر بيانات التدريب وسلسلة حيازتها، وكشف السجلات الشاذة التي قد تدل على محاولة تسميم متعمدة.
  • عزل بيئات التدريب وإدارة الأسرار ومنع تضمين المفاتيح وكلمات المرور في الشيفرة ودفاتر التجارب.
  • توقيع النماذج في سجل النماذج والتحقق من سلامتها قبل النشر، وفحص ملفات النماذج الخارجية بحثاً عن شيفرات تنفيذية مدسوسة.

2الجلسة الثانية: مكونات الطرف الثالث وتقييم المزودين

  • إعداد قائمة مكونات للذكاء الاصطناعي تحصر النماذج الأساسية والمكتبات ومجموعات البيانات ونسخها وتراخيصها.
  • تقييم مزودي النماذج والخدمات السحابية باستبيان يغطي الاحتفاظ بالبيانات واستخدامها في التدريب وموقع معالجتها.
  • مواءمة ضوابط الأمن السحابي مع المعيار ISO/IEC 27017 وحماية البيانات الشخصية في السحابة العامة مع ISO/IEC 27018.
04

المحور الرابع: حماية تطبيقات النماذج اللغوية والوكلاء الذكيين أثناء التشغيل

2 جلسات · 6 نقاط

1الجلسة الأولى: ضوابط المدخلات والمخرجات والصلاحيات

  • بناء طبقات حماية للمدخلات والمخرجات تكشف محاولات تجاوز القيود وتمنع ظهور البيانات الحساسة في الردود.
  • فرض صلاحيات المستخدم على مستوى المستند في أنظمة الاسترجاع المعزز كي لا يعرض النموذج محتوى لا يحق للسائل الاطلاع عليه.
  • تقييد أدوات الوكلاء الذكيين بقوائم سماح وموافقات بشرية للإجراءات عالية الأثر، ومعاملة كل محتوى خارجي على أنه غير موثوق.

2الجلسة الثانية: الاختبار الهجومي وقياس المتانة

  • تخطيط تمرين فريق أحمر لتطبيق ذكي يختبر حقن التعليمات غير المباشر عبر المستندات المرفوعة وصفحات الويب.
  • قياس متانة نموذج تصنيف أمام الأمثلة العدائية واختيار أساليب التحصين مثل التدريب العدائي وتنقية المدخلات.
  • ضبط حدود الاستخدام ومعدلات الطلب لمنع استخراج النموذج بالاستعلامات المكثفة واستنزاف تكاليف الاستدلال.
05

المحور الخامس: الرصد والاستجابة للحوادث وحوكمة الأمن السيبراني للذكاء الاصطناعي

2 جلسات · 6 نقاط

1الجلسة الأولى: الكشف والاستجابة في البيئات السحابية

  • تحديد السجلات الواجب جمعها من الواجهات البرمجية والنماذج والبنية السحابية مع مراعاة خصوصية محتوى المحادثات.
  • كتابة دليل استجابة لحادثة تسرب بيانات عبر تطبيق ذكي يشمل العزل وتدوير بيانات الاعتماد وحفظ الأدلة والإبلاغ النظامي.
  • محاكاة اختراق حساب سحابي يدير خدمات النماذج وإعادة بناء الخط الزمني للهجوم من سجلات التدقيق.

2الجلسة الثانية: الحوكمة والامتثال الأمني

  • ربط الضوابط بوظائف إطار NIST للأمن السيبراني 2.0 وإطار إدارة مخاطر الذكاء الاصطناعي (NIST AI RMF).
  • دمج متطلبات أمن المعلومات في نظام إدارة الذكاء الاصطناعي وفق ISO/IEC 42001:2023 بالتكامل مع ISO/IEC 27001:2022.
  • مراجعة متطلبات الدقة والمتانة والأمن السيبراني المفروضة على الأنظمة عالية المخاطر في قانون الذكاء الاصطناعي الأوروبي.

ما يحصل عليه المشارك

5 محاور علمية

مخطّط علميّ متدرّج

10 جلسة تدريبية

موزَّعة على 5 أيام

30 بنداً تفصيلياً

محتوى تطبيقي مفصَّل

شهادة حضور معتمدة

بعد إتمام البرنامج

أكمل بيانات التسجيل

سنتواصل معك خلال يوم عمل لتأكيد الحجز.

جاهز للبدء؟

احجز مقعدك في البرنامج وابدأ رحلة تطوير مهاراتك.

سجّل الآن

شارك هذه الدورة