تقنية المعلومات والاتصالات

هندسة البيانات (Data Engineering) وبناء مستودعات البيانات الحديثة

يكتسب المشارك مهارة بناء خطوط استيعاب وتحويل موثوقة، ونمذجة مستودع بيانات بطبقات متدرّجة، وضبط جودة البيانات وتكلفة الاستعلام في المنصّات السحابية الحديثة.

المدة5 أيام تدريبية
المحتوى5 محاور · 10 جلسات
بعد البرنامجشهادة حضور معتمدة

لمحة عن الدورة

لا تفشل مشاريع التحليلات غالباً عند النموذج الإحصائي، بل قبله بكثير: جدول يصل متأخراً، مفتاح يتكرّر، تعريف للإيراد يختلف بين تقريرين. هندسة البيانات هي الانضباط الذي يجعل هذه الطبقة التحتية قابلة للاعتماد. يتناول البرنامج بناء منصّة بيانات من طرفها الأول: استيعاب المصادر التشغيلية وملفّات السجلّ وواجهات الخدمات، وتنظيم التخزين في طبقات خام ومنقّاة وجاهزة للاستهلاك، ونمذجة الحقائق والأبعاد بما يخدم أسئلة العمل الفعلية. يمتد التدريب إلى تنسيق التدفقات وإدارة التبعيات وإعادة المعالجة، واختبارات جودة البيانات ضمن خط التشغيل، وتتبّع نسب البيانات وتوثيق قاموس المصطلحات، وضبط التقسيم والتجميع لخفض كلفة الاستعلام. يعمل المشاركون على مجموعة بيانات متعددة المصادر يبنون منها مستودعاً صغيراً كاملاً مع اختباراته ولوحة مراقبة لتحديث الجداول.

الأهداف المتوقعة من الدورة

01

تصميم معمارية منصّة بيانات بطبقات واضحة للاستيعاب والتنقية والتقديم، مع تبرير اختيار نمط ELT أو ETL لكل مصدر

02

نمذجة مستودع تحليلي بأسلوب الأبعاد أو Data Vault، ومعالجة الأبعاد بطيئة التغيّر والمفاتيح البديلة وحبيبات جداول الحقائق

03

بناء خط تنسيق يدير التبعيات وإعادة المحاولة وإعادة المعالجة التاريخية، ويصدر إشعارات عند تأخّر التحديث عن اتفاق الخدمة

04

تطبيق اختبارات جودة البيانات على التفرّد والاكتمال والنطاق والاتساق المرجعي، وقياس تكلفة التخزين والاستعلام وتحسينها

المستهدفون

01

مهندسو البيانات ومطوّرو خطوط التحويل المسؤولون عن تغذية منصّات التحليلات

02

مطوّرو قواعد البيانات ومحلّلو الأنظمة المنتقلون من التقارير التشغيلية إلى المستودعات التحليلية

03

محلّلو البيانات وعلماء البيانات الراغبون في فهم مصادر جداولهم وضمان موثوقيتها

04

مسؤولو حوكمة البيانات ومديرو وحدات المعلومات الذين يضعون معايير الجودة والتوثيق

المحاور العلمية

اضغط على أي محور لاستعراض جلساته وبنوده.

01

المحور الأول: معمارية منصّة البيانات واختيار مكوّناتها

2 جلسات · 6 نقاط

1الجلسة الأولى: من قاعدة تشغيلية إلى منصّة تحليلية

  • التفريق بين أحمال المعالجة التشغيلية والأحمال التحليلية وأثر ذلك في اختيار محرّك تخزين موجّه بالأعمدة
  • مقارنة المستودع التقليدي وبحيرة البيانات والنمط المدمج (lakehouse) من حيث المرونة والحوكمة والكلفة
  • تصميم طبقات التخزين الخام والمنقّى والجاهز، وتحديد قواعد التسمية والاحتفاظ لكل طبقة

2الجلسة الثانية: صيغ الملفّات وتنظيم التخزين

  • اختيار صيغة تخزين عمودية مثل Parquet وضبط الضغط وحجم الملف بما يوازن سرعة القراءة وكلفة الكتابة
  • استعمال صيغ الجداول المفتوحة التي تدعم المعاملات والسفر عبر الزمن وتطوّر المخطّط
  • تقسيم البيانات بمفاتيح زمنية أو موضوعية وقياس أثر التقسيم على حجم البيانات الممسوحة
02

المحور الثاني: استيعاب البيانات من المصادر المتنوّعة

2 جلسات · 6 نقاط

1الجلسة الأولى: الاستخراج الدفعي والتحميل التدريجي

  • بناء استخراج تدريجي بالاعتماد على أعمدة الطابع الزمني أو المعرّفات المتزايدة مع معالجة الوصول المتأخر
  • تطبيق التقاط تغييرات البيانات (CDC) من سجلّ المعاملات لنقل التعديلات دون إثقال النظام المصدر
  • التعامل مع واجهات برمجة التطبيقات المحدودة المعدّل عبر التقسيم الصفحي وإعادة المحاولة وحفظ نقطة التوقف

2الجلسة الثانية: التدفّق اللحظي ومعالجة الأحداث

  • تصميم موضوعات الأحداث ومفاتيح التقسيم بما يحافظ على الترتيب داخل الكيان الواحد
  • معالجة النوافذ الزمنية والأحداث المتأخرة والتكرار عبر ضمانات التسليم ومعالجة العمليات الخاملة
  • دمج المسار اللحظي مع المسار الدفعي بحيث ينتهيان إلى جداول متّسقة بلا ازدواج في الأرقام
03

المحور الثالث: النمذجة التحليلية وبناء طبقة التقديم

2 جلسات · 6 نقاط

1الجلسة الأولى: الحقائق والأبعاد وحبيبة الجدول

  • تحديد حبيبة جدول الحقائق بدقّة وربطها بالمقاييس القابلة للجمع وغير القابلة للجمع
  • معالجة الأبعاد بطيئة التغيّر بأنماطها المختلفة للحفاظ على صحّة التقارير التاريخية
  • بناء أبعاد مشتركة عبر عدّة مجالات لضمان توافق التقارير عند الدمج بين الموضوعات

2الجلسة الثانية: التحويل كشيفرة وطبقة المقاييس

  • كتابة التحويلات في وحدات قابلة للاختبار ومُدارة بنظام إصدارات بدل الاستعلامات المتناثرة
  • تعريف المقاييس مركزياً مع وصفها ومنطق حسابها لمنع اختلاف التعريف بين لوحات المتابعة
  • بناء جداول مجمّعة ومشاهد مادية للأسئلة المتكرّرة وقياس الوفر في زمن الاستجابة
04

المحور الرابع: التنسيق والموثوقية وجودة البيانات

2 جلسات · 6 نقاط

1الجلسة الأولى: إدارة التدفقات والتبعيات

  • بناء رسم بياني للمهام يعبّر عن التبعيات الحقيقية ويعيد تشغيل الفروع الفاشلة وحدها
  • تصميم مهام قابلة لإعادة التشغيل دون تكرار الأثر، وتحديد نوافذ إعادة المعالجة التاريخية
  • تحديد اتفاقات مستوى خدمة لتحديث كل جدول وربط تجاوزها بإشعار لمالك البيانات

2الجلسة الثانية: اختبار البيانات ورصد انحرافها

  • كتابة اختبارات للتفرّد والقيم الفارغة والنطاق والعلاقات المرجعية وتشغيلها بعد كل تحميل
  • رصد الانحراف في التوزيعات وحجم الصفوف لاكتشاف الأعطال الصامتة قبل أن تصل إلى التقارير
  • توثيق نسب البيانات من العمود في التقرير إلى مصدره الأصلي لتسريع تحليل أثر أي تغيير
05

المحور الخامس: الحوكمة والأداء وتشغيل المنصّة

2 جلسات · 6 نقاط

1الجلسة الأولى: الأمن وحوكمة الوصول

  • تطبيق التحكّم بالوصول على مستوى الصفوف والأعمدة وإخفاء الحقول الشخصية عن المستخدمين العامّين
  • بناء كتالوج بيانات يحمل الملكية والتصنيف وسياسات الاحتفاظ لكل مجموعة بيانات
  • توثيق مسارات الامتثال لطلبات حذف البيانات الشخصية عبر جميع الطبقات والنسخ

2الجلسة الثانية: ضبط الأداء وإدارة الكلفة

  • قراءة خطة تنفيذ الاستعلام لتشخيص المسح الكامل وعمليات الخلط المكلفة وتصحيح بنية الجداول
  • فصل أحمال العمل على مجموعات حوسبة مستقلة وضبط التحجيم التلقائي والإيقاف عند الخمول
  • بناء تقرير كلفة لكل مجال بيانات يربط الإنفاق بالاستخدام ويحدّد الجداول المهجورة للتقاعد

ما يحصل عليه المشارك

5 محاور علمية

مخطّط علميّ متدرّج

10 جلسة تدريبية

موزَّعة على 5 أيام

30 بنداً تفصيلياً

محتوى تطبيقي مفصَّل

شهادة حضور معتمدة

بعد إتمام البرنامج

أكمل بيانات التسجيل

سنتواصل معك خلال يوم عمل لتأكيد الحجز.

جاهز للبدء؟

احجز مقعدك في البرنامج وابدأ رحلة تطوير مهاراتك.

سجّل الآن

شارك هذه الدورة