تقنيات التعلم العميق (Deep Learning) وبناء الشبكات العصبية

تدريب شبكة عصبية سهل حتى تتوقف عن التعلم بلا سبب ظاهر: خسارة تتجمد، أو تتذبذب، أو تنخفض على التدريب وترتفع على التحقق. يعالج هذا البرنامج تقنيات التعلم العميق من الداخل حتى يصبح تشخيص هذه الحالات ممكناً: كيف تُحسب المشتقات بالانتشار الخلفي، ولماذا تتلاشى التدرجات أو تنفجر، وما الذي تفعله دالة التنشيط والتهيئة الأولية ومعدّل التعلم فعلاً. ثم يُبنى مسار تدريب مستقر بالمُحسِّنات الحديثة وجدولة معدّل التعلم والتطبيع والتسوية والإيقاف المبكر. ويتناول المحور الأوسط بنى الشبكات العصبية بحسب طبيعة البيانات: الالتفافية للصور، والمتكررة للتسلسلات القصيرة، وآلية الانتباه للسياقات الطويلة. ويعمل المشاركون على التعلم بالنقل وتوسيع البيانات حين تكون العيّنات قليلة، وعلى تقييم النموذج بمقاييس تناسب عدم توازن الفئات، وعلى تفسير قراراته بخرائط الإسناد قبل الاعتماد عليه في قرار حقيقي.