مهندسی داده

دوره‌ی پایتون مقیاس‌پذیر برای مهندسی داده

Scaling Python for Data Engineering

آموزش پردازش داده‌های بزرگ‌تر از حافظه با پایتون؛ شامل مدیریت مصرف حافظه، بارگذاری هدفمند، پردازش تکه‌ای و موازی‌سازی، همراه با تمرین روی داده‌های واقعی تاکسی نیویورک. این دوره به زبان فارسی و به‌صورت حضوری یا آنلاین برای تیم‌های سازمانی برگزار می‌شود.

سطح
مقدماتی تا متوسط
مدت پیشنهادی
۲ روز (۱۶ ساعت)
درس در ۸ بخش
۳۶
شیوه‌ی برگزاری
حضوری یا آنلاین

آنچه شرکت‌کنندگان می‌آموزند

  • اندازه‌گیری هزینه‌ی واقعی داده در حافظه و کاهش آن با انتخاب نوع داده‌ی مناسب
  • بارگذاری فقط داده‌ی موردنیاز و پردازش تکه‌تکه‌ی داده‌های بزرگ‌تر از حافظه
  • استفاده از NumPy و pandas در مقیاسی که کد ساده دیگر جواب نمی‌دهد
  • موازی‌سازی پردازش روی چند هسته‌ی پردازنده
  • انتخاب ساختمان‌های داده‌ای که جریان‌های واقعی بر پایه‌ی آن‌ها ساخته می‌شوند

کار عملی: یک جریان پردازش برای داده‌های بزرگ‌تر از حافظه روی داده‌های تاکسی نیویورک

سرفصل دوره

سرفصل شامل ۸ بخش و ۳۶ درس است. برنامه‌ی پیشنهادی ۲ روز آموزشی (۱۶ ساعت) است؛ مدت نهایی، تمرین‌ها و شیوه‌ی ارزیابی بر اساس سطح و نیاز تیم پیش از برگزاری تعیین می‌شوند.

  1. ۱

    وقتی داده از حافظه بزرگ‌تر می‌شود

    ۵ درس
    • دیوار حافظه
    • سنجش مصرف حافظه و انواع داده
    • جعبه‌ابزار مهندس داده
    • بارگذاری فقط داده‌ی موردنیاز
    • پروژه‌ی راهنمادار: بررسی داده‌های تاکسی نیویورک
  2. ۲

    NumPy برای مهندسی داده

    ۵ درس
    • چرا NumPy
    • نوع داده، دقت و حافظه
    • برداری‌سازی: از حلقه تا عملیات آرایه‌ای
    • انتشار (Broadcasting)
    • پروژه‌ی راهنمادار: شاخص‌های سفر با NumPy
  3. ۳

    pandas در مقیاس بزرگ

    ۵ درس
    • کاهش اندازه‌ی نوع داده‌های عددی
    • داده‌های دسته‌ای (Categorical)
    • عملیات کارآمد و پرهیز از کپی‌های اضافه
    • گروه‌بندی و تجمیع سریع
    • پروژه‌ی راهنمادار: بارگذار کم‌مصرف داده‌های تاکسی
  4. ۴

    پردازش تکه‌تکه و فراتر از حافظه

    ۵ درس
    • ایده‌ی تکه‌بندی داده
    • تجمیع جریانی
    • SQLite به‌عنوان انبار داده‌ی محلی
    • جریان‌های پردازش افزایشی و قابل ازسرگیری
    • پروژه‌ی راهنمادار: تجمیع داده‌ی چندماهه‌ای که در حافظه جا نمی‌شود
  5. ۵

    پردازش موازی

    ۵ درس
    • چرا موازی‌سازی (و قفل سراسری مفسر)
    • multiprocessing و Process Pool
    • الگوی MapReduce
    • پردازش موازی تکه‌های داده
    • پروژه‌ی راهنمادار: تجمیع موازی همراه با اندازه‌گیری
  6. ۶

    ساختمان‌های داده برای کار با داده

    ۵ درس
    • دیکشنری و مجموعه: جست‌وجوی O(1) و حذف تکراری‌ها
    • پشته و صف
    • هیپ و صف اولویت
    • انتخاب ساختار مناسب
    • پروژه‌ی راهنمادار: ایندکس درون‌حافظه‌ای و Top-N
  7. ۷

    بازگشت و درخت

    ۵ درس
    • بازگشت برای پردازش داده
    • درخت جست‌وجوی دودویی
    • درخت برای مرتب‌سازی و ادغام
    • ایندکس‌گذاری یک فایل
    • پروژه‌ی راهنمادار: ایندکس بازه‌ی زمانی روی داده‌های تاکسی
  8. ۸

    پروژه‌ی پایانی

    ۱ درس
    • پروژه‌ی پایانی: جریان تحلیلی برای داده‌های بزرگ‌تر از حافظه

شیوه‌های برگزاری

حضوری در محل سازمان

برگزاری در محل سازمان، همراه با تمرین روی ابزارها و نمونه‌های مرتبط با کار تیم. زمان و مکان با هماهنگی تعیین می‌شود.

آنلاین و زنده

کلاس تعاملی آنلاین همراه با پرسش و پاسخ، تمرین گروهی و بازخورد مستقیم؛ مناسب تیم‌های دورکار یا پراکنده در چند شهر.

کارگاه کوتاه یا دوره‌ی جامع

از کارگاه یک‌روزه برای یک موضوع مشخص تا برنامه‌ی چندماهه برای آماده‌سازی تیم در یک مسیر تخصصی.

دوره‌های مرتبط

همه‌ی دوره‌ها

برگزاری دوره‌ی پایتون مقیاس‌پذیر برای مهندسی داده برای تیم سازمان

تعداد و سطح شرکت‌کنندگان و زمان‌بندی مدنظر را ارسال کنید تا برنامه‌ی دوره بر همان اساس تنظیم شود.