I’m on my way to be a professional Big Data Engineer. So this’s the place which my learning curve is logged…
- If you love it or the author :XD:, do give me a 🌟 on Github
I’m on my way to be a professional Big Data Engineer. So this’s the place which my learning curve is logged…
TLDR; Sau khi gặp khá nhiều vấn đề với lượng lớn python DAG khi upgrade, viết giúp dag & sau một thời gian thành con rơi, không ai maintain nữa. Mình tin rằng nhất định có một cách viết dags khác: Đơn giản & hiệu quả hơn thế 500 anh em BA, Analytics có thể dễ dàng tự viết pipelines cho riêng mình mà không phải tốn quá nhiều công sức Dễ dàng cho việc monitor, alerting khi có biến xảy ra Upgrade core của airflow không cần phải thay đổi các dags config hiện tại....
Airflow in the nut shell: Một phiên bảo cron tab (chạy mỗi ngày, mỗi tuần, mỗi giờ mỗi tháng) với UI xịn xò. Các tín đồ data hay sử dụng để viết ETL (Extract Transform Load) job Ví dụ như là select vào rows từ MySQL Thêm ít gia vị (Cooking) Load vào Datawarehouse Ké vài miếng quảng cáo Bạn đang mong muốn tìm kiếm cơ hội mới Bạn muốn làm việc với những công nghệ big data tối tân nhất....