Apache Airflow projesi

Bu sayfa, Google Dokümanlar Sezonu için kabul edilen bir teknik yazı projesinin ayrıntılarını içerir.

Proje özeti

Açık kaynak kuruluşu:
Apache Airflow
Teknik yazar:
kartik khare
Projenin adı:
İş akışı oluşturma
Proje süresi:
Standart uzunluk (3 ay)

Proje açıklaması

Yeni iş akışlarını kolay ve etkili şekilde oluşturma konusunda dokümanlar hazırlama üzerinde çalışacağım. İş akışlarına dahil olan adımlardan bazıları şunlardır:

  1. Okuma
  2. Ön işleme
  3. İşleniyor
  4. İşleme sonrası
  5. Kaydet/İşlem
  6. İzleme

Her adım, birden çok görev içerebilir. Her adımdan sonra, bir aşamada 2 veya daha fazla görev başarısız olursa işi iptal etmek ya da en az 2 kez başarısız olan bir görevi yeniden çalıştırmak gibi çok sayıda işlem gerçekleştirilebilir.

İş akışlarının diğer bir bölümü, paralel olarak 2 veya daha fazla iş yürütme ve bir sonraki aşama için bunların birleştirilmiş sonuçlarından yararlanmayı içerir.

İş akışının bir başka yönü de posta, slack veya çağrı cihazı görevi yoluyla bir şeyler ters gittiğinde kullanıcıyı uyarmaktır.

Ayrıca, aşağı akış Kafka konularındaki eksik verilerde yeniden başlatma sırasında gerçek zamanlı akış işlerini çalıştırmak gibi iş akışlarının kullanılabilmesi için basit bazı yöntemleri de eklemeyi planlıyorum.

Projenin kapsamını çok daha iyi hale getirmek için danışmanlarla çalışacağım ve sonrasında görevleri tamamlayacağım.

Muhteşem birkaç ay için sabırsızlanıyoruz.