DataOps - DataOps

DataOps analitik ekipler ve veri ekipleri tarafından kaliteyi artırmak ve döngü süresini azaltmak için kullanılan otomatik, süreç odaklı bir metodolojidir. Veri analizi. DataOps, bir dizi en iyi uygulama olarak başlarken, artık veri analitiğine yeni ve bağımsız bir yaklaşım haline gelmek için olgunlaştı.[1] DataOps, tüm veri yaşam döngüsü için geçerlidir[2] veri hazırlığından raporlamaya kadar ve veri analitiği ekibinin ve bilgi teknolojisi operasyonlarının birbirine bağlı doğasını tanır.[3]

DataOps, Çevik iş hedeflerine uygun olarak analitik geliştirme döngü süresini kısaltmak için metodoloji. [2]

DevOps isteğe bağlı BT kaynaklarından yararlanarak ve yazılımın test ve dağıtımını otomatikleştirerek sürekli teslimata odaklanır. Bu yazılım birleşmesi gelişme ve o operasyonlar yazılım mühendisliği ve dağıtımının hız, kalite, öngörülebilirlik ve ölçeğini iyileştirmiştir. DevOps'tan yöntemler ödünç alan DataOps, aynı iyileştirmeleri veri analitiğine getirmeyi amaçlamaktadır.[3]

DataOps kullanır İstatiksel Süreç Kontrolü (SPC) veri analizi ardışık düzenini izlemek ve kontrol etmek için. SPC yerinde olduğunda, operasyonel bir sistemden akan veriler sürekli olarak izlenir ve çalıştığı doğrulanır. Bir anormallik meydana gelirse, veri analizi ekibi otomatik bir uyarı ile bilgilendirilebilir.[4]

DataOps, belirli bir teknolojiye, mimariye, araca, dile veya çerçeveye bağlı değildir. DataOps'u destekleyen araçlar, işbirliğini, düzenlemeyi, kaliteyi, güvenliği, erişimi ve kullanım kolaylığını destekler.[5]

Tarih

DataOps ilk olarak 19 Haziran 2014'te IBM Büyük Veri ve Analitik Merkezi'nde "DataOps'un büyük veri başarısı için gerekli olmasının 3 nedeni" başlıklı bir blog gönderisinde, Katkıda Bulunan Düzenleyici, InformationWeek Lenny Liebmann tarafından tanıtıldı.[6] DataOps terimi daha sonra Tamr'da Andy Palmer tarafından popüler hale getirildi.[3] DataOps, "Veri İşlemleri" için bir takma addır.[2] 2017, önemli ekosistem gelişimi, analist kapsamı, artan anahtar kelime aramaları, anketler, yayınlar ve açık kaynak projeleri ile DataOps için önemli bir yıl oldu.[7] Gartner, 2018'de DataOps'u Veri Yönetimi için Hype Cycle'da adlandırdı.[8]

DevOps, Çevik ve üretimden DataOps mirası

Hedefler ve felsefe

Veri hacminin 2025 yılına kadar% 32 CAGR oranında 180 Zettabayta çıkacağı tahmin edilmektedir (Kaynak: IDC).[5] DataOps, verilerdeki bu önemli artışla başa çıkmak için araçlar, süreçler ve organizasyon yapıları sağlamayı amaçlamaktadır.[5] Otomasyon, büyük entegre veritabanlarını yönetmenin günlük taleplerini düzene sokarak veri ekibini daha verimli ve etkili bir şekilde yeni analitik geliştirmeye bırakır.[9][3] DataOps, veri analitiğinin hızını, güvenilirliğini ve kalitesini artırmaya çalışır.[10] Aralarındaki iletişim, işbirliği, entegrasyon, otomasyon, ölçüm ve işbirliğini vurgular. veri bilimcileri, analistler, veriler / ETL (ayıkla, dönüştür, yükle ) mühendisler, Bilgi Teknolojisi (BT) ve kalite güvencesi / yönetişim.

Uygulama

Blue Hill Research'ten Toph Whitmore, bu DataOps liderlik ilkelerini Bilişim teknolojisi Bölüm:[1]

  • Veri akışının her aşamasında ilerleme ve performans ölçümleri oluşturun. Mümkün olduğunda, veri akışı döngü sürelerini kıyaslayın.
  • Soyutlanmış bir anlamsal katman için kuralları tanımlayın. Herkesin "aynı dili konuştuğundan" ve verilerin (ve meta verilerin) ne olduğu ve ne olmadığı konusunda hemfikir olduğundan emin olun.
  • "Göz küresi testi" ile doğrulayın: Sürekli iyileştirme odaklı insan geri bildirim döngüleri ekleyin. Tüketiciler verilere güvenebilmeli ve bu yalnızca artımlı doğrulama ile gelebilir.
  • BI, veri bilimi ve analitik dahil olmak üzere veri akışının mümkün olduğunca çok aşamasını otomatikleştirin.
  • Karşılaştırmalı performans bilgilerini kullanarak darboğazları belirleyin ve ardından bunlar için optimize edin. Bu, emtia donanımına yatırım yapmayı veya süreçte önceden insan tarafından sağlanan bir veri bilimi adımının otomasyonunu gerektirebilir.
  • İki yönlü veri kontrolü, veri sahipliği, şeffaflık ve kapsamlılığa özellikle odaklanarak yönetişim disiplini oluşturun veri köken tüm iş akışı boyunca izleme.
  • Büyüme ve genişletilebilirlik için tasarım süreci. Veri akışı modeli, veri hacmi ve çeşitliliğini barındıracak şekilde tasarlanmalıdır. Etkinleştirici teknolojilerin, bu kurumsal veri büyümesiyle ölçeklenecek şekilde uygun fiyatlı olmasını sağlayın. "

Referanslar

  1. ^ a b "DataOps - Bu Bir Sır". www.datasciencecentral.com. Alındı 2017-04-05.
  2. ^ a b c "DataOps (veri işlemleri) nedir? - WhatIs.com'dan açıklama". SearchDataManagement. Alındı 2017-04-05.
  3. ^ a b c d "DevOps'tan DataOps'a, Andy Palmer - Tamr Inc". Tamr Inc. 2015-05-07. Alındı 2017-03-21.
  4. ^ DataKitchen (2017-03-07). "Veri Analitiğine Uygulayabileceğiniz Yalın Üretim Sırları". Orta. Alındı 2017-08-24.
  5. ^ a b c "DataOps nedir? | Nexla: Makine Öğrenimi Çağı için Ölçeklenebilir Veri İşlemleri Platformu". www.nexla.com. Alındı 2017-09-07.
  6. ^ "DataOps'un büyük veri başarısı için önemli olmasının 3 nedeni". IBM Büyük Veri ve Analitik Merkezi. Alındı 2018-08-10.
  7. ^ DataKitchen (2017-12-19). "2017: DataOps Yılı". veri işlemleri. Alındı 2018-01-24.
  8. ^ "Gartner Veri Yönetimi için Hype Döngüsü, 2018'de İnovasyonu Tetikleme Aşamasına Üç Teknolojiyi Yerleştiriyor". Gartner. Alındı 2019-07-19.
  9. ^ "2017'de Büyük Veriyi yönlendiren 5 trend". CIO Dalışı. Alındı 2017-09-07.
  10. ^ "Unravel Data Advances Büyük Veri için Uygulama Performans Yönetimi". Veritabanı Trendleri ve Uygulamaları. 2017-03-10. Alındı 2017-09-07.