Tutarlı Hızlandırıcı İşlemci Arayüzü - Coherent Accelerator Processor Interface

Tutarlı Hızlandırıcı İşlemci Arayüzü
Yıl yaratıldı2014; 6 yıl önce (2014)
Tarafından yaratıldı
Yerini alır
İnternet sitesiopencapi.org

Tutarlı Hızlandırıcı İşlemci Arayüzü (CAPI), yüksek hızlı işlemci genişletme veriyolu standardıdır, başlangıçta üst üste katmanlanacak şekilde tasarlanmıştır. PCI Express doğrudan bağlanmak için CPU'lar gibi harici hızlandırıcılara GPU'lar, ASIC'ler, FPGA'lar veya hızlı depolama.[1][2] Farklı cihazlar arasında düşük gecikme, yüksek hız, doğrudan bellek erişim bağlantısı sunar. komut seti mimarileri.

CAPI ile ilgili daha fazla ayrıntı ve dokümantasyon şurada bulunabilir: OpenCAPI Konsorsiyumu web sitesi ve OpenPOWER için IBM Portalı.

Tarih

Geleneksel olarak ilişkili performans ölçeklendirme Moore Yasası - 1965 yılına kadar - her iki Intel’in de Prescott mimari ve IBM'in Hücre işlemcisi 4 GHz çalışma frekansına doğru itildi. Burada her iki proje de bir termal ölçeklendirme duvarıyla karşılaştı, bu sayede işletim frekansındaki daha fazla artışla ilişkili ısı çıkarma sorunları, daha kısa döngü sürelerinden elde edilen kazançlardan büyük ölçüde ağır bastı.

Takip eden on yıl boyunca, birkaç ticari CPU ürünü 4 GHz'yi aştı ve performans iyileştirmelerinin çoğu artık artan mikro mimarilerden, daha iyi sistem entegrasyonundan ve daha yüksek hesaplama yoğunluğundan geliyor - bu, büyük ölçüde daha fazla sayıda bağımsız çekirdeği paketlemek şeklinde aynı ölür, genellikle masraf en yüksek çalışma frekansı (Intel’in Haziran 2016’dan itibaren 24 çekirdekli Xeon E7-8890’ının temel çalışma frekansı yalnızca 2,2 GHz, böylece tek soketli 165 W güç tüketimi ve soğutma bütçesi kısıtlamaları dahilinde çalışacak).

Büyük performans kazanımlarının elde edildiği yerlerde, genellikle işlemci kalıbına eklenen GPU birimleri veya harici GPU veya FPGA tabanlı hızlandırıcılar gibi giderek daha özelleşmiş işlem birimleriyle ilişkilendirildi. Pek çok uygulamada, hızlandırıcılar ara bağlantının performansının (bant genişliği ve gecikme süresi) sınırlamalarıyla veya ara bağlantının mimarisi (bellek tutarlılığının olmaması gibi) nedeniyle sınırlamalarla mücadele eder. Özellikle veri merkezinde, donanımın giderek belirli işlem yüklerine göre uyarlandığı heterojen bir mimariye geçişte ara bağlantıyı iyileştirmek çok önemli hale geldi.

CAPI, bilgisayarların özel hızlandırıcıları daha kolay ve verimli bir şekilde bağlamasını sağlamak için geliştirilmiştir. Bellek yoğun ve yoğun hesaplama gerektiren işler gibi matris çarpımları derin nöral ağlar CAPI destekli platformlara aktarılabilir.[3] IBM tarafından kendi POWER8 tabanlı sistemler 2014 yılında piyasaya sürüldü. Aynı zamanda, IBM ve diğer birçok şirket, OpenPOWER Vakfı etrafında bir ekosistem kurmak GÜÇ CAPI dahil olmak üzere tabanlı teknolojiler. Ekim 2016'da birkaç OpenPOWER ortağı, OpenCAPI Konsorsiyumu GPU ve CPU tasarımcısı ile birlikte AMD ve sistem tasarımcıları Dell EMC ve Hewlett Packard Enterprise teknolojiyi OpenPOWER ve IBM kapsamının ötesine yaymak.[4]

Uygulama

CAPI

CAPI, hızlandırıcıda Power Service Layer (PSL) adı verilen karşılık gelen bir birimle Coherent Accelerator Processor Proxy (CAPP) olarak adlandırılan CPU içinde işlevsel bir birim olarak uygulanır. CAPP ve PSL birimleri bir önbellek dizini gibi davranır, böylece bağlı cihaz ve CPU aynı tutarlı bellek alanını paylaşabilir ve hızlandırıcı, CPU'ya entegre diğer işlevsel birimlere eş olan bir Hızlandırıcı İşlev Birimi (AFU) haline gelir.[5][6]

CPU ve AFU aynı bellek alanını paylaştığından, CPU'nun CPU'nun ana belleği ile hızlandırıcının bellek alanları arasında bellek çevirileri ve bellek karıştırması yapması gerekmediğinden düşük gecikme ve yüksek hızlar elde edilebilir. Her şey ana bilgisayar işletim sistemindeki genel bir CAPI çekirdek uzantısı tarafından etkinleştirildiğinden, bir uygulama hızlandırıcıyı belirli aygıt sürücüleri olmadan kullanabilir. CPU ve PSL, uygulamanın talep ettiği şekilde birbirlerinin hafızalarını ve kayıtlarını doğrudan okuyabilir ve yazabilir.

CAPI

CAPI, PCIe Gen 3, 16 PCIe şeridi kullanan ve CAPI özellikli sistemlerdeki PCIe yuvaları için ek bir işlevdir. Genellikle bu tür makinelerde belirlenmiş CAPI etkin PCIe yuvaları vardır. POWER8 işlemci başına yalnızca bir CAPP olduğundan, olası CAPI birimlerinin sayısı, kaç adet PCIe yuvası olduğuna bakılmaksızın, POWER8 işlemci sayısına göre belirlenir. IBM, belirli POWER8 sistemlerinde çift yongalı modülleri kullanır ve böylece işlemci soketi başına CAPI kapasitesini ikiye katlar.

Bir PCIe cihazı ile bir CPU arasındaki geleneksel işlemler yaklaşık 20.000 işlem alabilirken, CAPI takılı bir cihaz yalnızca yaklaşık 500 kullanacaktır, bu da gecikmeyi önemli ölçüde azaltır ve azalan işlem yükü nedeniyle bant genişliğini etkili bir şekilde artırır.[6]

Bir CAPI bağlantı noktasının toplam bant genişliği, iki yönlü olarak yaklaşık 16 GB / sn'de zirveye ulaşan temel PCIe 3.0 x16 teknolojisi tarafından belirlenir.[7]

CAPI 2

CAPI-2, IBM POWER9 işlemci ile sunulan teknolojinin aşamalı bir evrimidir.[7] Performansı etkili bir şekilde 32 GB / sn'ye çıkaran PCIe Gen 4 üzerinde çalışır. Ayrıca, hızlandırıcıdan DMA ve Atomik desteği gibi bazı yeni özellikler sunar.

OpenCAPI

OpenCAPI'nin arkasındaki teknoloji, OpenCAPI Konsorsiyumutarafından Ekim 2016'da kuruldu AMD, Google, IBM, Mellanox ve Mikron ortaklarla birlikte Nvidia, Hewlett Packard Enterprise, Dell EMC ve Xilinx.[8]

OpenCAPI 3

OpenCAPI, eskiden Yeni CAPI veya CAPI 3.0, PCIe'nin üstüne katmanlanmaz ve bu nedenle PCIe yuvalarını kullanmaz. IBM'in CPU'sunda POWER9 kullanacak Bluelink 25G Paylaştığı I / O tesisi NVLink 2.0, 50 GB / sn'de zirve.[9] OpenCAPI, hızlandırıcıda PSL birimine (CAPI 1 ve 2 için gerekli) ihtiyaç duymaz, çünkü PCIe'nin üstüne katmanlanmamıştır, ancak kendi işlem protokolünü kullanır.[10]

OpenCAPI 4

POWER9'un Genel Kullanılabilirliğinden sonra gelecekteki çip için planlanmıştır.[11]

Seri Bağlı Bellek

Mikroçip Teknolojisi SMC 1000 OpenCapi belleği, "piyasada seri bağlı belleği benimseyen bir sonraki ilerleme" olarak tanımlanır.[12]

Ayrıca bakınız

Referanslar

  1. ^ Agam Shah (17 Aralık 2014). "IBM'in yeni Power8'i Watson çipinin performansını ikiye katladı". bilgisayar Dünyası. Alındı 17 Aralık 2014.
  2. ^ "Ayrıntılı IBM Power8 İşlemci - 12 Çekirdek, 96 MB eDRAM L3 Önbellek ve 4 GHz Saat Hızına Sahip 22nm Tasarım Özellikleri". WCCFtech. Alındı 17 Aralık 2014.
  3. ^ Md Syadus Sefat, Semih Aslan, Jeffrey W Kellington, Apan Qasem (2019-10-03). "CAPI Tabanlı FPGA Üzerindeki Derin Sinir Ağlarında Etkin Noktaları Hızlandırma". IEEE.CS1 Maint: birden çok isim: yazarlar listesi (bağlantı)
  4. ^ OpenCAPI Açıklandı: AMD, IBM, Google, Xilinx, Micron ve Mellanox Heterojen Hesaplama Çağında Güçleri Birleştiriyor
  5. ^ POWER8 Sistemleri için Tutarlı Hızlandırıcı İşlemci Arayüzü (CAPI) - Teknik Rapor
  6. ^ a b Büyük Veri ve Bulut için Yeniden Yapılandırılabilir Hızlandırıcılar - RAW 2016
  7. ^ a b Tutarlı Hızlandırma İçin Sunucu Veri Yolunu Açma
  8. ^ Teknoloji Liderleri Büyük Veri, Makine Öğrenimi, Analitik ve Diğer Gelişen İş Yükleri için Yeni Bulut Veri Merkezi Sunucu Tasarımlarını Etkinleştirmek İçin Birleşiyor
  9. ^ Büyük Mavi Güçle Gökyüzünü Hedefliyor9
  10. ^ OpenCAPI PCIe'yi Devraldı, 10X İyileştirme Sözü Verdi
  11. ^ Stuecheli, Jeff (26 Ocak 2017). "Webinar POWER9" (Video kaydı / slaytlar). AIX Sanal Kullanıcı Grubu. - Slaytlar (PDF) - AIX VUG sayfası slaytlara ve videolara bağlantıları var
  12. ^ Patrick Kennedy (5 Ağustos 2019), Seri Bağlı Belleğin Geleceği İçin Microchip SMC 1000, Servethehome

Dış bağlantılar