Evrensel hashing - Universal hashing - Wikipedia

İçinde matematik ve bilgi işlem, evrensel hashing (içinde rastgele algoritma veya veri yapısı), bir Özet fonksiyonu belirli bir matematiksel özelliğe sahip bir karma fonksiyon ailesinden rastgele olarak (aşağıdaki tanıma bakınız). Bu, düşük sayıda çarpışmayı garanti eder. beklenti, veriler bir düşman tarafından seçilmiş olsa bile. Pek çok evrensel aile bilinmektedir (tam sayılara, vektörlere, dizelere hashing uygulamak için) ve bunların değerlendirilmesi genellikle çok etkilidir. Evrensel hashing, bilgisayar bilimlerinde çeşitli kullanımlara sahiptir, örneğin karma tablolar, rastgele algoritmalar, ve kriptografi.

Giriş

Bir evrendeki anahtarları haritalamak istediğimizi varsayalım içine kutular (etiketli ). Algoritmanın bazı veri setlerini işlemesi gerekecek nın-nin önceden bilinmeyen anahtarlar. Genellikle hashing işleminin amacı, düşük sayıda çarpışma elde etmektir (anahtarlar aynı bölmedeki arazi). Belirleyici bir hash fonksiyonu, rakip bir ortamda, eğer daha büyüktür düşman seçebileceği için tam olarak olmak ön görüntü bir çöp kutusu. Bu, tüm veri anahtarlarının aynı bölmeye düştüğü ve hash işlemini gereksiz hale getirdiği anlamına gelir. Ayrıca, deterministik bir hash fonksiyonu, yeniden yıkama: bazen giriş verileri hash işlevi için kötü olabilir (örneğin, çok fazla çarpışma vardır), bu nedenle biri karma işlevini değiştirmek ister.

Bu sorunların çözümü, karma işlevler ailesinden rastgele bir işlev seçmektir. Bir işlev ailesi denir evrensel aile Eğer, .

Başka bir deyişle, evrenin herhangi iki anahtarı en fazla olasılıkla çarpışır. karma işlevi ne zaman rastgele çekilir . Hash fonksiyonu her anahtara gerçekten rastgele hash kodları atarsa, bu tam olarak beklediğimiz çarpışma olasılığıdır. Bazen tanım, çarpışma olasılığına izin verecek şekilde gevşetilir . Bu kavram Carter ve Wegman tarafından tanıtıldı[1] 1977'de ve bilgisayar biliminde çok sayıda uygulama bulmuştur (örneğin bkz. [2]). Bir üst sınırımız varsa çarpışma olasılığında, elimizde olduğunu söylüyoruz - neredeyse evrensellik.

Hepsi olmasa da çoğu evrensel ailede aşağıdakiler daha güçlüdür tekdüze fark özelliği:

, ne zaman aileden rastgele çekilir , fark eşit olarak dağıtılır .

Evrensellik tanımının yalnızca , çarpışmaları sayar. Tekdüze fark özelliği daha güçlüdür.

(Benzer şekilde, evrensel bir aile XOR evrensel olabilir, eğer , değer eşit olarak dağıtılır nerede bit düzeyinde özel veya işlemdir. Bu sadece mümkünse ikinin gücüdür.)

Daha da güçlü bir durum ikili bağımsızlık: bu mülke sahip olduğumuzda olasılığımız var herhangi bir karma değer çiftine karma oluşturacaktır sanki tamamen tesadüflermiş gibi: . İkili bağımsızlık bazen güçlü evrensellik olarak adlandırılır.

Diğer bir özellik de tekdüzeliktir. Tüm hash değerleri eşit olasılığa sahipse bir ailenin tek tip olduğunu söylüyoruz: herhangi bir hash değeri için . Evrensellik, tekdüzelik anlamına gelmez. Bununla birlikte, güçlü evrensellik, tekdüzelik anlamına gelir.

Tekdüzen uzaklık özelliğine sahip bir aile verildiğinde, bir çift olarak bağımsız veya güçlü bir evrensel hash ailesi, içindeki değerlere sahip tekdüze dağıtılmış bir rastgele sabit ekleyerek üretilebilir. hash işlevlerine. (Benzer şekilde, if ikinin gücüdür, bir XOR evrensel hash ailesinden bir dışlayıcı yaparak veya tekdüze dağıtılmış bir rasgele sabit yaparak ikili bağımsızlık elde edebiliriz.) Bir sabit tarafından yapılan bir kayma bazen uygulamalarda (örneğin, hash tabloları) alakasız olduğundan, dikkatli bir ayrım düzgün uzaklık özelliği ile ikili bağımsızlık arasında bazen yapılmaz.[3]

Bazı uygulamalar için (karma tablolar gibi), karma değerlerin en az anlamlı bitlerinin de evrensel olması önemlidir. Bir aile son derece evrensel olduğunda, bu garanti edilir: ile son derece evrensel bir ailedir , sonra aile fonksiyonlardan oluşur hepsi için aynı zamanda için son derece evrenseldir . Ne yazık ki, aynı şey (yalnızca) evrensel aileler için geçerli değildir. Örneğin, kimlik işlevinden oluşan aile açıkça evrenseldir, ancak işlevin oluşturduğu aile evrensel olmakta başarısızdır.

UMAC ve Poly1305-AES ve diğerleri mesaj doğrulama kodu algoritmalar evrensel hashlemeye dayanır.[4][5]Bu tür uygulamalarda, yazılım her mesaj için o mesaj için benzersiz bir nonce'a dayalı olarak yeni bir özet işlevi seçer.

Çeşitli karma tablo uygulamaları evrensel karmaşaya dayanmaktadır. Bu tür uygulamalarda, tipik olarak yazılım yeni bir karma işlevini ancak "çok fazla" anahtarın çarpıştığını fark ettikten sonra seçer; o zamana kadar, aynı hash işlevi defalarca kullanılmaya devam eder. (Bazı çarpışma çözümleme şemaları, örneğin dinamik mükemmel hashing, her çarpışma olduğunda yeni bir hash işlevi seçin. Diğer çarpışma çözme şemaları, örneğin guguklu haşlama ve 2 seçenekli hashing, yeni bir karma işlevi seçmeden önce bir dizi çarpışmaya izin verin). Tamsayılar, vektörler ve dizgiler için en hızlı bilinen evrensel ve son derece evrensel hash işlevlerinin bir araştırması içinde bulunur.[6]

Matematiksel garantiler

Herhangi bir sabit set için nın-nin anahtarlar, evrensel bir aile kullanmak aşağıdaki özellikleri garanti eder.

  1. Herhangi bir sabit için içinde , bölmedeki beklenen anahtar sayısı dır-dir . Hash tablolarını uygularken zincirleme, bu sayı, anahtarın dahil olduğu bir işlemin beklenen çalışma süresiyle orantılıdır. (örneğin bir sorgu, ekleme veya silme).
  2. Beklenen anahtar çifti sayısı içinde ile çarpışan () ile sınırlanmıştır hangisi doğru . Kutu sayısı ne zaman, doğrusal olarak seçilmiştir (yani, içindeki bir işlev tarafından belirlenir ), beklenen çarpışma sayısı . Hashing yaparken en az yarım olasılıkla hiçbir çarpışma yok.
  3. En az anahtarın bulunduğu bölmelerdeki beklenen anahtar sayısı İçlerindeki anahtarlar yukarıda .[7] Bu nedenle, her bölmenin kapasitesi ortalama boyutun üç katı ile sınırlandırılmışsa (), taşan bölmelerdeki toplam anahtar sayısı en fazla . Bu sadece çarpışma olasılığı yukarıda belirtilen hash ailesi için geçerlidir. . Daha zayıf bir tanım kullanılıyorsa, onu sınırlayarak , bu sonuç artık doğru değil.[7]

Yukarıdaki garantiler herhangi bir sabit set için geçerli olduğundan , veri seti bir düşman tarafından seçilmişse tutarlar. Bununla birlikte, rakip bu seçimi, algoritmanın bir hash fonksiyonunun rastgele seçiminden önce (veya ondan bağımsız olarak) yapmalıdır. Düşman algoritmanın rastgele seçimini gözlemleyebiliyorsa, rastgelelik hiçbir amaca hizmet etmez ve durum deterministik hashing ile aynıdır.

İkinci ve üçüncü garanti tipik olarak aşağıdakilerle birlikte kullanılır: yeniden yıkama. Örneğin, bazılarını işlemek için rastgele bir algoritma hazırlanabilir. çarpışma sayısı. Çok fazla çarpışma gözlemlerse, başka bir rastgele seçer. aileden ve tekrarlar. Evrensellik, tekrarların sayısının bir geometrik rastgele değişken.

İnşaatlar

Herhangi bir bilgisayar verisi bir veya daha fazla makine kelimesi olarak temsil edilebildiğinden, genellikle üç tip alan için karma fonksiyonlara ihtiyaç vardır: makine kelimeleri ("tamsayılar"); makine kelimelerinin sabit uzunluklu vektörleri; ve değişken uzunluklu vektörler ("dizeler").

Karma tamsayılar

Bu bölüm, makine sözcüklerine uyan tamsayıların hash edilmesi durumuna atıfta bulunur; bu nedenle, çarpma, toplama, bölme vb. işlemler, makine seviyesinde ucuz talimatlardır. Evren hashedilsin .

Carter ve Wegman'ın orijinal önerisi[1] bir asal seçmekti ve tanımla

nerede rastgele seçilen tamsayı modulo ile . (Bu, bir doğrusal eşleşik üreteç.)

Görmek için evrensel bir ailedir, unutmayın sadece ne zaman tutar

bir tamsayı için arasında ve . Eğer onların farkı sıfırdan farklıdır ve ters bir moduloya sahiptir . İçin çözme verim

.

Var için olası seçenekler (dan beri hariç tutulur) ve değişen izin verilen aralıkta, sağ taraf için olası sıfır olmayan değerler. Böylece çarpışma olasılığı

.

Görmenin başka bir yolu evrensel bir ailedir istatistiksel mesafe. Farkı yazın gibi

.

Dan beri sıfır değildir ve eşit olarak dağıtılır bunu takip eder modulo ayrıca homojen olarak dağıtılır . Dağılımı bu nedenle, olasılık farkına kadar neredeyse tekdüzedir örnekler arasında. Sonuç olarak, tek tip bir aileye istatistiksel mesafe ne zaman önemsiz hale gelir .

Daha basit hash fonksiyonları ailesi

sadece yaklaşık olarak evrensel: hepsi için .[1] Dahası, bu analiz neredeyse sıkıdır; Carter ve Wegman [1] olduğunu göstermektedir her ne zaman .

Modüler aritmetikten kaçınmak

Tamsayılara hashing uygulamak için en son teknoloji, çarpma vardiyası Dietzfelbinger ve ark. 1997'de.[8] Modüler aritmetikten kaçınarak, bu yöntemin uygulanması çok daha kolaydır ve ayrıca pratikte önemli ölçüde daha hızlı çalışır (genellikle en az dört faktör ile)[9]). Şema, bölme sayısının ikinin bir üssü olduğunu varsayar, . İzin Vermek bir makine kelimesindeki bit sayısı olabilir. Daha sonra hash fonksiyonları tek pozitif tamsayılar üzerinden parametrik hale getirilir (bir kelimeye uyan bitler). Değerlendirmek , çarpmak tarafından modulo ve sonra yüksek düzeni koru karma kodu olarak bitler. Matematiksel gösterimde bu

ve uygulanabilir C benzeri programlama dilleri

(size_t) (a * x) >> (w-M)

Bu şema yapar değil tekdüze fark özelliğini karşılar ve yalnızca -neredeyse evrensel; herhangi , .

Karma işlevinin davranışını anlamak için, eğer ve aynı en yüksek 'M' bitlerine sahipse en yüksek M bit olarak 1'lerin veya tüm 0'ların hepsine sahiptir ( veya daha büyüktür). pozisyonda görünür . Dan beri rastgele bir tek tamsayıdır ve tek tamsayıların tersi yüzük bunu takip eder arasında eşit olarak dağıtılacak -konumda en az anlamlı ayarlanmış bit ile bit tamsayıları . Bu bitlerin hepsinin 0 veya tüm 1 olma olasılığı bu nedenle en fazla Öte yandan, eğer , sonra daha yüksek M bitleri hem 0 hem de 1 içerir, bu nedenle . Son olarak, eğer sonra biraz nın-nin 1 ve eğer ve sadece bitlerse 1, bu da olasılıkla .

Bu analiz, örnekte de görülebileceği gibi sıkıdır ve . Gerçekten 'evrensel' bir hash işlevi elde etmek için, çarpma-ekleme-değiştirme şeması kullanılabilir.

hangisinde uygulanabilir C benzeri programlama dilleri

(size_t) (a * x + b) >> (w-M)

nerede rastgele tek pozitif bir tamsayıdır ve rastgele negatif olmayan bir tamsayıdır . Bu seçimlerle ve , hepsi için .[10] Bu, İngilizce makaledeki yanlış çeviriden biraz ama önemli ölçüde farklıdır.[11]

Hashing vektörleri

Bu bölüm, makine kelimelerinin sabit uzunlukta bir vektörüne hashing uygulamakla ilgilidir. Girişi bir vektör olarak yorumlayın nın-nin makine kelimeleri (tamsayıları her biri bit). Eğer tek tip farklılık özelliğine sahip evrensel bir ailedir, aşağıdaki aile (Carter ve Wegman'a dayanmaktadır.[1]) ayrıca tekdüze fark özelliğine sahiptir (ve dolayısıyla evrenseldir):

her biri nerede bağımsız olarak rastgele seçilir.

Eğer ikinin gücüdür, biri toplamı özel veya ile değiştirilebilir.[12]

Pratikte, eğer çift duyarlıklı aritmetik mevcutsa, bu, hash fonksiyonlarının çok-vardiyalı hash ailesi ile somutlaştırılır.[13] Karma işlevini bir vektörle başlatın rastgele garip tamsayılar açık her biri bit. O zaman bölme sayısı için :

.

Pratikte kabaca iki kat hızlanma anlamına gelen çarpma sayısını yarıya indirmek mümkündür.[12] Karma işlevini bir vektörle başlatın rastgele garip tamsayılar açık her biri bit. Aşağıdaki hash ailesi evrenseldir:[14]

.

Çift kesinlikli işlemler mevcut değilse, girdi yarım kelimelerin bir vektörü olarak yorumlanabilir (-bit tamsayılar). Algoritma daha sonra kullanacak çarpımlar, nerede vektördeki yarım kelimelerin sayısıdır. Bu nedenle, algoritma, girdi kelimesi başına bir çarpma "hızında" çalışır.

Aynı şema, bitlerini bayt vektörleri olarak yorumlayarak tamsayılara hashing uygulamak için de kullanılabilir. Bu varyantta vektör tekniği olarak bilinir tablo karması ve çarpma tabanlı evrensel hashing şemalarına pratik bir alternatif sağlar.[15]

Yüksek hızda güçlü evrensellik de mümkündür.[16] Karma işlevini bir vektörle başlatın rastgele tamsayılar bitler. Hesaplama

.

Sonuç son derece evrenseldir bitler. Deneysel olarak, son Intel işlemcilerde bayt başına 0.2 CPU döngüsünde çalıştığı bulundu. .

Hashing dizeleri

Bu, hashing a değişken boyutlu makine kelimelerin vektör. Dizenin uzunluğu küçük bir sayı ile sınırlanabiliyorsa, yukarıdan vektör çözümünü kullanmak en iyisidir (kavramsal olarak üst sınıra kadar vektörü sıfırlarla doldurmak). Gerekli alan, dizenin maksimum uzunluğu, ancak değerlendirme süresi sadece uzunluğu . Dizide sıfırlar yasak olduğu sürece, evrenselliği etkilemeden karma işlevi değerlendirilirken sıfır doldurma göz ardı edilebilir.[12] Dizede sıfırlara izin veriliyorsa, doldurmadan önce tüm dizelere hayali bir sıfır olmayan (ör. 1) karakter eklemenin en iyisi olacağını unutmayın: bu, evrenselliğin etkilenmemesini sağlayacaktır.[16]

Şimdi hash yapmak istediğimizi varsayalım , nerede iyi bir sınır önceden bilinmemektedir. Tarafından önerilen evrensel bir aile [13] dizeyi ele alır bir polinom modülünün katsayıları olarak büyük bir asal. Eğer , İzin Vermek asal olun ve şunları tanımlayın:

, nerede tekdüze rastgele ve evrensel bir aile eşleme tamsayı alanından rastgele seçilir .

Modüler aritmetiğin özelliklerini kullanarak, yukarıdaki büyük dizeler için büyük sayılar üretmeden aşağıdaki gibi hesaplanabilir:[17]

uint karma(Dize x, int a, int p)	uint h = BAŞLANGIÇ DEĞERİ	için (uint ben=0 ; ben < x.uzunluk ; ++ben)		h = ((h*a) + x[ben]) mod p	dönüş h

Bu Rabin-Karp haddeleme hash dayanmaktadır doğrusal eşleşik üreteç.[18]Yukarıdaki algoritma şu şekilde de bilinir: Çarpımsal karma işlevi.[19] Uygulamada, mod operatör ve parametre p tamsayının taşmasına izin verilerek tamamen önlenebilir, çünkü mod (Max-Int-Value + 1) birçok programlama dilinde. Aşağıdaki tablo başlatmak için seçilen değerleri göstermektedir h ve a bazı popüler uygulamalar için.

UygulamaBAŞLANGIÇ DEĞERİa
Bernstein hash işlevi djb2[20]538133
STLPort 4.6.205
Kernighan ve Ritchie hash işlevi[21]031
java.lang.String.hashCode ()[22]031

İki dizeyi düşünün ve izin ver uzun olanın uzunluğu; analiz için, kısa dizge kavramsal olarak uzunluğa kadar sıfırlarla doldurulur . Uygulamadan önce bir çarpışma ima ediyor ki katsayıları olan bir polinomun köküdür . Bu polinom en fazla kökler modulo , dolayısıyla çarpışma olasılığı en fazla . Rastgele çarpışma olasılığı toplam çarpışma olasılığını . Böylece, asal karma dizelerin uzunluğuna kıyasla yeterince büyük, aile evrensele çok yakındır (içinde istatistiksel mesafe ).

Bilinmeyen uzunluktaki dizeleri sabit uzunluklu karma değerlere hash etmek için kullanılan diğer evrensel karma işlevi aileleri şunları içerir: Rabin parmak izi ve Buzhash.

Modüler aritmetikten kaçınmak

Modüler aritmetiğin hesaplama cezasını azaltmak için pratikte üç numara kullanılır:[12]

  1. Biri asal olanı seçer ikiye yakın olmak, örneğin Mersenne asal. Bu, aritmetik modüle izin verir Bölünmeden uygulanacak (toplama ve kaydırma gibi daha hızlı işlemler kullanılarak). Örneğin, modern mimariler üzerinde çalışılabilir , süre 'ler 32 bit değerlerdir.
  2. Bloklara vektör hashlemesi uygulanabilir. Örneğin, biri dizenin her 16 kelimelik bloğuna vektör hashingi uygular ve Sonuçlar. Daha yavaş dizi karması önemli ölçüde daha küçük bir vektöre uygulandığından, bu esasen vektör karması kadar hızlı olacaktır.
  3. Bölen olarak ikinin üssü seçilerek aritmetik modülo bölünmeden uygulanacak (daha hızlı operasyonlar kullanılarak biraz maskeleme ). NH hash-function ailesi bu yaklaşımı alır.

Ayrıca bakınız

Referanslar

  1. ^ a b c d e Carter, Larry; Wegman, Mark N. (1979). "Evrensel Karma İşlev Sınıfları". Bilgisayar ve Sistem Bilimleri Dergisi. 18 (2): 143–154. doi:10.1016/0022-0000(79)90044-8. STOC'77'deki konferans versiyonu.
  2. ^ Miltersen, Peter Bro. "Evrensel Hashing" (PDF). Arşivlenen orijinal (PDF) 24 Mayıs 2011 tarihinde. Alındı 24 Haziran 2009.
  3. ^ Motwani, Rajeev; Raghavan, Prabhakar (1995). Randomize Algoritmalar. Cambridge University Press. s. 221. ISBN  0-521-47465-5.
  4. ^ David Wagner, ed."Kriptolojideki Gelişmeler - CRYPTO 2008".p. 145.
  5. ^ Jean-Philippe Aumasson, Willi Meier, Raphael Phan, Luca Henzen."Karma İşlevi BLAKE".2014.p. 10.
  6. ^ Thorup, Mikkel (2015). "Tamsayılar ve Dizeler için Yüksek Hızlı Hashing". arXiv:1504.06804 [cs.DS ].
  7. ^ a b Baran, İlya; Demaine, Erik D .; Pătraşcu, Mihai (2008). "3SUM için Alt Kuadratik Algoritmalar" (PDF). Algoritma. 50 (4): 584–596. doi:10.1007 / s00453-007-9036-3.
  8. ^ Dietzfelbinger, Martin; Hagerup, Torben; Katajainen, Jyrki; Penttonen Martti (1997). "En Yakın Çift Problemi için Güvenilir Bir Rastgele Algoritma" (Postscript). Algoritmalar Dergisi. 25 (1): 19–51. doi:10.1006 / jagm.1997.0873. Alındı 10 Şubat 2011.
  9. ^ Thorup, Mikkel. "SODA'da metin kitabı algoritmaları".
  10. ^ Woelfel, Philipp (2003). Über die Komplexität der Multiplikation in eingeschränkten Branchingprogrammmodellen (PDF) (Doktora). Universität Dortmund. Alındı 18 Eylül 2012.
  11. ^ Woelfel, Philipp (1999). Etkili Kesinlikle Evrensel ve Optimal Olarak Evrensel Hashing. Bilgisayar Biliminin Matematiksel Temelleri 1999. LNCS. 1672. s. 262–272. doi:10.1007/3-540-48340-3_24.
  12. ^ a b c d Thorup, Mikkel (2009). Doğrusal problama için dize hashlemesi. Proc. 20. ACM-SIAM Ayrık Algoritmalar Sempozyumu (SODA). s. 655–664. CiteSeerX  10.1.1.215.4253. doi:10.1137/1.9781611973068.72.Bölüm 5.3
  13. ^ a b Dietzfelbinger, Martin; Gil, Joseph; Matias, Yossi; Pippenger, Nicholas (1992). Polinom Karma İşlevleri Güvenilirdir (Genişletilmiş Özet). Proc. Otomata, Diller ve Programlama 19. Uluslararası Kolokyumu (ICALP). s. 235–246.
  14. ^ Black, J .; Halevi, S .; Krawczyk, H .; Krovetz, T. (1999). UMAC: Hızlı ve Güvenli Mesaj Kimlik Doğrulaması (PDF). Kriptolojideki Gelişmeler (CRYPTO '99)., Denklem 1
  15. ^ Pătraşcu, Mihai; Thorup, Mikkel (2011). Basit tablo hash oluşturma gücü. Bilgisayar Teorisi Üzerine 43. yıllık ACM Sempozyumu Bildirileri (STOC '11). s. 1–10. arXiv:1011.5200. doi:10.1145/1993636.1993638.
  16. ^ a b Kaser, Owen; Lemire Daniel (2013). "Kesinlikle evrensel dize hashlemesi hızlıdır". Bilgisayar Dergisi. Oxford University Press. 57 (11): 1624–1638. arXiv:1202.4961. doi:10.1093 / comjnl / bxt070.
  17. ^ "İbranice Üniversitesi Ders Slaytları" (PDF).
  18. ^ Robert Uzgalis."Kitaplık Karma İşlevleri".1996.
  19. ^ Kankowsk, Peter. "Hash fonksiyonları: Ampirik bir karşılaştırma".
  20. ^ Yiğit, Ozan. "Dize hash fonksiyonları".
  21. ^ Kernighan; Ritchie (1988). "6". C Programlama Dili (2. baskı). pp.118. ISBN  0-13-110362-8.CS1 bakimi: birden çok ad: yazarlar listesi (bağlantı)
  22. ^ "Dize (Java Platformu SE 6)". docs.oracle.com. Alındı 2015-06-10.

daha fazla okuma

Dış bağlantılar