Matris tamamlama - Matrix completion - Wikipedia

Derece-1 ile kısmen ortaya çıkan 5'e 5 matrisin matris tamamlanması. Sol: tamamlanmamış matris gözlendi; Sağ: matris tamamlama sonucu.

Matris tamamlama kısmen gözlemlenen bir matrisin eksik girişlerini doldurma görevidir. Çok çeşitli veri kümeleri doğal olarak matris biçiminde düzenlenir. Bir örnek, film derecelendirme matrisidir. Netflix sorunu: Her bir girişin bulunduğu bir derecelendirme matrisi verildiğinde filmin derecelendirmesini temsil eder müşteri tarafından müşteri ise film izledi aksi takdirde eksikse, müşterilere bundan sonra ne izleyecekleri konusunda iyi önerilerde bulunmak için kalan girişleri tahmin etmek istiyoruz. Başka bir örnek de terim-belge matrisi: Bir belge koleksiyonunda kullanılan kelimelerin sıklıkları bir matris olarak temsil edilebilir; burada her giriş, ilişkili terimin belirtilen belgede görünme sayısına karşılık gelir.

Sayısında herhangi bir kısıtlama olmaksızın özgürlük derecesi tamamlanan matriste bu problem az belirlenmiş çünkü gizli girişlere rastgele değerler atanabilir. Bu nedenle, matris tamamlama genellikle en düşük sıra matris veya tamamlanan matrisin sıralaması biliniyorsa, bir matris sıra bilinen girişlerle eşleşen. Resim, eksik girişlere sahip tüm satırların üçüncü satırla aynı olması gerektiğinden, kısmen açıklanmış bir 1. sıra matrisinin (solda) sıfır hata ile (sağda) tamamlanabileceğini göstermektedir. Netflix sorunu durumunda, kullanıcı tercihleri ​​genellikle film türü ve yayınlanma zamanı gibi birkaç faktör tarafından tanımlanabildiğinden, derecelendirme matrisinin düşük sıralı olması beklenir. Diğer uygulamalar arasında, görüntülerdeki eksik piksellerin yeniden yapılandırılmasının gerektiği, kısmi mesafe bilgilerinden bir ağdaki sensörlerin küresel konumlandırmasının tespit edildiği bilgisayar görüşü ve çok sınıflı öğrenme. Matris tamamlama sorunu genel olarak NP-zor, ancak ek varsayımlar altında, yüksek olasılıkla kesin rekonstrüksiyona ulaşan verimli algoritmalar vardır.

İstatistiksel öğrenme açısından matris tamamlama problemi, matris düzenlenmesi bu vektörün bir genellemesidir düzenleme. Örneğin, düşük sıralı matris tamamlama probleminde, bir nükleer norm şeklini alan düzenlileştirme cezası uygulanabilir.

Düşük aşamalı matris tamamlama

Matris tamamlama probleminin varyantlarından biri en düşük olanı bulmaktır. sıra matris matrisle eşleşen setteki tüm girişler için kurtarmak istediğimiz gözlemlenen girişlerin yüzdesi. Bu problemin matematiksel formülasyonu aşağıdaki gibidir:

Candès ve Recht[1] Gözlemlenen girdilerin örneklemesine ilişkin varsayımlar ve yeterince çok sayıda örneklenmiş girdiyle bu sorunun yüksek olasılıkla benzersiz bir çözüme sahip olduğunu kanıtladı.

Eşdeğer bir formülasyon, matrisin kurtarılacak olduğu biliniyor sıra , çözmek için nerede

Varsayımlar

Analizi basitleştirmek ve sorunun olmamasını sağlamak için, gözlemlenen girişlerin örneklemesine ve örneklenmiş girişlerin sayısına ilişkin bir dizi varsayım sıklıkla yapılır. az belirlenmiş.

Gözlemlenen girdilerin tek tip örneklemesi

Analizi izlenebilir kılmak için, genellikle setin gözlemlenen ve düzeltilen girişlerin kardinalite kardinalite girdilerinin tüm alt kümelerinin toplanmasından rastgele olarak tek tip olarak örneklenir . Analizi daha da basitleştirmek için bunun yerine şu varsayılmaktadır: tarafından inşa edilmiştir Bernoulli örneklemesi, yani her girişin olasılıkla gözlemlendiğini . Eğer ayarlandı nerede istenen beklenen mi kardinalite nın-nin , ve matrisin boyutlarıdır (let genelliği kaybetmeden), içinde nın-nin yüksek olasılıkla, dolayısıyla Bernoulli örneklemesi düzgün örnekleme için iyi bir yaklaşımdır.[1] Diğer bir basitleştirme, girişlerin bağımsız olarak ve değiştirilerek örneklendiğini varsaymaktır.[2]

Gözlemlenen girişlerin sayısının alt sınırı

Varsayalım tarafından matris (ile ) kurtarmaya çalışıyoruz sıra . Daha önce kaç girişin gözlemlenmesi gerektiğine dair bir bilgi teorik alt sınırı vardır. benzersiz bir şekilde yeniden yapılandırılabilir. Kümesi tarafından sıralaması küçük veya eşit olan matrisler cebirsel bir çeşittir boyut ile Bu sonucu kullanarak en azından şunu gösterebiliriz:matris tamamlanması için girişler gözlemlenmelidirbenzersiz bir çözüme sahip olmak.[3]

İkinci olarak, her satır ve sütun için en az bir gözlemlenen giriş olmalıdır. . Tekil Değer Ayrışımı nın-nin tarafından verilir . Satır ise gözlemlenmemiş, görmek kolaydır sağ tekil vektör , , keyfi bir değere değiştirilebilir ve yine de bir matris eşleşmesi sağlayabilir gözlemlenen girişler kümesi üzerinden. Benzer şekilde, eğer sütunu gözlenmedi, sol tekil vektörü , keyfi olabilir. Gözlemlenen girişler kümesinin Bernoulli örneklemesini varsayarsak, Kupon toplayıcı etkisi sırasına göre girişlerin olduğunu ima eder Her satır ve sütundan yüksek olasılıkla gözlem yapılmasını sağlamak için uyulmalıdır.[4]

Gerekli koşulları birleştirmek ve varsaymak (birçok pratik uygulama için geçerli bir varsayım), matris tamamlanması sorununun yetersiz belirlenmesini önlemek için gerekli olan gözlemlenen girişlerin sayısının alt sınırı şu sıradır: .

Tutarsızlık

Tutarsızlık kavramı, sıkıştırılmış algılama. Tekil vektörleri sağlamak için matris tamamlama bağlamında tanıtılmıştır. her tekil vektörün tüm koordinatlarının önemli ölçüde daha büyük büyüklüklere sahip sadece birkaç koordinat yerine karşılaştırılabilir büyüklükte olması anlamında çok "seyrek" değildir.[5][6] Standart temel vektörler daha sonra tekil vektörler olarak istenmez ve vektör içinde Arzu edilir. Tekil vektörler yeterince "seyrek" ise neyin yanlış gidebileceğine bir örnek olarak, tarafından matris ile tekil değer ayrışımı . Neredeyse tüm girişler yeniden yapılandırılmadan önce numune alınmalıdır.

Candès ve Recht[1] bir matrisin tutarlılığını tanımlama ile sütun alanı bir boyutsal alt uzay gibi , nerede ortogonaldir projeksiyon üstüne . Tutarsızlık daha sonra verilen tekil değer ayrışımı of tarafından matris ,

  1. Girişleri büyüklüğünün üst sınırı vardır

bazı .

Gürültülü düşük aşamalı matris tamamlama

Gerçek dünya uygulamasında, genellikle en azından az miktarda gürültüyle bozulmuş yalnızca birkaç giriş gözlemlenir. Örneğin Netflix probleminde derecelendirmeler belirsizdir. Candès ve Plan [7] büyük düşük sıralı matrislerin birçok eksik girişini nükleer norm minimizasyonu ile birkaç gürültülü örnekten doldurmanın mümkün olduğunu gösterdi. Gürültülü model, gözlemlediğimizi varsayar

nerede gürültü terimidir. Gürültünün stokastik veya deterministik olabileceğini unutmayın. Alternatif olarak model şu şekilde ifade edilebilir:

nerede bir girişli matris için varsayarsak bazı Eksik matrisi kurtarmak için aşağıdaki optimizasyon problemini çözmeye çalışıyoruz:

Verilerle tutarlı tüm matrisler arasında minimum nükleer normu olanı bulun. Candès ve Plan [7] bu yeniden yapılanmanın doğru olduğunu gösterdiler. Mükemmel gürültüsüz geri kazanım gerçekleştiğinde, matris tamamlamasının görsel düzensizlikler karşısında kararlı olduğunu kanıtladılar. Hata, gürültü seviyesi ile orantılıdır . Bu nedenle, gürültü seviyesi küçük olduğunda, hata küçüktür. Burada matris tamamlama problemi, kısıtlı izometri özelliğine (RIP) uymaz. Matrisler için RIP, örnekleme operatörünün aşağıdakilere uyduğunu varsayacaktır:

tüm matrisler için yeterince küçük rütbeli ve Yöntemler, RIP'nin tutmadığı seyrek sinyal kurtarma sorunlarına da uygulanabilir.

Yüksek sıralı matris tamamlama

Genel olarak yüksek sıralı matris tamamlama NP-Sert. Bununla birlikte, belirli varsayımlarla, bazı tamamlanmamış yüksek dereceli matrisler veya hatta tam dereceli matrisler tamamlanabilir.

Eriksson, Balzano ve Nowak [8] matrisin sütunlarının birden çok alt-sıralı alt uzay birliğine ait olduğu varsayımıyla bir matrisi tamamlama problemini düşünmüşlerdir. Sütunlar bir alt uzaylar birleşimine ait olduğu için, problemin eksik veri versiyonu olarak görülebilir. alt uzay kümeleme sorun. İzin Vermek fasulye (tam) sütunları en fazla bir birleşim halinde olan matris alt uzaylar, her biri ve varsayalım . Eriksson, Balzano ve Nowak [8] hafif varsayımlar altında her bir sütunun en azından tamamlanmamış bir sürümden yüksek olasılıkla mükemmel bir şekilde kurtarılabilir. girişleri rastgele gözlemlenir, olağan tutarsızlık koşullarına, alt uzayların geometrik düzenine ve alt uzaylar üzerindeki sütunların dağılımına bağlı bir sabit.

Algoritma birkaç adım içerir: (1) yerel mahalleler; (2) yerel alt uzaylar; (3) alt uzay iyileştirmesi; (4) tam matris tamamlama. Bu yöntem, İnternet mesafe matrisi tamamlama ve topoloji tanımlamasına uygulanabilir.

Algoritmalar

Çeşitli matris tamamlama algoritmaları önerilmiştir.[6] Bunlar dışbükey gevşemeye dayalı algoritmayı içerir,[1] gradyan tabanlı algoritma,[9] ve alternatif en aza indirmeye dayalı algoritma.[10]

Konveks gevşeme

Sıra minimizasyon problemi NP-zor. Candès ve Recht tarafından önerilen bir yaklaşım, bir dışbükey sorunun gevşemesi ve nükleer enerjiyi en aza indirgeme norm (toplamını veren tekil değerler nın-nin ) onun yerine (sıfır olmayan sayıyı sayar tekil değerler nın-nin ).[1] Bu, L1-norm L0- yerinenorm vektörler için. dışbükey rahatlama kullanılarak çözülebilir yarı belirsiz programlama (SDP) optimizasyon sorununun eşdeğer olduğunu fark ederek

Kullanmanın karmaşıklığı SDP dışbükey gevşemeyi çözmek için . SDP3 gibi son teknoloji ürünü çözücüler yalnızca 100'e 100 boyuta kadar matrisleri işleyebilir [11] Dışbükey gevşemeyi yaklaşık olarak çözen alternatif bir birinci derece yöntem, Cai, Candès ve Shen tarafından sunulan Tekil Değer Eşik Algoritmasıdır.[11]

Candès ve Recht gösterisi, rastgele değişkenlerin çalışmasını kullanarak Banach uzayları, gözlemlenen girişlerin sayısı sırasına göre (genelliği kaybetmeden varsayalım ), sıra minimizasyon probleminin, aynı zamanda dışbükey gevşemesinin olasılıkla çözümü olan benzersiz bir çözümü vardır. bazı sabitler için . Rütbesi küçük (), gözlem kümesinin boyutu, . Matris tamamlama sorununun eksik belirlenmemesi için gözlemlenmesi gereken minimum girdi sayısı aşağıdaki sırayla olduğundan, bu sonuçlar neredeyse optimaldir. .

Bu sonuç Candès ve Tao tarafından geliştirildi.[4] Yalnızca optimal sınırlardan farklı olan sınırlar elde ederler. polilogaritmik varsayımları güçlendirerek faktörler. Tutarsızlık özelliği yerine, parametre ile güçlü tutarsızlık özelliğini varsayarlar. . Bu özellik şunları belirtir:

  1. için ve için
  2. Girişleri büyüklükle sınırlandırılmıştır

Sezgisel olarak, bir matrisin güçlü tutarsızlığı standart temel vektörlerin ortogonal projeksiyonlarının tekil vektörler rastgele dağıtılırsa yüksek olasılığa sahip büyüklüklere sahiptir.[5]

Candès ve Tao bunu ne zaman bulur dır-dir ve gözlemlenen girişlerin sayısı sırasıyla , sıra küçültme problemi, aynı zamanda dışbükey gevşemesinin olasılıkla çözümü olan benzersiz bir çözüme sahiptir. bazı sabitler için . Keyfi için , bu iddianın doğru tutulması için yeterli gözlemlenen girişlerin sayısı, sırasıyla

Dereceli alçalma

Keshavan, Montanari ve Oh[9] bir matris tamamlama varyantını düşünün, sıra of tarafından matris kurtarılacak olan, . Varsayarlar Bernoulli örneklemesi giriş sayısı, sabit en boy oranı , girişlerin sınırlı büyüklüğü (üst sınır olsun ) ve sabit durum numarası (nerede ve en büyük ve en küçük tekil değerler nın-nin sırasıyla). Ayrıca, iki tutarsızlık koşulunun aşağıdakilerden memnun olduğunu varsayarlar: ve nerede ve sabitler. İzin Vermek eşleşen bir matris ol sette Gözlenen girişlerin oranı ve başka yerlerde 0. Daha sonra aşağıdaki algoritmayı önerirler:

  1. Kırpma Tüm gözlemleri, dereceden daha büyük sütunlardan kaldırarak sütunlardaki girişleri 0 olarak ayarlayarak. Benzer şekilde, tüm gözlemleri dereceden daha büyük satırlardan kaldırın. .
  2. Proje ilkine Ana bileşenleri. Ortaya çıkan matrisi çağırın .
  3. Çöz nerede biraz düzenleme işlevi dereceli alçalma ile satır arama. Başlat -de nerede . Ayarlamak bazı fonksiyon zorlama olarak gradyan inişi boyunca tutarsız kalmak için ve tutarsızdır.
  4. Dönüş matris .

Algoritmanın 1. ve 2. adımları bir matris verir gerçek matrise çok yakın (ölçülen kök ortalama kare hatası (RMSE) yüksek olasılıkla. Özellikle olasılıkla , bazı sabitler için . Frobenius'u belirtir norm. Bu sonucun geçerli olması için tüm varsayımlar grubunun gerekli olmadığını unutmayın. Tutarsızlık durumu, örneğin, yalnızca tam olarak yeniden yapılanmada devreye girer. Son olarak, bilgi atmayı içerdiğinden kırpma sezgisel görünmese de, projeksiyonu sağlar ilkine Ana bileşenleri temel matris hakkında daha fazla bilgi verir gözlemlenen girişlerden daha fazla.

3. Adımda, aday matrislerin uzayı iç minimizasyon sorununun aynı çözüme sahip olduğunu fark ederek azaltılabilir. gelince nerede ve vardır ortonormal tarafından matrisler. Sonra dereceli alçalma üzerinden yapılabilir Çapraz ürün iki Grassman manifoldları. Eğer ve gözlemlenen giriş kümesi sırasıyla 3. Adımda döndürülen matris tam olarak . O halde algoritma optimal sıradır, çünkü matris tamamlama probleminin az belirlenmiş girişlerin sayısı sırasıyla olmalıdır .

Alternatif en küçük kareler küçültme

Alternatif en aza indirme, verilen verilere en iyi uyan düşük sıralı matrisleri bulmak için yaygın olarak uygulanabilir ve deneysel olarak başarılı bir yaklaşımı temsil eder. Örneğin, düşük sıralı matris tamamlama sorunu için, bu yöntemin en doğru ve verimli yöntemlerden biri olduğuna inanılıyor ve Netflix probleminde kazanan girişin önemli bir bileşenini oluşturdu. Alternatif minimizasyon yaklaşımında, düşük seviyeli hedef matrisi bir iki doğrusal form:

;

algoritma daha sonra en iyiyi bulmak arasında geçiş yapar ve en iyisi . Genel problem dışbükey olmasa da, her bir alt problem tipik olarak dışbükeydir ve verimli bir şekilde çözülebilir. Jain, Netrapalli ve Sanghavi [10] hem matris tamamlama hem de matris algılama için alternatif minimizasyon performansı için ilk garantilerden birini vermiştir.

Alternatif en aza indirme algoritması, aşağıdaki dışbükey olmayan problemi çözmenin yaklaşık bir yolu olarak görülebilir:

Jain, Netrapalli ve Sanghavi tarafından önerilen AltMinComplete Algorithm burada listelenmiştir:[10]

  1. Giriş: gözlemlenen küme , değerler
  2. Bölüm içine alt kümeler her bir unsuru ile birine ait eşit olasılıkla (değiştirme ile örnekleme)
  3. yani, üst sol tekil vektörleri
  4. Kırpma: Tüm öğelerini ayarlayın şundan daha büyük olan sütunlarını sıfırlamak ve ortonormalleştirmek için
  5. için yapmak
  6. sonu için
  7. Dönüş

Bunu gözlemleyerek gösterdiler tutarsız bir matrisin rastgele girdileri , AltMinComplete algoritması kurtarabilir içinde adımlar. Örnek karmaşıklığı açısından () teorik olarak, Alternatif Küçültme daha büyük Konveks Gevşemeden daha fazla. Bununla birlikte, deneysel olarak, örnek karmaşıklık sınırlarının daha da sıkılaştırılabileceğini ima eden durum böyle görünmemektedir. Zaman karmaşıklığı açısından, AltMinComplete'in zamana ihtiyacı olduğunu gösterdiler.

.

Dışbükey gevşemeye dayalı yöntemlerin titiz bir analizi olmasına rağmen, alternatif minimizasyon tabanlı algoritmaların pratikte daha başarılı olduğunu belirtmek gerekir.[kaynak belirtilmeli ]

Başvurular

Matris tamamlamanın çeşitli uygulamaları Candès ve Plan tarafından özetlenmiştir.[7] aşağıdaki gibi:

İşbirlikçi filtreleme

İşbirlikçi filtreleme birçok kullanıcıdan tat bilgisi toplayarak bir kullanıcının ilgi alanları hakkında otomatik tahminler yapma görevidir. Apple, Amazon, Barnes ve Noble ve Netflix gibi şirketler kullanıcı tercihlerini kısmi bilgilerden tahmin etmeye çalışıyor. Bu tür bir matris tamamlama probleminde, bilinmeyen tam matris genellikle düşük dereceli olarak kabul edilir, çünkü tipik olarak bir bireyin zevklerine veya tercihlerine yalnızca birkaç faktör katkıda bulunur.

Sistem tanımlama

Kontrolde, bir ayrık zamanlı doğrusal zamanla değişmeyen durum uzayı modeline uymak istenir.

bir dizi girişe ve çıktılar . Vektör sistemin o andaki durumudur ve sistem modelinin sırasıdır. Giriş / çıkış çiftinden matrisleri kurtarmak istiyoruz ve başlangıç ​​durumu . Bu problem aynı zamanda düşük sıralı bir matris tamamlama problemi olarak da görülebilir.

Nesnelerin İnterneti (IoT) yerelleştirmesi

Yerelleştirme (veya küresel konumlandırma) sorunu, IoT sensör ağlarında doğal olarak ortaya çıkar. Sorun, sensör haritasını kurtarmaktır. Öklid uzayı yerel veya kısmi bir ikili mesafe kümesinden. Bu nedenle, sensörler 2 boyutlu bir düzlemde bulunuyorsa ikinci sırada ve 3 boyutlu bir uzaydaysa üçüyle bir matris tamamlama sorunudur.[12]

Ayrıca bakınız

Referanslar

  1. ^ a b c d e Candès, E. J .; Recht, B. (2009). "Dışbükey Optimizasyon Yoluyla Tam Matris Tamamlama". Hesaplamalı Matematiğin Temelleri. 9 (6): 717–772. arXiv:0805.4471. doi:10.1007 / s10208-009-9045-5.
  2. ^ Recht, B. (2009). "Matris Tamamlamaya Daha Basit Bir Yaklaşım" (PDF). Makine Öğrenimi Araştırmaları Dergisi. 12: 3413–3430. arXiv:0910.0651. Bibcode:2009arXiv0910.0651R.
  3. ^ Xu, Zhiqiang (2018). "Düşük aşamalı matris kurtarma için minimum ölçüm numarası". Uygulamalı ve Hesaplamalı Harmonik Analiz. 44 (2): 497–508. arXiv:1505.07204. doi:10.1016 / j.acha.2017.01.005.
  4. ^ a b Candès, E. J .; Tao, T. (2010). "Dışbükey Gevşemenin Gücü: Optimale Yakın Matris Tamamlama". Bilgi Teorisi Üzerine IEEE İşlemleri. 56 (5): 2053–2080. arXiv:0903.1476. doi:10.1109 / TIT.2010.2044061.
  5. ^ a b Tao, T. (10 Mart 2009). "Dışbükey gevşemenin gücü: optimal matris tamamlamaya yakın". Ne var ne yok.
  6. ^ a b Nguyen, L.T .; Kim, J .; Shim, B. (10 Temmuz 2019). "Düşük Sıralı Matris Tamamlama: Çağdaş Bir Araştırma". IEEE Erişimi. 7 (1): 94215–94237. arXiv:1907.11705. Bibcode:2019arXiv190711705N. doi:10.1109 / ERİŞİM.2019.2928130.
  7. ^ a b c Candès, E. J .; Plan, Y. (2010). "Gürültülü Matris Tamamlama". IEEE'nin tutanakları. 98 (6): 925–936. arXiv:0903.3131. doi:10.1109 / JPROC.2009.2035722.
  8. ^ a b Eriksson, B .; Balzano, L .; Nowak, R. (2011). "Eksik Verilerle Yüksek Sıralı Matris Tamamlama ve Altuzay Kümeleme". arXiv:1112.5629 [cs.IT ].
  9. ^ a b Keshavan, R. H .; Montanari,.; Oh, S. (2010). "Birkaç Girişten Matris Tamamlama". Bilgi Teorisi Üzerine IEEE İşlemleri. 56 (6): 2980–2998. arXiv:0901.3150. doi:10.1109 / TIT.2010.2046205.CS1 bakimi: sayısal isimler: yazarlar listesi (bağlantı)
  10. ^ a b c Jain, P .; Netrapalli, P .; Sanghavi, S. (2013). "Dönüşümlü Küçültmeyi Kullanarak Düşük Sıralı Matris Tamamlama". Hesaplama teorisi üzerine 45. yıllık ACM sempozyumunun bildirileri. ACM. pp. 665–674. arXiv:1212.0467. doi:10.1145/2488608.2488693. ISBN  978-1-4503-2029-0.
  11. ^ a b Cai, J.-F .; Candès, E. J .; Shen, Z. (2010). "Matris Tamamlama için Tekil Değer Eşik Algoritması". SIAM Optimizasyon Dergisi. 20 (4): 1956–1982. arXiv:0810.3286. doi:10.1137/080738970.
  12. ^ Nguyen, L.T .; Kim, J .; Kim, S .; Shim, B. (2019). "Düşük Sıralı Matris Tamamlama Yoluyla IoT Ağlarının Yerelleştirilmesi". İletişimde IEEE İşlemleri. 67 (8): 5833–5847. doi:10.1109 / TCOMM.2019.2915226.