• 十分11选5官网

  • 十分11选5官网

  • 十分11选5官网

  • 十分11选5官网

十分11选5官网

作者︰aezero  發布日期︰2020-02-23 15:51:48
Tag標簽︰研究領域  矩(ju)陣  
  • I.定義

      矩(ju)陣補全(Matrix Completion)是指如下一個問題: 有一個巨(ju)大的(de)矩(ju)陣$X\in\mathbb{R}^{m\times n}$,然(ran)而人們(men)只能觀(guan)測(ce)到其中的(de)部分元素。記觀(guan)測(ce)到的(de)矩(ju)陣為(wei)矩(ju)陣$M\in\mathbb{R}^{m\times n}$(沒huai)guan)測(ce)到的(de)nao) 匚恢zhi)以$0$填(tian)充(chong)),則$P_\Omega(X)=P_\Omega(M)$,其中觀(guan)測(ce)到的(de)nao) 叵鹵曇 霞俏wei)$\Omega$,$P_\Omega$表示投影到$\Omega$。

      為(wei)了(liao)說明它的(de)意(yi)義,這里(li)舉一個最常見的(de)情形,即評分預(yu)測(ce)/推薦系統(tong)——協同(tong)過濾,如豆瓣之類的(de)網站(zhan),會有很多用(yong)戶(看(kan)作行)對很多電影(看(kan)作列(lie))進行打分(矩(ju)陣元素的(de)值),每個用(yong)戶只會對很少(shao)的(de)電影打分,這就導致我(wo)們(men)的(de)打分矩(ju)陣是一個部分觀(guan)測(ce)到的(de)矩(ju)陣,而往往我(wo)們(men)想(xiang)預(yu)測(ce)出來cong)yong)戶對沒有打分的(de)電影的(de)評分,依次來推薦或挖掘等等。同(tong)時注意(yi)到行數和(he)列(lie)數往往非常非常大(>百萬級別),並且矩(ju)陣的(de)稀疏度可能很高很高(<0.x%)。

      顯然(ran)這個問題是個不適(shi)定問題,想(xiang)要(yao)補全整(zheng)個矩(ju)陣,我(wo)們(men)需要(yao)一些額外的(de)nao)際shu),最常見的(de)就是假設這個矩(ju)陣是低秩的(de)mo) 環矯嬲夥餃wo)們(men)對自然(ran)界的(de)觀(guan)測(ce),另一方面chan)梢雜yong)“物以類聚,人以群分”的(de)一致性來做直ben)踅饈shi)。考慮觀(guan)測(ce)有噪聲(sheng)的(de)情況(kuang),則整(zheng)個問題可以形式化(hua)為(wei)︰

    \[ \min_{X}\P_\Omega(X-M)\_F^2 \quad s.t. rank(X)\leq k. \]

    II.求解︰化(hua)歸到稀疏問題 

      rank是個很難(nan)搞的(de)東西,而且把整(zheng)個問題變(bian)成非凸的(de)了(liao)。把$X$的(de)奇(qi)異值表示成向量(liang)形式$\sigma$,那麼(me)根據SVD分解的(de)性質,$rank(X)\leq k$等價(jia)于(yu) $\\sigma\_0\leq k$。這樣,就tu) 櫚攪liao)稀疏問題上來,可以用(yong)壓縮感知、稀疏編碼的(de)思路來思考,只不huai)勘甏cong)向量(liang)拓(tuo)展到了(liao)矩(ju)陣。

    十分11选5官网

      類似壓縮感知,我(wo)們(men)也可以把$\\sigma\_0$松弛到$\\sigma\_1$,這樣就變(bian)成了(liao)凸問題。同(tong)時,松弛到$\\sigma\_1$即矩(ju)陣的(de)Nuclear norm  \X\_*,問題化(hua)為(wei)︰

    \[ \min_{X}\P_\Omega(X-M)\_F^2 +\lambda \X\_* \]

      關(guan)于(yu)這個問題,有很多解法,大部分都是從(cong)稀疏里(li)變(bian)換huai)吹de)mo) 縭賬跛闋印DMM等等。

      Candes證明了(liao)矩(ju)陣補全和(he)壓縮感知一樣,在(zai)滿足矩(ju)陣size和(he)采樣率(觀(guan)測(ce)稀疏度)要(yao)求下,有exact recovery的(de)bound(事實(shi)上,矩(ju)陣補全的(de)坑(kang)就是Candes挖的(de)mo) S行巳?de)可以讀一下他的(de)paper︰  E. J. Candès and B. Recht. Exact matrix completion via convex optimization. Found. of Comput. Math.9 717-772

    十分11选5官网

      同(tong)樣的(de)mo) 淙ran)松弛到凸問題有最優解,有bound guarantee,但(dan)是論起實(shi)際效果往往非凸的(de)一些解法更準確(que)更快(kuai)速。這部分我(wo)做的(de)比較多。主要(yao)兩類︰

  • 類似OMP,可以用(yong)貪心方法選基(ji),每kan)窩∫桓ank one的(de)矩(ju)陣,然(ran)後更新系數,選k個即能保證矩(ju)陣秩小(xiao)于(yu)等于(yu)k。注意(yi)到一個重(zhong)要(yao)的(de)區別是稀疏里(li)有個字(zi)典,也即從(cong)一組冗余基(ji)里(li)選,而矩(ju)陣補全沒有這樣一個字(zi)典,可以從(cong)無限個數的(de)基(ji)里(li)選,可以用(yong)top SVD 或者其它子目標問題求解得到。非凸懲罰項,比如MCP。

    III.協同(tong)過濾、去噪      

      工業界的(de)推薦系統(tong)最主要(yao)的(de)兩個思路就是基(ji)于(yu)內(na)容和(he)協同(tong)過濾兩種。協同(tong)過濾更standard的(de)是用(yong)矩(ju)陣分解來做(個人認為(wei)主要(yao)還(huai)是矩(ju)陣分解比補全出來的(de)nao)紓 勒劑liao)市場(chang)),矩(ju)陣分解根據一篇paper的(de)定理(一時忘(wang)記出處了(liao)),其實(shi)是和(he)Nuclear norm約束(shu)等價(jia)的(de)。期待矩(ju)陣補全在(zai)實(shi)際中的(de)更多應用(yong)。此外,矩(ju)陣補全也可以用(yong)來做圖像(xiang)去噪。

十分11选5官网

About IT165 -廣告服務 -东森平台官网隱私聲(sheng)明 -版(ban)權申明 -免責條(tiao)款 -網站(zhan)地圖 -網友(you)投稿 -聯系方式
本(ben)站(zhan)內(na)容來自于(yu)互聯網,僅(jin)供用(yong)于(yu)網絡技術(shu)學習(xi),學習(xi)中xing)胱裱 xiang)關(guan)法律法規
十分11选5官网 | 下一页