miniatura|Visualització de la DVS d'una matriu M de distorsió bidimensional real. Primer, veiem el disc unitat (en blau) amb els dos vectors canònics unitaris. Després veiem l'acció de M, que distorsiona el disc en una el·lipse. La DVS descompon M en tres transformacions simples: una rotació V*, una homotècia Σ al llarg dels eixos coordenats rotats, i una segona rotació U. Les longituds σ1 i σ₂ dels semieixos de l'el·lipse són els valors singulars de M.
En àlgebra lineal, la descomposició en valors singulars (DVS) és una descomposició de matrius d'una matriu real o complexa, amb gran nombre d'aplicacions en el processament de senyals i l'estadística.
Formalment, la descomposició en valors singulars d'una matriu M real o complexa de dimensió m×n és una factorització de la forma
on U és una matriu unitària de dimensió m×m real o complexa, Σ és una matriu diagonal rectangular de dimensió m×n amb entrades reals no-negatives a la diagonal, i V* (la matriu transposada conjugada de V) és una matriu unitària real o complexa de dimensió n×n. Les entrades de la diagonal Σi,i de Σ són conegudes com els valors singulars de M. Les m columnes de U i les n columnes de V s'anomenen vectors singulars per l'esquerra i vectors singulars per la dreta de M, respectivament.
La descomposició en valors singulars i la descomposició espectral estan íntimament lligades. De fet: Els vectors singulars per l'esquerra de M són vectors propis de MM* . Els vectors singulars per la dreta de M són vectors propis de M*M. Els valors singulars no-nuls de M (que hom troba a les entrades de la diagonal de Σ) són les arrels quadrades dels valors propis tant de M*M com de MM* .
Algunes aplicacions de la DVS són el càlcul de la pseudoinversa d'una matriu, l'ajust de dades pel mètode dels mínims quadrats, aproximacions de matrius, i la determinació del rang, la imatge i el nucli d'una matriu.
Enunciat del teorema Suposem que M és una matriu de dimensió m×n a entrades en un cos K, que pot ser el cos dels reals o el dels complexos. Aleshores existeix una factorització de la forma
on U és una matriu unitària de dimensió m×m sobre K, la matriu Σ és una matriu diagonal de dimensió m×n amb valors reals no-negatius a la diagonal, i la matriu unitària V* de dimensió n×n denota la matriu transposada conjugada de la matriu unitària V de dimensió n×n. Una tal factorització s'anomena una descomposició en valors singulars de M.
Les entrades de la diagonal de Σ es coneixen com els valors singulars dM. Per convenció, hom acostuma a escriure la llista de valors singulars en ordre descendent. En aquest cas, la matriu diagonal Σ està unívocament determinada per M (però no ho estan les matrius U ni V).
Interpretacions intuïtives Rotació, homotècia, rotació En el cas especial (però comú) en què M és una matriu quadrada de dimensió m×m amb determinant positiu, i a entrades reals, aleshores U, V*, i Σ són també matrius m×m a entrades reals, Σ pot ser vista com una homotècia, i U i V* poden ser vistes com a matrius de rotació.
Si es donen aquestes condicions, l'expressió pot ser interpretada com una composició (o successió) de tres transformades geomètriques: una rotació, una homotècia i una altra rotació. Per exemple, la figura superior explica com es pot descriure una matriu de distorsió en termes d'aquesta composició de funcions.
Valors singulars com a semieixos d'una el·lipse o d'un el·lipsoide Com es mostra en la figura, els valors singulars poden ser interpretats com els semieixos d'una el·lipse en dues dimensions. Aquest concepte es pot generalitzar a l'espai euclidià n-dimensional, on els valors singulars d'una matriu quadrada n×n arbitrària es poden interpretar com els semieixos d'un el·lipsoide n-dimensional. Vegeu més avall per més detalls.
Les columnes de U i V són bases ortonormals Com que U i V* són unitàries, les columnes de cadascuna formen un conjunt de vectors ortonormals, que poden interpretar-se com a vectors d'una base. Per la definició de matriu unitària, el mateix aplica per les seves transposades conjugades U* i V. En altres paraules, U, U* , V i V* són bases ortonormals.
Exemple Considerem la matriu 4×5
Una descomposició en valors singulars d'aquesta matriu és
Notem que és nul·la fora de la diagonal, i que un element de la diagonal és zero. A més, com que les matrius i són unitàries, si les multipliquem per les seves transposades conjugades obtenim la matriu identitat, com es veu més avall. En aquest cas, com que i són a entrades reals, totes dues són matrius ortogonals.
i
En aquest cas concret, aquesta descomposició en valors singulars no és única. Si escollim tal que
també obtenim una descomposició en valors singulars vàlida.
Valors singulars, vectors singulars, i la seva relació amb la DVS Un nombre real no-negatiu σ és un valor singular de M si i només si existeixen vectors unitaris u de Km i v de Kn tals que
Els vectors u i v s'anomenen vector singular per l'esquerra i vector singular per la dreta de σ, respectivament.
En qualsevol descomposició en valors singulars
les entrades de la diagonal de Σ són iguals als valors singulars de M. Les columnes de U i V són, respectivament, vectors singulars per l'esquerra i per la dreta pels corresponents valors singulars. En conseqüència, el teorema implica que: Una matriu M de dimensió m × n té, com a molt, p = min(m,n) valors singulars diferents. Sempre és possible trobar una base ortogonal U de Km formada per vectors singulars per l'esquerra de M. Sempre és possible trobar una base ortogonal V de Kn formada per vectors singulars per la dreta de M.
Un valor singular pel qual podem trobar dos vectors singulars per l'esquerra (o per la dreta) que siguin linealment independents s'anomena degenerat.
Els valors singulars no-degenerats sempre tenen vectors singulars per l'esquerra i per la dreta únics, llevat de multiplicació per un factor de mòdul unitari eiφ (en el cas real, llevat de signe). En conseqüència, si tots els valors singulars de M són no-degenerats i no-nuls, llavors la seva descomposició en valors singulars és única, llevat de multiplicar una columna de U per un factor de mòdul unitari i alhora multiplicar la corresponent columna de V pel mateix factor de mòdul unitari.
Els valors singulars degenerats, per definició, tenen vectors singulars no-únics. És més, si u1 i u₂ són dos vectors singulars per l'esquerra corresponents al valor singular σ, llavors qualsevol combinació lineal normalitzada és també un vector singular per l'esquerra corresponent al valor singular σ. El mateix és vàlid per vectors singulars per la dreta. En conseqüència, si M té valors singulars degenerats, llavors la seva descomposició en valors singulars no és única.
Aplicacions de la DVS Pseudoinversa Hom pot emprar la descomposició en valors singulars per calcular la pseudoinversa d'una matriu. En efecte, la pseudoinversa de la matriu M amb descomposició en valors singulars és
on Σ+ és la pseudoinversa de Σ, formada tot substituint els elements no-nuls de la diagonal pels seus respectius recíprocs i transposant la matriu resultant. La pseudoinversa és una forma de resoldre problemes de mínims quadrats ordinaris.
Resolució d'equacions lineals homogènies Podem escriure un sistema d'equacions lineals homogènies com a per una matriu i un vector . Una situació típica és que és coneguda, i hem de determinar no-nul que satisfaci l'equació. Un tal pertany al nucli de i de vegades s'anomena un vector nul (per la dreta) de . El vector pot caracteritzar-se com un vector singular per la dreta corresponent a un valor singular de que és zero. Aquesta observació significa que si és una matriu quadrada i no té cap valor singular nul, llavors l'equació no té solució no-nul·la. També vol dir que si hi ha diversos valors singulars nuls, llavors qualsevol combinació lineal dels corresponents vectors singulars per la dreta n'és una solució vàlida. De forma anàloga a la definició de vector nul (per la dreta), un vector no-nul que satisfaci , on denota el transposat conjugat de , s'anomena vector nul per l'esquerra de .
Minimització de mínims quadrats totals Un problema de mínims quadrats totals es refereix a determinar el vector que minimitza la 2-norma d'un vector amb la restricció . La solució resulta ser el vector singular per la dreta de corresponent al valor singular més petit.
Imatge, nucli i rang Una altra aplicació de la DVS és que proveeix d'una representació explícita de la imatge i el nucli d'una matriu M. Els vectors singulars per la dreta corresponents a valors singulars nuls de M generen el nucli de M. Per exemple, les últimes dues columnes de generen el nucli en l'exemple anterior. Els vectors singulars per l'esquerra corresponents als valors singulars no-nuls de M generen la imatge de M. Com a conseqüència, el rang de M és igual al nombre de valors singulars no-nuls, la qual cosa equival al nombre d'elements no-nuls de la diagonal de .
En àlgebra lineal numèrica, els valors singulars poden emprar-se per determinar el rang efectiu d'una matriu, atès que els errors d'arrodoniment poden portar a valors singulars no-nuls però molt petits en una matriu mal condicionada.
Aproximació per matrius de rang baix Algunes aplicacions pràctiques necessiten resoldre el problema d'aproximar una matriu amb una altra matriu , anomenada truncada, que tingui un rang específic . En el cas que l'aproximació es basi en minimitzar la norma de Frobenius de la diferència entre i amb la restricció que , resulta que la solució ve donada per la DVS de , és a dir
on és la mateixa matriu que , excepte que conté només els valors singulars més grans (els altres valors singulars se substitueixen per zero). Això es coneix com el Teorema d'Eckart-Young, atès que va ser demostrat per aquests dos autors en 1936 (encara que més tard es va descobrir que el resultat era conegut per autors anteriors; vegeu ).
Models separables Hom pot interpretar la DVS com descompondre una matriu en una suma ordenada i amb pesos de matrius separables. Per separable, volem dir que una matriu pot escriure's com a producte exterior de dos vectors , o, en coordenades, . De forma específica, es pot descompondre la matriu M com:
Aquí, i són les columnes i-simes de les corresponents matrius de la DVS, són els valors singulars ordenats, i cada és separable. La DVS es pot emprar per trobar la descomposició d'un filtre de processament d'imatges en filtres separables horitzontals i verticals. Notem que el nombre de no-nuls és exactament el rang de la matriu.
Els models separables apareixen amb freqüència en sistemes biològics, i la descomposició DVS és útil per analitzar-los. Per exemple, es poden descriure els camps receptius d'una àrea visual V1 mitjançant un filtre de Gabor en el domini espacial multiplicat per una funció de modulació en el domini temporal. Llavors, donat un filtre lineal avaluat a través de, per exemple, una correlació inversa, es poden reconfigurar les dues dimensions espacials en una sola dimensió, obtenint per tant un filtre bidimensional (espai, temps) que es pot descompondre mitjançant DVS. La primera columna d'U en la descomposició DVS és Gabor mentre que la primera columna de V representa la modulació de temps (o viceversa). Hom pot definir llavors un índex de separabilitat, , que és la fracció de la potència de la matriu M assolida per la primera matriu separable de la descomposició.
Matriu ortogonal més propera És possible usar la DVS de per determinar la matriu ortogonal més propera a . La proximitat de l'ajust es mesura per la norma de Frobenius de . La solució és el producte . Això té sentit des d'un punt de vista intuïtiu, perquè una matriu ortogonal tindria una descomposició on és la matriu identitat, de tal manera que si llavors el producte ve a ser el mateix que substituir els valors singulars per uns.