Análisis de componentes principales

Para maximizar la varianza, el primer vector de pesos w ₍₁₎ debe satisfacer

${\displaystyle \mathbf {w} _{(1)}=\arg \max _{\Vert \mathbf {w} \Vert =1}\,\left\{\sum _{i}(t_{1})_{(i)}^{2}\right\}=\arg \max _{\Vert \mathbf {w} \Vert =1}\,\left\{\sum _{i}\left(\mathbf {x} _{(i)}\cdot \mathbf {w} \right)^{2}\right\}}$

De forma equivalente, escribir esto en forma matricial da como resultado

${\displaystyle \mathbf {w} _ {(1)}=\arg \max _{\left\|\mathbf {w} \right\|=1}\left\{\left\|\mathbf {Xw} \right\|^{2}\right\}=\arg \max _{\left\|\mathbf {w} \right\|=1}\left\{\mathbf {w} ^{\mathsf {T}}\mathbf {X} ^{\mathsf {T}}\mathbf {Xw} \right\}}$

Dado que w ₍₁₎ se ha definido como un vector unitario, también satisface de forma equivalente

${\displaystyle \mathbf {w} _{(1)}=\arg \max \left\{{\frac {\mathbf {w} ^{\mathsf {T}}\mathbf {X} ^{\mathsf {T}}\mathbf {Xw} }{\mathbf {w} ^{\mathsf {T}}\mathbf {w} }}\right\}}$

La cantidad que se va a maximizar se puede reconocer como un cociente de Rayleigh . Un resultado estándar para una matriz semidefinida positiva como X ^T X es que el valor máximo posible del cociente es el mayor valor propio de la matriz, que ocurre cuando w es el vector propio correspondiente .

Una vez hallado w ₍₁₎ , el primer componente principal de un vector de datos x _{( i )} puede entonces darse como una puntuación t _{1( i )} = x _{( i )} ⋅ w ₍₁₎ en las coordenadas transformadas, o como el vector correspondiente en las variables originales, { x _{( i )} ⋅ w ₍₁₎ } w ₍₁₎ .

El k -ésimo componente se puede encontrar restando los primeros k  −  1 componentes principales de X :

${\displaystyle \mathbf {\hat {X}} _{k}=\mathbf {X} -\sum _{s=1}^{k-1}\mathbf {X} \mathbf {w} _{(s)}\mathbf {w} _{(s)}^{\mathsf {T}}}$

y luego encontrar el vector de pesos que extrae la máxima varianza de esta nueva matriz de datos.

${\displaystyle \mathbf {w} _{(k)}=\mathop {\operatorname {arg\,max} } _{\left\|\mathbf {w} \right\|=1}\left\{\left\|\mathbf {\hat {X}} _{k}\mathbf {w} \right\|^{2}\right\}=\arg \max \left\{{\tfrac {\mathbf {w} ^{\mathsf {T}}\mathbf {\hat {X}} _{k}^{\mathsf {T}}\mathbf {\hat {X}} _{k}\mathbf {w} }{\mathbf {w} ^{T}\mathbf {w} }}\right\}}$

Resulta que esto da los autovectores restantes de X ^T X , con los valores máximos para la cantidad entre paréntesis dados por sus autovalores correspondientes. Por lo tanto, los vectores de peso son autovectores de X ^T X .

Por lo tanto, el k -ésimo componente principal de un vector de datos x _{( i )} puede darse como una puntuación t _{k ( i )} = x _{( i )} ⋅ w _{( k )} en las coordenadas transformadas, o como el vector correspondiente en el espacio de las variables originales, { x _{( i )} ⋅ w _{( k )} } w _{( k )} , donde w _{( k )} es el k -ésimo vector propio de X ^T X .

Por lo tanto, la descomposición completa en componentes principales de X se puede expresar como:

${\displaystyle \mathbf {T} =\mathbf {X} \mathbf {W} }$

donde W es una matriz de pesos de p × p cuyas columnas son los vectores propios de X ^T X . La transpuesta de W a veces se denomina transformación de blanqueamiento o de esferización . Las columnas de W multiplicadas por la raíz cuadrada de los valores propios correspondientes, es decir, los vectores propios escalados por las varianzas, se denominan cargas en el análisis de componentes principales (PCA) o en el análisis factorial.

X ^T X mismo puede reconocerse como proporcional a la matriz de covarianza ^de la muestra empírica del conjunto de datos X. ^{[ 13 ]} : ^30–31

La covarianza muestral Q entre dos de los diferentes componentes principales del conjunto de datos viene dada por:

${\displaystyle {\begin{aligned}Q(\mathrm {PC} _{(j)},\mathrm {PC} _{(k)})&\propto (\mathbf {X} \mathbf {w} _{(j)})^{\mathsf {T}}(\mathbf {X} \mathbf {w} _{(k)})\\&=\mathbf {w} _{(j)}^{\mathsf {T}}\mathbf {X} ^{\mathsf {T}}\mathbf {X} \mathbf {w} _{(k)}\\&=\mathbf {w} _{(j)}^{\mathsf {T}}\lambda _{(k)}\mathbf {w} _{(k)}\\&=\lambda _{(k)}\mathbf {w} _{(j)}^{\mathsf {T}}\mathbf {w} _{(k)}\end{aligned}}}$

donde la propiedad de autovalor de w _{( k )} se ha utilizado para pasar de la línea 2 a la línea 3. Sin embargo, los autovectores w _{( j )} y w _{( k )} correspondientes a los autovalores de una matriz simétrica son ortogonales (si los autovalores son diferentes) o pueden ortogonalizarse (si los vectores comparten un valor repetido igual). Por lo tanto, el producto en la última línea es cero; no hay covarianza muestral entre los diferentes componentes principales en el conjunto de datos.

Otra forma de caracterizar la transformación de componentes principales es, por lo tanto, como la transformación a coordenadas que diagonalizan la matriz de covarianza de la muestra empírica.

En forma matricial, la matriz de covarianza empírica para las variables originales se puede escribir

${\displaystyle \mathbf {Q} \propto \mathbf {X} ^{\mathsf {T}}\mathbf {X} =\mathbf {W} \mathbf {\Lambda } \mathbf {W} ^{\mathsf {T}}}$

La matriz de covarianza empírica entre los componentes principales se convierte en

${\displaystyle \mathbf {W} ^{\mathsf {T}}\mathbf {Q} \mathbf {W} \propto \mathbf {W} ^{\mathsf {T}}\mathbf {W} \,\mathbf {\Lambda } \,\mathbf {W} ^{\mathsf {T}}\mathbf {W} =\mathbf {\Lambda } }$

donde Λ es la matriz diagonal de valores propios λ _{( k )} de X ^T X . λ _{( k )} es igual a la suma de los cuadrados sobre el conjunto de datos asociado con cada componente k , es decir, λ _{( k )} = Σ _i t _k ² _{( i )} = Σ _i ( x _{( i )} ⋅ w _{( k )} ) ² .

La transformación P = X W mapea un vector de datos x _{( i )} de un espacio original de x variables a un nuevo espacio de p variables que no están correlacionadas en el conjunto de datos. Para adimensionalizar los datos centrados, sea X _c el conjunto de valores característicos de los vectores de datos X _i , dados por:

• ${\displaystyle \|X\|_{\infty }}$(norma máxima),
• ${\displaystyle {\frac {1}{n}}\|X\|_{1}}$(valor absoluto medio), o
• ${\displaystyle {\frac {1}{\sqrt {n}}}\|X\|_{2}}$(norma euclidiana normalizada),

para un conjunto de datos de tamaño n . Estas normas se utilizan para transformar el espacio original de variables x, y a un nuevo espacio de variables no correlacionadas p, q (dada Y _c con el mismo significado), de tal manera que${\displaystyle p_{i}={\frac {X_{i}}{X_{c}}},\quad q_{i}={\frac {Y_{i}}{Y_{c}}}}$; y las nuevas variables están relacionadas linealmente de la siguiente manera:${\displaystyle q=\alpha p}$Para encontrar la relación lineal óptima, minimizamos el error cuadrático total de reconstrucción: ${\displaystyle E(\alpha )={\frac {1}{1-\alpha ^{2}}}\sum _{i=1}^{n}(\alpha p_{i}-q_{i})^{2}}$; de tal manera que se establece la derivada de la función de error a cero.${\displaystyle (E'(\alpha )=0)}$rendimientos:${\displaystyle \alpha ={\frac {1}{2}}\left(-\lambda \pm {\sqrt {\lambda ^{2}+4}}\right)}$dónde${\displaystyle \lambda ={\frac {p\cdot p-q\cdot q}{p\cdot q}}}$. ^{[ 14 ]}

Esta reducción de dimensionalidad puede ser un paso muy útil para visualizar y procesar conjuntos de datos de alta dimensión, conservando al mismo tiempo la mayor parte de la varianza posible. Por ejemplo, al seleccionar L  =  2 y conservar solo los dos primeros componentes principales, se encuentra el plano bidimensional a través del conjunto de datos de alta dimensión en el que los datos están más dispersos. De esta manera, si los datos contienen clústeres, estos también pueden estar más dispersos y, por lo tanto, ser más visibles para representarlos en un diagrama bidimensional. En cambio, si se eligen al azar dos direcciones a través de los datos (o dos de las variables originales), los clústeres pueden estar mucho menos dispersos entre sí y, de hecho, es mucho más probable que se superpongan sustancialmente, haciéndolos indistinguibles.

De manera similar, en el análisis de regresión , cuanto mayor sea el número de variables explicativas permitidas, mayor será la probabilidad de sobreajustar el modelo, lo que produce conclusiones que no se generalizan a otros conjuntos de datos. Un enfoque, especialmente cuando existen fuertes correlaciones entre diferentes variables explicativas posibles, consiste en reducirlas a unos pocos componentes principales y luego realizar la regresión con ellos, un método denominado regresión de componentes principales .

La reducción de dimensionalidad también puede ser apropiada cuando las variables de un conjunto de datos son ruidosas. Si cada columna del conjunto de datos contiene ruido gaussiano independiente e idénticamente distribuido, entonces las columnas de T también contendrán ruido gaussiano similarmente idénticamente distribuido (dicha distribución es invariante bajo los efectos de la matriz W , que puede considerarse como una rotación de alta dimensión de los ejes de coordenadas). Sin embargo, con una mayor concentración de la varianza total en los primeros componentes principales en comparación con la misma varianza de ruido, el efecto proporcional del ruido es menor: los primeros componentes alcanzan una mayor relación señal-ruido . Por lo tanto, el PCA puede tener el efecto de concentrar gran parte de la señal en los primeros componentes principales, que pueden capturarse útilmente mediante la reducción de dimensionalidad; mientras que los componentes principales posteriores pueden estar dominados por el ruido y, por lo tanto, descartarse sin una gran pérdida. Si el conjunto de datos no es demasiado grande, la significancia de los componentes principales puede probarse utilizando bootstrap paramétrico , como ayuda para determinar cuántos componentes principales retener. ^{[ 15 ]}

La transformación de componentes principales también puede asociarse con otra factorización de matrices, la descomposición en valores singulares (SVD) de X ,

${\displaystyle \mathbf {X} =\mathbf {U} \mathbf {\Sigma } \mathbf {W} ^{T}}$

Aquí Σ es una matriz diagonal rectangular de n por p de números positivos σ _{( k )} , llamados valores singulares de X ; U es una matriz de n por n , cuyas columnas son vectores unitarios ortogonales de longitud n llamados vectores singulares izquierdos de X ; y W es una matriz de p por p cuyas columnas son vectores unitarios ortogonales de longitud p y llamados vectores singulares derechos de X .

En términos de esta factorización, la matriz X ^T X se puede escribir

${\displaystyle {\begin{aligned}\mathbf {X} ^{T}\mathbf {X} &=\mathbf {W} \mathbf {\Sigma } ^{\mathsf {T}}\mathbf {U} ^{\mathsf {T}}\mathbf {U} \mathbf {\Sigma } \mathbf {W} ^{\mathsf {T}}\\&=\mathbf {W} \mathbf {\Sigma } ^{\mathsf {T}}\mathbf {\Sigma } \mathbf {W} ^{\mathsf {T}}\\&=\mathbf {W} \mathbf {\hat {\Sigma }} ^{2}\mathbf {W} ^{\mathsf {T}}\end{aligned}}}$

dónde${\displaystyle \mathbf {\hat {\Sigma }} }$es la matriz diagonal cuadrada con los valores singulares de X y los ceros sobrantes eliminados que satisface${\displaystyle \mathbf {{\hat {\Sigma }}^{2}} =\mathbf {\Sigma } ^{\mathsf {T}}\mathbf {\Sigma } }$. La comparación con la factorización de vectores propios de X ^T X establece que los vectores singulares derechos W de X son equivalentes a los vectores propios de X ^T X , mientras que los valores singulares σ _{( k )} de${\displaystyle \mathbf {X} }$son iguales a la raíz cuadrada de los valores propios λ _{( k )} de X ^T X .

Utilizando la descomposición en valores singulares, la matriz de puntuación T se puede escribir

${\displaystyle {\begin{aligned}\mathbf {T} &=\mathbf {X} \mathbf {W} \\&=\mathbf {U} \mathbf {\Sigma } \mathbf {W} ^{\mathsf {T}}\mathbf {W} \\&=\mathbf {U} \mathbf {\Sigma } \end{aligned}}}$

Así , cada columna de T viene dada por uno de los vectores singulares izquierdos de X multiplicado por el valor singular correspondiente. Esta forma es también la descomposición polar de T.

Existen algoritmos eficientes para calcular la SVD de X sin tener que formar la matriz X ^T X , por lo que calcular la SVD es ahora la forma estándar de calcular un análisis de componentes principales a partir de una matriz de datos, ^{[ 16 ]} a menos que solo se requieran unos pocos componentes.

Al igual que con la descomposición en valores propios, se puede obtener una matriz de puntuación truncada n × L T _L considerando solo los primeros L valores singulares más grandes y sus vectores singulares:

${\displaystyle \mathbf {T} _{L}=\mathbf {U} _{L}\mathbf {\Sigma } _{L}=\mathbf {X} \mathbf {W} _{L}}$

La truncación de una matriz M o T utilizando una descomposición en valores singulares truncada de esta manera produce una matriz truncada que es la matriz de rango L más cercana posible a la matriz original, en el sentido de que la diferencia entre las dos tiene la norma de Frobenius más pequeña posible , un resultado conocido como el teorema de Eckart-Young [1936].

Teorema (Ajuste óptimo k-dimensional). Sea P una matriz de datos n×m cuyas columnas han sido centradas en la media y escaladas, y sea ${\displaystyle P=U\,\Sigma \,V^{T}}$ sea ​​su descomposición en valores singulares. Entonces, la mejor aproximación de rango k a P en el sentido de mínimos cuadrados (norma de Frobenius) es ${\displaystyle P_{k}=U_{k}\,\Sigma _{k}\,V_{k}^{T}}$, donde V _k consta de las primeras k columnas de V. Además, la varianza residual relativa es ${\displaystyle R(k)={\frac {\sum _{j=k+1}^{m}\sigma _{j}^{2}}{\sum _{j=1}^{m}\sigma _{j}^{2}}}}$.

^{[ 14 ]}

Algunas propiedades del PCA incluyen: ^{[ 13 ]}

Propiedad 1 : Para cualquier enteroq, 1 ≤q≤p, considere latransformación lineal

${\displaystyle y=\mathbf {B'} x}$

dónde${\displaystyle y}$es un vector de q elementos y${\displaystyle \mathbf {B'} }$es una matriz ( q × p ), y sea${\displaystyle \mathbf {\Sigma } _{y}=\mathbf {B'} \mathbf {\Sigma } \mathbf {B} }$sea ​​la matriz de varianza - covarianza para${\displaystyle y}$. Luego el rastro de${\displaystyle \mathbf {\Sigma } _{y}}$, denotado${\displaystyle \operatorname {tr} (\mathbf {\Sigma } _{y})}$, se maximiza tomando${\displaystyle \mathbf {B} =\mathbf {A} _{q}}$, dónde${\displaystyle \mathbf {A} _{q}}$consta de las primeras q columnas de${\displaystyle \mathbf {A} }$${\displaystyle (\mathbf {B'} }$es la transpuesta de${\displaystyle \mathbf {B} )}$. (${\displaystyle \mathbf {A} }$no está definido aquí)

Propiedad 2 : Consideremos nuevamente latransformación ortonormal.

${\displaystyle y=\mathbf {B'} x}$

con${\displaystyle x,\mathbf {B} ,\mathbf {A} }$y${\displaystyle \mathbf {\Sigma } _{y}}$definido como antes. Entonces${\displaystyle \operatorname {tr} (\mathbf {\Sigma } _{y})}$se minimiza tomando${\displaystyle \mathbf {B} =\mathbf {A} _{q}^{*},}$dónde${\displaystyle \mathbf {A} _{q}^{*}}$consta de las últimas q columnas de${\displaystyle \mathbf {A} }$.

La implicación estadística de esta propiedad es que los últimos componentes principales (CP) no son simplemente restos no estructurados tras eliminar los CP importantes. Dado que estos últimos CP tienen varianzas lo más pequeñas posible, resultan útiles por sí mismos. Pueden ayudar a detectar relaciones lineales casi constantes e insospechadas entre los elementos de x , y también pueden ser útiles en regresión , en la selección de un subconjunto de variables de x y en la detección de valores atípicos.

Propiedad 3 : (Descomposición espectral de Σ )

${\displaystyle \mathbf {\Sigma } =\lambda _{1}\alpha _{1}\alpha _{1}'+\cdots +\lambda _{p}\alpha _{p}\alpha _{p}'}$

Antes de analizar su uso, primero analizaremos los elementos diagonales .

${\displaystyle \operatorname {Var} (x_{j})=\sum _{k=1}^{P}\lambda _{k}\alpha _{kj}^{2}}$

Entonces, quizás la principal implicación estadística del resultado es que no solo podemos descomponer las varianzas combinadas de todos los elementos de x en contribuciones decrecientes debidas a cada PC, sino que también podemos descomponer toda la matriz de covarianza en contribuciones.${\displaystyle \lambda _{k}\alpha _{k}\alpha _{k}'}$de cada PC. Aunque no estrictamente decreciente, los elementos de${\displaystyle \lambda _{k}\alpha _{k}\alpha _{k}'}$tenderá a hacerse más pequeño a medida que${\displaystyle k}$aumenta, a medida que${\displaystyle \lambda _{k}\alpha _{k}\alpha _{k}'}$no es creciente para creciente${\displaystyle k}$, mientras que los elementos de${\displaystyle \alpha _{k}}$tienden a mantenerse aproximadamente del mismo tamaño debido a las restricciones de normalización:${\displaystyle \alpha _{k}'\alpha _{k}=1,k=1,\dots ,p}$.

Como se indicó anteriormente, los resultados del PCA dependen del escalado de las variables. Esto se puede solucionar escalando cada característica por su desviación estándar, de modo que se obtengan características adimensionales con varianza unitaria. ^{[ 19 ]}

La aplicabilidad del PCA, tal como se describe anteriormente, está limitada por ciertas suposiciones (tácitas) ^{[ 20 ]} realizadas en su derivación. En particular, el PCA puede capturar correlaciones lineales entre las características, pero falla cuando se incumple esta suposición (véase la Figura 6a en la referencia). En algunos casos, las transformaciones de coordenadas pueden restablecer la suposición de linealidad y, por lo tanto, se puede aplicar el PCA (véase PCA de núcleo ).

Otra limitación es el proceso de eliminación de la media antes de construir la matriz de covarianza para PCA. En campos como la astronomía, todas las señales son no negativas, y el proceso de eliminación de la media forzará que la media de algunas exposiciones astrofísicas sea cero, lo que en consecuencia crea flujos negativos no físicos, ^{[ 21 ]} y se debe realizar un modelado directo para recuperar la magnitud real de las señales. ^{[ 22 ]} Como método alternativo, la factorización de matrices no negativas que se centra solo en los elementos no negativos en las matrices es muy adecuada para observaciones astrofísicas. ^{[ 23 ] [ 24 ] [ 25 ]} Véase más en la relación entre PCA y factorización de matrices no negativas .

El PCA presenta desventajas si los datos no se han estandarizado antes de aplicar el algoritmo. El PCA transforma los datos originales en datos relevantes para los componentes principales de dichos datos, lo que significa que las nuevas variables de datos no pueden interpretarse de la misma manera que las originales. Son interpretaciones lineales de las variables originales. Además, si el PCA no se realiza correctamente, existe una alta probabilidad de pérdida de información. ^{[ 26 ]}

El PCA se basa en un modelo lineal. Si un conjunto de datos contiene un patrón no lineal oculto, el PCA puede dirigir el análisis en la dirección completamente opuesta al progreso esperado. ^{[ 27 ]} Investigadores de la Universidad Estatal de Kansas descubrieron que el error de muestreo en sus experimentos afectaba el sesgo de los resultados del PCA. "Si el número de sujetos o bloques es menor a 30, y/o el investigador está interesado en componentes principales (PC) más allá del primero, puede ser mejor corregir primero la autocorrelación serial, antes de realizar el PCA". ^{[ 28 ]} Los investigadores de la Universidad Estatal de Kansas también encontraron que el PCA podría estar "gravemente sesgado si la estructura de autocorrelación de los datos no se maneja correctamente". ^{[ 28 ]}

La reducción de dimensionalidad conlleva, en general, una pérdida de información. La reducción de dimensionalidad basada en PCA tiende a minimizar dicha pérdida de información, bajo ciertos modelos de señal y ruido.

Bajo el supuesto de que

${\displaystyle \mathbf {x} =\mathbf {s} +\mathbf {n} ,}$

es decir, que el vector de datos${\displaystyle \mathbf {x} }$es la suma de la señal portadora de información deseada${\displaystyle \mathbf {s} }$y una señal de ruido${\displaystyle \mathbf {n} }$Desde un punto de vista de la teoría de la información, se puede demostrar que el análisis de componentes principales (PCA) puede ser óptimo para la reducción de dimensionalidad.

En particular, Linker demostró que si${\displaystyle \mathbf {s} }$es gaussiana y${\displaystyle \mathbf {n} }$es ruido gaussiano con una matriz de covarianza proporcional a la matriz identidad, el PCA maximiza la información mutua${\displaystyle I(\mathbf {y}$ ;\mathbf {s} )} entre la información deseada${\displaystyle \mathbf {s} }$y la salida con dimensionalidad reducida${\displaystyle \mathbf {y} =\mathbf {W} _{L}^{T}\mathbf {x} }$. ^{[ 29 ]}

Si el ruido sigue siendo gaussiano y tiene una matriz de covarianza proporcional a la matriz identidad (es decir, los componentes del vector${\displaystyle \mathbf {n} }$son iid ), pero la señal portadora de información${\displaystyle \mathbf {s} }$es no gaussiano (lo cual es un escenario común), PCA al menos minimiza un límite superior en la pérdida de información , que se define como ^{[ 30 ] [ 31 ]}

${\displaystyle I(\mathbf {x}$ ;\mathbf {s} )-I(\mathbf {y}  ;\mathbf {s} ).}

La optimalidad de PCA también se conserva si el ruido${\displaystyle \mathbf {n} }$es i.i.d. y al menos más gaussiana (en términos de la divergencia de Kullback-Leibler ) que la señal portadora de información.${\displaystyle \mathbf {s} }$. ^{[ 32 ]} En general, incluso si el modelo de señal anterior es válido, PCA pierde su optimalidad teórica de la información tan pronto como el ruido${\displaystyle \mathbf {n} }$se vuelve dependiente.

Una forma de calcular el primer componente principal de manera eficiente ^{[ 41 ]} se muestra en el siguiente pseudocódigo, para una matriz de datos X con media cero, sin calcular nunca su matriz de covarianza.

r = un vector aleatorio de longitud p r = r / norma( r ) hacer c veces: s = 0 (un vector de longitud p ) para cada fila x en X s = s + ( x ⋅ r ) x λ = r T s // λ es el valor propio error = |λ ⋅ r − s | r = s / norm( s ) salir si error < tolerancia devolver λ, r

Este algoritmo de iteración de potencia simplemente calcula el vector X ^T (X r) , lo normaliza y coloca el resultado de nuevo en r . El valor propio se aproxima mediante r ^T (X ^T X) r , que es el cociente de Rayleigh en el vector unitario r para la matriz de covarianza X ^T X. Si el valor singular más grande está bien separado del siguiente más grande, el vector r se acerca al primer componente principal de X dentro del número de iteraciones c , que es pequeño en relación con p , con un coste total de 2cnp . La convergencia de la iteración de potencia se puede acelerar sin sacrificar notablemente el pequeño coste por iteración utilizando métodos sin matriz más avanzados , como el algoritmo de Lanczos o el método de gradiente conjugado precondicionado por bloques óptimo local ( LOBPCG ).

Los componentes principales subsiguientes pueden calcularse uno a uno mediante deflación o simultáneamente como un bloque. En el primer enfoque, las imprecisiones en los componentes principales aproximados ya calculados afectan de forma aditiva la precisión de los componentes principales calculados posteriormente, aumentando así el error con cada nuevo cálculo. El segundo enfoque en el método de potencia de bloques reemplaza los vectores individuales r y s con vectores de bloques, matrices R y S. Cada columna de R aproxima uno de los componentes principales principales, mientras que todas las columnas se iteran simultáneamente. El cálculo principal es la evaluación del producto X ^T (XR) . Implementado, por ejemplo, en LOBPCG , el bloqueo eficiente elimina la acumulación de errores, permite utilizar funciones de producto matriz-matriz BLAS de alto nivel y, por lo general, conduce a una convergencia más rápida, en comparación con la técnica de vector único uno a uno.

El método de mínimos cuadrados parciales iterativos no lineales (NIPALS) es una variante de la iteración de potencia clásica con deflación de matriz por sustracción, implementada para calcular los primeros componentes en un análisis de componentes principales o mínimos cuadrados parciales . Para conjuntos de datos de muy alta dimensión, como los generados en las ciencias ómicas (por ejemplo, genómica , metabolómica ), generalmente solo es necesario calcular los primeros componentes principales. El algoritmo de mínimos cuadrados parciales iterativos no lineales (NIPALS) actualiza las aproximaciones iterativas a las puntuaciones y cargas principales t ₁ y r ₁ ^T mediante la iteración de potencia, multiplicando en cada iteración por X a la izquierda y a la derecha; es decir, se evita el cálculo de la matriz de covarianza, al igual que en la implementación sin matriz de las iteraciones de potencia a X ^T X , basada en la función que evalúa el producto X ^T (X r) = ((X r) ^T X) ^T .

La deflación de la matriz por sustracción se realiza restando el producto exterior, t ₁ r ₁ ^T de X, dejando la matriz residual deflacionada que se utiliza para calcular los PC principales subsiguientes. ^{[ 42 ]} Para matrices de datos grandes, o matrices que tienen un alto grado de colinealidad de columna, NIPALS sufre una pérdida de ortogonalidad de los PC debido a errores de redondeo de precisión de máquina acumulados en cada iteración y deflación de matriz por sustracción. ^{[ 43 ]} Se aplica un algoritmo de reortogonalización de Gram-Schmidt tanto a las puntuaciones como a las cargas en cada paso de iteración para eliminar esta pérdida de ortogonalidad. ^{[ 44 ]} La dependencia de NIPALS de multiplicaciones de un solo vector no puede aprovechar BLAS de alto nivel y da como resultado una convergencia lenta para valores singulares principales agrupados; ambas deficiencias se resuelven en solucionadores de bloques sin matriz más sofisticados, como el método de gradiente conjugado precondicionado de bloque óptimo local ( LOBPCG ).

En una situación "en línea" o "en tiempo real", donde los datos llegan poco a poco en lugar de almacenarse en un solo lote, es útil realizar una estimación de la proyección PCA que pueda actualizarse secuencialmente. Esto puede hacerse de manera eficiente, pero requiere algoritmos diferentes. ^{[ 45 ]}

La primera aplicación del análisis factorial fue la localización y medición de los componentes de la inteligencia humana. Se creía que la inteligencia tenía varios componentes no correlacionados, como la inteligencia espacial, la inteligencia verbal, la inducción, la deducción, etc., y que las puntuaciones en estos componentes podían deducirse mediante el análisis factorial a partir de los resultados de diversas pruebas, para obtener un índice único conocido como Cociente Intelectual (CI). El pionero psicólogo estadístico Spearman desarrolló el análisis factorial en 1904 para su teoría bifactorial de la inteligencia, añadiendo una técnica formal a la ciencia de la psicometría . En 1924, Thurstone buscó 56 factores de inteligencia, desarrollando la noción de Edad Mental. Las pruebas de CI estándar actuales se basan en este trabajo inicial. ^{[ 53 ]}

En 1949, Shevky y Williams introdujeron la teoría de la ecología factorial , que dominó los estudios de diferenciación residencial desde la década de 1950 hasta la de 1970. ^{[ 54 ]} Los barrios de una ciudad eran reconocibles o podían distinguirse entre sí por varias características que podían reducirse a tres mediante el análisis factorial. Estas se conocían como «rango social» (un índice de estatus ocupacional), «familismo» o tamaño de la familia y «etnicidad»; el análisis de conglomerados podía aplicarse para dividir la ciudad en conglomerados o distritos según los valores de las tres variables factoriales clave. Se desarrolló una extensa bibliografía en torno a la ecología factorial en geografía urbana, pero el enfoque cayó en desuso después de 1980 por ser metodológicamente primitivo y tener poca cabida en los paradigmas geográficos posmodernos.

Uno de los problemas del análisis factorial siempre ha sido encontrar nombres convincentes para los diversos factores artificiales. En 2000, Flood revivió el enfoque de la ecología factorial para demostrar que el análisis de componentes principales proporcionaba respuestas significativas directamente, sin recurrir a la rotación de factores. Los componentes principales eran en realidad variables duales o precios sombra de las "fuerzas" que impulsan a las personas a unirse o separarse en las ciudades. El primer componente era la "accesibilidad", la clásica disyuntiva entre la demanda de transporte y la demanda de espacio, en torno a la cual se basa la economía urbana clásica. Los dos componentes siguientes eran la "desventaja", que mantiene a las personas de estatus similar en barrios separados (mediada por la planificación), y la etnicidad, donde las personas de orígenes étnicos similares intentan ubicarse juntas. ^{[ 55 ]}

Casi al mismo tiempo, la Oficina Australiana de Estadística definió índices distintos de ventaja y desventaja tomando el primer componente principal de conjuntos de variables clave que se consideraban importantes. Estos índices SEIFA se publican periódicamente para diversas jurisdicciones y se utilizan con frecuencia en el análisis espacial. ^{[ 56 ]}

El PCA puede utilizarse como método formal para el desarrollo de índices. Como alternativa, se ha propuesto el análisis compuesto confirmatorio para desarrollar y evaluar índices. ^{[ 57 ]}

El Índice de Desarrollo Urbano fue desarrollado por PCA a partir de aproximadamente 200 indicadores de resultados urbanos, obtenidos en una encuesta realizada en 1996 a 254 ciudades globales. El primer componente principal se sometió a una regresión iterativa, añadiendo las variables originales de forma individual hasta explicar aproximadamente el 90% de su variación. El índice finalmente utilizó unos 15 indicadores, pero resultó ser un buen predictor de muchas más variables. Su valor comparativo coincidió muy bien con una evaluación subjetiva del estado de cada ciudad. Los coeficientes de los elementos de infraestructura fueron aproximadamente proporcionales a los costos promedio de prestación de los servicios subyacentes, lo que sugiere que el Índice era, en realidad, una medida de la inversión física y social efectiva en la ciudad.

El Índice de Desarrollo Humano (IDH) a nivel de país del PNUD , que se publica desde 1990 y se utiliza ampliamente en estudios de desarrollo, ^{[ 58 ]} tiene coeficientes muy similares en indicadores similares, lo que sugiere fuertemente que fue construido originalmente utilizando PCA.

En 1978, Cavalli-Sforza y ​​otros fueron pioneros en el uso del análisis de componentes principales (ACP) para resumir datos sobre la variación en las frecuencias genéticas humanas en diferentes regiones. Los componentes mostraron patrones distintivos, incluyendo gradientes y ondas sinusoidales. Interpretaron estos patrones como resultado de eventos migratorios antiguos específicos.

Desde entonces, el PCA se ha vuelto omnipresente en la genética de poblaciones, con miles de artículos que lo utilizan como mecanismo de visualización. La genética varía en gran medida según la proximidad, por lo que los dos primeros componentes principales muestran la distribución espacial y pueden usarse para mapear la ubicación geográfica relativa de diferentes grupos de población, mostrando así a los individuos que se han desplazado de sus ubicaciones originales. ^{[ 59 ]}

El análisis de componentes principales (ACP) en genética ha sido técnicamente controvertido, ya que la técnica se ha aplicado a variables discretas no normales y, a menudo, a marcadores alélicos binarios. La falta de medidas de error estándar en el ACP también dificulta su uso más consistente. En agosto de 2022, el biólogo molecular Eran Elhaik publicó un artículo teórico en Scientific Reports que analizaba 12 aplicaciones del ACP. Concluyó que era fácil manipular el método, el cual, en su opinión, generaba resultados «erróneos, contradictorios y absurdos». En concreto, argumentó que los resultados obtenidos en genética de poblaciones se caracterizaban por la selección sesgada de datos y el razonamiento circular . ^{[ 60 ]}

La investigación de mercado ha utilizado ampliamente el PCA. Se emplea para desarrollar índices de satisfacción o fidelización del cliente para productos y, mediante la agrupación, para desarrollar segmentos de mercado que pueden ser objeto de campañas publicitarias, de forma muy similar a como la ecología factorial localiza áreas geográficas con características similares. ^{[ 61 ]}

El PCA transforma rápidamente grandes cantidades de datos en variables más pequeñas y fáciles de digerir, que pueden analizarse con mayor rapidez y facilidad. En cualquier cuestionario para consumidores, existen series de preguntas diseñadas para obtener información sobre sus actitudes, y el análisis de componentes principales busca variables latentes subyacentes a estas actitudes. Por ejemplo, la encuesta de Oxford sobre Internet de 2013 preguntó a 2000 personas sobre sus actitudes y creencias, y a partir de ellas, los analistas extrajeron cuatro dimensiones de componentes principales, que identificaron como «evasión», «redes sociales», «eficiencia» y «creación de problemas». ^{[ 62 ]}

Otro ejemplo de Joe Flood en 2008 extrajo un índice de actitud hacia la vivienda a partir de 28 preguntas sobre actitudes en una encuesta nacional de 2697 hogares en Australia. El primer componente principal representaba una actitud general hacia la propiedad y la titularidad de la vivienda. El índice, o las preguntas sobre actitudes que lo componían, podían incorporarse a un modelo lineal general de elección de tenencia. El determinante más importante del alquiler privado fue, con diferencia, el índice de actitud, en lugar de los ingresos, el estado civil o el tipo de hogar. ^{[ 63 ]}

En finanzas cuantitativas , el PCA se utiliza ^{[ 64 ]} en la gestión del riesgo financiero y se ha aplicado a otros problemas como la optimización de carteras .

PCA se usa comúnmente en problemas que involucran valores y carteras de renta fija y derivados de tasas de interés . Las valoraciones aquí dependen de toda la curva de rendimiento , que comprende numerosos instrumentos altamente correlacionados, y PCA se usa para definir un conjunto de componentes o factores que explican los movimientos de tasas, ^{[ 65 ]} facilitando así el modelado. Una aplicación común de gestión de riesgos es el cálculo del valor en riesgo , VaR, aplicando PCA a la simulación de Monte Carlo . ^{[ 66 ]} Aquí, para cada muestra de simulación, los componentes se someten a estrés y las tasas, y a su vez los valores de las opciones , se reconstruyen; con VaR calculado, finalmente, sobre toda la ejecución. PCA también se usa en la cobertura de la exposición al riesgo de tasa de interés , dadas duraciones parciales y otras sensibilidades. ^{[ 65 ]} En ambos casos, los primeros tres, típicamente, componentes principales del sistema son de interés ( que representan "desplazamiento", "torsión" y "curvatura"). Estos componentes principales se derivan de una descomposición en valores propios de la matriz de covarianza del rendimiento en vencimientos predefinidos; ^{[ 67 ]} y donde la varianza de cada componente es su valor propio (y como los componentes son ortogonales , no es necesario incorporar ninguna correlación en el modelado posterior).

Para la renta variable , una cartera óptima es aquella donde se maximiza el rendimiento esperado para un nivel de riesgo dado, o alternativamente, donde se minimiza el riesgo para un rendimiento dado; véase el modelo de Markowitz para más detalles. Por lo tanto, un enfoque es reducir el riesgo de la cartera, donde las estrategias de asignación se aplican a las "carteras principales" en lugar de a las acciones subyacentes . Un segundo enfoque es mejorar el rendimiento de la cartera, utilizando los componentes principales para seleccionar acciones de empresas con potencial alcista. ^{[ 68 ] [ 69 ]} El PCA también se ha utilizado para comprender las relaciones ^{[ 64 ]} entre los mercados de renta variable internacionales y dentro de los mercados entre grupos de empresas en industrias o sectores .

El PCA también puede aplicarse a las pruebas de estrés , ^{[ 70 ]} esencialmente un análisis de la capacidad de un banco para soportar un escenario económico adverso hipotético . Su utilidad radica en "destilar la información contenida en [varias] variables macroeconómicas en un conjunto de datos más manejable, que luego puede [utilizarse] para el análisis". ^{[ 70 ]} Aquí, los factores resultantes se vinculan, por ejemplo, a las tasas de interés, basándose en los elementos más grandes del vector propio del factor , y luego se observa cómo un "choque" en cada uno de los factores afecta los activos implícitos de cada uno de los bancos.

Una variante del análisis de componentes principales se utiliza en neurociencia para identificar las propiedades específicas de un estímulo que aumentan la probabilidad de que una neurona genere un potencial de acción . ^{[ 71 ] [ 72 ]} Esta técnica se conoce como análisis de covarianza activado por espigas . En una aplicación típica, un experimentador presenta un proceso de ruido blanco como un estímulo (generalmente como una entrada sensorial a un sujeto de prueba, o como una corriente inyectada directamente en la neurona) y registra un tren de potenciales de acción, o espigas, producidos por la neurona como resultado. Presumiblemente, ciertas características del estímulo hacen que la neurona sea más propensa a generar espigas. Para extraer estas características, el experimentador calcula la matriz de covarianza del conjunto activado por espigas , el conjunto de todos los estímulos (definidos y discretizados en una ventana de tiempo finita, típicamente del orden de 100 ms) que precedieron inmediatamente a una espiga. Los autovectores de la diferencia entre la matriz de covarianza desencadenada por el pico y la matriz de covarianza del conjunto de estímulos previo (el conjunto de todos los estímulos, definidos en la misma ventana temporal) indican las direcciones en el espacio de estímulos a lo largo de las cuales la varianza del conjunto desencadenado por el pico difirió más de la del conjunto de estímulos previo. Específicamente, los autovectores con los autovalores positivos más grandes corresponden a las direcciones a lo largo de las cuales la varianza del conjunto desencadenado por el pico mostró el mayor cambio positivo en comparación con la varianza previa. Dado que estas fueron las direcciones en las que la variación del estímulo condujo a un pico, suelen ser buenas aproximaciones de las características relevantes del estímulo que se buscan.

En neurociencia, el análisis de componentes principales (PCA) también se utiliza para identificar una neurona a partir de la forma de su potencial de acción. La clasificación de potenciales de acción es un procedimiento importante, ya que las técnicas de registro extracelular suelen captar señales de más de una neurona. En este proceso, primero se utiliza el PCA para reducir la dimensionalidad del espacio de las formas de onda de los potenciales de acción y, posteriormente, se realiza un análisis de agrupamiento para asociar potenciales de acción específicos con neuronas individuales.

El PCA, como técnica de reducción de dimensionalidad, es particularmente adecuado para detectar actividades coordinadas de grandes conjuntos neuronales. Se ha utilizado para determinar variables colectivas, es decir, parámetros de orden , durante las transiciones de fase en el cerebro. ^{[ 73 ]}

El análisis de correspondencias (AC) fue desarrollado por Jean-Paul Benzécri ^{[ 74 ]} y es conceptualmente similar al PCA, pero escala los datos (que deben ser no negativos) de manera que las filas y columnas se traten de forma equivalente. Tradicionalmente se aplica a tablas de contingencia . El AC descompone el estadístico chi-cuadrado asociado a esta tabla en factores ortogonales. ^{[ 75 ]} Dado que el AC es una técnica descriptiva, puede aplicarse a tablas para las que el estadístico chi-cuadrado sea apropiado o no. Existen varias variantes de AC, incluyendo el análisis de correspondencias sin tendencia y el análisis de correspondencias canónico . Una extensión especial es el análisis de correspondencias múltiples , que puede considerarse la contraparte del análisis de componentes principales para datos categóricos. ^{[ 76 ]}

El análisis de componentes principales (ACP) crea variables que son combinaciones lineales de las variables originales. Las nuevas variables tienen la propiedad de ser todas ortogonales. La transformación ACP puede ser útil como paso previo al agrupamiento. El ACP es un enfoque centrado en la varianza que busca reproducir la varianza total de la variable, donde los componentes reflejan tanto la varianza común como la única de la variable. Generalmente, se prefiere el ACP para la reducción de datos (es decir, para transformar el espacio de variables en un espacio de factores óptimo), pero no cuando el objetivo es detectar el constructo latente o los factores.

El análisis factorial es similar al análisis de componentes principales, ya que también implica combinaciones lineales de variables. A diferencia del PCA, el análisis factorial es un enfoque centrado en la correlación que busca reproducir las intercorrelaciones entre variables, en las que los factores "representan la varianza común de las variables, excluyendo la varianza única". ^{[ 77 ]} En términos de la matriz de correlación, esto corresponde a centrarse en explicar los términos fuera de la diagonal (es decir, la covarianza compartida), mientras que el PCA se centra en explicar los términos que se encuentran en la diagonal. Sin embargo, como resultado secundario, al intentar reproducir los términos en la diagonal, el PCA también tiende a ajustarse relativamente bien a las correlaciones fuera de la diagonal. ^{[ 13 ] : 158} Los resultados dados por el PCA y el análisis factorial son muy similares en la mayoría de las situaciones, pero no siempre es así, y hay algunos problemas en los que los resultados son significativamente diferentes. El análisis factorial se utiliza generalmente cuando el propósito de la investigación es detectar la estructura de los datos (es decir, constructos latentes o factores) o el modelado causal . Si el modelo factorial está formulado incorrectamente o no se cumplen los supuestos, el análisis factorial dará resultados erróneos. ^{[ 78 ]}

Se ha afirmado que la solución relajada del agrupamiento k -medias , especificada por los indicadores de clúster, viene dada por los componentes principales, y el subespacio PCA generado por las direcciones principales es idéntico al subespacio del centroide del clúster. ^{[ 79 ] [ 80 ]} Sin embargo, que PCA sea una relajación útil del agrupamiento k -medias no era un resultado nuevo, ^{[ 81 ]} y es sencillo encontrar contraejemplos a la afirmación de que el subespacio del centroide del clúster está generado por las direcciones principales. ^{[ 82 ]}

La factorización de matrices no negativas (NMF) es un método de reducción de dimensionalidad que utiliza únicamente elementos no negativos en las matrices, lo que lo convierte en un método prometedor en astronomía, ^{[ 23 ] [ 24 ] [ 25 ]} dado que las señales astrofísicas son no negativas. Los componentes del PCA son ortogonales entre sí, mientras que los componentes de la NMF son todos no negativos y, por lo tanto, construyen una base no ortogonal.

En PCA, la contribución de cada componente se clasifica en función de la magnitud de su valor propio correspondiente, que es equivalente a la varianza residual fraccionaria (FRV) en el análisis de datos empíricos. ^{[ 21 ]} Para NMF, sus componentes se clasifican en función únicamente de las curvas FRV empíricas. ^{[ 25 ]} Los gráficos de valores propios fraccionarios residuales, es decir,${\displaystyle 1-\sum _{i=1}^{k}\lambda _{i}{\Big /}\sum _{j=1}^{n}\lambda _{j}}$en función del número de componentes${\displaystyle k}$dado un total de${\displaystyle n}$Los componentes, para PCA tienen una meseta plana, donde no se capturan datos para eliminar el ruido cuasiestático, luego las curvas caen rápidamente como una indicación de sobreajuste (ruido aleatorio). ^{[ 21 ]} Las curvas FRV para NMF disminuyen continuamente ^{[ 25 ]} cuando los componentes NMF se construyen secuencialmente , ^{[ 24 ]} lo que indica la captura continua de ruido cuasiestático; luego convergen a niveles más altos que PCA, ^{[ 25 ]} lo que indica la propiedad de menor sobreajuste de NMF.

A menudo resulta difícil interpretar los componentes principales cuando los datos incluyen muchas variables de diversos orígenes o cuando algunas variables son cualitativas. Esto lleva al usuario del PCA a realizar una cuidadosa eliminación de varias variables. Si las observaciones o variables tienen un impacto excesivo en la dirección de los ejes, deben eliminarse y proyectarse como elementos suplementarios. Además, es necesario evitar interpretar las proximidades entre los puntos cercanos al centro del plano factorial.

Por el contrario, la iconografía de las correlaciones , que no es una proyección sobre un sistema de ejes, no presenta estos inconvenientes. Por lo tanto, podemos conservar todas las variables.

El principio del diagrama consiste en resaltar las correlaciones "notables" de la matriz de correlación mediante una línea continua (correlación positiva) o una línea punteada (correlación negativa).

Una correlación fuerte no es "notable" si no es directa, sino causada por el efecto de una tercera variable. Por el contrario, las correlaciones débiles sí pueden ser "notables". Por ejemplo, si una variable Y depende de varias variables independientes, las correlaciones de Y con cada una de ellas son débiles y, sin embargo, "notables".

Una desventaja particular del PCA es que los componentes principales suelen ser combinaciones lineales de todas las variables de entrada. El PCA disperso supera esta desventaja al encontrar combinaciones lineales que contienen solo unas pocas variables de entrada. Extiende el método clásico de análisis de componentes principales (PCA) para la reducción de la dimensionalidad de los datos al agregar una restricción de dispersión a las variables de entrada. Se han propuesto varios enfoques, incluyendo:

• un marco de regresión, ^{[ 83 ]}
• un marco de relajación convexa/programación semidefinida, ^{[ 84 ]}
• un marco de método de potencia generalizado ^{[ 85 ]}
• un marco de maximización alternada ^{[ 86 ]}
• búsqueda voraz hacia adelante y hacia atrás y métodos exactos que utilizan técnicas de ramificación y acotación, ^{[ 87 ]}
• Marco de formulación bayesiana. ^{[ 88 ]}

Los desarrollos metodológicos y teóricos del PCA disperso, así como sus aplicaciones en estudios científicos, fueron revisados ​​recientemente en un artículo de revisión. ^{[ 89 ]}

La mayoría de los métodos modernos para la reducción de dimensionalidad no lineal encuentran sus raíces teóricas y algorítmicas en PCA o K-means. La idea original de Pearson era tomar una línea recta (o plano) que sería "el mejor ajuste" a un conjunto de puntos de datos. Trevor Hastie amplió este concepto proponiendo curvas principales ^{[ 93 ]} como la extensión natural para la interpretación geométrica de PCA, que construye explícitamente una variedad para la aproximación de datos seguida de la proyección de los puntos sobre ella. Véase también el algoritmo de mapa elástico y el análisis geodésico principal . ^{[ 94 ]} Otra generalización popular es kernel PCA , que corresponde a PCA realizado en un espacio de Hilbert de núcleo reproductor asociado con un núcleo definido positivo.

En el aprendizaje de subespacios multilineales , ^{[ 95 ] [ 96 ] [ 97 ]} el PCA se generaliza al PCA multilineal (MPCA), que extrae características directamente de las representaciones tensoriales. El MPCA se resuelve realizando el PCA en cada modo del tensor de forma iterativa. El MPCA se ha aplicado al reconocimiento facial, al reconocimiento de la marcha, etc. El MPCA se extiende además al MPCA no correlacionado, al MPCA no negativo y al MPCA robusto.

El análisis de componentes principales N -direccional se puede realizar con modelos como la descomposición de Tucker , PARAFAC , el análisis de factores múltiples, el análisis de coinercia, STATIS y DISTATIS.

Aunque el PCA encuentra el método matemáticamente óptimo (como al minimizar el error cuadrático), sigue siendo sensible a los valores atípicos en los datos que producen grandes errores, algo que el método intenta evitar desde el principio. Por lo tanto, es práctica común eliminar los valores atípicos antes de calcular el PCA. Sin embargo, en algunos contextos, los valores atípicos pueden ser difíciles de identificar. ^{[ 98 ]} Por ejemplo, en algoritmos de minería de datos como el clustering de correlación , la asignación de puntos a clústeres y valores atípicos no se conoce de antemano. Una generalización del PCA propuesta recientemente ^{[ 99 ]} basada en un PCA ponderado aumenta la robustez al asignar diferentes pesos a los objetos de datos según su relevancia estimada.

También se han propuesto variantes de PCA resistentes a valores atípicos, basadas en formulaciones de norma L1 ( L1-PCA ). ^{[ 7 ] [ 5 ]}

El análisis de componentes principales robusto (RPCA) mediante descomposición en matrices dispersas y de bajo rango es una modificación del PCA que funciona bien con respecto a observaciones muy corruptas. ^{[ 100 ] [ 101 ] [ 102 ]}

El análisis de componentes independientes (ICA) se centra en problemas similares a los del análisis de componentes principales, pero encuentra componentes separables de forma aditiva en lugar de aproximaciones sucesivas.

Dada una matriz${\displaystyle E}$, intenta descomponerlo en dos matrices de tal manera que${\displaystyle E=AP}$. Una diferencia clave con respecto a técnicas como PCA e ICA es que algunas de las entradas de${\displaystyle A}$están restringidos a ser 0. Aquí${\displaystyle P}$Se denomina capa reguladora. Si bien, en general, dicha descomposición puede tener múltiples soluciones, demuestran que si se cumplen las siguientes condiciones  :

1. ${\displaystyle A}$tiene rango de columna completo
2. Cada columna de${\displaystyle A}$debe tener al menos${\displaystyle L-1}$ceros donde${\displaystyle L}$es el número de columnas de${\displaystyle A}$(o alternativamente el número de filas de${\displaystyle P}$). La justificación de este criterio es que si se elimina un nodo de la capa reguladora junto con todos los nodos de salida conectados a él, el resultado aún debe caracterizarse por una matriz de conectividad con rango de columna completo.
3. ${\displaystyle P}$debe tener rango de fila completo.

entonces la descomposición es única salvo multiplicación por un escalar. ^{[ 103 ]}

El análisis discriminante de componentes principales (DAPC) es un método multivariado utilizado para identificar y describir grupos de individuos genéticamente relacionados. La variación genética se divide en dos componentes: variación entre grupos y dentro de los grupos, y maximiza la primera. Los discriminantes lineales son combinaciones lineales de alelos que mejor separan los grupos. Por lo tanto, los alelos que más contribuyen a esta discriminación son aquellos que son más marcadamente diferentes entre grupos. Las contribuciones de los alelos a las agrupaciones identificadas por DAPC pueden permitir identificar regiones del genoma que impulsan la divergencia genética entre grupos ^{[ 104 ].} En DAPC, los datos se transforman primero utilizando un análisis de componentes principales (PCA) y posteriormente se identifican los grupos utilizando un análisis discriminante (DA).

Un DAPC se puede implementar en R utilizando el paquete Adegenet. (más información: adegenet en la web )

El análisis de componentes direccionales (DCA) es un método utilizado en las ciencias atmosféricas para analizar conjuntos de datos multivariados. ^{[ 105 ]} Al igual que el PCA, permite la reducción de dimensionalidad, una mejor visualización y una mejor interpretabilidad de grandes conjuntos de datos. También como el PCA, se basa en una matriz de covarianza derivada del conjunto de datos de entrada. La diferencia entre el PCA y el DCA es que el DCA requiere además la entrada de una dirección vectorial, denominada impacto. Mientras que el PCA maximiza la varianza explicada, el DCA maximiza la densidad de probabilidad dado el impacto. La motivación del DCA es encontrar componentes de un conjunto de datos multivariados que sean tanto probables (medidos mediante la densidad de probabilidad) como importantes (medidos mediante el impacto). El DCA se ha utilizado para encontrar los patrones de olas de calor más probables y más graves en conjuntos de predicción meteorológica, ^{[ 106 ]} y los cambios más probables y de mayor impacto en las precipitaciones debido al cambio climático. ^{[ 107 ]}