协方差矩阵一定是满秩的吗?

  统计/机器学习 线性代数 描述性统计    浏览次数: 573
0

协方差矩阵一定是方阵,n x n的,那么是满秩的吗?

 

剪叔   2018-06-26 10:05



   2个回答 
4

协方差的秩是独立变量的个数。比如有n个独立变量,再把所有变量的和作为n+1个变量。协方差矩阵是(n+1)x(n+1),但是秩只有n。

-----------------------------------------------------------------

数据矩阵$X$是mxn,m是数据点个数,n是数据维度。当不知道每个维度的均值,用采样均值代替总体均值时,去均值后的数据

$Z=\begin{bmatrix}1-1/m& -1/m& ... & -1/m \\-1/m& 1-1/m& ... & -1/m \\... & ... & ... \\-1/m & -1/m &... & 1-1/m \end{bmatrix}X=RX$

其中$R$是mxm的去均值矩阵,$rank(R)=m-1$。

$Cov(X)=Z^TZ$

$rank(Cov(X))=rank(Z^TZ)=rank(Z)=\min(rank(R),rank(X))=\min(m-1,rank(X))$

两个因素会决定协方差的秩:1.数据点个数m-1;2. 数据中独立变量个数rank(X)。

所以两种情况协方差矩阵不是满秩:

1.数据太少,$m-1<n$

2.数据中有非独立变量,$rank(X)$



Zealing   2018-06-27 02:13

您好,关于这类知识有什么比较好的论文或者教材吗? - LDNNNS   2018-09-08 10:03
0

n x n的协方差矩阵的秩最大为n - 1

蘑菇蘑菇   2018-07-01 12:14



  相关主题

怎么理解协方差矩阵和中心化后的协方差矩阵是一样的?   1回答

python里怎么求一个矩阵的秩?   1回答

线性回归的解析解是什么?   4回答

矩阵的列空间什么意思?   1回答

两个线性空间的并集一定是一个线性空间吗   1回答

非方阵的逆是什么   2回答

tensor的rank是什么意思   2回答

实对称矩阵的特征向量是实向量吗?   1回答

两个方程组解之间的关系   1回答

矩阵的转置的逆就是矩阵的逆的转置吗?   1回答

广义逆与svd之间有什么关系?   1回答

两个非齐次线性方程组同解问题   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!