王老师
回答题目：2621条
A的正,负惯性指数分别为2和1
于是存在4阶可逆矩阵C和对角矩阵B满足
A=C'BC,B的对角线上元素依次为1,1,-1,0
令Y=CX
则X'AX=0等价于Y'BY=0
也就是y1^2 + y2^2 - y3^2 = 0
(1)令Y1=(0,1,-1,0)',Y2=(0,0,0,1)'
X1=C^(-1)Y1,X2=C^(-1)Y2
U是X1,X2张成的子空间,显然U是2维的
而且容易验证U满足X'AX=0
(2)令Y1=(0,1,-1,0)',Y2=(0,1,1,0)'
X1=C^(-1)Y1,X2=C^(-1)Y2
显然X1,X2满足X'AX=0,但X1+X2不满足
(3)X'AAX=0等价于(AX)'AX=0等价于AX=0
是R(4)的(三维)子空间
