달력

12

« 2018/12 »

  •  
  •  
  •  
  •  
  •  
  •  
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  •  
  •  
  •  
  •  
  •  
* 대칭 행렬에 대해서만 적용됩니다.

1. 정의
 다음과 같은 성질이 성립하는 행렬을 positive definite matrix로 정의합니다.

 이 함수는 하나의 실수로 나타나며, x의 각 component들에 대한 2차 함수 형태꼴로 나타납니다.

 

2. multivariate 함수로서의 이해
2x2의 대칭행렬을 예로 들면,

 이 함수는 원점을 무조건 지나게 되는데, 위(또는 아래)로 볼록한 그릇 형태이거나 안장형태의 함수가 됩니다. xy평면 상에 contour를 그려보면 타원형이거나 포물선 형태가 됩니다.
 이러한 경우들 중에 위로 볼록한 그릇 형태로 모든 (x,y)에 대하여 양수가 될 때, 이 행렬은 positive definite matrix가 됩니다. 이때는 f(x,y)를 두 component의 제곱의 합으로 나타낼 수 있습니다.

 vector calculus의 Hessian을 이용해서 이 조건을 나타낼 수도 있습니다. 원점에서의 second derivative들이 양수일 때, 좀더 정확히는 Hessian matrix의 determinant가 양수일때, 원점이 극소값이 되면서 위로 볼록한 함수를 의미하게 됩니다.



 3x3의 대칭행렬도 마찬가지로 생각할 수 있습니다. positive definite한 행렬이라면 f(x,y,z)의 contour surface가 3차원상에서 타원으로 나타날 것입니다. 원점에서의 3x3 Hessian의 원소들도 양수가 될 것입니다.

 재밌는 사실은 이 matrix의 eigenvector들이 contour 타원들의 axis들을 이루게 됩니다. 즉 이 함수를 가장 빨리/천천히 증가시키는 방향을 나타내게 됩니다(대칭행렬이라 eigenvector들은 서로 orthogonal합니다).

3. 필요충분조건
 positive definite matrix는 다음과 같은 필요충분조건들을 갖습니다.
3-1. 모든 eigenvalue가 양의 실수
3-2. 모든 sub-determinant가 양수
 (1,1) 원소를 포함하는 1×1 부분행렬, 2×2 부분행렬, ..., n×n 부분행렬 들의 determinant가 모두 양수입니다.

3-3. elimination한 후 모든 pivot들이 양수
 일반적으로 Gaussian elimination 하고 남은 pivot들의 부호들과 eigenvalue들의 부호들이 일치합니다.

4. 성질
4-1. positive definite한 행렬의 역행렬도 positive definite
4-2. A와 B가 positive definite하면 A+B도 positive definite

Posted by 몽 mskyt