Published: Aug 20, 2021 by Dev-hwon
이 내용은 고려대학교 강필성 교수님의 Business Analytics 수업을 보고 정리한 것입니다.
아래 이미지 클릭 시 강의 영상 Youtube URL로 넘어갑니다.
Kernel Principal Component Analysis(KPCA)
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled.png)
1. Motivation
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 1.png)
2. Kernel PCA Procedure
✓ Assumption: 투영된 feature들의 평균은 0이다.
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 2.png)
✓ 투영된 feature들의 Covariance Matrix
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 3.png)
✓ Eigenvalues와 Eigenvectors
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 4.png)
✓ Covairance matrix와 Eigenvectors, Eigenvalues 식을 이용하여
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 5.png)
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 6.png)
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 7.png)
✓ 양변에 \(\Phi(\textbf{x}_l)\)를 곱해주고, Kernel function으로 치환해준다.
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 8.png)
✓ Matrix notation
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 9.png)
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 10.png)
\(\alpha_k\)는 K의 고유벡터
✓ Kernel PCA의 결과는 다음과 같이 표현할 수 있다.
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 11.png)
✓ (+\(\alpha\)) 투영된 data의 mean이 0이 아닌 경우, Gram matrix 이용
 c4165dc5bd5849d5a188dfa38c0eb471/Untitled 12.png)
