LDA

LDA(Linear Discriminant Analysis) 선형 판별 분석법으로 불리며, PCA와 매우 유사.

 

LAD는 지도학습의 분류에서 사용하기 쉽도로 개별 클래스를 분별할 수 있는 기준을 최대한 유지하면서 차원을 축소한다.

PCA는 분산이 가장 큰 방향으로 축을 찾았으나, LDA는 결정값 클래스를 최대한으로 분리할 수 있는 축을 찾는다.

LDA는 같은 클래스의 데이터는 최대한 근접해서, 다른 클래스의 데이터는 최대한 떨어트리는 축 매핑을 한다.

 

- 클래스간 분산은 가장 크게, 클래스 내부 분산은 가장 작게 축소한다. 

- LDA는 공분산 행렬을 분리하지 않고 클래스간 분산과 클래스 내부 분산 행렬을 생성한뒤, 이 행렬에 기반해 고유벡터를 구한다.

 

 

-클래스 내부와 클래스 간 분산행렬을 입력데이터의 결정 값 클래스별로 개별 피처의 평균벡터 기반으로 구한다.

-클래스 내부 분산행렬을 Sw, 클래스 간 분산행렬을 Sb라 한다.

-pca와 마찬가지로 고유벡터 고유값 고유벡터의 전치행렬로 나눈다.