classification 2

[Machine learning] ML 3주차 공부(Classification? Discriminant Analysis)

Classification 방법 중 Discriminant analysis에 대해 공부한 내용이다. Classify를 하는 방법에는 다음과 같이 2가지 방법이 있다. \(x\)라는 data가 있을 때, 어떤 \(y\) class에 속하는지 확률 분포 \(p(y|x)\)를 예측하는 것이다.Generative Classifier: likelihood인 \(p(x|y)\)와 prior distribution인 \(p(y)\)를 추정하여 posterior distribution인 \(p(y|x)\)를 예측하는 것이다. 여기서 알고자 하는 posterior distribution은 신만이 알고 있는 분포라고도 한다. 예시로 Bayes classifier가 있으며, Discriminant Analysis가 그 방법..

[Machine learning] Classification? Logistic Regression? 에 대한 완전 정리

Classification?Classification은 입력 \(X\)에 대해 Qualitive response를 확률적으로 예측하는 것이다.앞서 공부한 linear regression은 feature space(predictor)에서 qualitive variable을 다뤘다면 classification에서는 response space에서 qualitive variable을 다루는 것이라 할 수 있다. Classification은 단순히 정확히 맞추고 분류하는 작업으로 해석하는 것보다도 좀 더 확률적으로 접근할 필요가 있다.다음과 같은 예시를 봐보자.파란색 원이 연체를 하지 않은 것(default=no)이고 빨간 십자가 연체를 한 것(default=yes)이다.Balance(잔액)이 많을수록 더 연체를..