면접에서 나왔던 질문들을 정리했으며 디테일한 모든 내용을 다루기보단 전체적인 틀을 다뤘으며, 틀린 내용이 있을 수도 있으니 비판적으로 찾아보면서 공부하는 것을 추천드립니다. Machine Learning 면접을 준비하시는 분들에게 조금이나마 도움이 되길 바라겠습니다.
- Cost Function
Cost Function이란 데이터 셋과 어떤 가설 함수와의 오차를 계산하는 함수이다. Cost Function의 결과가 작을수록 데이터셋에 더 적합한 Hypothesis(가설 함수)라는 의미다. Cost Function의 궁극적인 목표는 Global Minimum을 찾는 것이다.
| X | Y |
|---|---|
| 1 | 5 |
| 2 | 8 |
| 3 | 11 |
| 4 | 14 |
위의 데이터를 가지고 우리는 우리가 찾아야할 그래프가 일차방정식이라는 것을 확인할 수 있고 y=Wx + b라는 식을 세울수 있고 W(weight)의 값과 b(bias)의 값을 학습을 통해 우리가 찾고자한다. 이때 Cost Function을 사용하는데 W와 b의 값을 바꾸어 가면서 그린 그래프와 테스트 데이터의 그래프들 간의 값의 차이의 가장 작은 값 즉 Global Minimum을 **경사하강법(Gradient descent algorithm)**을 사용해 찾는다.