부산대학교기계학습개론
Scientific Inference Lab

Learning from Data

Statistical Learning

통계적 학습(statistical learning)은 관측 자료로 입력과 출력의 관계 f를 추정하는 방법이다. 자료의 각 요소가 입력, 출력, 관계, error term 가운데 어떤 역할을 갖는지 먼저 구분한다.

관측(observation)한 행에 담긴 입력과 그에 대응하는 출력이다.
관계 f입력에서 출력으로 이어지는 함수다.
error term ε관측 출력 y와 함수값 f(x)의 차이다.

표와 그래프의 각 요소는 관측·특성·출력·함수·error term에 대응한다

요소를 고르면 표와 그래프에서 그 요소가 강조되고, 학습 문제에서 맡는 역할과 기호가 함께 바뀐다.

왼쪽은 관측을 행, 특성을 열로 둔 자료표이고 오른쪽은 한 관측의 출력 점, 함수 선, 둘 사이 간격이다. 초록으로 강조된 칸과 표지가 고른 요소다.

한 관측에서 함수값과 error term을 계산한다

관측을 바꾸면 같은 함수 f(x) = 2x + 1에서 함수값, 관측 출력과의 차이 ε, 그 부호가 함께 바뀐다.

왼쪽에서 오른쪽으로 입력, 함수값, 관측 출력을 잇는 계산이다.