부산대학교기계학습개론
Scientific Inference Lab

Derivatives and Probability

Probability Distributions

확률분포의 매개변수는 가능한 값에 확률을 어떻게 나눌지 정한다. 매개변수를 바꾸면 확률, 기댓값(expectation), 분산과 곡선의 중심·퍼짐이 함께 바뀐다.

베르누이 분포P(X = 1) = p, P(X = 0) = 1 − p다.
통계량관측값으로 계산한 수이며 분포의 매개변수와 다른 대상이다.
분산기댓값에서 떨어진 거리의 제곱의 기댓값이다.

p가 두 확률과 분산을 정한다

p를 바꾸면 X = 0과 X = 1의 확률 막대, 기댓값 p, 분산 p(1 − p)가 함께 바뀐다.

두 막대의 높이는 각 값의 확률이며 합은 항상 1이다.

같은 p에서도 표본 비율은 관측마다 다르다

p = 0.5인 동전을 던진 기록에서 앞의 관측 몇 개를 쓰는지 바꾸면 앞면(H)의 개수와 표본 비율 p̂가 바뀐다.

파란 원은 계산에 쓰는 앞의 n개 관측이고 점선 원은 쓰지 않는 관측이다.

평균은 중심을, 표준편차는 퍼짐을 바꾼다

μ와 σ를 바꾸면 가우스 분포의 밀도 곡선이 기준 N(0, 1)에 비해 옮겨지고 넓어지거나 좁아진다.

가우스 밀도 곡선기준과 현재 분포
회색 점선은 기준 N(0, 1), 초록 실선은 고른 μ와 σ의 밀도 곡선이다. 두 곡선 아래 넓이는 모두 1이다.