개념 확인: Logistic Regression

문제 1, 2, 5의 모델은 잔액 x(백만 원)로 연체 여부를 예측하며 로그 승산이 z = −4 + 0.8x다. 계산에는 e⁰·⁸ ≈ 2.23, e⁴ ≈ 54.6을 쓴다. 로그는 자연로그다.

1. x = 0, 5, 10일 때 선형 점수 z를 구한다.
2. 각 x에서 승산 eᶻ와 확률 p = σ(z)를 구한다(소수 셋째 자리까지).
3. 확률·승산·로그 승산의 범위를 적는다.
4. 같은 자료에 선형 회귀로 확률을 예측하면 생길 수 있는 문제 두 가지를 적는다.

문제 1의 모델을 사용한다.

1. 다른 조건이 같을 때 x가 1 증가하면 로그 승산과 승산이 어떻게 바뀌는지 적는다.
2. x가 5에서 6으로, 10에서 11로 늘 때 확률의 증가량을 구한다. σ(0.8) ≈ 0.690, σ(4.8) ≈ 0.992다.
3. 두 증가량이 다른 이유를 sigmoid 함수의 구간별 기울기로 설명한다.
4. 학생 여부 s(학생 = 1)만 넣은 모델에서는 s의 계수가 양수였는데, 잔액 x를 함께 넣은 모델에서는 s의 계수가 음수가 되었다. 학생은 잔액이 큰 경우가 많다. 두 결과가 모순이 아닌 이유를 적는다.

두 관측의 정답이 y₁ = 1, y₂ = 0이다. 두 모델이 각 관측의 Y = 1 확률을 다음과 같이 예측했다.

1. 각 모델에서 정답 범주에 준 확률을 곱해 우도를 구한다.
2. 모델 A의 손실 ℓ(y, p) = −y log p − (1 − y) log(1 − p)를 관측마다 구하고 더한다(−log 0.9 ≈ 0.11, −log 0.8 ≈ 0.22). 모델 B의 손실 합은 약 1.43이다.
3. 로지스틱 회귀의 추정 기준으로 더 나은 모델을 적고 선형 회귀의 기준과 비교한다.

다섯 고객의 예측 확률과 실제 연체 여부다.

1. 임계값 0.5, 0.3, 0.2에서 연체로 예측하는 고객을 적는다(예측 확률이 임계값 이상이면 연체).
2. 각 임계값에서 실제 연체를 놓친 수와 연체로 잘못 분류한 수를 센다.
3. 임계값을 낮출 때 두 오류의 변화와, 임계값을 정할 자료와 기준을 적는다.

1. 임계값 0.5에서 문제 1 모델의 결정 경계가 되는 잔액 x를 구한다.
2. 로그 승산이 z = −6 + x₁ + 2x₂인 모델의 임계값 0.5 결정 경계 식과 모양을 적는다.
3. 고객 1,000명 중 20명만 연체한 자료에서 모두 ‘연체 아님’으로 예측하는 모델의 정확도와, 이 정확도로 판단하면 안 되는 이유를 적는다.
4. 한 범주가 다른 범주를 원 모양으로 감싸는 자료에서 로지스틱 회귀의 한계를 적는다.