개념 확인: Linear Models

학습 자료가 (x, y) = (1, 4), (2, 4), (3, 8), (4, 9)다.

1. 후보 A ŷ = 1 + 2x에서 네 관측의 예측값과 잔차 eᵢ = yᵢ − ŷᵢ를 구한다.
2. 후보 A와 후보 B ŷ = 0 + 2.2x의 RSS를 각각 구한다.
3. 최소제곱법이 두 후보 가운데 어느 쪽을 더 낫다고 보는지 적는다.
4. 후보 A에서 잔차가 음수인 관측은 과대 예측인지 과소 예측인지 적는다.

1. 문제 1 후보 A의 잔차를 제곱하지 않고 그대로 더한 값을 구하고, 이 합으로 직선을 고르면 생기는 문제를 적는다.
2. 잔차가 2인 관측과 6인 관측의 제곱 손실을 구하고, 두 벌점이 몇 배 차이인지 적는다.
3. 제곱 손실이 이상치에 민감하다는 말이 어떤 성질에서 나오는지 적는다.
4. 다른 자료에서 최소제곱 직선을 적합한 뒤 x에 따라 잔차를 그렸더니 가운데는 음수, 양 끝은 양수인 U자 모양이 남았다. 이 패턴이 뜻하는 것과 비교해 볼 대응 하나를 적는다.

아파트 가격(백만 원)을 예측하는 다중 선형 회귀에서 ŷ = 50 + 3x₁ + 20d를 추정했다. x₁은 면적(m²), d는 역세권이면 1, 아니면 0이다.

1. 면적 30 m²인 역세권 아파트의 예측 가격을 구한다.
2. 역세권 여부가 같을 때 면적이 10 m² 커지면 예측 가격이 얼마나 달라지는지 적는다.
3. 계수 20이 무엇과 무엇의 차이인지 적는다.
4. 면적을 10 m² 단위로 다시 재면 면적 계수가 얼마가 되는지 적고, 계수의 절댓값만으로 설명변수의 중요도를 비교할 수 없는 이유를 적는다.
5. 계수 3을 ‘면적을 늘리면 가격이 오른다’는 인과로 읽으면 안 되는 이유를 적는다.
6. 면적 1 m²당 가격 증가가 역세권에서 더 크다고 의심될 때 식에 추가할 항을 적는다.
7. 절편 50과 통계적 편향(bias)이 어떻게 다른지 적는다.

관측 50개, 설명변수 3개로 다중 선형 회귀를 추정한다. 행렬 X의 첫 열은 절편을 위한 1이다.

1. X, β̂, ŷ = Xβ̂의 크기를 적는다.
2. 추정 단계와 예측 단계의 입력과 결과를 각각 적는다.
3. β̂ = (XᵀX)⁻¹Xᵀy로 최소제곱해가 하나로 정해지는 조건을 적고, 그 조건이 깨지면 어떤 일이 생기는지 적는다.

연체 여부(1 또는 0)를 예측한다.

1. 선형식 값을 그대로 연체 확률로 쓰면 생기는 문제를 적는다.
2. σ(0)을 구하고, 선형 점수가 매우 큰 양수·음수일 때 σ(z)가 어디에 가까운지 적는다.
3. p = 0.25일 때 승산과 로그 승산의 부호를 적는다.
4. 추정 확률이 0.4인 고객을 임계값 0.5와 0.3에서 각각 어느 범주로 예측하는지 적는다.
5. 로지스틱 회귀에서 한 계수가 0.7일 때, 그 설명변수가 1 증가하면 무엇이 0.7만큼 바뀌는지 적고, 확률이 항상 같은 양만큼 늘지 않는 이유를 적는다.
6. 선형 회귀와 로지스틱 회귀가 계수를 추정하는 기준을 각각 적는다.