회귀 분석(regression analysis)은 두 변수들 사이의 확률적 관계를 알아 보는 분석입니다. 알아 보려는 그 관계가 선형이라면 선형(linear) 회귀 분석이라고 합니다. 두 변수 $x$와 $y$가 완벽한 선형의 관계라면 $y=\beta_0+\beta_1x$의 꼴로 표현할 수 있겠습니다. 그런데 $x$와 $y$가 확률적 관계라면 $y$ 값은 확률적으로 결정될 것이고 완벽한 선형일 때와 비교하면 오차(error)가 있을 겁니다. 따라서 두 변수의 관계는 다음의 모형으로 표현할 수 있습니다.$$y=\beta_0+\beta_1x+\varepsilon$$여기서 $\varepsilon$이 오차를 의미하는 확률 변수입니다. $\varepsilon$은 엡실론이라고 읽습니다. $x$가 어떤 값이 되든 오차..
