단계적 회귀

단계적 회귀란 무엇입니까?

회귀 모델 의 단계별 반복 구성입니다 . 여기에는 잠재적인 설명 변수를 연속적으로 추가하거나 제거하고 각 반복 후에 통계적 유의성을 테스트하는 작업이 포함됩니다.

통계 소프트웨어 패키지의 가용성은 수백 개의 변수가 있는 모델에서도 단계적 회귀를 가능하게 합니다.

단계적 회귀의 유형

단계적 회귀의 기본 목표는 일련의 테스트(예: F-검정, t-검정 )를 통해 종속 변수에 상당한 영향을 미치는 독립 변수 집합을 찾는 것입니다. 이것은 반복을 통해 컴퓨터로 수행되며, 이는 반복된 라운드 또는 분석 주기를 거쳐 결과 또는 결정에 도달하는 프로세스입니다. 통계 소프트웨어 패키지의 도움으로 테스트를 자동으로 수행하면 시간을 절약하고 실수를 줄일 수 있는 이점이 있습니다.

단계적 회귀는 한 번에 하나의 독립 변수를 시도하고 통계적으로 유의 한 경우 회귀 모델 에 포함하거나 모델에 모든 잠재적 독립 변수를 포함하고 통계적으로 유의하지 않은 변수를 제거하여 달성할 수 있습니다. 일부는 두 방법의 조합을 사용하므로 단계적 회귀에 대한 세 가지 접근 방식이 있습니다.

1. 순방향 선택은 모델에 변수가 없는 상태에서 시작하여 모델에 추가될 때 각 변수를 테스트한 다음 통계적으로 가장 중요한 것으로 간주되는 변수를 유지하여 최적의 결과가 나올 때까지 프로세스를 반복합니다.

2. 역진 제거는 독립 변수 집합으로 시작하여 한 번에 하나씩 삭제한 다음 제거된 변수가 통계적으로 유의한지 테스트합니다.

3. 양방향 제거는 포함하거나 제외해야 하는 변수를 테스트하는 처음 두 가지 방법의 조합입니다.

예시

후진 제거 방법을 사용하는 단계적 회귀의 예는 장비 가동 시간, 장비 연령, 직원 규모, 외부 온도 및 시간과 같은 변수를 사용하여 공장의 에너지 사용량을 이해하려는 시도입니다. 모델에는 모든 변수가 포함되어 있습니다. 그런 다음 각 변수를 한 번에 하나씩 제거하여 통계적으로 가장 유의하지 않은 변수를 결정합니다. 결국, 모델은 시간과 온도가 가장 중요하다는 것을 보여줄 수 있으며, 아마도 공장에서 최대 에너지 소비가 에어컨 사용량이 가장 높을 때임을 암시할 수 있습니다.

단계적 회귀의 한계

선형 및 다변량 회귀 분석은 오늘날 경제 및 투자 세계에서 널리 사용됩니다. 아이디어는 종종 미래에도 재발할 수 있는 과거에 존재했던 패턴을 찾는 것입니다. 예를 들어, 단순 선형 회귀 는 P/E 비율(독립 변수)이 낮은 주식이 더 높은 수익률(종속 변수)을 제공하는지 확인하기 위해 수년간의 주가 수익률과 주식 수익률을 살펴볼 수 있습니다 . 이 접근 방식의 문제는 시장 상황이 자주 변하고 과거에 유지되어 온 관계가 현재나 미래에도 반드시 적용되는 것은 아니라는 점입니다.

한편, 단계적 회귀 프로세스에는 많은 비판이 있으며 방법을 완전히 사용하지 말라는 요청도 있습니다. 통계학자들은 부정확한 결과, 프로세스 자체에 내재된 편향, 반복을 통해 복잡한 회귀 모델을 개발하기 위한 상당한 컴퓨팅 성능의 필요성을 포함하여 접근 방식의 몇 가지 단점을 지적합니다.

##하이라이트

• 그러나 단계적 회귀는 원하는 결과를 얻기 위해 데이터를 모델에 맞추는 접근 방식이므로 단점이 있습니다.

• 후진 제거 방법은 여러 변수가 로드된 전체 모델에서 시작한 다음 전체 결과에 대한 중요성을 테스트하기 위해 하나의 변수를 제거합니다.

• 단계적 회귀분석은 선형회귀모형에서 각 독립변수의 통계적 유의성을 반복적으로 조사하는 방법이다.

• 순방향 선택 접근 방식은 아무것도 없는 상태에서 시작하여 각각의 새로운 변수를 점진적으로 추가하여 통계적 유의성을 테스트합니다.