세차 관측에서 평균 회귀를 적용하는 방법: 장기 추세와 관측 오차 분리하기
고대 유적의 통로가 특정 별을 향했다는 방위각이 조사 시기마다 달라 보인다면, 먼저 물어야 할 것은 “하늘이 실제로 얼마나 변했는가”와 “관측 오차가 얼마나 흔들렸는가”입니다. 세차는 지구 자전축 방향이 장기간에 걸쳐 변하는 물리 현상이고, 평균 회귀는 극단적인 측정 뒤의 측정이 전체 평균에 더 가까워 보이기 쉬운 통계적 경향입니다. 세차 관측에서 평균 회귀를 적용한다는 말은 세차가 되돌아간다는 뜻이 아닙니다. 세차 모델로 예상되는 장기 추세를 먼저 제거한 다음, 남은 잔차가 우연·오차·표본 선택 때문에 극단적으로 나타났는지 살피는 절차를 뜻합니다.
세차 관측에서 평균 회귀를 함께 봐야 하는 이유
별의 방위각, 적경·적위, 천구 북극의 위치처럼 시간에 따라 달라지는 값에는 여러 성분이 섞여 있습니다. 수백 년에서 수천 년에 걸친 세차 추세가 있고, 그 위에 nutation(장동) 같은 비교적 작은 주기 변화, 관측 장비의 정밀도, 지평선 판독, 대기 굴절, 기록 반올림이 얹힙니다. 이들을 한 덩어리로 비교하면 장기 변화가 측정 오류처럼 보이거나, 반대로 큰 오차가 실제 천문 변화처럼 보일 수 있습니다.
특히 가장 크게 어긋난 유적이나 기록만 골라 재측정하면 두 번째 값이 덜 극단적일 가능성이 커집니다. 첫 값이 진짜 신호와 우연한 오차가 같은 방향으로 겹친 결과일 수 있기 때문입니다. 이때 평균 회귀를 검토하면 “두 번째 관측에서 차이가 줄었다”는 사실을 곧바로 복원, 교정 효과, 관측자의 의도 변화로 해석하는 실수를 줄일 수 있습니다.
세차운동과 평균 회귀는 어떻게 다른가
세차는 장기적인 기준축의 변화다
축세차는 태양과 달의 중력이 지구의 적도 팽대부에 작용하면서 자전축이 가리키는 방향이 천천히 바뀌는 현상입니다. NASA의 축세차 설명은 그 주기를 약 25,771.5년으로 제시하며, 약 13,000년 뒤에는 근일점과 계절의 관계가 현재와 반대 양상으로 바뀐다고 설명합니다. 이는 장기간에 걸쳐 모델링할 수 있는 방향 변화이지, 표본 평균으로 되돌아가려는 힘이 아닙니다.
USNO의 천문 기준계 자료에서는 세차를 천구 극의 매끄러운 장기 운동으로, 장동을 그 위에 중첩되는 작은 주기 변화로 구분합니다. 실제 천구 극과 세차만 반영한 극이 같지 않을 수 있다는 뜻입니다. 따라서 고대 하늘을 복원할 때도 세차, 장동, 별의 고유운동, 관측 장소와 시각을 분석 목적에 맞게 구분해야 합니다. 세차와 극의 이동이 고대 하늘 해석을 바꾸는 이유를 함께 보면 현재의 북극성이나 별 위치를 과거에 그대로 대입할 수 없는 이유를 이해하기 쉽습니다.
평균 회귀는 반복 관측의 통계적 효과다
평균 회귀는 첫 측정이 유난히 크거나 작을 때 다음 측정이 평균에 더 가까워지는 경향입니다. 개별 값이 반드시 평균 쪽으로 움직인다는 법칙은 아닙니다. 진짜 값이 비교적 안정적이고 측정 오차에 우연성이 있을 때, 극단값에는 일시적 오차가 더해졌을 가능성이 있습니다. 다음 오차가 같은 방향과 크기로 반복되지 않으면 관측값이 자연히 덜 극단적으로 보입니다. 버클리 통계 자료의 평균 회귀 설명도 극단적인 첫 측정 뒤의 평균적 변화를 인과 효과로 오해하지 않도록 주의를 줍니다.
관측 자료를 평균 회귀 관점에서 정리하는 순서
- 기록 조건을 표로 만듭니다. 관측 연도와 가능한 날짜 범위, 위도·경도, 방위각·고도 또는 적경·적위, 장비, 판독 단위, 지평선 기준, 연대 오차를 함께 적습니다. 고대 기록은 정확한 연도 대신 가능한 연대 범위가 필요할 수 있습니다.
- 좌표계와 epoch를 통일합니다. 같은 숫자의 적경과 적위라도 기준 적도와 춘분점, epoch가 다르면 같은 방향을 뜻하지 않습니다. 원자료의 기준을 보존하고 비교용 사본만 공통 기준으로 변환합니다.
- 물리 모델로 기대값을 계산합니다. 공인된 세차·장동 모델이나 연구에서 명시한 근사식을 사용해 각 시점의 예상 위치를 구합니다. 유적이라면 건설 추정 시기의 하늘로 좌표를 되돌리고, 후보 별의 고유운동과 당시 관측지의 지평선도 반영합니다.
- 관측값에서 모델값을 뺍니다. 잔차는 관측값 − 세차 모델값입니다. 부호 규칙과 각도의 단위를 먼저 고정해야 359도와 1도의 차이를 358도로 잘못 계산하지 않습니다.
- 잔차의 중심과 퍼짐을 봅니다. 평균, 중앙값, 표준편차, 측정 불확실성, 신뢰구간을 확인합니다. 조건이 맞으면 z점수 z=(잔차−잔차 평균)/잔차 표준편차로 상대적인 극단성을 비교할 수 있습니다.
- 재현성을 시험합니다. 극단값만 골라 재측정했는지 밝히고, 다른 조사자·장비·지점·자료에서도 같은 방향의 잔차가 나타나는지 확인합니다.
이 순서의 핵심은 평균을 원시 관측값 전체에서 곧바로 구하지 않는 데 있습니다. 세차로 인해 기준 위치 자체가 움직이는 자료의 단순 평균은 서로 다른 시대의 하늘을 섞습니다. 먼저 각 시대의 기대값을 계산하고 같은 의미를 갖는 잔차끼리 비교해야 평균 회귀라는 통계 개념을 적절히 적용할 수 있습니다.
극단적인 값 뒤에 평균에 가까운 값이 나오는 이유
오차와 단기 변동이 매번 같지 않다
첫 조사에서 지평선 윤곽을 0.4도 높게 읽고, 대기 굴절이나 구조물 중심선 판정도 같은 방향으로 치우쳤다면 잔차가 크게 나타날 수 있습니다. 재조사 때 이런 우연한 성분이 작아지거나 반대 방향이 되면 새 잔차는 평균에 가까워집니다. 이것은 세차 속도가 갑자기 느려졌다는 증거가 아니라 측정 잡음의 조합이 달라진 결과일 수 있습니다.
극단값으로 표본을 고르면 편향이 생긴다
“별 정렬이 가장 정확한 유적 10곳” 또는 “모델에서 가장 멀리 벗어난 기록”만 선택하면 선정 기준 자체가 첫 값의 극단성을 보장합니다. 이후 같은 대상을 재측정했을 때 차이가 줄어드는 것은 예상 가능한 통계 현상입니다. 재측정 전후 차이만 보는 대신 처음부터 정한 전체 표본과 대조군을 유지하고 선택 규칙을 공개해야 합니다.
독립 검증은 평균 회귀와 신호를 가른다
같은 사진을 같은 방식으로 다시 읽는 것은 완전히 독립적인 검증이 아닙니다. 원시 측량 자료, 다른 시기의 관측, 별도 장비와 분석자가 필요합니다. 반복 측정의 평균이 모델과 계속 같은 방향으로 어긋나고 오차 범위를 넘어선다면 추가 요인을 검토할 근거가 생깁니다. 그래도 평균 회귀가 특정 원인을 밝혀 주는 것은 아니므로 장비 편향, 좌표 변환, 연대 추정부터 점검해야 합니다.
교육용 가상 데이터로 계산해 보기
아래 값은 계산 방법을 보여주기 위한 가상 자료이며 실제 천구 극이나 특정 유적의 측정 결과가 아닙니다. 한 관측지에서 별의 방위각을 반복 측정했고, 명시한 근사 세차 모델이 각 연도의 기대 방위각을 제공한다고 가정합니다.
| 관측 연도 | 모델값 | 관측값 | 잔차 |
|---|---|---|---|
| 1900 | 40.0° | 41.2° | +1.2° |
| 1925 | 40.2° | 40.5° | +0.3° |
| 1950 | 40.4° | 40.2° | −0.2° |
| 1975 | 40.6° | 40.7° | +0.1° |
| 2000 | 40.8° | 40.8° | 0.0° |
원시 관측값은 41.2도에서 40.5도로 낮아졌지만 모델 기대값은 40.0도에서 40.2도로 높아졌습니다. 비교 대상은 원시값의 증감이 아니라 잔차 +1.2도와 +0.3도입니다. 다섯 잔차의 평균은 +0.28도입니다. 첫 잔차는 이 평균에서 크게 벗어나고 두 번째 잔차는 더 가깝지만, 두 점만으로 실제 방위가 복원되었다거나 특정 조치가 효과를 냈다고 결론 내릴 수 없습니다.
또한 첫 값을 보고 “이상한 사례”로 선정했다면 평균 회귀 가능성은 더 커집니다. 표준편차와 z점수는 극단성을 요약하는 도구일 뿐입니다. 표본이 다섯 개뿐이고 각 관측의 오차 범위도 모른다면 정규분포를 가정한 확정적 판정은 피해야 합니다. 연도별 불확실성이 다르면 단순 평균보다 오차를 반영한 가중 분석이나 민감도 분석이 적절합니다.
고대 천문 관측과 유적 정렬에 적용하는 방법
유적의 건설 시기가 기원전 1500년 전후라고 추정된다면 단일 연도로 고정하지 말고 가능한 연대 구간마다 후보 별의 위치를 계산하는 편이 안전합니다. 건설축의 방위각도 벽의 어느 면, 통로 중심선, 출입구의 시야 중 무엇을 측정했는지 정의해야 합니다. 산 능선 높이와 대기 굴절은 별이 처음 보이는 방위와 고도를 바꿀 수 있으므로 평평한 수평선을 가정한 결과와 현장 지평선을 반영한 결과를 나란히 제시합니다.
그다음 후보 별의 시대별 예상 방향과 측정 축의 차이를 잔차로 둡니다. 연대 범위, 축 측량 오차, 지평선 오차를 각각 바꾸어도 정렬이 유지되는지 확인하면 우연히 잘 맞는 한 조합에 의존하는 것을 피할 수 있습니다. 후보 별을 수십 개 시험하고 가장 잘 맞는 별만 보고했다면 다중 비교 문제도 생깁니다. 사전에 후보와 허용 오차를 정하거나 탐색 결과를 별도의 자료로 재검증해야 합니다.
무엇보다 작은 잔차 하나는 의도의 증거가 아닙니다. 건축적 기능, 지형, 문화권의 독립 기록, 반복되는 배치가 함께 뒷받침되어야 천문 정렬 가능성을 신중하게 논의할 수 있습니다. 평균 회귀는 첫 조사와 재조사의 차이를 설명할 후보일 뿐, 고대인이 세차 주기를 알았는지 또는 특정 별을 겨냥했는지를 판정하는 도구가 아닙니다.
평균 회귀를 적용할 때 피해야 할 해석 오류
- 평균 회귀를 역방향 세차로 부르지 않습니다. 하나는 통계적 경향이고 다른 하나는 지구 자전축의 물리적 운동입니다.
- 극단값 다음의 감소를 인과 효과로 단정하지 않습니다. 비교 집단이나 독립 재측정 없이 “교정 때문에 좋아졌다”고 말할 수 없습니다.
- 현재 별 위치를 고대 유적에 그대로 대입하지 않습니다. 좌표계, epoch, 세차와 필요한 천문 보정을 명시해야 합니다.
- 세차와 장동, 지리적 극 이동, 자기극 이동을 섞지 않습니다. 원인과 시간 규모, 관측 변수가 서로 다릅니다.
- 적은 표본을 과도하게 일반화하지 않습니다. 연대와 측정 오차가 불명확하면 평균과 표준편차도 불안정하며, 결과는 가능한 범위로 표현해야 합니다.
분석 결과를 믿기 전에 확인할 것
관측 날짜·장소·단위가 기록됐는지, 모든 좌표가 같은 기준계와 epoch로 변환됐는지, 사용한 세차·장동 모델과 가정이 공개됐는지 확인합니다. 이어 잔차의 정의와 부호, 불확실성, 극단값 선정 기준, 누락 자료를 점검합니다. 마지막으로 다른 장비와 분석자의 독립 자료에서도 결과가 재현되는지 살핍니다.
정리하면 세차 관측에서 평균 회귀를 적용하는 올바른 방법은 물리적 장기 추세를 먼저 모델링하고 관측값에서 그 기대값을 뺀 잔차를 분석하는 것입니다. 극단적인 잔차 뒤에 덜 극단적인 값이 나왔다면 우연 오차와 표본 선택을 먼저 검토해야 합니다. 이 구분을 지키면 고대 관측과 유적 정렬을 흥미로운 이야기로 끝내지 않고, 자료가 뒷받침하는 범위 안에서 검증 가능한 가설로 다룰 수 있습니다.