새로운 증거로 믿음이 갱신되는 베이즈 추론: 사전확률과 사후확률 이해하기
평소 문제가 없던 기계에서 갑자기 경고음이 울렸다고 생각해 보자. 처음에는 단순한 센서 오류일 가능성이 높다고 여겼지만, 진동 증가와 출력 저하까지 확인되면 실제 고장이라는 판단에 더 무게를 두게 된다. 반대로 점검 결과 센서 연결이 느슨했다는 사실이 드러나면 고장 가능성을 다시 낮출 것이다. 이처럼 우리는 기존 판단을 고정해 두지 않고 새로 들어온 정보에 맞춰 신뢰의 정도를 조정한다.
새로운 증거로 믿음이 갱신되는 베이즈 추론은 바로 이 과정을 확률의 언어로 정리한 방법이다. 여기서 ‘믿음’은 개인적 신념을 강요하거나 감정적으로 입장을 바꾼다는 뜻이 아니다. 어떤 가설이 맞을 가능성을 현재 정보에 비추어 어느 정도로 평가하는지를 뜻한다.
핵심은 단순하다. 좋은 증거가 나타났다고 해서 기존 정보를 모두 버리는 것도 아니고, 처음 생각을 지키기 위해 불편한 증거를 외면하는 것도 아니다. 증거를 보기 전의 출발점과 그 증거가 각 가설에서 얼마나 예상되는지를 함께 고려해 판단을 조정해야 한다.
베이즈 추론은 믿음을 확률로 표현한다
참과 거짓 사이에도 판단의 정도가 있다
어떤 명제는 실제로 참이거나 거짓이지만, 판단하는 사람이 그 진실을 항상 알고 있는 것은 아니다. 내일 비가 오는지는 결국 하나의 결과로 결정되지만 오늘 가진 정보만으로는 확신하기 어렵다. 그래서 ‘비가 온다’와 ‘비가 오지 않는다’ 사이에서 어느 쪽을 얼마나 신뢰하는지 0부터 1 사이의 확률로 표현할 수 있다.
이러한 믿음의 정도를 신뢰도 또는 크리던스(credence)라고 부르기도 한다. 0.7이라는 값은 가설이 이미 사실로 확정됐다는 선언이 아니라, 현재 정보에서 0.3인 경쟁 가설보다 더 높은 신뢰를 부여했다는 의미다. Stanford Encyclopedia of Philosophy의 베이즈 인식론 해설도 믿음의 강도를 정도로 나타내고 증거에 따라 변화시키는 문제를 핵심 주제로 다룬다.
가설과 증거를 먼저 구분해야 한다
베이즈 추론에서는 확인하려는 주장을 가설 H, 새로 관찰한 정보를 증거 E로 구분한다. “기계의 축이 어긋났다”는 가설이고 “센서에서 특정 경고가 발생했다”는 증거다. 가설과 증거를 뒤섞으면 경고가 발생했다는 사실만으로 고장을 확정하거나, 고장을 의심한다는 이유로 모든 소리를 증거로 받아들이기 쉽다.
경쟁 가설도 함께 세워야 한다. 경고의 원인이 축 정렬 문제인지, 센서 오류인지, 일시적인 과부하인지 비교해야 증거의 구분 능력을 평가할 수 있다. 하나의 가설만 놓고 보면 거의 모든 관찰이 그럴듯하게 보일 수 있기 때문이다.
새로운 증거가 들어오면 무엇이 달라지는가
사전확률은 판단의 출발점이다
사전확률(prior) P(H)는 이번 증거를 보기 전에 가설 H에 부여한 확률이다. 과거 기록, 일반적인 발생 빈도, 이미 확보한 정보, 관련 분야의 지식을 출발점으로 삼을 수 있다. 아무 정보가 없을 때는 여러 가설에 비슷한 값을 줄 수도 있지만, 근거가 있는데도 무조건 동일한 확률을 주는 것이 언제나 중립적인 선택은 아니다.
사전확률은 결론이 아니라 잠정적인 시작점이다. 낮은 사전확률을 가진 가설도 강한 증거가 반복되면 충분히 올라갈 수 있다. 다만 사전확률을 정확히 0으로 정하면 일반적인 조건부 갱신에서는 어떤 증거가 들어와도 그 가설을 되살릴 수 없다. 현실의 불확실한 문제에서 가능성을 성급하게 0으로 고정하지 말아야 하는 이유다.
가능도는 증거가 얼마나 예상되는지 묻는다
가능도(likelihood) P(E|H)는 가설 H가 참이라고 가정했을 때 증거 E가 나타날 가능성이다. 질문의 방향에 주의해야 한다. “고장일 때 경고가 울릴 확률”과 “경고가 울렸을 때 고장일 확률”은 서로 다른 값이다. 전자가 가능도이고, 우리가 최종적으로 알고 싶은 후자는 사후확률이다.
증거가 한 가설에서 자주 예상되더라도 다른 가설에서도 똑같이 자주 나타난다면 구분하는 힘은 약하다. 반대로 H가 참일 때는 흔하지만 H가 거짓일 때는 드문 증거라면 H를 강하게 지지한다. 따라서 증거의 인상적인 정도보다 경쟁 가설 사이에서 예상 빈도가 얼마나 다른지를 살펴야 한다.
사후확률은 증거를 반영한 새로운 판단이다
사후확률(posterior) P(H|E)는 증거 E를 확인한 뒤 가설 H에 부여하는 갱신된 확률이다. 오늘의 사후확률은 다음 증거를 만났을 때 새로운 사전확률이 될 수 있다. 베이즈 추론은 한 번의 계산으로 끝나는 판정기가 아니라, 정보가 쌓이는 동안 판단을 연속적으로 고쳐 가는 과정에 가깝다.
베이즈 정리의 공식과 계산 원리
베이즈 정리의 기본 공식은 다음과 같다.
P(H|E) = P(E|H) × P(H) ÷ P(E)
- P(H): 증거를 보기 전 가설의 사전확률
- P(E|H): 가설이 참일 때 해당 증거가 나타날 가능도
- P(E): 모든 가능한 원인에서 증거 E가 나타날 전체 확률
- P(H|E): 증거를 반영한 가설의 사후확률
P(E)는 계산 결과가 전체 가능성 안에서 적절한 비율이 되도록 조정하는 역할을 한다. 가설 H와 그 반대인 ‘H가 아님’을 비교하는 단순한 상황이라면 P(E)는 P(E|H)×P(H)와 P(E|H가 아님)×P(H가 아님)을 더해 구할 수 있다.
작은 숫자로 계산해 보는 가상 사례
다음 수치는 원리를 설명하기 위해 만든 가상의 예시이며 실제 기계나 센서의 성능 통계가 아니다. 어떤 기계에 축 정렬 문제 H가 있을 사전확률을 10%라고 하자. 정렬 문제가 있을 때 경고 E가 울릴 가능도는 80%, 문제가 없는데도 같은 경고가 울릴 가능도는 20%라고 가정한다.
- 정렬 문제가 있으면서 경고가 울릴 확률은 0.10×0.80=0.08이다.
- 정렬 문제가 없으면서 경고가 울릴 확률은 0.90×0.20=0.18이다.
- 경고가 울릴 전체 확률 P(E)는 0.08+0.18=0.26이다.
- 경고 후 정렬 문제의 사후확률은 0.08÷0.26, 약 30.8%다.
경고는 정렬 문제의 가능성을 10%에서 약 30.8%로 높였다. 그러나 80%로 확정한 것은 아니다. 문제가 없는 기계가 훨씬 많고 그중 일부에서도 경고가 발생하기 때문이다. 이 계산은 가능도뿐 아니라 처음의 기저율인 사전확률도 함께 봐야 한다는 점을 보여 준다.
반복 갱신에는 조건 확인이 필요하다
이후 새로운 진동 측정값이 들어오면 30.8%를 다음 계산의 출발점으로 삼을 수 있다. 다만 두 증거가 서로 독립적이라고 무조건 가정해서는 안 된다. 같은 센서 오류가 경고와 진동값을 동시에 왜곡했다면 독립된 증거 두 개처럼 계산할 때 확신이 과도하게 커진다. 반복 갱신에서는 증거 사이의 의존성까지 모형에 반영해야 한다.
믿음을 크게 바꾸는 증거에는 조건이 있다
예상 밖이면서 가설을 잘 구분해야 한다
가설 H가 참일 때 매우 자연스럽고 H가 거짓일 때는 좀처럼 보기 어려운 증거가 강한 증거다. 이를 간단히 비교하는 방법이 가능도비 P(E|H)÷P(E|H가 아님)이다. 앞의 가상 사례에서는 0.8÷0.2=4이므로, 해당 경고는 문제가 없는 경우보다 정렬 문제가 있는 경우에 네 배 더 잘 예상된다.
그러나 가능도비만으로 최종 확률이 결정되지는 않는다. 같은 경고를 보더라도 사전확률이 1%였던 상황과 50%였던 상황의 사후확률은 다르다. 드문 현상은 어느 정도 강한 증거가 있어도 여전히 드물 수 있다. 이 출발점을 무시하고 눈에 띄는 단서만으로 결론을 내리는 것이 기저율 무시 오류다.
반대로 H보다 경쟁 가설에서 더 쉽게 예상되는 증거는 H의 확률을 낮춰야 한다. 새로운 증거가 기존 가설과 완전히 모순되지 않더라도 다른 설명에 더 잘 들어맞는다면 상대적 지지는 약해진다. 증거가 나왔다는 사실 자체보다 어느 가설이 그 증거를 더 잘 예측했는지가 중요하다.
베이즈식 갱신과 확증편향은 다르다
확증편향은 이미 믿는 결론에 유리한 정보만 찾고, 반대 증거를 과소평가하거나 무시하는 경향이다. 이때 결론은 사실상 먼저 정해져 있고 증거는 그것을 방어하는 재료로 쓰인다. 같은 자료도 원하는 부분만 강조하면 계산 형식을 사용하더라도 합리적인 갱신이라고 할 수 없다.
베이즈식 태도는 지지 증거가 들어오면 확률을 높이고 반대 증거가 들어오면 낮추도록 요구한다. 예상과 다른 결과가 나왔을 때도 그 결과의 신뢰성과 경쟁 가설에서의 가능도를 같은 기준으로 평가해야 한다. 반대 증거를 검토한다는 것은 기존 가설을 즉시 포기한다는 뜻이 아니라 신뢰도를 증거의 강도만큼 조절한다는 뜻이다.
실천적으로는 판단 전에 갱신 규칙을 적어 두는 방법이 유용하다. 어떤 결과가 나오면 가설을 더 신뢰할지, 어떤 결과가 나오면 덜 신뢰할지 미리 정하면 결과를 본 뒤 기준을 바꾸는 일을 줄일 수 있다. 가설을 지지할 증거만 떠올랐다면 “이 가설이 틀렸을 때 더 잘 예상되는 관찰은 무엇인가?”라고 질문해 볼 수 있다.
베이즈 추론이 객관적 진리를 보장하지 않는 이유
사전확률에는 근거와 검토 가능성이 필요하다
사전확률은 아무렇게나 정하는 개인적 기분이 아니다. 반복 관측 자료, 유사 사례의 빈도, 물리적 제약, 전문가 지식처럼 설명 가능한 근거를 사용해야 한다. 근거가 부족하면 하나의 값만 고집하기보다 여러 합리적인 사전확률에서 결과가 얼마나 달라지는지 민감도 분석을 해 보는 편이 낫다.
사전확률을 어느 정도 허용할지를 두고 주관적 베이즈 접근과 객관적 베이즈 접근 사이에 논의가 있다. 초보자가 기억할 요점은 특정 철학적 입장을 선택하는 것이 아니라 출발점이 결과에 영향을 미친다는 사실을 숨기지 않고, 다른 사람이 검토할 수 있도록 근거를 밝히는 것이다.
잘못된 데이터와 모형은 잘못된 사후확률을 만든다
센서가 편향되어 있거나 표본이 특정 조건에 치우쳤다면 정교한 계산도 그 문제를 제거하지 못한다. 중요한 경쟁 가설을 빠뜨리거나 증거 사이의 의존성을 무시해도 결과가 왜곡된다. 베이즈 정리는 입력된 사전확률과 가능도 모형을 일관되게 결합하지만, 입력 자체의 타당성을 자동으로 검사해 주지는 않는다.
NIST 통계 방법 안내서에서 설명하듯 베이즈 방법은 기존 정보와 새 데이터를 결합해 사전분포를 사후분포로 갱신하는 데 활용된다. 다만 계산된 사후확률은 선택한 자료와 모형 아래에서의 조건부 결과다. 확률이 높아졌다는 사실과 현실에서 가설이 참으로 확정됐다는 주장은 구분해야 한다.
불확실성을 수치화해도 불확실성은 남는다
확률은 모르는 것을 없애는 숫자가 아니라 무엇을 얼마나 모르는지 구조화하는 수단이다. 데이터가 더 필요하거나 모형이 불완전하면 사후확률에도 그 한계가 남는다. 따라서 결과를 제시할 때는 숫자만 말하지 말고 사용한 가설, 사전확률의 근거, 증거의 품질, 주요 가정을 함께 설명해야 한다.
일상에서 베이즈식 사고를 적용하는 순서
- 가설을 확인 가능한 문장으로 쓴다. “상황이 이상하다”보다 “출력 저하의 주원인은 축 정렬 문제다”처럼 범위를 명확히 한다.
- 경쟁 가설을 나열한다. 센서 오류, 과부하, 측정 착오처럼 같은 현상을 설명할 다른 가능성을 포함한다.
- 증거 전의 출발점을 기록한다. 과거 빈도와 이미 아는 정보를 근거로 사전확률을 정하고 불확실하면 범위로 표시한다.
- 각 가설에서 증거가 얼마나 예상되는지 비교한다. 선호하는 가설에서 가능한지만 묻지 말고 경쟁 가설에서도 흔한지 확인한다.
- 판단의 방향과 크기를 갱신한다. 정확한 수치가 어렵다면 ‘조금 상승’, ‘크게 하락’처럼 상대적인 변화라도 기록한다.
- 다음 증거와 가정을 점검한다. 독립적인 새 정보인지, 같은 원인에서 반복된 신호인지 확인한 뒤 다시 갱신한다.
이 절차는 모든 일상 판단에 복잡한 공식을 사용하라는 뜻이 아니다. 핵심 질문은 “나는 처음에 무엇을 알고 있었는가?”, “이 증거는 어느 가설에서 더 잘 예상되는가?”, “그래서 판단이 실제로 얼마나 달라져야 하는가?”라는 세 가지다. 이 질문만 습관화해도 강렬하지만 구분력이 약한 정보에 휩쓸리는 일을 줄일 수 있다.
새로운 증거를 받아들이는 좋은 추론
새로운 증거로 믿음이 갱신되는 베이즈 추론은 사전확률, 가능도, 사후확률을 연결해 불확실한 판단을 수정하는 틀이다. 지지 증거는 가설의 확률을 높일 수 있고, 경쟁 설명에 더 잘 맞는 증거는 그 확률을 낮출 수 있다. 중요한 것은 변화 자체가 아니라 증거의 구분력과 기존 정보를 함께 고려해 변화의 크기를 정하는 일이다.
베이즈 추론은 언제나 정답을 알려 주는 장치가 아니다. 그러나 출발점과 가정, 증거의 역할을 드러내기 때문에 판단이 왜 바뀌었는지 설명하고 다시 검토하기 쉽게 만든다. 좋은 추론은 처음 믿음을 고집하는 태도도, 새로운 단서 하나에 결론을 뒤집는 태도도 아니다. 충분한 근거에 비례해 신뢰의 정도를 계속 조정하는 과정이다.