조건이 바꾸는 확률, 베이즈 추론의 첫걸음

어떤 일이 일어날 확률은 고정되어 있지 않다. 새로운 정보가 주어지면 확률은 달라진다. 하늘이 잔뜩 흐린 아침, 비가 올 확률은 맑은 아침과 같지 않다. 의사가 검사 결과를 받아 든 순간, 진단의 확률은 검사 전과 달라진다. 이렇게 조건에 따라 확률이 바뀌는 현상을 다루는 것이 조건부 확률이고, 그 갱신을 체계적으로 수행하는 방법이 베이즈 추론이다. 이 글은 그 갱신의 원리를 고대인의 하늘 관측과 나란히 놓고, 아는 것이 판단을 어떻게 바꾸는지를 따라간다.

조건이 좁혀주는 세계

동전을 던져 앞면이 나올 확률은 절반이다. 그런데 만약 누군가가 이미 동전을 보고서 결과가 앞면이 아닌 경우 특정 신호를 보내기로 했는데 신호가 오지 않았다면, 앞면의 확률은 올라간다. 아직 결과를 직접 보지 않았지만, 주어진 조건이 가능한 경우의 수를 좁혀주는 것이다. 조건부 확률이란 바로 이런 상황, 곧 어떤 정보가 주어진 뒤에 재계산된 확률을 말한다.

일상의 무의식적 갱신

일상에서 우리는 이런 갱신을 의식하지 않고도 끊임없이 수행한다. 전화벨이 늦은 밤에 울리면 중요한 소식일 확률이 올라가고, 식당 앞에 줄이 길면 음식이 맛있을 확률이 올라간다고 느끼는 식이다. 친구가 약속 시간에 늦으면 교통이 막혔을 확률을 먼저 떠올리고, 두 번 세 번 반복되면 습관적으로 늦는 사람이라는 판단으로 갱신한다. 이 모든 과정이 조건부 확률의 직관적 적용이다. 문제는 이 직관적 적용이 때로 심각하게 빗나간다는 것이고, 그 빗나감의 패턴을 이해하는 것이 베이즈 추론의 실용적 가치다.

사전과 사후, 갱신의 두 시점

베이즈 추론에서는 정보가 오기 전의 판단을 사전확률이라 하고, 정보가 온 뒤 갱신된 판단을 사후확률이라 한다. 갱신의 크기는 새 정보가 얼마나 놀라운 것인지에 달려 있다. 이미 예상한 정보라면 갱신 폭은 작고, 전혀 예상치 못한 정보라면 확률은 크게 뒤집힌다. 비가 올 확률이 반반일 때 구름이 끼었다는 정보는 어느 정도 예상 가능한 것이므로 갱신 폭이 크지 않지만, 맑은 하늘에서 갑자기 번개가 치면 비의 확률은 급격히 올라간다.

하늘을 읽었던 갱신의 역사

고대의 하늘 관측자들도 이런 갱신을 수행했다. 그들은 처음에는 별의 움직임에 대해 막연한 짐작만 가지고 있었을 것이다. 하늘에서 밝은 것이 사라지는 현상이 무서운 징조인지, 아니면 되풀이되는 자연 현상인지를 가릴 근거가 부족했기 때문이다. 그러나 해마다 관측이 쌓일수록 짐작은 더 정확한 앎으로 갱신되었다. 일식의 주기를 파악해간 과정이 그 좋은 예다. 처음에는 일식이 언제 올지 거의 알 수 없었지만, 기록이 쌓이면서 약 열여덟 해의 되풀이가 점점 또렷해졌다. 사로스 주기의 발견은 세대를 넘은 관찰이 사전확률을 사후확률로 갱신해간 긴 과정이었다고 볼 수 있다.

증거의 무게, 가설을 가르는 힘

베이즈 갱신에서 핵심은 증거의 무게다. 베이즈 정리가 말하는 것은, 새로운 증거가 어떤 가설 아래서 나올 가능성이 높고 다른 가설 아래서는 낮을수록, 그 가설의 확률이 크게 올라간다는 것이다. 일식 기록이 하나 추가될 때마다, 열여덟 해 주기라는 가설을 가리키는 증거의 무게가 커졌고, 고대인의 확신도 그에 비례하여 단단해졌다. 이것은 현대 과학에서 실험 결과가 누적될수록 이론의 신뢰도가 높아지는 과정과 본질적으로 같은 구조다. 한 번의 관측은 약한 증거이지만, 같은 방향을 가리키는 관측이 쌓이면 증거의 무게는 기하급수적으로 커진다. 바빌로니아의 점토판에 기록된 수백 건의 일식 관측이 개별적으로는 소소한 데이터였지만, 그것이 모이자 사로스 주기라는 거대한 규칙이 떠올랐다.

직관이 어긋나는 곳, 기저율의 함정

베이즈 추론은 수학 교과서 속에만 있는 것이 아니다. 의사가 검사 결과를 보고 진단을 갱신하는 과정, 처음 만난 사람에 대한 인상이 대화를 나눌수록 바뀌는 과정, 일기예보가 새로운 기상 데이터를 반영해 수정되는 과정이 모두 베이즈 갱신의 구조를 따른다. 그런데 사람은 이 갱신을 직관적으로 수행할 때 자주 실수한다.

기저율 무시라는 흔한 실수

가장 흔한 실수가 기저율 무시다. 어떤 희귀 질병의 검사에서 양성 판정을 받았을 때, 사람들은 그 질병에 걸렸을 확률을 지나치게 높게 느낀다. 검사의 정확도가 99퍼센트라는 인상적인 숫자만 보고, 그 질병이 애초에 만 명에 한 명꼴로 발생하는 극히 드문 것이라는 사실을 간과하는 것이다. 질병의 발생률이 만 명에 한 명이고 검사의 위양성률이 1퍼센트라면, 양성 판정을 받은 사람 가운데 실제로 걸린 사람의 비율은 약 1퍼센트에 불과하다. 만 명 중 한 명의 진짜 환자와 약 백 명의 거짓 양성이 섞여 있기 때문이다. 이 계산을 제대로 하려면 검사 정확도라는 눈에 띄는 숫자뿐 아니라, 배경이 되는 발생률이라는 눈에 잘 띄지 않는 숫자까지 함께 고려해야 한다. 그것이 베이즈 정리가 요구하는 것이다.

패턴 본능과의 충돌

이 실수의 뿌리에는 우리의 패턴 인식 본능이 있다. 눈앞의 강렬한 증거에 즉각 반응하되, 배경이 되는 빈도를 놓치는 것이다. 패턴을 찾는 본능이 여기서도 작동한다. 양성 판정이라는 강렬한 정보 앞에서, 만 명에 한 명이라는 차분한 기저율은 밀려나기 쉽다. 인상적인 한 건의 증거가 수치적 배경보다 강하게 판단을 끌어당기는 것은 진화적으로는 유용했을 수 있지만, 확률적 판단에서는 심각한 왜곡을 낳는다. 사바나에서 풀숲이 흔들리면 기저율을 따지기 전에 도망치는 것이 합리적이었겠지만, 병원에서 검사 결과를 읽을 때에는 기저율을 무시하면 불필요한 공포에 빠질 수 있다.

갱신의 태도, 바뀔 수 있다는 용기

베이즈 추론이 가르쳐주는 가장 중요한 태도는, 어떤 판단이든 새로운 증거 앞에서 바뀔 수 있다는 것이다. 사전확률은 출발점이지 도착점이 아니다. 증거가 쌓일수록 판단은 갱신되고, 충분한 갱신을 거치면 처음 생각이 무엇이었든 결국 진실에 가까워진다. 이것은 처음 판단이 틀려도 괜찮다는 뜻이기도 하다. 완벽한 출발점보다 성실한 갱신이 더 중요하다. 과학의 역사에서 처음부터 맞았던 이론은 거의 없다. 오히려 틀린 출발점에서 시작하여 데이터 앞에서 끊임없이 수정해간 이론이 결국 진실에 도달했다. 베이즈 추론은 이 과정을 수학적으로 정당화해준다.

고대인의 갱신과 오늘의 갱신

고대인이 하늘을 여러 세대에 걸쳐 관찰하며 주기를 확인한 과정이나, 오늘날 통계가 데이터를 쌓아 가설을 검증하는 과정이나, 근본 구조는 같다. 아는 것이 바뀌면 판단도 바뀌어야 한다. 그 당연한 원칙을 수학적으로 명확히 한 것이 베이즈 추론이고, 그 원칙을 몸으로 실천한 것이 고대의 하늘 관측자들이었다. 조건이 바뀌면 확률도 바뀐다. 이 단순한 사실을 받아들이는 것이 불확실한 세계에서 판단을 갱신하는 첫걸음이다. 확신을 고집하는 것이 아니라, 증거 앞에서 기꺼이 바뀌는 것. 그것이 베이즈 추론이 전하는 가장 실용적인 교훈이다.