기댓값이라는 저울, 유리함과 불리함의 산수

내기를 하나 제안받았다고 하자. 동전을 던져서 앞면이 나오면 만 원을 받고, 뒷면이 나오면 오천 원을 잃는다. 이 내기를 받아야 할까. 직감에 의존할 수도 있지만, 이런 종류의 질문에 수학적으로 답하는 도구가 있다. 기댓값이라 불리는 이 개념은, 불확실한 상황에서의 유리함과 불리함을 하나의 숫자로 요약해준다.

기댓값의 정의

기댓값은 각 결과의 값에 그 결과가 일어날 확률을 곱한 것을 모두 더한 값이다. 위의 동전 내기에서 계산해보면, 앞면의 이득 만 원에 확률 0.5를 곱한 5천 원과, 뒷면의 손실 마이너스 5천 원에 확률 0.5를 곱한 마이너스 2500원을 더하면, 기댓값은 2500원이 된다. 양수이므로 이 내기는 평균적으로 유리하다.

평균적으로라는 단서

기댓값이 양수라고 해서 매번 이긴다는 뜻은 아니다. 한 번만 하면 만 원을 얻거나 5천 원을 잃거나 둘 중 하나다. 기댓값의 의미는 이 내기를 매우 여러 번 반복했을 때, 한 번당 평균 이득이 2500원에 수렴한다는 것이다. 독립적인 시행이 충분히 누적되면, 실제 결과의 평균은 기댓값에 가까워진다. 이것은 큰 수의 법칙이 보장하는 바다.

한 번과 여러 번의 차이

기댓값이 유리한 내기라도, 한 번의 시행에서 잃을 수 있다는 사실은 중요하다. 기댓값은 장기적 평균을 말하는 것이지, 개별 결과를 예측하는 것이 아니기 때문이다. 이 구분을 잊으면 기댓값이 양수라는 이유만으로 감당할 수 없는 규모의 내기에 뛰어드는 실수를 할 수 있다.

기댓값의 역사적 기원

기댓값 개념을 처음 체계적으로 서술한 것은 17세기의 크리스티안 호이헌스였다. 확률론의 초기 역사에서 중심적 역할을 한 그는, 게임에서 플레이어가 합리적으로 기대할 수 있는 이득을 수학적으로 정의했다. 이 정의는 도박의 맥락에서 태어났지만, 이후 보험 산업, 경제학적 의사결정, 통계적 추론 등 훨씬 넓은 영역으로 확장되었다.

보험이라는 응용

보험의 기본 원리는 기댓값에 기초한다. 보험사는 사고의 확률과 그에 따른 손해액을 추정하고, 기댓값을 계산하여 그보다 약간 높은 보험료를 책정한다. 가입자 한 명에게는 사고가 발생할 수도 있고 아닐 수도 있지만, 충분히 많은 가입자를 모으면 전체 보험금 지출은 기댓값에 수렴하고, 보험사는 그 차이만큼의 수익을 기대할 수 있다.

로또의 기댓값

복권의 기댓값을 계산하면 거의 언제나 음수가 나온다. 1등 당첨금이 아무리 크더라도, 그 확률이 극히 낮기 때문에 기댓값으로 환산하면 복권 구매 비용을 회수하지 못한다. 예를 들어 천 원짜리 복권의 기댓값이 오백 원이라면, 장기적으로 천 원을 쓸 때마다 오백 원의 손실이 누적된다는 뜻이다. 복권이 수익 사업이 되는 이유가 여기에 있다.

기댓값만으로 충분한가

기댓값은 강력한 도구이지만, 그것만으로 의사결정을 내리기에는 부족한 경우가 있다. 기댓값이 같은 두 상황이 체감적으로 매우 다를 수 있기 때문이다.

상트페테르부르크 역설

동전을 던져서 처음 앞면이 나올 때까지의 횟수에 따라 상금이 기하급수적으로 늘어나는 게임을 생각해보자. 이 게임의 기댓값은 무한대가 된다. 그렇다면 이 게임에 참가하기 위해 전 재산을 걸어도 될까. 대부분의 사람은 아니라고 대답한다. 기댓값이 무한대인데도 직관적으로 유한한 가격 이상을 지불하고 싶지 않은 이 상황이 바로 상트페테르부르크 역설이다.

분산이라는 보완재

이 역설은 기댓값 외에 결과의 흩어진 정도, 즉 분산도 고려해야 한다는 것을 시사한다. 기댓값이 같더라도, 결과가 좁은 범위에 모여 있는 경우와 극단적으로 흩어져 있는 경우는 위험의 크기가 다르다. 이 문제는 효용 이론이라는 별도의 분야에서 다루어지며, 기댓값의 한계를 보완하는 다양한 의사결정 틀이 개발되어 왔다.

유용함의 경계 인식

어떤 도구든 그 한계를 아는 것이 올바른 사용의 전제다. 기댓값은 반복 가능한 상황에서 장기적 손익을 판단하는 데 탁월하지만, 일회적이고 결과의 크기가 극단적인 상황에서는 보조적 지표에 그칠 수 있다. 도구의 유용함과 도구의 한계를 함께 이해할 때, 불확실한 상황에서의 판단이 더 정교해진다.

저울 위의 미래

기댓값은 미래를 하나의 숫자로 요약하려는 시도다. 여러 가능한 미래를 확률이라는 무게로 달아 평균을 낸 것이다. 이 숫자 하나가 주는 정보는 완벽하지 않지만, 아무런 계산 없이 직감에만 의존하는 것보다는 훨씬 나은 판단의 근거를 제공한다.

계산과 직감 사이

일상에서 기댓값을 명시적으로 계산하는 경우는 드물다. 그러나 기댓값적 사고 방식, 즉 가능한 결과들에 확률을 부여하고 그 가중 평균을 어림하는 습관은 많은 상황에서 판단의 질을 높인다. 숫자 감각이라는 것도 결국 이런 어림의 정확도와 관련이 있다. 기댓값은 확률론의 가장 기본적인 도구이면서, 동시에 가장 실용적인 도구이기도 하다.