확률의 탄생, 주사위에서 시작된 수학

확률론의 역사를 거슬러 올라가면, 거기에는 순수한 지적 호기심보다 훨씬 세속적인 동기가 놓여 있다. 17세기 프랑스에서 확률론의 기초를 놓은 편지들이 오간 이유는 도박 문제였다. 누군가 게임에서 공정한 몫을 계산하고 싶었고, 그 질문이 수학의 새로운 분야를 열었다. 우연에 대한 수학적 사유가 어떻게 시작되었는지 들여다본다.

도박사의 질문, 수학자의 답

1654년, 프랑스의 도박사이자 문필가인 슈발리에 드 메레는 한 가지 문제에 봉착했다. 두 사람이 내기를 하다가 중간에 그만두어야 할 때, 판돈을 어떻게 나누는 것이 공정한가. 이 문제는 얼핏 단순해 보이지만, 게임이 끝나지 않은 상태에서 각자의 승리 가능성을 수치로 환산해야 하기 때문에 직관만으로는 풀기 어렵다.

미완결 게임의 분배 문제

드 메레는 이 문제를 수학자 블레즈 파스칼에게 가져갔다. 파스칼은 다시 피에르 드 페르마에게 편지를 보내 의견을 구했고, 두 수학자 사이에서 일련의 서신 교환이 이루어졌다. 점수 문제라 불리는 이 문제의 핵심은, 아직 일어나지 않은 미래의 경우의 수를 체계적으로 세는 것이었다. 파스칼은 남은 라운드에서 가능한 모든 결과를 나열하고, 각 플레이어가 최종 승리하는 경우의 비율에 따라 판돈을 나누는 방법을 제시했다.

페르마의 접근과 차이

페르마도 같은 결론에 도달했지만, 그의 방법은 조합론적이었다. 남은 게임의 최대 라운드 수를 상정하고, 그 안에서 가능한 모든 승패 조합을 세어 확률을 계산했다. 두 사람의 방법은 겉보기에 달랐지만 같은 답을 내놓았으며, 이 일치 자체가 그 답이 정당하다는 확신을 주었다. 서로 독립적인 경로로 같은 결과에 이르렀다는 사실이 증명 이상의 설득력을 가진 것이다.

수학적 대화의 힘

이 편지 교환은 확률론의 출발점으로 널리 인정받는다. 한 가지 주목할 점은, 이 이론이 혼자서 만들어진 것이 아니라 두 수학자의 대화 속에서 태어났다는 것이다. 서로 다른 방식으로 같은 문제를 풀었다는 사실이 이론의 견고함을 더했고, 이후 학자들이 이를 확장하는 발판이 되었다.

파스칼의 삼각형과 경우의 수

파스칼은 점수 문제를 풀면서 이항 계수의 삼각형 배열을 적극적으로 활용했다. 오늘날 파스칼의 삼각형이라 불리는 이 배열은, 각 행의 수가 그 윗행의 인접한 두 수를 더한 것으로 이루어진다. 이 삼각형의 각 항은 특정 사건이 주어진 횟수만큼 일어나는 경우의 수를 나타내며, 확률 계산의 도구로 직결된다.

조합의 수를 세는 구조

예를 들어 동전을 네 번 던져서 앞면이 정확히 두 번 나오는 경우의 수는 파스칼의 삼각형에서 바로 읽어낼 수 있다. 이 구조는 점수 문제뿐 아니라, 이후 이항분포와 여러 확률 계산의 기본 틀이 되었다. 물론 파스칼의 삼각형 자체는 훨씬 이전부터 다양한 문화권에서 알려져 있었다. 중국의 양휘, 페르시아의 카야얌 등이 이미 같은 구조를 다루었다.

명명의 역사적 편향

이름이 파스칼에게 붙은 것은 유럽 중심의 수학사 서술 탓이 크다. 다만 파스칼의 기여는 이 삼각형의 발견이 아니라, 그것을 확률적 문제에 체계적으로 적용한 데 있다. 도구 자체보다 도구의 쓰임새를 바꾼 것이 그의 공적이다.

호이헌스와 기대의 계산

파스칼과 페르마의 서신이 오간 직후인 1657년, 네덜란드의 수학자 크리스티안 호이헌스는 확률에 관한 최초의 출판물을 내놓았다. 그의 소책자에는 기대값에 해당하는 개념이 처음으로 체계적으로 서술되었다. 게임에서 플레이어가 기대할 수 있는 평균적인 이득, 즉 여러 번 반복했을 때 수렴할 것으로 예상되는 값을 수학적으로 정의한 것이다.

연습 문제라는 형식

호이헌스의 책은 다섯 개의 연습 문제를 포함하고 있었고, 이 문제들이 이후 수십 년간 유럽의 수학자들에게 도전 과제로 작용했다. 형식적으로는 교재에 가까웠지만, 내용적으로는 확률론의 기본 체계를 처음 세운 것이었다. 파스칼과 페르마의 대화가 확률론의 출발이었다면, 호이헌스의 출판은 그것을 공적인 수학의 영역으로 끌어올린 전환점이었다.

우연의 수학화라는 전환

호이헌스 이전에도 도박사들은 경험적으로 어떤 내기가 유리하고 불리한지를 감잡고 있었다. 그러나 그 감각을 수치로 표현하고, 수치의 정당성을 논증으로 뒷받침한 것은 다른 차원의 일이었다. 우연을 수학의 대상으로 삼을 수 있다는 인식의 전환이, 이후 보험, 통계, 과학적 추론 등 광범위한 분야로 확장되는 출발점이 되었다.

주사위에서 우주로

확률론이 도박에서 시작되었다는 사실은 학문의 가치를 낮추지 않는다. 오히려 가장 일상적인 질문에서 심오한 수학이 탄생할 수 있음을 보여준다. 주사위의 눈이 어떻게 나올지를 따지던 계산법은, 몇 세기 후에 양자역학의 불확정성을 서술하고 우주 배경 복사의 통계적 패턴을 분석하는 데까지 이어졌다.

질문의 크기와 답의 크기

파스칼과 페르마가 주고받은 편지는 몇 장에 불과했다. 그 편지 속의 질문은 판돈을 어떻게 나눌 것인가라는 지극히 실용적인 것이었다. 그러나 그 답을 구하는 과정에서 만들어진 개념과 방법은, 인류가 무작위성을 다루는 방식 자체를 바꾸어 놓았다. 작은 질문이 큰 답으로 이어지는 이런 경로는 수학사에서 반복적으로 나타나며, 그 첫 번째 사례 중 하나가 바로 확률론의 탄생이다.

도박대에서 교실로

지금 확률을 배우는 학생이 교과서에서 처음 만나는 동전 던지기나 주사위 문제는, 17세기 도박사의 고민과 본질적으로 같은 구조를 갖고 있다. 교실의 문제가 도박대에서 왔다는 것을 알면 조금 의외일 수 있지만, 그래서 더 흥미롭다. 우연이라는 것은 누구에게나 같은 모습으로 찾아오고, 그것을 이해하려는 시도는 어디서 시작하든 결국 같은 수학에 도달한다.