몬티홀 딜레마, 문을 바꾸면 당첨 확률이 두 배가 되는 이유

영화 21(새 탭에서 열림)(2008)에서 MIT 교수 미키 로사가 강의 중에 학생 벤을 지목해 문제를 냅니다. 퀴즈 쇼에 나왔다고 합시다. 문이 세 개 있고, 한 문 뒤에는 자동차가, 나머지 두 문 뒤에는 염소가 있습니다. 벤이 1번 문을 고르자, 어느 문에 무엇이 있는지 아는 사회자가 3번 문을 열어 염소를 보여 주고 묻습니다. 2번 문으로 바꾸시겠습니까?

벤은 바꾸겠다고 답합니다. 처음 고른 문은 33.3%이고 바꾸면 66.7%라는 계산입니다. 로사 교수는 곧 벤을 MIT 블랙잭 팀에 불러들입니다.

이 문제가 몬티홀 문제, 몬티홀 딜레마입니다. 해설 영상이 수없이 나왔는데도 유튜브 댓글에는 아직 문이 둘 남았으니 반반이라는 주장이 올라옵니다. 답은 반반이 아닙니다.

문제의 규칙

이름은 미국 퀴즈 쇼 'Let's Make a Deal'의 사회자 몬티 홀에서 왔습니다. 답을 정하는 것은 게임 전에 이미 정해져 있는 사회자의 절차입니다.

• 사회자는 자동차가 어느 문 뒤에 있는지 압니다.
• 참가자가 무엇을 골랐든, 사회자는 고르지 않은 문 중에서 염소 문을 반드시 엽니다.
• 문을 연 뒤에는 반드시 바꿀 기회를 줍니다.

바꾸면 2/3

처음 고른 문에 자동차가 있을 확률은 1/3입니다. 사회자가 문을 열어도 이 값은 그대로입니다. 참가자가 무엇을 골랐든 사회자는 염소 문을 하나 열 수 있으니, 문이 열리는 장면만 봐서는 처음 고른 문이 맞았는지 알 수 없기 때문입니다.

고르지 않은 두 문을 묶으면 자동차가 그쪽에 있을 확률은 2/3입니다. 사회자는 그 묶음에서 염소 문을 치워 줍니다. 묶음의 확률 2/3는 남은 문 하나의 몫이 됩니다.

1번 문을 골랐을 때 일어날 수 있는 경우는 셋뿐이고, 세 경우의 확률은 1/3로 같습니다.

바꾼 사람은 처음 고른 문이 틀렸을 때 언제나 당첨됩니다. 처음 고른 문이 틀릴 확률이 2/3이니 바꿨을 때 당첨 확률도 2/3입니다.

문이 100개라면

문을 늘리면 직관도 따라옵니다. 문 100개 중 하나를 고르면 맞힐 확률은 1%입니다. 사회자가 오답 문 98개를 모두 열고 문 하나만 남겨 둡니다. 정답을 아는 사람이 일부러 남긴 그 문과 처음에 찍은 내 문이 같은 확률일 리 없습니다. 내 문은 여전히 1%이고 남은 문은 99%입니다.

반반으로 보이는 이유

문 두 개가 남았을 때 반반이 되려면 두 문이 같은 처지여야 합니다. 여기서는 처지가 다릅니다. 내 문은 아무 정보 없이 고른 문이고, 남은 문은 사회자가 정답을 피해 열지 않은 문입니다. 남은 개수만 세면 이 차이가 보이지 않습니다.

처음 고른 문이 오답인 판에서는 사회자가 남긴 문이 언제나 정답이고, 처음 고른 문이 정답인 판에서만 남긴 문이 오답입니다. 앞의 경우가 세 판 중 두 판, 뒤의 경우가 세 판 중 한 판입니다. 문이 두 개 남았다는 사실은 그대로여도 두 문의 확률은 1/3과 2/3입니다.

사회자의 규칙이 바뀌면 답도 바뀝니다. 현실의 퀴즈 쇼에서 사회자가 정답을 모른 채 문을 열 일은 없지만, 조건의 차이를 보려고 따져 봅니다. 사회자가 아무 문이나 열었는데 우연히 염소가 나왔다면, 그때는 정말 반반입니다. 이 변형(새 탭에서 열림)은 '몬티 폴'이라고 부릅니다.

정답이 열린 판을 무효로 치고 염소가 나온 판만 세면 몬티홀 문제와 같아 보입니다. 화면은 같아도 남는 판이 다릅니다. 처음 고른 문이 맞은 판은 사회자가 무엇을 열든 염소라서 그대로 남습니다. 처음 고른 문이 틀린 판은 사회자가 절반의 확률로 정답을 열어 무효가 됩니다. 그래서 남는 비율이 1/3 대 2/3 × 1/2 = 1/3로 같아집니다. 사회자가 정답을 알면 무효가 되는 판이 없어서 2/3가 그대로 남습니다.

사회자의 의도

이 문제를 설명하다 보면 사회자가 내가 정답을 고른 걸 보고 일부러 문을 열어 흔드는 것 아니냐는 반론이 나옵니다. 그 말이 맞으려면 사회자가 내 선택을 보고 문을 열지 말지 정할 수 있어야 합니다. 이 문제의 사회자에게는 그 권한이 없습니다. 내가 자동차를 골랐든 염소를 골랐든 문을 열고 기회를 주는 것은 의무이고, 그래서 기회를 받았다는 사실만으로는 내 선택이 맞았는지 알 수 없습니다.

권한을 주면 다른 문제가 됩니다. 정답을 골랐을 때만 기회를 주는 사회자라면 바꾸는 순간 꽝이고, 오답을 골랐을 때만 주는 사회자라면 바꾸면 무조건 당첨입니다. 그때그때 마음대로 정한다면 확률을 계산할 근거가 없고, 사회자의 속을 읽는 심리전이 됩니다.

실제 TV 쇼는 심리전 쪽에 가까웠습니다. 실제 방송(새 탭에서 열림)에서 몬티 홀은 긴장을 끌어올리려고 오답 문을 열기는 했지만, 문을 바꾸게 해 주는 대신 현금 같은 작은 상품을 제시했습니다. 1991년 뉴욕타임스 인터뷰(새 탭에서 열림)에서 그는 사회자가 매번 문을 열고 바꿀 기회를 줘야 한다면 바꿔야 하지만, 줄지 말지 고를 수 있다면 조심하라고 말했습니다.

TV 쇼 사회자를 떠올리면 의도부터 의심하게 됩니다. 이 문제의 사회자는 정답은 알아도 절차는 바꾸지 못하는 기계에 가깝습니다.

박사들도 틀린 문제

이 문제를 처음 낸 사람은 스티브 셀빈으로, 1975년 학술지 The American Statistician에 보낸 편지에서였습니다. 유명해진 것은 1990년 마릴린 보스 사반트가 잡지 Parade 칼럼에서 바꾸는 게 낫다고 답한 뒤입니다. 독자 약 1만 명(새 탭에서 열림)이 잡지에 편지를 보냈고, 그중 박사가 1,000명 가까이 됐으며, 대부분 사반트가 틀렸다는 내용이었습니다. 수학자 팔 에르되시도 컴퓨터 시뮬레이션을 보고 나서야 받아들였습니다.

말로 납득이 안 되면 돌려 보는 편이 빠릅니다.

직접 해 보기

문을 고르면 사회자가 오답 문을 열고 두 문이 남습니다. 둘 중 하나를 다시 고르면 되고, 처음과 다른 문을 고르면 바꾼 것입니다. 기록에는 바꾼 판만 쌓입니다. 자동 진행은 정답 표시, 무작위 선택, 오답 열기, 바꾸기까지 1초에 한 판씩 보여 주고 매번 바꿉니다. 1,000라운드를 누른 뒤 스킵하면 남은 판을 바로 계산해 당첨률이 이론값 가까이 모인 결과를 볼 수 있습니다. 문을 100개로 늘리면 당첨률이 99% 가까이 올라갑니다.

마치며

문이 N개이면 안 바꿀 때 당첨 확률은 1/N, 바꿀 때는 (N-1)/N입니다. 문 3개에서는 바꾸는 쪽이 2배, 100개에서는 99배 유리합니다.