도박사의 오류(Gambler's Fallacy)란 무엇인가요? 스타트업 지표 해석과 A/B 테스트를 망치는 확률 착각 완전 정리

도박사의 오류는 서로 독립적인 사건이 앞선 결과에 영향을 받는다고 착각하는 인지 편향입니다. 동전 앞면이 다섯 번 연속 나오면 "이제 뒷면 차례"라고 느끼는 그 감각인데요. 스타트업에서는 A/B 테스트 결과, 세일즈 성사, 투자 미팅 성공률처럼 독립적으로 벌어지는 사건을 이어진 흐름으로 오해하면서 잘못된 의사결정으로 이어집니다. 이 글은 1913년 몬테카를로 사건부터 QJE 실증 연구, 그리고 스타트업 지표 해석에 적용하는 실전 방법까지 정리했습니다.

도박사의 오류란 무엇인가
세일즈 8연속 거절 뒤에 벌어진 일
왜 우리 뇌는 무작위를 패턴으로 읽는가
핫핸드 오류와 도박사의 오류: 같은 동전의 양면
스타트업 지표에서 도박사의 오류가 나타나는 지점
A/B 테스트를 지키는 4단계 실전 가이드
FAQ
같이 읽으면 좋은 것들

도박사의 오류란 무엇인가

도박사의 오류(Gambler's Fallacy)는 서로 독립적으로 일어나는 확률적 사건이 앞선 결과에 의해 확률이 바뀐다고 믿는 논리적 착각입니다. 공정한 동전을 던져 앞면이 다섯 번 연속으로 나왔다고 해서, 여섯 번째에 뒷면이 나올 확률이 50%보다 높아지지는 않습니다. 동전은 이전 다섯 번의 결과를 기억하지 못합니다. 그런데도 사람은 "이제 뒷면이 나올 차례"라고 강하게 느낍니다.

이 편향이 세상에 이름을 알린 계기가 1913년 8월 18일 모나코 몬테카를로 카지노 사건입니다. 그날 룰렛 테이블에서 공이 무려 26번 연속으로 검은색에 떨어졌습니다. 이런 일이 벌어질 확률은 약 6,840만 분의 1인데요. 검은색이 계속되자 도박꾼들은 "이제 빨간색이 나올 차례"라고 확신하며 빨간색에 점점 더 큰 돈을 걸었습니다. 하지만 룰렛 휠은 앞선 결과를 보상하지 않습니다. 그날 밤 사람들이 잃은 돈은 수백만 프랑에 달했다고 전해집니다. 이 사건 때문에 도박사의 오류를 "몬테카를로 오류"라고 부르기도 합니다.

핵심은 독립 사건(independent events)이라는 개념입니다. 각 시행의 결과가 다음 시행에 아무 영향을 주지않는 사건을 말하는데요. 룰렛, 동전, 주사위가 대표적입니다. 반대로 카드를 뽑고 다시 넣지 않는 경우처럼 앞선 결과가 다음 확률을 실제로 바꾸는 경우는 종속 사건입니다. 도박사의 오류는 독립 사건을 종속 사건인 것처럼 착각할 때 발생합니다. 문제는 스타트업의 일상적인 의사결정 상당수가 사실상 독립 사건인데, 우리가 그걸 이어진 흐름으로 읽는다는 점입니다.

세일즈 8연속 거절 뒤에 벌어진 일

초기 B2B SaaS 스타트업의 아웃바운드 세일즈 미팅을 지켜본 적이 있습니다. 대표가 직접 데모를 돌리던 시기였는데요. 하루에 콜드 아웃리치로 잡힌 미팅이 보통 6~8건 정도였습니다. 그날은 아침부터 계약 성사가 계속 미끄러졌습니다. 여덟 번째 미팅까지 전부 "검토해 보겠다"로 끝났죠. 아홉 번째 미팅을 앞두고 세일즈 담당자가 한 말이 지금도 기억에 남습니다. "이번엔 진짜 될 것 같아요. 이렇게 계속 안 될 리가 없잖아요."

그 감각은 통계적으로 아무 근거가 없습니다. 각 미팅은 서로 다른 회사, 다른 담당자, 다른 예산 상황을 가진 독립 사건입니다. 앞선 여덟 번의 거절이 아홉 번째의 성사 확률을 끌어올리지 않습니다. 확율은 그대로입니다. 그런데도 담당자는 "이제 될 차례"라는 몬테카를로식 확신에 올라탄 겁니다. 결과적으로 그날 아홉 번째 미팅도 성사되지 않았습니다.

더 위험한 건 그 다음이었는데요. 대표는 "오늘은 운이 나쁜 날"이라고 결론 내리고, 데모 스크립트나 타깃 리스트 자체에는 문제가 없다고 판단했습니다. 사실 그 주의 성사율이 낮았던 건 운이 아니라 타깃 세그먼트가 제품과 맞지 않았기 때문이었죠. 도박사의 오류는 이렇게 "다음엔 될 거야"라는 헛된 기대를 만들 뿐 아니라, 실제 개선해야 할 구조적 문제를 "그냥 운"으로 덮어버립니다. 여덟 번 연속 거절은 우연의 연속일 수도 있지만, 타깃이 틀렸다는 신호일 수도 있습니다. 확률 착각에 빠지면 이 둘을 구분하지 못합니다.

왜 우리 뇌는 무작위를 패턴으로 읽는가

인간의 뇌는 불확실성을 몹시 싫어합니다. 그래서 세상을 패턴으로 이해하려 하고, 무작위 속에서도 규칙을 찾아내려 합니다. 이건 진화적으로는 유용한 능력 이었는데요. 풀숲의 바스락거림에서 포식자의 패턴을 읽어내는 능력은 생존에 직결됐습니다. 문제는 이 패턴 탐지기가 룰렛이나 A/B 테스트처럼 진짜로 무작위인 상황에서도 꺼지지 않는다는 점입니다.

심리학자들은 이를 대표성 휴리스틱(representativeness heuristic)으로 설명합니다. 사람은 무작위 수열이 "무작위처럼 보여야" 한다고 기대하는데요. 동전 던지기에서 "앞뒤앞뒤앞뒤"는 무작위처럼 느껴지지만, "앞앞앞앞앞앞"은 조작된 것처럼 느껴집니다. 사실 두 수열이 나올 확률은 정확히 같습니다. 이 착각 때문에 우리는 긴 연속(streak)을 "이제 균형이 맞춰질 때가 됐다"는 신호로 잘못 읽습니다.

흥미로운 건 이 편향이 카지노 밖 고위험 전문 판단에서도 관찰된다는 점입니다. 2016년 Quarterly Journal of Economics에 실린 연구는 망명 심사 판사, 대출 심사관, 야구 심판의 실제 판단 기록을 분석했습니다. 결론은 일관됐는데요. 앞선 결정과 반대 방향으로 판단이 쏠리는 음의 자기상관(negative autocorrelation)이 나타났습니다. 예를 들어 망명 심사 판사는 바로 앞 신청을 승인했을 경우, 다음 신청을 거절할 확률이 약간 높아졌습니다. 사건의 실제 내용과는 무관한, 순전히 "이번엔 반대가 나올 차례"라는 무의식적 균형 감각이 작동한 겁니다. NBER 워킹페이퍼는 이 경향이 경험이 적은 판단자, 연속이 길어질수록, 그리고 정확성에 대한 유인이 약할 때 더 강해진다고 덧붙였습니다. 이건 스타트업에도 그대로 적용됩니다. 데이터 경험이 적은 팀일수록, 결정에 대한 책임 구조가 느슨할수록 확률 착각에 더 취약합니다.

핫핸드 오류와 도박사의 오류: 같은 동전의 양면

도박사의 오류를 제대로 이해하려면 짝을 이루는 핫핸드 오류(hot hand fallacy)를 함께 봐야 합니다. 도박사의 오류가 "연속됐으니 이제 반대가 나올 차례"라고 믿는 거라면, 핫핸드 오류는 "잘 나가니까 계속 잘 나갈 것"이라고 믿는 겁니다. The Conversation의 정리처럼 둘은 무작위를 오해하는 방식이 정반대이지만, 뿌리는 같습니다. 무작위를 무작위로 받아들이지 못하는 뇌입니다.

스타트업 현장에서는 이 둘이 하루에도 몇 번씩 교차합니다. 예를 들어 투자 유치 미팅이 세 번 연속 좋은 반응을 얻으면 대표는 핫핸드에 빠집니다. "우리 피치가 먹히고 있다, 이 기세로 계속 가자." 반대로 세 번 연속 거절당하면 도박사의 오류로 넘어갑니다. "이제 슬슬 될 때가 됐다." 두 경우 모두 개별 미팅이 서로 독립이라는 사실을 놓치고있습니다.

구분	도박사의 오류	핫핸드 오류
믿음	연속됐으니 반대가 나올 차례	잘 되니까 계속 잘 될 것
예시	"8연속 거절이니 다음은 성사"	"3연속 성사니 다음도 성사"
스타트업 함정	개선 없이 다음을 기대	운을 실력으로 착각
공통 뿌리	독립 사건을 흐름으로 오해	독립 사건을 흐름으로 오해

여기서 중요한 반전이 하나 있습니다. 스포츠 데이터를 다시 분석한 최근 연구들은 실제 농구 슈팅에는 미약하게나마 핫핸드가 존재할 수 있다고 봅니다. 즉 어떤 사건은 정말로 독립이 아닐 수도 있습니다. 그래서 판단의 출발점은 언제나 "이 사건은 독립인가, 아닌가"를 먼저 따지는 것입니다. 세일즈 담당자의 컨디션이나 제품 개선처럼 연속에 실제 영향을 주는 변수가 있다면 그건 독립 사건이 아닙니다. 반대로 서로 다른 고객을 무작위로 접촉하는 콜드 아웃리치라면 대체로 독립에 가깝습니다.

스타트업 지표에서 도박사의 오류가 나타나는 지점

한 줄 요약: 스타트업은 독립 사건인 지표를 이어진 흐름으로 읽으면서 잘못된 결정을 내립니다.

시장 구조를 먼저 보면, 초기 스타트업은 데이터가 절대적으로 부족합니다. 하루 방문자 수백 명, 미팅 몇 건, 전환 몇 건 수준에서 의사결정을 해야 하는데요. 표본이 작을수록 우연에 의한 연속(streak)이 자주 나타납니다. 예를 들어 전환율이 진짜로는 3%인 랜딩 페이지라도, 방문자 20명 구간에서는 0명이 전환되는 날도 흔합니다. 이걸 두고 "페이지가 망가졌다" 혹은 "이제 전환이 몰릴 차례다"라고 읽으면 둘 다 도박사의 오류거나 그 사촌입니다.

기존 방식의 비효율은 이렇게 나타납니다. 많은 팀이 대시보드의 일간 숫자를 실시간으로 지켜보며 감정적으로 반응합니다. 오늘 가입이 어제보다 적으면 불안해하고, 이틀 연속 낮으면 "제품에 문제가 생겼다"고 결론 내립니다. 반대로 이틀 연속 높으면 "드디어 성장이 시작됐다"고 흥분하죠. 하지만 대부분의 일간 변동은 통계적 잡음(noise)입니다. 작은 표본에서는 신호와 잡음을 눈으로 구분할 수 없습니다.

도박사의 오류가 특히 파괴적인 지점을 정리하면 이렇습니다.

A/B 테스트 조기 종료: 테스트 초반에 B안이 몇 번 연속 이기면 "이제 결론 났다"며 서둘러 종료합니다. 표본이 충분히 쌓이기 전의 연속은 우연일 가능성이 큽니다.
세일즈 파이프라인 오독: 연속 거절을 "다음엔 될 신호"로 읽어 타깃 세그먼트 문제를 방치합니다.
채용 판단: 앞선 지원자를 연달아 합격시키면 다음 지원자에게 무의식적으로 더 엄격해집니다. QJE 연구의 심사관 사례가 그대로 재현되는 지점입니다.
런웨이·번레이트 착각: 몇 달 연속 매출이 좋으면 "이 추세가 이어진다"는 핫핸드에 빠져 무리하게 채용을 늘립니다.

이 문제의 새로운 접근 방식은 "개별 사건을 흐름으로 읽지 않는 것"에서 출발합니다. 각 데이터 포인트가 독립인지 먼저판단하고, 독립이라면 연속에 의미를 부여하지 않으며, 충분한 표본이 쌓이기 전에는 결론을 유보하는 것입니다. 이건 거창한 데이터 인프라가 아니라 판단 습관의 문제입니다.

A/B 테스트를 지키는 4단계 실전 가이드

기존 방식은 대시보드를 보며 감으로 판단했다면, 새 방식은 확률의 규칙을 판단 절차에 심는 것입니다. 초보 팀도 따라 할 수 있게 4단계로 정리했습니다.

1단계 — 사건이 독립인지 먼저 판단합니다. 지표를 해석하기 전에 "이 사건들 사이에 실제 인과 연결이 있는가"를 물어야 합니다. 서로 다른 방문자의 전환은 대체로 독립입니다. 반면 같은 세일즈 담당자의 연속 미팅은 컨디션이라는 공통 변수가 있어 완전한 독립이 아닐 수 있습니다. 독립이라면 연속에 의미를 부여하지 마세요.

2단계 — 표본 크기를 미리 정합니다. A/B 테스트를 시작하기 전에 필요한 최소 표본과 실행 기간을 정해두고, 그 전에는 승패를 판단하지 않기로 약속합니다. 표본 크기 계산기(sample size calculator)를 쓰면 원하는 유의수준과 최소 검출 효과에 필요한 방문자 수를 뽑을 수 있습니다. 초반 연속에 흔들리지 않는 가장 확실한 방어막입니다.

3단계 — 통계적 유의성으로 판단합니다. "B안이 며칠 연속 이겼다"가 아니라 "차이가 통계적으로 유의한가(p-value, 신뢰구간)"를 기준으로 삼습니다. 눈으로 보이는 연속은 대부분 잡음입니다. 유의성 검정은 그 연속이 우연인지 진짜 차이인지를 수치로 알려줍니다.

4단계 — 이동평균으로 잡음을 걸러냅니다. 일간 숫자에 감정적으로 반응하는 대신 7일 이동평균이나 주간 코호트로 지표를 봅니다. 작은 표본의 하루 변동은 대부분 무작위이고, 창을 넓혀서 봐야 진짜 추세가 드러납니다. 이렇게만 해도 "이틀 연속 낮으니 문제"라는 착각에서 상당 부분 벗어날 수 있습니다.

이 4단계를 팀의 의사결정 규칙(decision rule)으로 문서화해 두면, 대표 개인의 그날 기분이 아니라 정해진 절차가 판단을 대신합니다. 도박사의 오류는 지식으로 완전히 사라지지 않습니다. QJE 연구의 판사들도 편향을 몰라서 그런 게 아니었습니다. 그래서 개인의 각성이 아니라 시스템으로 막아야 합니다.

FAQ

도박사의 오류와 핫핸드 오류는 어떻게 구분하나요?

도박사의 오류는 "연속됐으니 이제 반대가 나올 차례"라고 믿는 것이고, 핫핸드 오류는 "잘 되니까 계속 잘 될 것"이라고 믿는 것입니다. 방향은 정반대이지만 둘 다 독립 사건을 이어진 흐름으로 오해한다는 공통 뿌리를 가집니다. 스타트업에서는 연속 실패 뒤에 도박사의 오류가, 연속 성공 뒤에 핫핸드가 나타나기 쉽습니다.

초기 스타트업처럼 데이터가 적을 때도 도박사의 오류를 피할 수 있나요?

데이터가 적을수록 우연에 의한 연속이 더 자주 나타나므로 오히려 더 주의해야 합니다. 표본이 작을 때는 일간 숫자에 반응하지 말고 주간 코호트나 이동평균으로 지표를 보세요. A/B 테스트는 시작 전에 최소 표본과 기간을 정해두고 그 전에는 결론을 유보하는 것이 가장 확실한 방법입니다.

모든 스타트업 지표를 독립 사건으로 봐야 하나요?

아닙니다. 먼저 사건이 독립인지 판단하는 것이 핵심입니다. 서로 다른 방문자의 전환은 대체로 독립이지만, 같은 담당자의 연속 미팅이나 제품 개선 이후의 지표 변화처럼 실제 인과 연결이 있는 경우는 독립이 아닙니다. 독립이 아닌 사건에서는 추세를 읽는 것이 오히려 맞습니다.

도박사의 오류를 알면 저절로 안 빠지게 되나요?

지식만으로는 부족합니다. QJE 연구에서 망명 심사 판사와 대출 심사관 같은 전문가들도 편향에 빠졌습니다. 개인의 각성보다 시스템이 효과적인데요. 표본 크기 사전 확정, 통계적 유의성 기준, 이동평균 같은 의사결정 규칙을 팀 절차로 문서화해 두면 개인의 감정이 아니라 정해진 규칙이 판단을 대신하게 됩니다.

A/B 테스트에서 초반에 한쪽이 계속 이기면 바로 적용해도 되나요?

권장하지 않습니다. 테스트 초반의 연속은 표본이 부족한 상태의 우연일 가능성이 큽니다. 미리 정한 최소 표본에 도달하고 차이가 통계적으로 유의할 때 결론을 내리세요. 초반 연속에 서둘러 종료하는 것은 도박사의 오류가 실무에서 가장 흔하게 돈을 잃게 만드는 지점입니다.