승률이 높고 기대값이 양수인 전략을 찾으면 다음 질문은 쉬워 보입니다. 좋은 전략이니 가능한 한 많이 투자하면 된다고 생각하기 쉽습니다. 하지만 같은 우위라도 투자 비중이 지나치게 크면 계좌의 장기 성장률은 오히려 낮아지고, 한 번의 나쁜 경로가 회복하기 어려운 손실을 남길 수 있습니다.
에드워드 소프는 블랙잭의 확률 우위를 계산하고 이를 금융시장으로 확장한 인물입니다. 그의 작업에서 중요한 부분은 무엇을 살지에만 있지 않습니다. 우위가 있을 때 자본의 얼마를 걸어야 하는지, 그리고 계산한 우위를 얼마나 믿을 수 있는지를 함께 다뤘습니다.
이때 등장하는 것이 켈리 기준입니다. 그러나 켈리 기준은 수익을 가장 크게 만드는 공격적 공식으로만 이해하면 위험합니다. 이론적 최적 비중은 확률과 손익이 정확히 알려졌다는 가정에 기대고 있기 때문입니다. 현실의 전략에서는 그 입력값부터 추정치입니다.
이 글의 핵심
- 좋은 기대값과 적절한 투자 비중은 서로 다른 문제입니다.
- 켈리 기준은 장기 로그 성장률을 최대화하지만, 단기·중기 낙폭과 추정 오류를 없애 주지 않습니다.
- 우위가 불확실할수록 부분 켈리와 별도의 위험 상한이 더 중요해집니다.
소프가 먼저 확인한 것은 우위였습니다
켈리 기준은 승률을 높여 주는 공식이 아닙니다. 이미 양의 기대값이 있다고 판단한 기회에서 자본의 얼마를 배분할지 정하는 기준입니다.
소프의 공식 사이트에는 그가 블랙잭의 카드 카운팅을 연구하면서 유리한 상황에서 얼마를 걸어야 자본이 가장 빠르게 성장하는지도 함께 고민했다고 설명돼 있습니다. 2003년 정량금융 회고 논문에서도 블랙잭을 통해 배운 위험 통제 원칙과 고정 비율 배팅을 금융시장으로 연결합니다.
순서는 다음과 같습니다.
- 우위가 실제로 존재하는지 확인합니다.
- 그 우위와 손익 구조를 이용해 이론적 비중을 계산합니다.
- 추정 오류와 감당할 수 있는 낙폭을 반영해 비중을 줄입니다.
- 실제 결과가 가정과 맞는지 확인하며 크기를 다시 조정합니다.
우위가 없으면 켈리 비중을 계산할 이유도 없습니다. 거래비용을 넣은 기대값이 0 이하라면 가장 합리적인 비중은 거래하지 않는 쪽입니다.
켈리 기준은 무엇을 최대화할까
켈리 기준의 목적은 한 번의 기대수익금이 아니라 여러 번 반복한 뒤 자본의 장기 복리 성장률을 높이는 것입니다. 수학적으로는 자본의 로그 성장률 기대값을 최대화하는 비중을 찾습니다.
가장 단순한 동일 배당의 두 결과만 생각하면 다음과 같이 표현할 수 있습니다.
켈리 비중 = 승리 확률 - 패배 확률
승리 확률이 55%, 패배 확률이 45%라면 이론적 비중은 자본의 10%입니다. 하지만 이 식은 이길 때와 질 때의 금액이 같고, 시행이 독립적이며, 승률을 정확히 안다는 단순한 조건에서만 그대로 사용할 수 있습니다.
주식 전략은 다릅니다. 이익과 손실의 크기가 매번 달라지고, 종목 간 상관이 변하며, 갭과 유동성 부족으로 계획한 가격에 체결되지 않을 수 있습니다. 과거 승률 55%도 미래의 참값이 아니라 제한된 표본에서 얻은 추정치입니다.
따라서 단순 공식은 켈리 기준의 원리를 보여 주는 예시이지, 백테스트 승률을 넣어 바로 주문 비중을 얻는 계산기가 아닙니다.
최적 비중보다 크게 걸면 왜 더 위험할까
투자 비중을 조금 늘리면 기대 수익도 커질 것처럼 보입니다. 켈리 성장 곡선은 그렇지 않다는 점을 보여 줍니다.
| 투자 크기 | 장기 성장 관점 | 현실에서 생기는 문제 |
|---|---|---|
| 켈리보다 매우 작음 | 성장 속도를 많이 포기함 | 전략 우위가 있어도 자본 활용도가 낮음 |
| 부분 켈리 | 성장 일부를 포기하고 변동성과 낙폭을 줄임 | 목표 수익률보다 생존과 실행 지속성을 우선 |
| 이론적 전체 켈리 | 가정이 정확할 때 장기 로그 성장률 최대 | 단기·중기 낙폭이 크고 추정 오류에 민감 |
| 켈리 초과 | 장기 성장률이 다시 낮아질 수 있음 | 레버리지와 파산 위험이 빠르게 증가 |
켈리보다 작게 투자하면 최고 성장률의 일부를 포기합니다. 반면 켈리보다 크게 투자하면 단지 변동성만 커지는 것이 아닙니다. 장기 성장률 자체가 낮아질 수 있습니다.
큰 손실 뒤에는 같은 수익률로 회복되지 않기 때문입니다. 자본이 50% 줄면 원금으로 돌아가려면 100% 수익이 필요합니다. 비중을 두 배로 키워 수익 기회가 커져도, 손실 경로에서 자본이 크게 훼손되면 다음 기회에 걸 수 있는 금액도 줄어듭니다.
소프 등이 2010년에 발표한 전체 켈리와 부분 켈리 시뮬레이션도 이 차이를 보여 줍니다. 전체 켈리는 긴 기간에서 높은 성장 가능성을 갖지만 단기·중기 성과는 위험할 수 있고, 불리한 결과가 연속되면 우호적인 기회에서도 초기 자본의 대부분을 잃을 수 있다고 설명합니다. 불확실성이 크면 켈리 비중을 줄여 안정성을 높이는 선택이 필요하다는 결론입니다.
계산이 정확해도 입력값이 틀릴 수 있습니다
켈리 비중은 입력한 확률과 손익에 대해 정확할 수 있습니다. 문제는 시장에서 그 입력값을 정확히 알 수 없다는 데 있습니다.
백테스트에서 승률 55%가 나왔더라도 다음과 같은 오차가 남습니다.
- 거래 수가 적어 실제 승률의 범위가 넓을 수 있습니다.
- 몇 번의 큰 수익이 평균 손익을 끌어올렸을 수 있습니다.
- 여러 변수 중 가장 잘 나온 조합을 골라 우위를 과대평가했을 수 있습니다.
- 종목과 시장이 동시에 하락할 때 상관관계가 높아질 수 있습니다.
- 수수료·세금·슬리피지와 체결 실패가 기대값을 줄일 수 있습니다.
- 공개되지 않은 데이터 정정과 생존 종목 편향이 남아 있을 수 있습니다.
실제 우위가 계산값보다 작다면 전체 켈리는 이미 과대 베팅입니다. 예상 승률 55%를 기준으로 10%를 걸었는데 참값이 52%라면 단순 조건에서의 이론 비중은 4%에 불과합니다. 확률 추정의 작은 차이가 투자 크기의 큰 차이로 이어집니다.
이것이 부분 켈리를 단순히 소극적인 선택으로 볼 수 없는 이유입니다. 비중을 절반이나 4분의 1로 낮추는 것은 기대 수익을 포기하는 동시에 모델 오류에 대한 완충 공간을 사는 결정입니다.
부분 켈리가 해결하지 못하는 것도 있습니다
부분 켈리는 모든 위험을 해결하는 공식이 아닙니다. 잘못된 전략에 작은 비중을 배정하면 손실 속도만 느려질 뿐입니다. 과거에 없던 구조 변화, 거래 중단, 가격제한, 레버리지 상품의 강제청산도 단순 비중 축소만으로 사라지지 않습니다.
| 부분 켈리가 줄일 수 있는 것 | 따로 정해야 하는 것 |
|---|---|
| 추정 오류에 따른 과대 베팅 | 전략의 중단·재검증 조건 |
| 정상적인 손실 연속의 낙폭 | 갭과 체결 불가를 포함한 최대 손실 |
| 단일 전략의 자본 변동 | 전략·종목 간 상관과 총위험 한도 |
| 실행자가 견디기 어려운 변동성 | 증거금·현금·유동성 완충액 |
포지션 사이징 계산법에서 다룬 위험 예산 방식과 켈리 기준은 질문이 조금 다릅니다. 손절 거리 기반 수량은 한 거래에서 잃을 금액을 제한하는 데 초점을 두고, 켈리 기준은 추정한 우위에 비해 자본을 얼마나 배분할지 묻습니다.
실전에서는 둘을 경쟁시키기보다 더 작은 값을 선택하는 편이 안전합니다. 켈리 기준으로 계산한 상한, 손절 거리로 계산한 상한, 유동성과 계좌 전체 위험으로 계산한 상한 중 가장 보수적인 수량을 쓰는 방식입니다.
내 전략에 적용할 때 필요한 다섯 단계
에드 소프의 원칙을 특정 숫자가 아니라 검증 절차로 바꾸면 다음과 같습니다.
1. 비용 뒤의 우위를 계산합니다
승률만 보지 않고 평균 이익, 평균 손실, 거래비용과 체결 가정을 함께 넣습니다. 표본 밖 기간에서도 기대값의 방향이 유지되는지 확인합니다.
2. 추정 범위를 봅니다
승률과 평균 손익을 하나의 숫자로 고정하지 않습니다. 기간·종목·시장 국면을 바꿨을 때 어느 범위에서 움직이는지 확인합니다.
3. 이론값보다 작은 비중부터 검토합니다
전체 켈리와 절반·4분의 1 켈리를 비교해 누적수익률뿐 아니라 최대낙폭, 최장 회복 기간, 최악의 연속 손실을 함께 봅니다.
4. 별도의 절대 상한을 둡니다
한 전략, 한 종목, 한 업종과 전체 계좌에 배정할 수 있는 최대 위험을 제한합니다. 켈리 계산값이 높게 나와도 이 상한을 넘지 않습니다.
5. 우위가 바뀌면 다시 계산합니다
최근 손실 때문에 감정적으로 비중을 줄이는 것이 아니라, 기대값·비용·상관·체결 품질이 사전에 정한 범위를 벗어났는지 확인합니다. 파산 확률과 몬테카를로는 거래 순서가 달라졌을 때 같은 기대값도 계좌 경로를 어떻게 바꾸는지 살펴보는 기준이 됩니다.
이 원칙을 너무 쉽게 믿으면 안 되는 이유
블랙잭은 카드 구성과 배당 구조를 비교적 명확하게 정의할 수 있습니다. 금융시장은 참여자와 제도, 거래비용과 상관관계가 계속 바뀝니다. 소프가 도박에서 금융시장으로 가져온 것은 하나의 숫자가 아니라 우위를 측정하고 그 우위보다 자본을 더 빨리 믿지 않는 태도에 가깝습니다.
과거의 운용 성과도 켈리 기준이 언제나 같은 결과를 낸다는 증거가 아닙니다. 전략의 세부 구성, 실제 레버리지, 손실 구간과 투자자별 제약을 모두 알 수 없기 때문입니다.
따라서 독자가 가져올 결론은 절반 켈리를 쓰면 된다가 아닙니다. 내 전략의 우위가 어느 정도 불확실한지, 계산된 비중을 어느 위험 상한에서 다시 줄일지를 문서로 남기는 것입니다.
주문 전에 확인할 세 가지
- 이 전략의 우위는 비용과 표본 밖 기간을 넣어도 남아 있는가?
- 승률과 손익 추정이 조금 틀려도 현재 비중을 감당할 수 있는가?
- 켈리 계산과 별개로 한 전략·계좌 전체의 위험 상한이 있는가?
좋은 확률을 발견했다고 해서 큰 비중이 자동으로 정당화되지는 않습니다. 우위는 투자할 이유를 설명하고, 투자 크기는 그 우위가 틀렸을 때도 계좌를 남길 방법을 설명해야 합니다.
에드 소프의 켈리 기준이 남기는 가장 실용적인 질문도 여기에 있습니다. 얼마나 벌 수 있는가를 계산하기 전에 내가 계산한 우위를 얼마나 믿어도 되는가를 먼저 물어야 합니다.
참고한 자료
- Edward O. Thorp 공식 FAQ, Fortune’s Formula와 Kelly Criterion
- Edward O. Thorp, A Perspective on Quantitative Finance: Models for Beating the Market
- MacLean, Thorp, Zhao and Ziemba, Medium Term Simulations of the Full Kelly and Fractional Kelly Investment Strategies
- Edward O. Thorp, The Kelly Criterion and the Stock Market
이 글은 공개 자료를 바탕으로 한 매매 원칙 해설입니다. 특정 종목·전략의 매수·매도 추천이나 미래 수익을 의미하지 않으며, 실제 투자 판단과 책임은 투자자 본인에게 있습니다.