헤드앤숄더·이중바닥은 정말 의미가 있을까? 차트 패턴 통계 검증

차트에서 머리와 어깨 모양이 보이면 하락을 떠올리고, W자 저점이 보이면 반등을 기대합니다. 문제는 같은 그림을 보고도 사람마다 시작점과 끝점을 다르게 고른다는 것입니다.

Lo·Mamaysky·Wang은 2000년 논문에서 이 주관성을 계산 문제로 바꿨습니다. 가격을 평활화한 뒤 고점과 저점의 순서를 규칙으로 정의하고, 패턴 뒤 수익률 분포가 평상시와 다른지 비교했습니다.

같은 질문을 국내 상장 종목의 2010~2025년 수정 일봉으로 줄여 확인했습니다. 패턴이 완성된 날을 바로 신호로 쓰지 않고 3거래일의 확인 시간을 둔 뒤, 헤드앤숄더 1,662건과 이중바닥 340건을 같은 종목·같은 연도의 평상시 수익률과 비교했습니다.

결과는 익숙한 차트 해석보다 조심스러웠습니다. 헤드앤숄더 뒤 5거래일 수익률은 평상시보다 평균 0.25%포인트 낮았지만 다른 기간에서는 차이가 일관되지 않았습니다. 이중바닥도 1·5·20·60거래일 어느 구간에서도 뚜렷한 반등 신호가 아니었습니다.

어떤 논문인가

• 저자: Andrew W. Lo, Harry Mamaysky, Jiang Wang
• 제목: 「Foundations of Technical Analysis: Computational Algorithms, Statistical Inference, and Empirical Implementation」
• 저널: The Journal of Finance, 55권 4호, 2000년
• 표본: CRSP의 NYSE·AMEX·Nasdaq 개별 주식, 1962~1996년
• 핵심 방법: 비모수 커널 회귀, 국소 고점·저점 기반 패턴 인식, 조건부·무조건부 수익률 분포 비교
• DOI: 10.1111/0022-1082.00265

논문의 출발점은 차트 패턴으로 돈을 벌 수 있는가보다 앞에 있습니다. 패턴을 본 뒤의 수익률 분포가 아무 조건도 두지 않은 수익률 분포와 같은지를 먼저 물었습니다.

두 분포가 다르다면 패턴에 가격 변화에 관한 정보가 조금은 들어 있을 수 있습니다. 그러나 저자들은 정보가 있다는 결과가 초과수익을 내는 거래 전략을 의미하지는 않는다고 분명히 구분했습니다.

원 논문은 그림을 고점과 저점의 순서로 바꿨습니다

연구진은 가격의 작은 흔들림을 줄이기 위해 비모수 커널 회귀로 곡선을 평활화했습니다. 평활선의 기울기가 상승에서 하락으로 바뀌면 고점, 하락에서 상승으로 바뀌면 저점 후보가 됩니다.

그다음 원래 가격에서 대응하는 극값을 찾아 열 가지 패턴을 정의했습니다.

• 헤드앤숄더와 역헤드앤숄더
• 확산형 천장과 바닥
• 삼각형 천장과 바닥
• 직사각형 천장과 바닥
• 이중천장과 이중바닥

헤드앤숄더는 고점-저점-더 높은 고점-저점-고점의 다섯 극값으로 정의했습니다. 양쪽 어깨는 평균에서 1.5% 이내, 두 저점도 평균에서 1.5% 이내여야 했습니다.

이중바닥은 두 저점이 평균에서 1.5% 이내이고 최소 22거래일 떨어져 있어야 했습니다. 사람 눈에 비슷해 보이는 모양을 수치로 고정한 것입니다.

원 논문도 패턴 완성일을 당일 신호로 쓰지 않았습니다

원문은 35거래일 길이의 패턴과 3거래일 확인 구간을 합친 38거래일 창을 사용했습니다. 마지막 극값이 나타난 뒤 세 날이 지나야 패턴을 인식한 것으로 처리했습니다.

이 지연은 중요합니다. 고점은 이후 가격이 내려와야 고점이었다는 사실을 알 수 있습니다. 완성된 차트에서 과거 꼭짓점을 보고 그 날짜에 매매했다고 계산하면 미래 가격을 미리 사용하게 됩니다.

지그재그 지표의 피벗 확정 과정도 같은 문제를 다룹니다. 과거 차트에 표시된 꼭짓점 날짜와 실제로 그 꼭짓점을 확인할 수 있었던 날짜는 다릅니다.

원 논문은 각 패턴이 끝난 뒤 3거래일 후의 1일 수익률을 계산했습니다. 종목별·5년 구간별로 수익률을 표준화한 뒤 조건부 분포와 무조건부 분포를 적합도 검정과 Kolmogorov–Smirnov 검정으로 비교했습니다.

35년 표본에서 일부 패턴은 평상시와 다른 분포를 보였습니다

연구진은 1962~1996년을 일곱 개의 5년 구간으로 나눴습니다. 각 구간에서 시가총액 5분위별로 10개씩, 총 50개 종목을 무작위로 뽑고 이 절차를 두 번 반복해 결과의 방향을 확인했습니다.

NYSE·AMEX 표본에서는 열 가지 중 헤드앤숄더, 확산형 바닥, 직사각형 천장·바닥, 이중천장의 조건부 분포가 5% 유의수준에서 평상시와 달랐습니다. Nasdaq 표본에서는 열 가지 모두 통계적으로 달랐습니다.

이 결과를 차트 패턴 열 가지가 모두 돈을 벌었다고 읽으면 안 됩니다. 검정한 대상은 패턴 뒤 1일 수익률의 전체 분포였고, 진입·청산·공매도·거래비용을 넣은 계좌 수익이 아니었습니다.

원문도 수익률의 독립·동일분포 가정이 금융자료에 맞지 않으며, 종목별 표준화만으로 의존성과 이질성이 사라지지 않는다고 밝혔습니다. 통계적 유의성에는 이런 한계가 함께 붙습니다.

이번 글은 두 패턴만 축약 검증했습니다

원문의 커널 회귀와 열 가지 패턴 전체를 그대로 복제하지 않았습니다. 국내 상장 종목에서 헤드앤숄더와 이중바닥을 반복 가능한 규칙으로 만들고, 패턴 뒤 수익률이 같은 종목의 평상시와 다른지만 확인한 축약 실험입니다.

현재 남아 있는 종목만 고르면 상장폐지 종목이 빠지는 생존자 편향이 생길 수 있습니다. 이를 줄이기 위해 전년도 마지막 거래일의 시가총액 상위 300개를 다음 해 표본으로 정했습니다. 다음 해에 사라진 종목도 그때까지의 관측에 남습니다.

패턴 확인일에는 종가 1,000원 이상, 시가총액 1,000억원 이상, 최근 20거래일 거래대금 중앙값 10억원 이상 조건을 추가했습니다. 너무 작은 가격 변화와 거래가 거의 없는 종목이 결과를 지배하지 않게 하기 위한 최소 조건입니다.

헤드앤숄더는 5거래일에서만 작은 하락 차이가 남았습니다

헤드앤숄더는 다섯 극값이 35거래일 안에 있어야 하고 양쪽 어깨와 두 저점의 차이는 각각 1.5% 이내로 제한했습니다. 가운데 머리는 양쪽 어깨보다 높아야 합니다.

3거래일 확인 뒤 같은 종목·연도의 평상시 수익률과 비교할 수 있었던 헤드앤숄더는 1,662건입니다.

5거래일 평균 차이의 대조 p값은 0.034였습니다. 그러나 두 패턴과 네 기간을 합쳐 여덟 비교를 동시에 확인했습니다. 단순한 다중검정 보정을 적용하면 5% 기준은 0.00625로 낮아지며, 이 기준을 통과한 평균 차이는 없습니다.

20거래일 전체 분포를 비교한 K–S 검정의 p값은 0.013이었습니다. 평균 차이의 대조 p값 0.214와 결론이 다릅니다. 분포의 일부 모양이 달라도 평균 하락폭이 안정적으로 커진다는 뜻은 아닐 수 있습니다.

이중바닥은 이름과 달리 반등 신호가 아니었습니다

이중바닥은 두 저점이 1.5% 이내이고 22~90거래일 떨어져 있으며, 중간 고점이 두 저점 평균보다 최소 5% 높아야 한다고 정의했습니다. 두 저점이 비슷하다는 이유만으로 거의 평평한 구간을 패턴으로 세지 않기 위한 조건입니다.

같은 종목·연도의 평상시와 비교할 수 있었던 이중바닥은 340건입니다.

20거래일 평균은 평상시보다 0.85%포인트 낮았지만 대조 p값은 0.146이었습니다. 표본 변동으로도 나타날 수 있는 차이라서 이중바닥 뒤 하락을 예측했다고 말할 수 없습니다.

더 중요한 점은 기대했던 반등 방향이 확인되지 않았다는 사실입니다. 20거래일 양수 비율도 패턴 뒤 42.9%, 같은 종목·연도의 평상시는 46.5%였습니다.

모양의 허용 오차를 바꾸면 사건 수가 크게 달라졌습니다

기본 평활 강도에서 어깨·저점 허용 오차를 1.5%에서 3%와 5%로 넓혔습니다.

허용 오차를 넓히자 헤드앤숄더 사건 수는 4.6배, 이중바닥은 3.2배로 늘었습니다. 모양이 비슷하다는 기준 하나만 바꿔도 서로 다른 사건 집합을 보게 됩니다.

평활 강도 세 가지와 허용 오차 세 가지를 조합한 아홉 조건도 확인했습니다. 헤드앤숄더의 20거래일 차이는 여덟 조건에서 음수였지만 한 조건에서는 양수로 바뀌었습니다. 이중바닥은 아홉 조건 모두 음수였으나 사건 수가 129~1,174건으로 달라졌고 차이도 -0.85~-2.76%포인트로 벌어졌습니다.

패턴 이름만 같다고 같은 검증이 아닙니다. 평활 방법, 극값 확인 지연, 가격 허용 오차와 패턴 최대 길이가 함께 공개되어야 결과를 비교할 수 있습니다.

패턴의 정보와 매매 수익은 세 단계를 더 거쳐야 합니다

이번 결과는 패턴 확인일 종가부터 이후 종가까지의 수익률 분포를 비교했습니다. 다음 날 시가에 진입하고 목표가·손절가에 청산하는 거래 규칙은 만들지 않았고, 거래비용과 공매도 비용도 넣지 않았습니다.

실제 전략으로 옮기려면 세 단계가 더 필요합니다.

1. 완성 조건을 고정합니다. 평활 강도, 극값 확인 지연, 어깨·저점 허용 오차와 패턴 길이를 먼저 정합니다.
2. 진입과 무효화를 분리합니다. 패턴 완성만으로 진입할지, 목선 돌파·이탈까지 기다릴지 정하고 다음 거래 가능한 가격으로 체결합니다.
3. 표본 밖에서 비용 후 성과를 봅니다. 정의를 고른 기간과 성과를 평가하는 기간을 분리하고 회전율·슬리피지·공매도 가능성을 반영합니다.

이동평균·돌파 규칙을 최근 데이터로 검증한 글에서도 신호 뒤 조건부 수익률과 실제 포지션 성과가 다를 수 있음을 확인했습니다. 규칙 수를 늘릴수록 PSR·DSR로 선택 편향을 보정하는 기준도 함께 필요합니다.

같은 그림을 찾을 수 있어도 같은 수익을 보장하지 않습니다

헤드앤숄더와 이중바닥은 고점·저점 순서와 허용 오차를 정하면 반복 가능한 탐지 규칙이 됩니다. 사람마다 다른 그림을 고르는 문제를 줄였다는 점은 분명합니다.

그러나 2010~2025년 국내 상장 종목 축약 실험에서 헤드앤숄더의 평균 차이는 5거래일에서만 작게 나타났고, 이중바닥은 어느 기간에서도 뚜렷한 반등 신호가 아니었습니다. 평활 강도와 허용 오차를 바꾸자 사건 수와 효과 크기도 달라졌습니다.

차트 패턴의 가치는 이름이 아니라 정의와 비교 표본에서 확인해야 합니다. 패턴 뒤 분포가 평상시와 조금 다를 수 있다는 결과를 곧바로 매수·매도 수익으로 바꾸지 않고, 확인 지연과 표본 밖 검증까지 이어가는 것이 남는 결론입니다.

참고 자료

• Lo·Mamaysky·Wang, 원 논문 — The Journal of Finance의 서지정보
• MIT 공개 원문 — 패턴 정의, 3거래일 확인 지연, 조건부·무조건부 분포 검정과 한계

---

이 글은 국내 상장 종목 수정 일봉을 이용한 축약 실험입니다. 원 논문의 정확한 복제나 특정 종목의 매수·매도 추천이 아니며, 실제 투자 판단과 책임은 투자자 본인에게 있습니다.