고유 변동성이 큰 종목은 더 벌까? 저변동성 이상현상 검증

위험을 더 감수하면 더 높은 수익으로 보상받아야 한다는 설명은 익숙합니다. 그래서 가격이 크게 흔들리는 종목일수록 수익 기회도 클 것처럼 느껴집니다.

Ang·Hodrick·Xing·Zhang은 2006년 논문에서 반대 결과를 보고했습니다. 시장·규모·가치 요인으로 설명되지 않는 고유 변동성이 가장 높은 미국 주식은 다음 달 수익률이 오히려 낮았습니다.

이 관계가 국내 대형 상장 종목에서도 나타나는지 2010~2025년 수정 일봉으로 확인했습니다. 직전 한 달의 시장 회귀 잔차 변동성으로 종목을 5분위로 나누고, 신호월 시가총액으로 가중해 다음 한 달을 보유했습니다.

가치가중 결과에서는 고변동성 Q5가 저변동성 Q1보다 월평균 0.61%포인트 낮았습니다. 그러나 Newey–West t값은 -1.28이었고, 동일가중으로 바꾸면 차이는 -0.09%포인트로 줄었습니다. 원 논문과 방향은 비슷하지만 같은 크기와 강건성을 재현했다고 말하기는 어렵습니다.

어떤 논문인가

• 저자: Andrew Ang, Robert J. Hodrick, Yuhang Xing, Xiaoyan Zhang
• 제목: 「The Cross-Section of Volatility and Expected Returns」
• 저널: The Journal of Finance, 61권 1호, 2006년
• 표본: NYSE·AMEX·Nasdaq 개별 주식, 1963년 7월~2000년 12월
• 핵심 방법: 전체 변동성과 Fama–French 3요인 잔차 변동성 5분위 포트폴리오
• DOI: 10.1111/j.1540-6261.2006.00836.x

논문에는 서로 다른 두 질문이 들어 있습니다. 첫 번째는 시장 전체 변동성 충격에 민감한 주식이 어떤 수익을 내는가이고, 두 번째는 시장 요인으로 설명되지 않는 개별 종목의 고유 변동성이 이후 수익과 어떤 관계를 갖는가입니다.

흔히 말하는 저변동성 이상현상과 직접 연결되는 부분은 두 번째입니다. 이 글도 고유 변동성 정렬에 집중합니다.

고유 변동성은 전체 변동성과 다릅니다

종목의 일별 수익률이 크게 흔들리는 이유는 두 부분으로 나눌 수 있습니다.

• 시장·규모·가치 같은 공통 요인이 함께 움직인 부분
• 공통 요인으로 설명하고도 남은 종목 고유의 부분

원 논문은 각 종목의 일별 초과수익률을 Fama–French 시장·규모·가치 요인에 회귀했습니다. 이 회귀의 잔차 표준편차가 고유 변동성입니다.

예를 들어 시장 급락일에 모든 종목이 함께 흔들렸다면 전체 변동성은 커집니다. 하지만 시장 요인으로 설명되는 부분이므로 고유 변동성이 같은 크기로 커지는 것은 아닙니다.

주식 표준편차와 변동성의 뜻은 전체 가격 변화의 흔들림을 설명합니다. 고유 변동성은 여기서 공통 시장 움직임을 한 번 더 제거한 값입니다.

원 논문은 직전 한 달을 보고 다음 한 달을 보유했습니다

기본 검증은 1/0/1 포트폴리오입니다.

1. 직전 한 달의 일별 자료로 종목별 고유 변동성을 계산합니다.
2. 낮은 종목부터 높은 종목까지 5분위로 나눕니다.
3. 각 분위 안에서 시가총액 비중으로 종목을 담습니다.
4. 다음 한 달을 보유한 뒤 다시 나눕니다.

회귀에는 한 달에 17개를 초과하는 일별 관측이 있는 NYSE·AMEX·Nasdaq 종목을 사용했습니다. 결과 포트폴리오는 매월 다시 구성하고 가치가중했습니다.

미국 표본에서는 가장 높은 고유 변동성 분위가 크게 뒤처졌습니다

원문의 고유 변동성 5분위 결과는 다음과 같습니다.

Q5−Q1 원수익률 차이의 t값은 -3.10, FF3 알파 차이의 t값은 -7.00이었습니다. 고유 변동성이 높은 종목이 더 높은 기대수익으로 보상받는다는 단순한 설명과 반대입니다.

다만 Q1이 전체 시장가치의 53.5%, Q5는 1.9%였습니다. 고변동성 분위에는 작은 종목이 많이 포함됐습니다. 연구진은 규모, 장부가치, 모멘텀, 유동성, 거래량, 회전율과 호가 스프레드 등을 통제한 뒤에도 관계가 남았다고 보고했습니다.

이번 검증은 시장 단일요인 잔차로 줄였습니다

국내 일별 Fama–French 규모·가치 요인을 같은 조건으로 만들 수 없어 원문의 FF3 고유 변동성을 그대로 복제하지 않았습니다. 전년도 말 시가총액 상위 300개 상장 종목의 가치가중 일별 수익률을 시장 대용치로 만들고, 종목 수익률에서 이 시장 움직임을 제거한 잔차 변동성을 사용했습니다.

따라서 이번 값은 시장 단일요인 잔차 변동성입니다. 원문의 고유 변동성과 방향을 비교하는 개념 재현이지 정확한 복제가 아닙니다.

패턴 확인 시점에 종가 1,000원 이상, 시가총액 1,000억원 이상, 최근 20거래일 거래대금 중앙값 10억원 이상 조건을 적용했습니다. 다음 달 시세가 없는 종목을 사후에 제외하고 나머지 비중을 키우지 않도록 설계했으며, 실제 표본에서는 다음 달 시세가 빠진 행이 없었습니다.

직전 달의 일별 관측이 18개보다 적었던 2011년 3월·2015년 3월·2017년 11월·2018년 10월·2019년 3월 보유 포트폴리오는 만들지 않았습니다. 기본 1개월 검증은 187개월이며 3개월과 12개월 측정은 192개월을 모두 사용했습니다.

고유 변동성 Q5는 수익률과 낙폭에서 모두 뒤처졌습니다

Q1의 월평균 수익률은 +0.91%, Q5는 +0.30%였습니다. 고변동성 Q5−저변동성 Q1 차이는 월평균 -0.61%포인트입니다.

그러나 Q1부터 Q5까지 수익이 단조롭게 줄지는 않았습니다. Q4 월평균은 +0.72%로 Q2와 Q3보다 높았습니다. 관계는 고변동성 끝단 Q5의 부진과 저변동성 Q1의 상대적 강세에 집중됐습니다.

Q5−Q1 월평균 차이의 Newey–West t값은 -1.28이었습니다. 원 논문의 -3.10보다 약하며 일반적인 5% 유의수준의 강한 증거로 보기 어렵습니다.

전체 변동성으로 바꾸면 차이는 거의 사라졌습니다

전체 일별 수익률 표준편차로 정렬하면 Q5−Q1 차이는 월평균 -0.13%포인트, t값은 -0.26이었습니다. 시장 움직임을 제거한 잔차 변동성의 -0.61%포인트보다 훨씬 작습니다.

변동성이 큰 종목이 덜 올랐다는 한 문장만으로는 어떤 변동성을 사용했는지 알 수 없습니다. 전체 변동성과 고유 변동성을 구분해야 원 논문의 가설을 검증할 수 있습니다.

가치가중을 동일가중으로 바꾸면 스프레드는 -0.09%포인트였습니다

가치가중 Q1의 평균 시가총액은 9.12조원, Q5는 1.98조원이었습니다. 저변동성 Q1에서 큰 종목의 비중이 더 높았습니다.

동일가중에서는 각 종목을 같은 비중으로 담자 스프레드가 -0.09%포인트로 줄었습니다. 시가총액 5분위 안에서 다시 고유 변동성 5분위를 만든 규모중립 결과도 -0.30%포인트였습니다.

원 논문은 규모를 통제해도 관계가 남았지만 이번 표본에서는 가치가중 방식의 영향이 컸습니다. 한국 시장에서도 같은 이상현상이 강건하다고 단정할 수 없는 이유입니다.

2016~2020년에 차이가 집중됐습니다

첫 6년에는 고유 변동성 차이가 거의 없었고 저변동성−고변동성 스프레드의 CAGR도 음수였습니다. 전체 결과는 2016~2020년의 큰 차이에 상당 부분 의존했습니다.

2021~2025년에는 다시 -0.66%포인트였지만 t값은 -0.80이었습니다. 전체 기간의 한 숫자만 보면 언제 관계가 나타났고 사라졌는지 놓치게 됩니다.

낮은 변동성을 사고 높은 변동성을 공매도해도 쉬운 전략은 아닙니다

Q1을 매수하고 Q5를 공매도한 월별 스프레드의 비용 전 CAGR은 +4.12%, 샤프는 0.29였습니다. 그러나 MDD는 -44.33%였습니다.

Q1과 Q5의 합산 월평균 회전율은 89.36%였습니다. 편도비용을 적용하면 결과는 빠르게 줄었습니다.

여기에는 고변동성 종목의 실제 공매도 가능 여부, 대차수수료와 자금조달 비용이 없습니다. Q5 종목을 원하는 비중만큼 빌릴 수 없으면 논문식 스프레드를 그대로 운용할 수 없습니다.

시장 노출과 회전율을 함께 보는 방법처럼 신호의 평균 수익보다 교체 비중과 비용 민감도를 함께 확인해야 합니다.

이번 검증이 알려주지 못하는 것

첫째, 시장 단일요인 잔차는 원문의 FF3 잔차와 다릅니다. 규모·가치 요인을 제거하면 종목 순서와 스프레드가 달라질 수 있습니다.

둘째, 전년도 말 시가총액 상위 300개를 사용했으므로 작은 종목 전체를 대표하지 않습니다. 유동성 문제는 줄였지만 원문의 광범위한 미국 주식 표본보다 범위가 좁습니다.

셋째, Q1−Q5는 공매도와 비용을 포함한 실제 실행 가능성을 증명하지 않습니다. 비용 후 결과와 대차 제약을 별도로 검증해야 합니다.

넷째, 5분위·가중·측정 기간을 여러 방식으로 확인했습니다. 그중 가장 큰 -0.69%포인트만 골라 대표 결과로 쓰면 선택 편향이 생깁니다. 기본 규칙과 모든 강건성 결과를 함께 봐야 합니다.

높은 고유 변동성이 높은 보상을 뜻하지는 않았습니다

국내 가치가중 표본에서도 고유 변동성 Q5는 Q1보다 월평균 0.61%포인트 낮았습니다. 원 논문과 방향은 같지만 t값 -1.28, 동일가중 -0.09%포인트, 규모중립 -0.30%포인트라는 결과를 함께 보면 증거의 강도는 훨씬 약합니다.

전체 변동성으로 정렬하면 차이가 거의 사라졌고, 하위 기간에서는 2010~2015년 관계가 나타나지 않았습니다. 저변동성−고변동성 스프레드도 높은 회전율과 -44.33% MDD를 감수해야 했습니다.

더 크게 흔들린다는 사실만으로 더 높은 기대수익을 받을 수는 없습니다. 어떤 공통 요인을 제거했는지, 종목을 어떻게 가중했는지, 결과가 여러 시기에 반복됐는지까지 확인해야 저변동성 이상현상을 실제 전략으로 해석할 수 있습니다.

참고 자료

• Ang·Hodrick·Xing·Zhang, 원 논문 — The Journal of Finance의 서지정보와 원문 결과
• NBER Working Paper 10852 — 포트폴리오 구성, 고유 변동성 정의와 강건성 검증

---

이 글은 국내 상장 종목 수정 일봉을 이용한 개념 재현과 한국 시장 확장 검증입니다. 원 논문의 정확한 복제나 특정 종목의 매수·매도 추천이 아니며, 실제 투자 판단과 책임은 투자자 본인에게 있습니다.