논문 속 초과수익은 비용 뒤에도 남을까? 이상현상과 회전율 검증

논문에서 월평균 1%의 초과수익을 발견해도 매달 종목 절반을 바꿔야 한다면 계좌에는 같은 수익이 남지 않습니다. 매수·매도 수수료뿐 아니라 호가 스프레드, 시장충격과 공매도 비용이 반복해서 빠져나가기 때문입니다.

이상현상마다 종목을 교체하는 속도도 다릅니다. 기업 규모처럼 천천히 변하는 신호와 직전 한 달 수익률처럼 매달 크게 바뀌는 신호를 같은 비용 가정으로 비교할 수 없습니다.

Novy-Marx와 Velikov은 2016년 논문에서 23개 주식 이상현상의 비용 전 수익, 회전율과 거래비용 후 성과를 같은 기준으로 분류했습니다. 단순히 비용을 빼는 데서 끝내지 않고 신규 진입 문턱과 기존 보유 문턱을 다르게 두는 방법도 검증했습니다.

같은 질문을 국내 상장 종목의 2011~2025년 자료로 축약했습니다. 12-1개월 모멘텀, 1개월 반전, 고유·전체 저변동성, 소형주 신호를 가치가중 롱·숏 포트폴리오로 만들고 편도비용을 0.10%부터 0.50%까지 적용했습니다.

비용 전에는 모멘텀과 고유 저변동성 스프레드가 각각 연율화 평균 11.9%와 8.8%였습니다. 편도비용 0.30%를 적용하면 9.6%와 5.6%로 줄었습니다. 전체 저변동성은 +2.1%에서 -2.0%로 방향이 바뀌었습니다.

어떤 논문인가

• 저자: Robert Novy-Marx, Mihail Velikov
• 제목: 「A Taxonomy of Anomalies and Their Trading Costs」
• 저널: The Review of Financial Studies, 29권 1호, 2016년
• 표본: 미국 주식, 1963년 또는 1973년부터 2012년까지
• 핵심 방법: 23개 이상현상 가치가중 롱·숏 포트폴리오, Hasbrouck 유효 스프레드 기반 비용, 비용 완화 규칙과 수용력 비교
• DOI: 10.1093/rfs/hhv063

원 논문은 이상현상의 존재 여부만 다시 검정한 연구가 아닙니다. 이미 보고된 수익을 실제로 얻기 위해 얼마나 많이 거래해야 하고, 그 거래가 수익과 통계적 유의성을 얼마나 깎는지를 경제적 관점에서 분류했습니다.

논문의 결론은 거래비용이 있으니 모든 이상현상이 사라진다도, 비용을 줄이면 모두 살아남는다도 아니었습니다. 신호마다 총수익·회전율·비용 구조가 달랐습니다.

비용 전 스프레드는 실제 투자자의 수익률이 아닙니다

이상현상 연구에서는 보통 신호가 높은 종목을 매수하고 낮은 종목을 공매도한 스프레드를 계산합니다. 매달 포트폴리오를 목표 비중으로 되돌리지만, 종목이 바뀌면서 발생하는 비용은 표에서 빠질 수 있습니다.

비용 후 스프레드는 다음 세 요소로 나뉩니다.

비용 후 수익 = 롱 수익 - 숏 수익 - 거래한 금액 × 편도비용

같은 월평균 1%를 기록한 두 전략도 한쪽 포트폴리오 월회전율이 10%와 80%라면 비용 민감도가 다릅니다. 매수와 공매도 양쪽을 모두 교체하므로 총거래량 차이는 더 커집니다.

시장 노출과 회전율을 함께 읽는 방법처럼 매매 횟수만 세는 것으로는 부족합니다. 기존 비중에서 목표 비중으로 이동하기 위해 실제로 바꾼 자금 비율을 계산해야 합니다.

원 논문은 23개 이상현상을 회전율로 나눴습니다

연구진은 규모, 가치, 수익성, 발생액, 자산 성장, 모멘텀, 고유 변동성, 단기 반전과 계절성 등 23개 신호를 같은 방식으로 구성했습니다.

• NYSE 기준값으로 신호를 10분위로 분류
• 상·하위 10분위의 가치가중 롱·숏 스프레드 계산
• 회계자료 신호는 1963년 7월, 분기자료 신호는 1973년 7월부터 시작
• 주식별 거래비용은 Hasbrouck의 유효 호가 스프레드 추정치 사용
• 비용 전 수익, 비용, 순수익과 팩터 조정 알파를 함께 비교

비용 추정치는 주가, 규모와 고유 변동성에 따라 달랐습니다. 작은 고변동성 종목에 대형주와 같은 고정 비용을 적용하지 않았다는 점이 중요합니다.

한쪽 월회전율이 50% 미만인 이상현상은 비용을 줄이도록 설계했을 때 대부분 유의한 순 스프레드가 남았습니다. 50%를 넘은 고회전율 이상현상 가운데 유의한 순 스프레드가 남은 사례는 드물었습니다.

그러나 논문도 50%를 절대적인 손익분기점으로 제시하지 않았습니다. 총수익과 종목별 비용, 포트폴리오 구성에 따라 결과가 달라집니다.

신규 진입과 보유 유지의 문턱을 다르게 뒀습니다

매달 상위 10% 밖으로 밀려난 종목을 바로 팔면 11% 순위와 10% 순위를 오가는 종목을 반복해서 거래하게 됩니다. 신호 차이는 작지만 비용은 매번 발생합니다.

원 논문의 buy/hold spread는 신규 종목에는 엄격한 문턱을 적용하고 기존 종목에는 더 넓은 유지 범위를 허용합니다.

예를 들어 10%/20% 규칙은 상위 10%에 들어온 종목만 새로 매수하지만, 이미 보유한 종목은 상위 20% 밖으로 나갈 때까지 유지합니다. 숏 포트폴리오도 반대 방향으로 같은 원리를 적용합니다.

연구 결과 이 방식은 매매 빈도를 낮추거나 저비용 종목만 고르는 방식보다 대체로 효율적인 단일 비용 완화 수단이었습니다. 총수익을 조금 양보하면서 회전율과 비용을 더 크게 줄였기 때문입니다.

국내 가격 기반 신호 다섯 개를 같은 조건으로 맞췄습니다

재무제표가 필요한 가치·수익성·발생액 신호는 이번 검증에서 제외했습니다. 수정주가, 시가총액과 거래 자료로 계산할 수 있는 다섯 신호만 사용했습니다.

전년도 말 시가총액 상위 300개를 다음 해 표본으로 고정하고, 각 포트폴리오 안에서는 신호월 시가총액으로 가중했습니다. 다음 한 달 수익률을 보유 성과로 사용했습니다.

2011~2025년 가운데 다섯 신호의 상·하위 포트폴리오를 모두 비교할 수 있는 175개월을 사용했습니다. 이 표본은 국내 전체 상장 종목이나 소형·초소형주를 대표하지 않습니다.

기본 재구성과 진입·보유 밴드를 비교했습니다

기본 방식은 매달 신호 상위 20%와 하위 20%를 새로 구성했습니다. 비용 완화 방식은 새 종목이 상·하위 10%에 들어와야 진입하고, 기존 종목은 상·하위 30%를 벗어날 때까지 유지했습니다.

원문의 중회전율 10%/20%와 고회전율 10%/50%를 그대로 적용한 것이 아니라 모든 신호를 10%/30%로 맞춘 확장 비교입니다.

회전율은 직전 달 수익으로 비중이 변한 상태에서 이번 목표 비중으로 이동한 절대 차이의 절반입니다. 롱과 숏 각각 계산한 뒤 비용에는 두 포트폴리오 회전율을 합산했습니다.

수익률은 월평균 스프레드를 12배 한 연율화 평균입니다. 초기자본을 전부 투자한 포트폴리오 CAGR과는 다릅니다.

비용 전 수익과 회전율은 신호마다 달랐습니다

기본 상·하위 20% 재구성 결과입니다.

모멘텀은 비용 전 t값이 2.23이었고 편도비용 0.30% 뒤에도 연율화 평균 9.60%가 남았습니다. 다만 실제 공매도와 시장충격 비용은 포함하지 않은 값입니다.

고유 저변동성은 비용 후에도 +5.56%였지만 비용 전 t값부터 1.54였습니다. 양의 점추정치가 남았다는 사실과 통계적으로 강한 이상현상을 재현했다는 주장은 다릅니다.

전체 저변동성은 비용 전 +2.11%가 편도 0.30%에서 -1.97%로 바뀌었습니다. 총수익이 작고 회전율이 50%를 넘으면 낮아 보이는 비용도 결론을 바꿀 수 있습니다.

낮은 회전율은 수익이 생긴다는 뜻이 아니었습니다

소형주 신호는 한쪽 월회전율이 14.0%로 다섯 신호 중 가장 낮았습니다. 그러나 비용 전 스프레드가 이미 연율화 -2.00%였고 비용 후에는 더 낮아졌습니다.

1개월 반전은 회전율이 85.8%로 가장 높았지만, 문제는 비용만이 아니었습니다. 비용 전부터 연율화 -1.32%였으므로 비용을 0으로 가정해도 양의 이상현상이 아니었습니다.

거래비용 검증은 비용 전 가설을 대신하지 않습니다.

1. 비용 전 스프레드의 방향과 불확실성을 확인합니다.
2. 종목 교체량을 측정합니다.
3. 실제 비용 범위에서 순수익을 다시 계산합니다.
4. 공매도·시장충격·수용력까지 확인합니다.

첫 단계에서 수익이 없으면 낮은 회전율이 전략을 살릴 수 없습니다.

진입·보유 밴드는 회전율을 줄였지만 항상 순수익을 높이지는 않았습니다

10% 진입·30% 유지 방식을 적용한 결과입니다.

모멘텀 회전율은 31.0%에서 17.3%로 줄었지만 보유 범위를 넓히면서 비용 전 수익도 11.86%에서 8.79%로 낮아졌습니다. 편도 0.30% 후 순수익은 기본 방식 9.60%가 밴드 방식 7.51%보다 높았습니다.

반면 고유 저변동성은 회전율이 44.7%에서 27.5%로 줄고 비용 후 수익은 5.56%에서 7.65%로 높아졌습니다. 전체 저변동성도 -1.97%에서 +0.35%로 개선됐습니다.

비용 완화 규칙은 무조건 좋은 부가 기능이 아닙니다. 신호가 약해진 만큼의 총수익 손실과 줄어든 비용을 함께 비교해야 합니다.

편도비용 0.50%에서는 남는 신호가 더 줄었습니다

진입·보유 밴드 포트폴리오의 비용 민감도입니다.

비용 가정을 높여도 모멘텀과 고유 저변동성의 평균은 양수였습니다. 그러나 실제 대차 비용과 주문 규모에 따른 시장충격을 더하면 감소 폭은 커질 수 있습니다.

전체 저변동성은 편도 0.30%에서 간신히 양수였지만 0.50%에서는 음수가 됐습니다. 특정한 낮은 비용 가정에서만 남는 작은 수익은 운용 근거로 삼기 어렵습니다.

이번 검증이 알려주지 못하는 것

첫째, 원문의 Hasbrouck 주식별 유효 스프레드를 사용하지 않았습니다. 모든 종목에 같은 편도비용을 적용한 민감도 분석이므로 실제 저유동성 종목의 비용 차이를 반영하지 못합니다.

둘째, 시가총액 상위 300개 연간 표본은 원문의 광범위한 미국 주식보다 유동성이 높고 소형주 범위가 좁습니다. 원문의 비용 크기와 직접 비교할 수 없습니다.

셋째, 롱·숏 스프레드에는 공매도 가능 여부, 대차수수료와 시장충격이 없습니다. 특히 고변동성·소형주 숏 포트폴리오는 계산한 비중대로 거래하기 어려울 수 있습니다.

넷째, 다섯 신호를 같은 표본에서 확인했습니다. 비용 후 양의 숫자도 데이터 스누핑을 보정하는 방법처럼 여러 가설을 시험한 선택 문제와 별도로 검정해야 합니다.

초과수익은 회전율과 비용 뒤에 남은 값으로 판단해야 합니다

모멘텀은 기본 방식에서 비용 전 연율화 평균 11.86%, 편도 0.30% 후 9.60%가 남았습니다. 고유 저변동성도 8.80%에서 5.56%로 줄었고, 진입·보유 밴드를 적용하면 7.65%였습니다.

반면 전체 저변동성은 비용 하나로 +2.11%가 -1.97%로 바뀌었습니다. 소형주와 1개월 반전은 비용 전부터 양의 스프레드가 아니었습니다.

논문 속 총수익을 실제 수익으로 읽기 전에 신호의 회전율, 종목별 거래비용과 비용을 줄이는 과정에서 잃는 총수익을 함께 확인해야 합니다. 비용 뒤에도 남은 결과만 다음 검증으로 넘길 수 있습니다.

참고 자료

• Novy-Marx·Velikov, 원 논문 — The Review of Financial Studies의 서지정보와 초록
• 저자 공개 원문 — 23개 이상현상, 거래비용 추정과 비용 완화 실험
• NBER Working Paper 20721 — 연구 요약과 공개 작업논문 정보

---

이 글은 국내 가격·시가총액 자료로 이상현상과 거래비용의 관계를 확인한 개념 재현과 한국 시장 확장입니다. 특정 신호의 미래 수익을 보장하거나 매수·매도를 추천하지 않으며, 실제 투자 판단과 책임은 투자자 본인에게 있습니다.