암호화폐 거래소의 미래? 미국 주식시장에 힌트가 있다

[퀀트의 시각] 마켓메이커에 대한 이해

등록 : 2018년 10월 10일 11:22 | 수정 : 2018년 10월 10일 11:30

 

미국의 금융 전문 뉴스 사이트 <Business Insider>는 8월31일자 기사에서 Gemini와 Coinbase와 같은 암호화폐 거래소에서 코로케이션(Colocation) 서버 연결방식을 제공하기 시작했고, 점점 더 많은 거래소가 코로케이션을 제공할 것이라고 전했다. 또한 이 코로케이션 서버 연결방식은 고빈도매매 트레이딩(High Frequency Trading)회사와 같은 마켓메이커의 유입을 촉진하게 돼 거래소에 유동성(Liquidity)을 공급하게 될 것이라고 했다.

나는 이 기사가 매우 흥미롭다. 암호화폐 거래소가 앞으로 어떻게 진화해 나갈지에 대한 질문의 답에 대한 힌트를 미국 주식거래소들이 지난 20여년 간 겪어온 일련의 변화들을 살펴보면 얻을 수 있지 않을까 생각하기 때문이다.

이번 글에서는 미국 주식거래소에서 마켓메이커의 정의와 역할에 대해서 어느 정도 깊이 다뤄보려고 한다. 마켓메이커는 암호화폐 거래소에서 큰 이슈가 되고 있다. 대다수 암호화폐 거래소들이 스스로 마켓메이커 역할도 하고 있거나 외부에서 마켓메이커의 유입을 검토하고 있는 것으로 보이지만, 아직까지 이에 대한 논의가 본격적으로 이뤄지진 않았다. 또한 많은 사람들이 관심을 갖는 고빈도매매 트레이딩(High Frequency Trading)에 대해서 이번 글과 다음 글에 걸쳐 이야기를 해보도록 하겠다.

 

유동성 공급이 중요한 이유

먼저 유동성이란 무엇일까? 거래소에서 유동성이 풍부하다는 말은 현 시장가격에 영향을 미치지 않으면서 짧은 시간 안에 대규모의 매수와 매도가 가능하다는 것을 의미한다. 거래소의 유동성은 정말 과하면 과할수록 좋다고 한다. 거래소에서 유동성이 너무 많아서 걱정이라는 분을 나는 한 번도 본적이 없다. 참고로 유동성과 변동성은 전혀 다른 의미다. 주식시장에서의 변동성은 주식의 거래가격이 시간에 따라 얼마나 크게 변하는지를 보여주는 척도를 의미한다.

마켓메이커란 거래소에 유동성을 공급해주는 일을 하는 사람이나 회사를 의미한다. 마켓메이커의 역할은 거래소에 유동성을 공급해서 트레이더들이 매수와 매도를 원하는 시점에 원활하게 할 수 있는 환경을 구축해주는 것이다. 트레이더가 대규모의 트레이드를 언제든지 바로 할 수 있고, 대량매수를 해도 시장가격이 오르지 않고 대량매도를 해도 시장가격이 내려가지 않는 거래소가 있다면 그곳은 대규모 트레이드를 상시적으로 해야 하는 기관투자자들에게 유토피아일 것이다. 가령 어떤 기관투자자가 대량매수를 하면 초기 매수시점보다 점점 주식가격이 오르게 되기에 많은 물량의 주식을 한꺼번에 사게 되면 주어진 현금으로 살 수 있는 주식의 양이 초기 매수시점을 기준으로 예상한 양보다 적어지게 된다. 그에 비해 아무리 투자자가 많이 매수를 해도 거래소의 마켓메이커가 그 대량매수 주문의 충격을 다 흡수해서 주식가격에 일시적인 변동이 크지 않도록 해준다면 기관투자자 입장에서 매수물량을 예측할수 있기에 매수결정을 내리기가 훨씬 수월하다.

그렇다면 마켓메이커들은 구체적으로 어떤 시장참여 행위를 통해 거래소에 유동성을 공급하는가? 지금까지는 일반적인 주식시장의 이야기였지만 지금부터는 미국 주식거래소에 국한된 이야기를 하려고 한다. 즉 질문을 미국 주식거래소에서 마켓메이커들이 유동성을 공급하는 방식은 무엇인가로 바꾸도록 하겠다. 이 질문의 답을 위해서는 브로커와 딜러의 차이, 그리고 미국 주식거래소들에 대한 약간의 설명이 필요하다.

브로커는 두 고객사이에서 주식거래를 중개하고 수수료를 받는다. 브로커는 주식을 중개만 하기에 주식거래로 인한 손익이 발생하지 않는다. 딜러는 고객들과 직접 주식거래를 하면서 그 주식거래의 결과로 수익을 내면 그 수익은 딜러의 수익이고 손해가 나도 딜러의 손해다. 딜러의 고객이란 주식의 매수 혹은 매도를 원하는 트레이더를 말한다.

미국의 대표적인 주식거래소로 NYSE(New York Stock Exchange)와 NASDAQ(National Association of Securities Dealers Automated Quotations)이 있다. NYSE는 미국 TV에서 보면 미국인들이 종종 “나이지”라고 발음한다(알아두면 은근 유용하다). NYSE와 NASDAQ은 다른 메커니즘으로 거래가격을 형성하기에 다른 형태의 거래소로 분류한다. 거래가격이 형성된다는 것은 주식의 매수자와 매도자 간에 거래가격의 합의가 도출되는 것을 의미한다. NYSE는 마켓메이커가 미리 정해진 규칙에 따른 경매행위를 중재하는 것에 의해 거래가격이 형성되고, NASDAQ에서는 마켓메이커로 지정된 여러 딜러들이 bid/ask(매수/매도) 거래의 체결을 따내기 위해 경쟁을 하는 과정을 통해 거래가격이 형성된다. NYSE는 ‘Auction Market’이라고 하고 NASDAQ은 ‘Dealer Market’이라고 부른다.

뉴욕증권거래소(NYSE)의 마켓메이커들. 사진=한겨레 자료사진

 

TV에서 NYSE의 트레이딩 플로어가 나오면 그곳에 파란 잠바를 입은 아저씨들이 많이 돌아다니는 것을 볼 수 있다. 이 분들이 바로 NYSE에서 경매를 진행해서 거래가격을 형성하는 NYSE의 마켓메이커들이다. NYSE에서는 이들을 스페셜리스트라고 부른다. NYSE는 트레이딩 플로어에서 휴먼 스페셜리스트들에게 휴먼 브로커들이 찾아가서 정말로 얼굴을 맞대고 커뮤니케이션을 하며 주식거래를 성사시킨다.

이에 반해서 NASDAQ에서는 여러 딜러들이 전자거래 시스템(Electronic Trading System)을 통해서 딜러들끼리 서로 경쟁을 하며 주식 거래가격을 형성한다. 즉 NASDAQ은 휴먼 딜러들과 휴먼 브로커들이 직접 만나는 플로어가 아예 없다. 만일 NASDAQ 트레이딩 플로어에서 일한다고 자기소개를 하는 사람을 만났다면 그건 마치 국정원 비밀요원으로 일하고 있다고 자기소개를 하는 사람만큼 이상한 사람을 만난 것이라고 보면 된다. 전자거래 시스템이 나오기 전에도 NASDAQ은 여전히 존재했는데, 그 시절 NASDAQ 딜러들은 전화를 사용해서 주식 거래가격을 형성했다. 그리고 이제 NASDAQ 마켓메이커는 마켓메이킹 알고리듬이 탑재된 컴퓨터 서버가 맡고 있다. NASDAQ의 전자거래 시스템에 휴먼 딜러가 통신망으로 접속해서 마우스를 클릭하고 있는 게 아니다. 그래서 나는 NASDAQ 마켓메이커를 ‘파란잠바 아재봇’이라고 설명하곤 한다.

NYSE의 스페셜리스트들은 NYSE의 직원으로서, 휴먼 브로커들이 고객들로부터 부여받은 매수/매도 주문을 정해진 경매방식에 따라 주식거래를 성사시켜주는 일을 하는 샐러리맨이다.

NASDAQ 딜러들은 NASDAQ에 등록을 한 사업자들이다. NASDAQ에는 300여개 딜러들이 마켓메이커로 등록돼 있고, 평균적으로 NASDAQ에 상장된 주식 한 종목 당 14개 마켓메이커들이 마켓메이킹을 하고 있다. NASDAQ마켓메이커들은 NASDAQ의 직원이나 자회사가 아니지만 마켓메이킹 행위를 성공적으로 수행하면 그에 해당하는 인센티브를 NASDAQ으로부터 받는다.(성공적인 마켓메이킹의 의미는 뒤에서 설명을 하도록 하겠다.)

NYSE의 스페셜리스트들은 서로 경쟁관계가 아니다. 하지만 NASDAQ 에서 마켓메이킹을 하는 딜러들은 경쟁관계다. 더 정확히는 아주 살벌한 경쟁관계다. 각 마켓메이커들은 고유의 마켓메이킹 알고리듬을 만들어서 다른 마켓메이커들의 알고리듬과 경쟁을 한다. NASDAQ에서는 이런 마켓메이커들의 경쟁을 통해 주식 거래가격이 형성된다.

미국 주식시장은 다른 나라에 비해 매우 복잡하다. 미국에는 NYSE와 NASDAQ 외에도 50여개의 주식시장이 있고, 같은 종목의 주식도 복수의 주식시장에서 거래가 되고 있다. 이 50여개 거래소 중에는 NASDAQ 형태의 거래소가 여러 개 있다. 지금부터 이 글에서 ‘주식거래소’는 NASDAQ 형태의 거래소만을 의미하고 ‘마켓메이커’도 NASDAQ 형태의 거래소에 마켓메이커로 등록된 딜러들로 국한하기로 한다.

 

마켓메이커의 수익모델

자, 드디어 마켓메이커들이 구체적으로 어떤 시장참여행위를 해 거래소에 유동성을 공급하는지에 대한 설명을 할 준비가 됐다. 마켓메이커는 ‘bid price quote(매수호가)’와 ‘ask price quote(매도호가)’를 주식거래소에 동시에 보낸다. bid price quote는 다른 시장참여자들(브로커와 마켓메이커 외의 딜러)이 마켓메이커에게 주식을 팔 수 있는 가격이다. ask price는 다른 시장참여자들이 마켓메이커로부터 주식을 살 수 있는 가격이다. 따라서 ask price quote는 bid price quote보다 항상 높다. 다른 시장 참여자들이 마켓메이커가 제시한 bid/ask price quote를 수용(take)한다는 말은 그 bid/ask price에 따라 주식을 매수나 매도를 한다는 말이다. 이때 마켓메이커는 본인이 quote한 bid/ask price대로 거래를 반드시 체결해 줘야 한다. 마켓메이커는 다른 시장참여자들이 거래소에서 취하려는 포지션의 반대 포지션을 취하는 가격을 제시하는 행위를 계속적으로 행함으로써 거래소에 유동성을 공급하는 것이다.

하지만 마켓메이커가 성인군자라서 그토록 경제에 좋다는 유동성을 공짜로 공급해주는 것은 아니다. 마켓메이커는 영리를 목적으로 마켓메이킹을 한다. 그리고 마켓메이커는 딜러라고 했다. 딜러는 브로커와 달리 본인의 자본을 가지고 거래소에서 트레이딩을 한다. 딜러는 주식거래의 결과로 수익을 내면 그 수익은 딜러의 수익이고 손해가 나도 딜러의 손해다. 그럼 마켓메이커는 어떤 주식거래로 수익을 내려 하는가?

위에서 마켓메이커는 bid price quote와 ask price quote를 “동시에” 주식거래소로 보낸다고 했다. 이와 같이 동시에 거래소에 보낸 bid price quote와 ask price quote가 둘 다 체결이 되게 되면 마켓메이커는 차익을 얻게 된다. 마켓메이커가 ask price quote는 bid price quote보다 항상 높게 책정해서 보내기 때문에 마켓메이커는 주식을 싸게 사서 비싸게 파는 트레이드를 한 것이기 때문이다. 이와 같은 bid/ask 거래의 성공으로 인한 차익과 마켓메이킹의 행위에 대한 대가로 주식거래소가 주는 인센티브가 마켓메이커의 두가지 주 수익모델이다.

하지만 마켓메이커가 동시에 낸 bid price quote와 ask price quote가 항상 둘 다 수용이 된다는 보장이 없다. 즉 마켓메이커의 이와 같은 bid/ask 거래전략은 리스크를 동반한다. 가령 bid price quote의 수용자가 나타나서 bid 거래가 수용된 후 일정시간이 지나도 동시에 냈던 ask price quote의 수용자가 안 나타나는 경우 마켓메이커는 원래의 ask price quote를 취소하고 이미 수용된 bid price보다도 낮은 가격의 ask price quote를 거래소에 새로 내서 울며 겨자먹기로 수용자를 찾은 경우를 생각해보자. 이 트레이드는 비싸게 사서 싸게 팔았기 때문에 마켓메이커는 손해를 본 것이다.

마켓메이커가 한번의 bid/ask 거래를 성사시켜 얻는 수익은 ask price quote와 bid price quote 차이에 비례하게 된다. 이 차이를 스프레드라고 한다. 현재 미국 주식거래소 대부분의 종목에서 이 스프레드는 매우 작다. 수익이 bid/ask 거래 물량의 크기에도 비례하지만 보통 한번의 bid/ask 거래의 성공에서 마켓메이커가 얻을 수 있는 수익은 크지 않다. 마켓메이킹이 성공적인 비즈니스가 되기 위해서는 이런 작은 수익을 얻는 행위를 하루에도 여러 번 성공을 해야 한다. 따라서 bid/ask 거래를 성공시키는 확률을 높여주는 마켓메이킹 알고리듬을 개발하는 것이 마켓메이킹 퀀트들의 주된 미션이다. 이런 마켓메이킹 알고리듬의 개발을 위해서는 주식체결 가격의 불규칙한 움직임을 통계적으로 예측해내는 예측엔진의 개발이 중요하다. 하지만 주식시장에서 불규칙한 움직임을 예측하는 일은 여전히 매우 어려운 일이다.

 

무한경쟁의 결과: HFT

지난 20여년 간 마켓메이커들의 경쟁은 점점 심화되어 왔다. 앞서 NASDAQ에서는 현재 주식 한 종목당 평균 14개의 마켓메이커가 경쟁을 하고 있다고 했다. 만일 마켓메이커 A가 ask price 를 $101.00에, bid price를 $100.00에 내놨다고 치자. 이때 스프레드는 $101.00 – 100.00 = $1.00이다. 마켓메이커 B는 경쟁에 이기기 위해 ask price를 $100.90에 bid price는 $100.10에 내놓는다면 스프레드는 $100.90 – 100.10 = $0.8로 줄어들게 된다. 마켓메이커 C는 이보다 더 작은 스프레드를 quote해야만 bid/ask 거래를 성사시킬 수 있다. 이처럼 가장 작은 스프레드의 bid/ask price quote를 낸 단 한명의 마켓메이커만이 bid/ask 거래를 성사시킬 수 있는 상황 하에서 스프레드는 급격하게 줄어들었다.

이와 같은 극심한 경쟁체제에서 마켓메이커들은 어떻게 반응했을까? 물론 bid/ask 거래를 성공시키는 확률을 높이기 위해 주식체결 가격변동을 예측하는 알고리듬의 성능을 개선하려고도 했을 것이다. 하지만 만일 이보다 더 확실하게 수익을 낼 수 있는 어떤 전략이 발견된다면  마켓메이커들은 본연의 거래전략보다 그 새로운 전략에 집중하려 할 것이다.

그리고 정말로 그런 전략을 찾아내서 큰 수익을 내는 마켓메이커들이 생겨났다. 바로 고빈도매매 트레이딩(High Frequency Trading, 줄여서 HFT)이라는 트레이딩 전략을 사용하는 마켓메이커들이다. 이 HFT라는 전략을 쓰는 마켓메이커들은 마이클 루이스가 쓴 ‘플래시 보이스(Flash Boys)’라는 책으로 유명해지기 시작했다. 유명보다는 악명이 더 맞는 표현일지 모르겠다.

HFT 회사들은 주식거래에 관련된 일련의 프로세스들의 처리속도를 조금이라도 높이기 위해 엄청난 에너지를 쏟는다. 가령 HFT 회사들은 주식거래소의 컴퓨터 서버에 바로 인접한 공간에 본인들의 컴퓨터를 물리적으로 직접 연결시켜놓고 다른 경쟁자 마켓메이커들보다 더 빨리 거래소 서버에 주문을 보내고 주식거래소로부터 스트리밍되는 거래 데이터를 더 빨리 얻으려 한다.

또한 스트리밍 되는 거래 데이터로부터 트레이딩 전략을 실시간으로 생성해내는 알고리듬 트레이딩 프로그램의 연산을 조금이라도 더 빠르게 하기 위해 세계 최고수준의 프로그래머들을 고용한다. 그런데 여기서 다른 경쟁자들보다 더 빠르다는 것이 고작 몇십 마이크로 초라는 아주 찰나의 시간만큼만 더 빠르다는 것을 의미한다. 보통사람이 1초에 5번 정도 깜빡일 수 있다고 하면 눈 한 번 깜빡이는데 대략 200밀리 세컨드가 걸린다는 뜻이다. 20마이크로 세컨드는 눈 한번 깜빡이는데 걸리는 시간의 만분의 일밖에 안 되는 너무나도 짧은 시간이다.

그렇다면 분명히 HFT회사들이 어떤 큰 금전적인 이득이 따르기에 처리속도경쟁을 하고 있다는 생각이 자연스럽게 들게 된다. 그렇다면 다음과 같은 질문들도 해볼 수 있다.

 

  • 왜 다른 경쟁자들보다 더 빨리 주문정보를 주식거래소에 보내고 조금이라도 더 빨리 주식거래소로부터 데이타를 받게 되는 능력을 가진 마켓메이커가 큰 돈을 벌 수 있게 되는 것일까?

 

  • 어느 특정 마켓메이커가 다른 경쟁자들보다 주식거래소에 주문정보를 빨리 보내고 주식거래소의 데이터를 더 빨리 얻을 수 있다는 것은 주식거래소와 미국 증권거래위원회(SEC)가 주식거래시장의 불공정 행위를 방치하는 것이 아닌가?

 

아는 분께서 이런 HFT의 이야기를 처음 접하신 후 빠른 기술적 진화와 더불어 살벌해진 세상을 자각하지 못하고 살아오고 있는 것은 아니었는지 문득 걱정이 된다고 하셨다. 사실 그렇게 점잖게 말씀하시지 않았다. 여과없이 그 분이 하신 말씀을 전달한다.

“주식시장판이 개미들을 등쳐먹는 천하의 호로자식들이 설쳐되는 더러운 곳이었단 말인가!”

 

다음 글에서는 위의 HFT에 관한 두개의 질문에 대한 답을 나의 지인과 같은 감정적인 반응은 배제하고 객관적인 태도를 유지하면서 찾아보려고 한다. 먼저 어떤 연유로 그런 HFT 회사 같은 마켓메이커들이 생겨났는지를 ‘Order Handling Rules’와 ‘Regulation NMS’라고 하는 SEC의 규제들과 연관지어서 알아보도록 하겠다. 아울러 주식거래소가 50여개로 불어나버린 현 미국 주식시장의 상황과 코로케이션의 현재 모습에 대해서 알아보도록 하겠다. 또한 HFT전략들에 대해서 구체적으로 설명을 할 예정이다.

 


 

이 글을 쓴 윤기선 박사는 고려대 화학공학과 졸업 후 일본 나고야대학교 분자화학공학과에서 석사학위를, 하버드 대학에서 응용물리학으로 박사학위를 받았다. 2011년 골드만삭스 런던에서 인턴을 하며 연구보다 트레이딩을 더 좋아하는 사람이었다는 사실을 깨달았다. 2012년부터 2015년까지 웰스파고 뉴욕에서, 2015년부터 2017년까지 제이피모건 뉴욕에서 일했다. 2017년 옛 동료와 페이스북 채팅을 하다 다시 웰스파고로 복귀를 결심, 현재 웰스파고에서 퀀트 애널리스트로 일하고 있다.

각종 제보 및 보도자료는 contact@coindeskkorea.com 으로 보내주세요.