경매이론에 대해 관심 있는 분들을 위해 2021년 노벨경제학상을 수상한 폴 밀그롬 교수님의 저서 "DISCOVERING PRICES: AUCTION DESIGN IN MARKETS WITH COMPLEX CONSTRAINTS"의 내용을 AI의 도움을 받아, 이해하기 쉽게 에세이 스타일로 정리하여 차례로 올립니다. 단순한 시장경제의 원리대로 돌아가기 힘든 공공성을 띠는 시장에서 경매이론으로 접근하여, 어떻게 시장을 설계하고 운영하여 모두의 이득을 달성하는지 알아보는 데 많은 도움을 받으시길 바랍니다.
복잡성의 시대, 시장은 어떻게 움직이는가?
비즈니스 현장에서는 종종 “이 거래는 모두에게 이득인데 왜 성사되지 않는가?”와 같은 근본적인 질문이 제기된다. 왜 어떤 시스템은 자유 경쟁에 맡겨지고, 항공 관제와 같은 다른 시스템은 엄격하게 통제되는가? 경제학의 창시자 애덤 스미스는 ‘보이지 않는 손’이 수요와 공급을 조절하며 시장을 최적의 상태로 이끈다고 설명했다. 이 강력한 개념은 오랫동안 시장에 대한 깊은 신뢰의 기반이 되었다. 그러나 1990년대 중반, 인터넷의 등장은 이 고전적 믿음에 새로운 질문을 던졌다. 이베이, 아마존, 구글과 같은 거대 플랫폼의 출현은 이들이 단순한 자생적 시장이 아니라 정교하게 ‘설계된 시장’임을 보여주었다. 바로 이 지점에서 폴 밀그럼은 ‘복잡성(complexity)’이라는 새로운 렌즈를 통해 시장을 바라볼 것을 제안한다.
전통 경제학의 믿음과 현실의 균열
전통 경제 이론은 시장의 자생적인 힘을 강조한다. 코즈의 정리에 따르면, 거래 비용이 없고 자유로운 협상이 가능하다면 이해 당사자들은 외부의 개입 없이도 비효율을 스스로 해결할 수 있다. 즉, 이윤 창출의 기회가 있다면 시장 참여자들이 자발적으로 최적의 해결책을 찾을 것이라는 믿음이다. 이러한 관점에서 시장을 인위적으로 설계하려는 시도는 불필요하거나 심지어 해로운 것으로 간주될 수 있다.
그러나 현실 세계의 비즈니스 환경은 교과서의 가정처럼 단순하지 않다. 밀그럼은 전통 이론이 간과한 결정적인 문제, 바로 ‘복잡한 제약 조건’을 지적한다. 렌터카 회사에 차가 두 대인데 세 명의 고객이 온 상황을 가정해 보자. 이 경우 한 명은 차를 빌리지 못할 뿐, 시스템 전체에 심각한 문제는 발생하지 않는다. 이는 가격 조절로 해결 가능한 ‘단순한 제약’의 예이다.
반면, 두 기차가 동일한 선로를 동시에 이용하려 한다면 상황은 완전히 달라진다. 문제는 한 기차의 운행 불가로 끝나지 않고, 충돌이라는 재앙적 결과로 이어진다. 전력망에서 수요가 공급을 초과하면 도시 전체의 블랙아웃을 유발할 수 있다. 이것이 바로 ‘복잡한 제약’이며, 여기서는 단순한 가격 조절만으로 문제를 해결할 수 없다. 또한 주택처럼 분할이 불가능한 재화나 자동차 공장처럼 규모의 경제가 절대적인 산업에서는 시장을 완벽하게 청산하는 단일한 가격이 존재하지 않을 수 있다.
100년의 시장 실패가 남긴 교훈
밀그럼이 제시한 조지아 주 토지 분배 사례는 시장이 복잡성 앞에서 얼마나 무력해질 수 있는지를 보여준다. 19세기 초, 조지아 주는 복권 추첨으로 작은 단위의 농지를 분배했다. 그러나 시간이 지나면서 기술 발전으로 대규모 농장이 더 효율적인 방식이 되었다. 시장은 이 비효율을 스스로 해결하지 못했다.
이론적으로는 소규모 필지 소유주들이 자발적 거래를 통해 토지를 합병하여 최적 규모의 농지를 형성했어야 한다. 하지만 현실에서 하나의 큰 농지를 만들기 위해서는 수많은 소유주와 동시에 복잡한 다자간 협상을 성사시켜야 했다. 이 과정에서 일부 소유주가 개발을 가로막으며 과도한 보상을 요구하는 ‘알박기(holdout)’ 또는 ‘네일 하우스(nail house)’ 현상도 발생할 수 있었다. 블리클리(Bleakley)와 페리(Ferrie)의 연구에 따르면, 시장이 이 문제를 해결하는 데 무려 100년이라는 시간이 걸렸으며, 그 과정에서 막대한 경제적 가치가 소실되었다. 이는 복잡한 거래 구조와 정보 부족 하에서 ‘보이지 않는 손’이 제대로 작동하지 않았음을 시사한다.
궁극의 설계, FCC 주파수 경매
시장이 직면할 수 있는 복잡성의 정점은 2010년대에 진행된 미국 연방통신위원회(FCC)의 인센티브 경매 사례에서 드러난다. 이 경매의 목표는 명확했다. 케이블 및 위성 TV 보급으로 가치가 하락한 지상파 방송용 주파수를 회수하여, 폭발적으로 증가하는 스마트폰 데이터용 주파수로 용도를 변경하는 것이었다. 하지만 그 실행 과정은 극도로 복잡했다.
전파 간섭 문제: TV 방송 주파수 바로 옆에 휴대폰 주파수를 배치하면 상호 간섭을 일으킨다. 이를 방지하기 위해 주파수 대역 사이에 ‘보호 대역(guard band)’이라는 완충 지대를 설정해야 했다.
전국적 동시 조정: 이동통신 주파수는 전국 어디서나 동일하게 작동해야 그 가치가 극대화된다. 따라서 특정 채널(예: 41번 채널)을 확보하려면, 미국 전역의 모든 41번 채널 방송국과 동시에 거래를 완료해야 했다.
‘풀 수 없는’ 수학 문제: 가장 큰 난관은 경매에서 주파수를 팔지 않고 방송을 계속하려는 방송사들에게 남은 채널들을 어떻게 재배치하느냐였다. 수많은 방송국 간의 복잡한 전파 간섭 제약을 모두 피해야 하는 이 문제는 컴퓨터 과학에서 가장 어려운 난제 중 하나인 ‘그래프 색칠 문제(NP-complete)’와 유사했다. 이 문제의 계산적 복잡성으로 인해, 당시의 최첨단 컴퓨터로도 완벽한 최적의 해를 찾는 것은 사실상 불가능했다.
이러한 극한의 복잡성 앞에서 FCC는 완벽한 최적화를 추구하는 대신, 매우 정교하게 ‘설계된 경매’를 도입했다. 경매 규칙을 단순화하여 영세 방송사들의 참여를 유도하고, 방송사의 재산권을 ‘특정 채널 사용권’이 아닌 ‘방송 지속권’으로 재정의하여 ‘주파수 알박기’를 방지했다. 그 결과, 수십억 달러의 가치를 창출하며 성공적으로 주파수 재배치를 완수할 수 있었다.
지능적 설계와 시장의 미래
폴 밀그럼의 통찰은 오늘날의 비즈니스 리더와 정책 입안자에게 중요한 시사점을 제공한다. ‘보이지 않는 손’은 시장 경제의 위대한 원리이지만, 만능 해결책은 아니다. 우리가 마주하는 현실은 수많은 이해관계와 복잡한 제약 조건, 그리고 예측 불가능한 상호작용으로 가득하다. 이러한 복잡성의 시대에는 시장이 스스로 최적의 경로를 찾을 것이라는 막연한 기대만으로는 부족하다.
성공적인 비즈니스와 정책은 시장의 힘을 부정하는 것이 아니라, 그 힘이 올바르게 작동할 수 있도록 ‘게임의 규칙’을 지능적으로 설계하는 데서 비롯된다. 이는 공급망 재편, 플랫폼 생태계 규칙 수립, 사내 자원 배분 등 다양한 문제에 동일하게 적용될 수 있다. 시장 설계는 보이지 않는 손이 길을 잃지 않도록 돕는 ‘보이는 설계자의 역할’을 규명하며, 시장 스스로 가격을 발견하기 어려울 때 그 길을 열어준다.