예전에는 이베이에서 경매를 한 번 해본 것이 전부였어요. 소더비나 크리스티 경매에서 고가의 미술품이 최고가를 경신했다는 뉴스는 그저 흥미로운 소식 정도로만 듣곤 했죠. 최근 연구 중에 경매 절차를 이용한 실험을 하면서 경매이론이라는 것을 알게 되었고, 놀랍게도 이 경매이론으로 노벨 경제학상이 두 차례나 수여되었다는 사실도 알게 되었어요. 경매에 대해 도서를 검색해 보면 90% 이상이 부동산 경매에 관한 것만 나오고 이론서는 거의 절판되어 구하기도 힘들더라구요. 그래서 요즘 공부하면서 정리한 내용을 올립니다.

1. 단순한 거래를 넘어 시장을 설계하는 과학

1990년대, 미국 경제의 미래를 좌우할 중요한 자원인 '주파수'의 주인을 찾는 방식은 거대한 전환점을 맞이했다. 이전까지는 정부 관료들이 서류를 심사하거나 운에 맡겨 추첨하는 방식이었다. 이는 수년간의 법적 다툼과 막대한 로비 비용을 유발하거나, 자원을 비효율적으로 배분하는 결과를 낳았다. 그러나 폴 밀그럼과 같은 경제학자들이 제시한 정교한 '경매이론'을 바탕으로 새로운 시장이 설계되었다. 그 결과, 미국 정부는 1,000억 달러가 넘는 막대한 수익을 올렸고, 주파수는 새로운 통신 산업을 이끌어갈 혁신적인 기업들의 손에 쥐어졌다. 이는 경매가 단순히 물건을 사고파는 행위를 넘어, 하나의 산업 생태계를 창조하고 국가의 부를 증대시키는 강력한 '시장 설계' 도구임을 증명한 사건이었다.

우리는 기업의 인수합병, 정부의 국책 사업자 선정, 심지어 회사의 비품 조달 과정에서도 경매의 원리를 발견할 수 있다. 이때 어떤 규칙을 적용하는지에 따라 결과는 극적으로 달라진다. 어떤 입찰 방식이 회사의 수익을 극대화할 수 있는가? 어떻게 해야 가장 유능한 파트너에게 프로젝트를 맡길 수 있는가? 우리 회사는 경쟁에서 이기기 위해 어떤 전략을 세워야 하며, 경쟁사들의 보이지 않는 함정은 무엇인가?

21년 노벨 경제학상 수상자인 밀 그롬 교수의 저서 “Putting Auction Theory to Work” 내용을 기반으로 경매이론의 핵심 원리부터 비즈니스 현장에서 마주하는 실제 문제들을 해결한 구체적인 적용 사례까지 정리하였다. 네 가지 기본 경매 방식의 특징과, 이들의 기대수익이 같다는 놀라운 이론적 발견, 그리고 그 이론이 현실의 비즈니스 세계에서 어떻게 달라지는지를 살펴볼 것이다. 나아가 FCC 주파수 경매를 성공으로 이끈 '메커니즘 디자인'의 정수를 통해, 경매이론이 우리 사회와 경제에 어떤 전략적 가치를 제공하는지 조명하고자 한다. 이는 시장의 보이지 않는 손을 우리가 원하는 방향으로 이끄는 방법에 대한 깊이 있는 통찰이 될 것이다.

2. 경매의 네 가지 얼굴과 근본적인 수수께끼

경매는 크게 네 가지 기본 형태로 나눌 수 있으며, 각각의 규칙은 참가자들에게 완전히 다른 전략적 사고를 요구한다.

첫째, 영국식 경매(English Auction)다. 우리가 가장 흔하게 떠올리는 오름차순 경매 방식이다. 경매사가 낮은 가격에서 시작하여 호가를 점차 올리면, 입찰자들은 자신이 지불할 용의가 있는 가격을 넘어서면 경매를 포기한다. 미술품 경매나 부동산 경매장에서 흔히 볼 수 있는 오름차순 방식이다. 낮은 가격에서 시작해 호가가 오를수록, 참가자들은 자신이 생각하는 가치의 한계를 넘어서면 조용히 자리를 뜬다. 마지막까지 남은 한 사람이 낙찰자가 된다.

둘째, 네덜란드식 경매(Dutch Auction)다. 영국식과 정반대로, 매우 높은 가격에서 시작하여 경매사가 점차 가격을 내린다. 가장 먼저 구매 의사를 밝힌 입찰자가 그 순간의 가격으로 물품을 낙찰받는다. 네덜란드의 꽃 시장에서 유래한 이 방식은 신속한 거래가 필요할 때 유용하다. 기업이 채권을 발행하여 자금을 조달하는 '채권 발행 금리 결정'과 유사하다. 회사는 낮은 금리(높은 채권 가격)에서 시작해 점차 금리를 올린다. 투자자들은 자신이 원하는 수익률(금리)에 도달했을 때 구매 의사를 밝히고, 계획된 물량이 모두 팔리면 그 순간의 금리가 최종 결정된다.

셋째, 1등 가격 봉인입찰 경매(First-Price Sealed-Bid Auction)다. 모든 입찰자가 다른 사람의 입찰가를 모르는 상태에서 자신만의 가격을 적어 밀봉하여 제출한다. 가장 높은 금액을 써낸 사람이 낙찰되며, 자신이 써낸 바로 그 금액을 지불한다. 정부의 건설 계약이나 자원 개발권 입찰 등에서 흔히 사용된다. 이 방식에서 입찰자들은 자신이 이기기 위해 얼마를 써야 할지, 동시에 너무 많이 써서 손해 보지 않으려면(승자의 저주) 얼마까지 낮춰야 할지를 깊이 고민해야 한다. 정부의 대규모 건설 프로젝트 입찰이 대표적인 예다. 모든 건설사는 경쟁사의 입찰가를 모르는 상태에서, 자신들이 생각하는 최적의 공사 비용을 비밀리에 적어 제출한다. 가장 낮은 금액을 써낸 회사가 프로젝트를 수주하고, 자신이 써낸 바로 그 금액으로 계약한다. 이 방식에서 참가자들은 '수주를 위해 최대한 낮게 써야 하지만, 너무 낮게 써서 손실을 보면 안 된다'는 딜레마에 빠진다.

넷째, 2등 가격 봉인입찰 경매(Second-Price Sealed-Bid Auction) 또는 비크리 경매(Vickrey Auction)다. 노벨 경제학상 수상자인 윌리엄 비크리의 이름을 딴 것으로, 규칙이 매우 독특하다. 1등 가격 경매처럼 비밀리에 입찰하지만, 가장 높은 금액을 쓴 사람이 낙찰받고 지불하는 금액은 자신이 쓴 금액이 아닌, 두 번째로 높았던 입찰 금액이다.  언뜻 보기에 2등 가격 경매는 판매자에게 불리한 것처럼 보인다. 하지만 이 규칙에는 놀라운 마법이 숨어있다. 바로 모든 입찰자에게 자신의 진정한 가치(true value)만큼 입찰하는 것이 최선의 전략(우월 전략)이 된다는 점이다. 만약 자신의 가치보다 낮게 입찰하면 꼭 필요했던 물건을 놓칠 위험이 커지고, 더 높게 입찰한다고 해도 자신이 내는 가격(2등 가격)에는 영향을 주지 않으면서 실수로 너무 비싸게 살 위험만 커지기 때문이다. 이 단순함은 이론 분석의 매우 중요한 기준점을 제공한다.

이 방식의 규칙은 매우 독특하여 전략 수립에 중요한 시사점을 준다.

• 예시: A사와 B사가 우리 회사의 새로운 소프트웨어 시스템 구축 프로젝트를 따내기 위해 경쟁한다고 가정하자. 우리는 두 회사에 "이 프로젝트를 수행할 수 있는 절대 최저가"를 비밀리에 써서 내라고 요청했다. A사는 9억 원을, 기술력이 더 좋은 B사는 5억 원을 써냈다.
• 규칙: 더 낮은 가격을 제시한 B사가 프로젝트를 수주한다. 하지만 우리가 B사에게 지불하는 금액은 B사가 써낸 5억 원이 아니라, 탈락한 A사가 써낸 9억 원이다.

이 규칙의 놀라운 점은, B사 입장에서 자신의 진짜 최저가인 '5억'을 써내는 것이 가장 유리한 전략이 된다는 것이다. 만약 6억이라고 더 높게 썼어도 어차피 9억을 받으니 결과는 같지만, 욕심을 내서 9억 5천이라고 썼다가는 A사에게 프로젝트를 뺏겨 막대한 이익(매출 9억, 원가 5억)을 놓치게 된다. 이처럼 '정직함이 최선의 전략'이 되게 만드는 구조 덕분에, 빅리 경매는 이론 분석의 중요한 기준점이 된다.

그렇다면 이 네 가지 방식 중 어떤 것이 우리 회사(판매자)에게 가장 큰 이익을 가져다줄까? 놀랍게도 **수익 등가성 정리(Revenue Equivalence Theorem)**는 이상적인 조건 하에서는 네 가지 방식 모두 기대수익이 평균적으로 동일하다고 말한다. 네 방식 모두 결국 가장 높은 가치를 가진(또는 가장 낮은 비용을 가진) 참가자가 이기는 동일한 결과를 낳는다면, 참가자들이 기대하는 이익도 같아야 하고, 따라서 판매자의 기대수익도 같아진다는 것이다. 이 정리는 "규칙의 차이를 이해하려면, 이상적인 모델을 넘어 현실의 복잡성을 들여다봐야 한다"는 중요한 과제를 던진다.

3. 기준 모델을 넘어서: 규칙이 결과를 바꿀 때

수익 등가성 정리가 성립하는 이상적인 '기준 모델'은 현실 세계가 아니다. 실제 비즈니스에서는 위험 회피, 예산의 한계, 정보의 비대칭성 등 복잡한 변수들이 존재하며, 바로 이 지점에서 경매 규칙의 선택이 승패를 가른다.

첫째, 위험을 회피하는 마음(Risk Aversion)이다. 만약 입찰자들이 위험을 회피하는 성향을 가졌다면, 1등 가격 경매와 2등 가격 경매의 결과는 달라진다. 2등 가격 경매에서는 어차피 내가 낼 돈이 남에 의해 결정되므로, 위험을 감수할 필요 없이 나의 가치대로만 입찰하면 된다. 하지만 1등 가격 경매에서는 상황이 다르다. 위험을 싫어하는 입찰자는 아슬아슬하게 패배하는 쓰라린 경험을 피하고 싶어 한다. 따라서 승리 확률을 높이기 위해, 이익을 조금 덜 보더라도 더 공격적으로, 즉 더 높게 입찰하는 경향이 있다. 이는 마치 패배의 위험에 대비해 '보험'을 드는 것과 같다. 입찰자들이 이렇게 더 높은 가격을 써내기 때문에, 판매자의 기대수익은 1등 가격 경매에서 더 높아진다.

• 1등 가격 경매: 입찰자들이 신중하게 계산하여 입찰하므로 낙찰 가격의 변동성이 작아 판매자에게 안정적인 수익을 안겨준다.
• 2등 가격 경매: 낙찰 가격이 2등 입찰자의 행동에 따라 크게 좌우되므로 수익이 매우 불확실하다. 따라서 안정성을 중시하는 판매자라면 1등 가격 경매를 선호할 것이다. 반대로 입찰자 입장에서 보자. 중요한 프로젝트를 '아깝게 놓치는' 위험을 피하고 싶다면, 이익을 조금 줄이더라도 1등 가격 경매에서 더 공격적으로 높은 가격을 써서라도 반드시 따내려 할 것이다. 이러한 입찰자들의 성향은 1등 가격 경매의 평균 낙찰가를 높여 판매자의 수익을 증대시킨다.

둘째, 승자의 저주(Winner's Curse)와 서로 얽힌 정보(Correlated Values)다.

석유 시추권을 두고 여러 회사가 입찰하는 상황을 생각해보자. 각자 지질 조사를 하지만, 땅속에 묻힌 석유의 양이라는 '진정한 가치'는 하나다. 이때 가장 높은 가격을 불러 낙찰받은 회사는 '혹시 나만 너무 긍정적으로 보고 비싼 값을 치른 것은 아닐까?' 하는 '승자의 저주' 공포에 빠진다.

이때 영국식(오름차순) 경매는 훌륭한 해법이 된다. 경쟁사들이 어느 가격대에서 입찰을 포기하는지를 실시간으로 보면서, 그들의 정보를 간접적으로 학습할 수 있기 때문이다. "A사도 저 가격까지는 포기 안 하는 걸 보니, 여기 석유가 꽤 있나 보군" 식의 추론이 가능하다. 이처럼 정보가 서로 긍정적으로 '연계'되면서 승자의 저주에 대한 공포가 줄어들고, 입찰자들은 더 자신감 있게 입찰에 참여한다. 반면, 정보가 차단된 1등 가격 봉인입찰에서는 모두가 승자의 저주를 피하기 위해 몸을 사릴 수밖에 없다. 따라서 이런 환경에서는 영국식 또는 2등 가격 경매가 더 높은 수익을 가져다준다.

셋째, 텅 빈 지갑(Budget Constraints)이다.

입찰자들의 예산이 한정되어 있다면, 자신의 실제 가치만큼 높게 입찰해야 하는 2등 가격 경매는 부담이 크다. 최종 지불액이 예산을 초과할 위험이 있기 때문이다. 반면, 가치보다 낮게 입찰하는 1등 가격 경매에서는 예산의 압박이 덜하다. 따라서 자금력이 부족한 중소기업들이 많이 참여하는 시장에서는 1등 가격 경매가 더 활발한 경쟁과 높은 수익을 이끌어낼 수 있다.

이처럼 현실의 비즈니스 환경을 어떻게 진단하느냐에 따라 최적의 경매 전략은 완전히 달라진다. 성공적인 비즈니스는 바로 이러한 시장의 특성을 꿰뚫어 보고 최적의 '게임의 룰'을 선택하는 데서 시작된다.

4. 설계자의 도구상자: 최적 경매와 현실 세계의 적용

경매이론의 진정한 힘은 기존의 방식을 비교하는 것을 넘어, 특정 목표를 달성하기 위한 **최적의 경매 규칙 자체를 '설계'**하는 데 있다. 이를 **메커니즘 디자인(Mechanism Design)**이라 부르며, 이 이론이 가장 성공적으로 적용된 사례가 바로 FCC 주파수 경매다.

사례 연구: FCC 주파수 경매

• 문제 상황: 당신이 회사 워크샵 장소를 구하는데, 숙소, 식당, 강당을 한꺼번에 예약해야 한다고 가정하자. 그런데 각 시설의 주인이 달라 따로따로 계약해야 한다. 숙소를 비싸게 계약했는데, 식당 예약을 놓치면 워크샵 전체가 무산될 수 있다. 이처럼 여러 자산이 서로 보완재 관계일 때, 하나씩 순차적으로 확보하는 것은 매우 위험하다. FCC가 팔아야 했던 수많은 주파수 면허들이 바로 이런 관계에 있었다.

• 이론적 해결책: 동시 오름차순 경매 (SMR)

  경제학자들이 설계한 이 방식은 다음과 같은 영리한 규칙으로 이 문제를 해결했다.

  1. 동시 진행: 숙소, 식당, 강당에 대한 입찰을 모두 동시에 시작하고 마감한다. 이를 통해 참가자는 각 시설의 실시간 가격을 비교하며 합리적인 의사결정을 할 수 있다.
  2. 활동 규칙: "간만 보다가 막판에 끼어들기 금지! 처음부터 진지하게 참여할 분만 남으세요." 이 규칙은 모든 참가자가 경매 초반부터 자신의 진짜 계획을 드러내게 하여, 경매의 예측 가능성과 효율성을 높였다.
  3. 동시 마감 규칙: 단 하나의 시설이라도 입찰이 진행 중이면, 다른 모든 시설의 경매도 끝나지 않는다. 이는 '숙소' 계약에 실패한 사람이 다른 대안을 찾을 시간을 보장하여, 참가자들이 안심하고 끝까지 경쟁하도록 만들었다.

이 설계 덕분에 FCC는 막대한 수익과 함께, 주파수라는 자원을 가장 필요한 사업자에게 효율적으로 배분하는 데 성공했다.

최적 경매와 '마법의 가격' 설정법

메커니즘 디자인은 판매자의 수익을 극대화하는 **최적 예비 가격(Optimal Reserve Price)**을 설정하는 과학적인 방법론 또한 제공한다. "이 제품의 출시 가격을 얼마로 책정해야 수익이 최대가 될까?"라는 기업의 고민에 대한 답을 주는 것과 같다. 이론은 '가치'가 아닌 **'한계 수익(Marginal Revenue)'**이라는 개념을 사용하여, 그 최적의 균형점을 정확히 계산해낸다.

하지만 불로-클렘퍼러(Bulow-Klemperer) 정리는 더 중요한 교훈을 준다. "한 달 내내 완벽한 가격 전략을 짜는 것보다, 그 시간에 유력한 잠재 고객 한 명을 더 영업해서 데려오는 것이 낫다." 즉, 정교한 규칙 설계보다, 시장의 경쟁 자체를 활성화하는 것이 수익 증대에 훨씬 효과적이라는 것이다.

결국 경매이론은 경영자와 정책 결정자에게 풍부한 전략적 도구상자를 제공한다. 시장의 특성을 정확히 진단하고, 그에 맞는 최적의 도구를 조합하여 원하는 목표를 달성하는 것, 이것이 바로 '현장에서 작동하는 경매이론'의 핵심이다.

5. 더 넓은 맥락과 사회경제적 의미

성공적인 경매는 단순히 똑똑한 입찰 규칙만으로 완성되지 않는다. 누가 경매에 참여하는지, 그리고 낙찰 이후의 약속은 어떻게 이행되는지가 그 성패를 좌우한다. 경매이론은 이러한 더 넓은 맥락까지 포괄하여 사회경제적으로 깊은 의미를 가진다.

경매의 성공을 좌우하는 '참여'의 문제

• 예시: 어떤 프로젝트 입찰에 업계 1위인 '골리앗' 기업이 참여할 것이 확실시된다고 생각해보자. 다른 '다윗' 같은 중소기업들은 "어차피 들러리만 설 텐데, 비싼 제안서 작성 비용만 날리는 것 아닌가?" 하고 참여를 포기할 수 있다. 실제로 유럽의 3G 주파수 경매 당시, 강력한 기존 통신사들의 존재감 때문에 신규 사업자들이 참여를 꺼렸고, 스위스에서는 입찰이 흥행에 참패하여 국가적 손실로 이어졌다. 경쟁이 없으면 시장은 작동하지 않는다.
• 경쟁 촉진을 위한 장치: 이 문제를 해결하기 위해, 대기업이 중소기업 협력사를 키워 독점 공급업체의 횡포를 막는 것처럼, 경매 설계자도 약한 입찰자들에게 '핸디캡'을 줄 수 있다. FCC가 소규모 사업자에게 제공한 **입찰 크레딧(bidding credits)**은 그들이 자금력 있는 대기업과 겨룰 수 있는 발판을 마련해주었고, 이는 오히려 전체 경매의 경쟁을 더 치열하게 만들어 총수익을 높이는 결과를 낳았다.

부품이 아닌 '완성품'을 파는 법: 패키지 입찰

워크샵 장소를 구할 때 숙소, 식당, 강당이 함께 있어야만 의미가 있듯이, 여러 품목이 서로 보완재 관계인 경우가 많다. 이때 각 품목을 따로 팔면 입찰자들은 필요한 조각을 다 모으지 못할 위험 때문에 적극적으로 입찰하기 어렵다.

이에 대한 해결책이 바로 **패키지 입찰(Package Bidding)**이다. 이는 입찰자가 '숙소+식당+강당' 묶음 전체에 대해 한 번에 입찰할 수 있게 하는 방식이다. 이는 기업의 복잡한 조달 문제나 정부의 다수 자산 매각에서 매우 효율적인 해법이 될 수 있다. 하지만 여기서 표준적인 2등 가격(빅리) 경매는 기술적 결함이 발견되어, 이를 보완한 새로운 방식의 경매들이 활발히 연구되고 있다.

경매이론의 사회경제적 의미

1. 효율적인 자원 배분: 경매는 주파수, 유전, 탄소 배출권 같은 희소자원을 가장 필요로 하고 가장 잘 활용할 수 있는 주체에게 배분하는 투명하고 효율적인 방법을 제공한다. 이는 한정된 자원으로 최대의 가치를 창출하여 경제 전체의 성장을 이끈다.
2. 투명성 증대와 공정성: "누구를 아는가"가 아닌 "얼마의 가치를 창출할 수 있는가"를 기준으로 자원을 배분한다. 이는 불투명한 로비나 특혜 시비를 줄이고, 모든 참가자에게 동등한 기회를 제공하는 '공평한 운동장'을 만든다.
3. 공공 재원 확보: 정부가 주관하는 경매는 국가의 재정 수입을 크게 늘려, 그 돈으로 국방, 복지, 교육 등 국민을 위한 공공 서비스에 재투자할 수 있는 기회를 제공한다.

결론

경매이론은 더 이상 책상 위 학자들의 지적 유희가 아니다. 그것은 인센티브에 대한 깊은 이해를 바탕으로 현실의 시장을 설계하고, 복잡한 경제 문제를 해결하는 강력하고 실용적인 도구로 진화했다. 정부의 정책 수립에서 기업의 전략적 의사결정에 이르기까지, 잘 설계된 경매의 규칙은 보이지 않는 곳에서 우리의 자원이 더 효율적으로 배분되고 사회적 가치가 극대화되도록 돕고 있다. 결국 좋은 경매 설계란 주어진 환경의 맥락을 이해하고, 인간의 전략적 행동을 예측하며, 모두에게 이로운 결과를 이끌어내는 지혜의 산물인 것이다.