직장에서 팀끼리 협조하면 더 빠를 것 같은데 왜 다들 정보를 숨기게 될까요? 게임 이론은 바로 그 이유를 설명해 줍니다. 수학에서 출발해 경제학·생물학·국제정치까지 스며든 이 학문을 통해, 사람들이 왜 손해인 줄 알면서도 배신을 택하는지, 그리고 어떻게 하면 협력이 유지되는지 살펴봤습니다.
죄수의 딜레마 — 왜 다들 손해인 선택을 할까요?
혹시 이런 경험 있으신가요? 서로 조금씩만 양보하면 모두가 이익인데, 막상 그 자리에 서면 먼저 내미는 손이 손해처럼 느껴지는 상황 말입니다.
저도 비슷한 상황을 겪었습니다. 부서 간 실적 경쟁이 심하던 시기에 옆 팀과 데이터를 공유하면 일정이 훨씬 당겨질 수 있었는데, 다들 "괜히 먼저 줬다가 성과만 빼앗기는 거 아니야?" 하는 눈치였습니다. 결국 정보는 각자 쥔 채 야근만 늘어났고, 프로젝트가 끝난 뒤 회고에서 "조금만 협조했으면 한 달은 줄었다"는 말이 나왔습니다. 전형적인 죄수의 딜레마(Prisoner's Dilemma)였던 셈입니다. 여기서 죄수의 딜레마란, 각자가 자신의 이익을 극대화하는 선택을 했는데 결과적으로 모두에게 최악이 되는 상황을 뜻합니다.
게임 이론(Game Theory)은 바로 이런 전략적 상황을 분석하는 학문입니다. 내 결과가 내 선택만이 아니라 상대방의 선택에도 달려 있을 때, 우리는 게임적 상황에 놓인 것입니다. 경북대학교 경제학과에서 게임 이론을 강의하는 최정규 교수에 따르면, 게임 이론의 핵심 통찰은 "이기적으로 행동했는데 왜 결과가 최악이 됐을까?"를 분석하는 데 있습니다.
고전적인 죄수의 딜레마 구조를 정리하면 이렇습니다.
- 둘 다 협력(자백 거부): 각각 1년 형 — 전체적으로 가장 좋은 결과
- 한 명만 배신(자백): 배신한 쪽은 석방, 협력한 쪽은 7년 형
- 둘 다 배신(자백): 각각 5년 형 — 논리적으로는 "최선의 선택"이지만 최악의 결과
상대가 어떤 선택을 하든 배신이 나에게 더 유리한 선택이 됩니다. 그래서 둘 다 이 논리를 따르면 결국 5년씩 살게 됩니다. 이것이 딜레마입니다. 이기적 선택들이 모여 집단 전체를 망치는 구조는 직장뿐 아니라 어장을 공유하는 어촌 마을, 군비 경쟁을 벌이는 국가들 사이에서도 똑같이 나타납니다.
아담 스미스가 말한 "보이지 않는 손", 즉 각자가 이익을 추구하면 시장이 효율적으로 작동한다는 명제가 딜레마 상황에서는 완전히 작동하지 않습니다. 이 문제를 해결하는 방법은 두 가지입니다. 사람의 도덕심에 기대거나, 아니면 이기적인 사람도 협력하게 만드는 제도와 메커니즘을 설계하는 것입니다. 경제학자들이 후자에 집중하는 이유는 "최악의 가정(모두가 이기적이다)에서도 작동하는 것이 진짜 안전한 설계"이기 때문입니다. 이를 메커니즘 디자인(Mechanism Design)이라 합니다. 즉, 좋은 규칙이 좋은 시민을 대체할 수 있다는 발상입니다.
팃포탯 전략 — 협력이 살아남는 조건은 무엇일까요?
그렇다면 현실에서 사람들은 정말 항상 배신을 선택할까요? 제 경험상 꼭 그렇지는 않았습니다. 친구들과 여행을 갈 때 숙소 예약과 운전을 서로 미루다가 결국 더 비싼 비용을 낸 적이 있었는데, 그 이후 각자 역할을 나눠 먼저 움직이자 오히려 모두가 더 편해졌습니다. 솔직히 이건 예상 밖이었습니다. 먼저 손 내미는 쪽이 손해를 볼 거라 생각했는데, 분위기 자체가 달라졌거든요.
실험경제학(Experimental Economics) 분야에서도 비슷한 결과가 나왔습니다. 여기서 실험경제학이란 실제 돈을 걸고 통제된 실험을 통해 사람들의 경제적 행동을 연구하는 분야입니다. 위스콘신대학의 연구자들이 1980년대에 실제 돈을 걸고 죄수의 딜레마 실험을 했더니, 이론상 예측과 달리 절반 정도가 끝까지 협력을 선택했습니다(출처: American Economic Review). 경제학 이론이 예측한 "모두 배신"은 현실에서 일어나지 않았던 겁니다. 흥미롭게도 경제학 대학원생 집단에서는 협력률이 가장 낮게 나왔는데, 상대방도 이기적으로 행동할 거라 믿기 때문이었습니다. 상대에 대한 믿음이 낮아지면 나도 방어적으로 된다는 점이 인상적이었습니다.
이런 배경에서 나온 전략이 팃포탯(Tit-for-Tat)입니다. 팃포탯이란 "일단 협력으로 시작하고, 이후에는 상대가 한 행동을 그대로 돌려주는" 전략입니다. 정치학자 로버트 액설로드가 1980년대에 컴퓨터 프로그램 토너먼트를 열어 200번의 반복 게임을 진행했을 때, 단 네 줄짜리 코드로 작성된 팃포탯이 모든 전략을 제치고 1위를 차지했습니다. 이 전략의 핵심은 세 가지입니다. 먼저 선의를 보이고, 배신에는 즉시 응보하고, 상대가 다시 협력하면 용서한다는 것입니다.
진화생물학자 이대안 교수는 이 논리가 자연계에도 그대로 적용된다고 설명합니다. 남미의 흡혈박쥐는 배불리 먹고 온 날 굶은 동료에게 먹이를 토해 나눠 줍니다. 혈연이 아닌 개체에게도 이 행동이 나타나는데, 관계를 추적해 보면 과거에 도움을 받았던 상대에게 돌려주는 직접 호혜성(Direct Reciprocity) 패턴이 확인됩니다. 여기서 직접 호혜성이란 내가 도움을 준 바로 그 상대에게서 나중에 도움을 돌려받는 관계를 뜻합니다(출처: Nature Ecology & Evolution). 제가 직접 회사에서 경험해 봤는데, 작은 정보를 먼저 공유한 이후부터 상대 팀도 자연스럽게 자료를 보내오기 시작했습니다. 팃포탯은 이론 속 전략이 아니라 현실에서도 작동하는 원리였습니다.
다만 팃포탯이 잘 작동하려면 반드시 전제가 있습니다. 관계가 오래 지속된다는 걸 서로 알아야 한다는 점입니다. 딱 한 번으로 끝나는 거래라면 팃포탯은 힘을 쓰지 못합니다. 또한 "무임승차자", 즉 다른 사람들의 협력에 얹혀서 이득만 챙기는 개체가 퍼지지 않도록 공정한 규칙이 함께 작동해야 합니다. 제 경험상 협력적인 분위기가 무너지는 건 항상 무임승차가 용인되는 구조 때문이었습니다.
자주 묻는 질문
Q. 게임 이론은 실생활에서 어떻게 쓰이나요?
A. 경쟁 기업 간 가격 결정, 국가 간 협상, 직장 내 협업 구조까지 광범위하게 적용됩니다. 상대방의 선택이 내 결과에 영향을 미치는 모든 상황이 게임 이론의 분석 대상입니다. 백화점이 할인율을 정할 때 경쟁사의 움직임을 계산하는 것도 게임 이론적 사고입니다.
Q. 죄수의 딜레마에서 항상 배신이 정답인가요?
A. 단판 게임에서는 배신이 논리적으로 유리합니다. 하지만 반복 게임에서는 다릅니다. 상대와 계속 만나야 하는 상황이라면 협력을 유지하는 팃포탯 전략이 장기적으로 더 높은 보수를 가져다줍니다. 게임 횟수가 많아질수록 협력이 살아남을 가능성이 높아집니다.
Q. 경제학자들이 인간을 이기적이라고 가정하는 이유가 뭔가요?
A. "최악의 상황에서도 작동하는 제도를 만들자"는 안전한 가정 때문입니다. 모든 사람이 이기적이라고 가정해도 잘 돌아가는 시스템을 설계하면, 현실에서 그보다 나은 결과가 나오기 때문입니다. 실험 결과들은 실제 인간이 그 가정보다 훨씬 협력적임을 보여줍니다.
Q. 팃포탯의 약점은 없나요?
A. 있습니다. 상대가 실수로 배신했을 때 보복이 반복되면서 협력이 무너지는 "보복 사이클"이 생길 수 있습니다. 이를 보완한 변형 전략이 "관대한 팃포탯(Generous Tit-for-Tat)"으로, 가끔 실수를 용서해 주는 방식입니다. 또한 관계가 짧거나 일회성일 때는 효과가 크게 떨어집니다.
Q. 동물도 게임 이론을 '사용'하나요?
A. 의식적으로 계산하지는 않지만, 결과적으로 게임 이론이 예측하는 최적 전략에 가까운 행동을 합니다. 자연선택이 협력에 유리한 행동 양식을 살아남게 만들었기 때문입니다. 흡혈박쥐의 먹이 공유나 사슴의 뿔 구조가 대표적인 사례입니다.
결론
게임 이론을 알고 나면 세상이 조금 다르게 보입니다. 누군가가 이기적으로 구는 것도, 협력이 갑자기 무너지는 것도, 규칙 하나가 분위기를 바꾸는 것도 다 나름의 논리가 있었던 겁니다.
제 경험상 가장 인상 깊었던 교훈은 "착하게 살면 손해"가 아니라 "협력적인 사람이 손해 보지 않는 구조가 중요하다"는 점이었습니다. 개인의 도덕심에만 기대기보다, 협력이 자연스럽게 이득이 되는 환경을 만드는 것이 훨씬 현실적인 접근입니다. 데이비드 흄의 말처럼, 도덕이 이익이 된다는 걸 증명하지 못하면 도덕은 힘을 잃습니다.
팃포탯이 알려주는 것도 결국 같습니다. 먼저 손 내밀고, 배신에는 단호하게 응대하고, 그래도 다시 협력의 여지를 남겨두는 것. 이게 수십 년의 실험과 자연계가 공통으로 증명한 가장 강력한 전략입니다. 주변에서 협력이 잘 안 된다고 느끼신다면, 규칙과 구조부터 한번 살펴보시는 게 어떨까요?
참고: https://www.youtube.com/watch?v=L48AxWItw0U&list=PLkKcqR2KGxgzqeKZo1Rx93kJFokuVkpye