죄수의 딜레마, 둘이 합의하면 되는데 왜 안 될까

저는 이 개념을 현실에서 당해보고 배운 게 아닙니다. 책에서 먼저 만났죠. 그런데 책을 덮고 나서도 한참 남는 질문이 하나 있더군요.

 

둘 다 입을 다물면 각자 1년, 둘 다 자백하면 각자 5년입니다. 그러면 만나서 "우리 둘 다 입 다물자" 한마디만 맞추면 끝나는 문제 아닌가요. 저는 이 지점이 제일 안 잡혔습니다.

 

이 글에서는 죄수의 딜레마가 성립하는 조건, 합의가 왜 버티지 못하는지, 그리고 "경쟁이 붙었으니 죄수의 딜레마"라는 흔한 말이 어디서 어긋나는지를 순서대로 봅니다.

 

 

숫자를 먼저 깔아둡니다

 

상황은 이렇습니다. 공범으로 의심되는 두 사람을 따로 불러 조사합니다. 서로 대화는 불가능합니다. 조건은 넷이죠.

 

둘 다 침묵하면 각자 징역 1년.
둘 다 자백하면 각자 징역 5년.

한 명만 자백하면 자백한 쪽은 즉시 석방, 침묵한 쪽은 징역 10년.

 

표로 옮기면 이렇게 됩니다. 괄호 안은 (내 형량, 상대 형량)입니다.

구분	상대가 침묵	상대가 자백
내가 침묵	1년, 1년	10년, 0년
내가 자백	0년, 10년	5년, 5년

 

내 입장에서만 계산해보면

 

상대가 침묵한다고 쳐봅시다. 나는 침묵하면 1년이고 자백하면 석방입니다. 자백이 낫죠.

상대가 자백한다고 쳐봅시다. 나는 침묵하면 10년, 자백하면 5년입니다. 이번에도 자백이 낫습니다.

 

 

상대가 무엇을 고르든 나는 자백이 유리합니다. 이렇게 상대의 선택과 무관하게 언제나 더 나은 선택지를 우월전략(dominant strategy)이라고 부릅니다. 둘 다 우월전략을 따르면 자백과 자백에서 멈추고, 이 칸에서는 누구도 혼자 마음을 바꿔 이득을 볼 수 없습니다. 이렇게 아무도 이탈할 이유가 없는 상태가 내시 균형(Nash equilibrium)이죠.

 

문제는 두 사람이 감옥에서 보내는 시간의 합입니다.

결과	두 사람 형량 합계
둘 다 침묵	2년
한 명만 자백	10년
둘 다 자백	10년

 

각자 가장 똑똑하게 굴었는데 도착한 칸이 합계 10년입니다. 2년으로 끝낼 수 있었는데 말이죠. 개인의 최선을 전부 더해도 전체의 최선이 되지 않는다는 것. 각자 자기 이익을 좇으면 사회는 알아서 좋아진다는 오래된 믿음이 절대적인 자리에서 한 발 물러나는 계기가 됐습니다.

 

제가 제일 안 잡혔던 부분, 합의는 왜 못 버티나

 

여기서부터가 제가 오래 걸린 대목입니다. 두 사람이 미리 만나 "절대 자백하지 말자"고 약속했다고 해봅시다. 그 약속이 표의 숫자를 하나라도 바꿨나요. 아닙니다. 약속을 하고 나서도 상대가 침묵하면 나는 자백해서 석방될 수 있고, 상대가 자백하면 나는 자백해야 형량이 줍니다. 유인 구조가 그대로면 말은 그냥 말입니다.

 

더 결정적인 건 상대도 똑같이 생각한다는 점입니다. 나는 상대가 약속을 깰 이유가 충분하다는 걸 알고, 상대도 내가 그렇게 생각한다는 걸 압니다. 그래서 합의는 오히려 배신의 타이밍을 알려주는 신호가 되기도 하죠.

 

죄수의 딜레마가 비협조 게임을 전제로 한다는 말이 바로 이 뜻입니다. 선택에 대해 상대가 어떤 강제력도 행사할 수 없다는 조건이 붙어 있습니다. 그래서 두 사람이 단순한 공범이 아니라 조직에 속해 있어서 배신자를 처리하는 힘이 따로 존재한다면, 그건 이미 죄수의 딜레마가 아닙니다. 조건이 다른 게임으로 바뀐 겁니다.

 

영국에서 2007년부터 2009년까지 방영된 골든 볼스라는 프로그램의 마지막 라운드가 이 구조를 그대로 씁니다. 협력하면 상금을 반씩 나누고, 혼자 배신하면 다 가져가고, 둘 다 배신하면 아무도 못 가져갑니다. 여기서는 대화가 허용되는데도 딜레마가 풀리지 않습니다. 상대의 협력을 끌어내려는 설득과 허풍이 오갈 뿐이죠. 말은 게임을 끝내지 못하고 게임의 일부가 됩니다.

 

현실에서 약속이 지켜지는 이유도 여기서 갈립니다. 대부분은 선의가 아니라 어겼을 때 치를 대가 때문입니다. 계약서, 위약금, 평판, 다음 거래. 이 장치가 하나도 없는 상태를 모형으로 만든 게 죄수의 딜레마입니다.

 

그래서, 이게 정말 죄수의 딜레마인가

 

이 개념이 워낙 유명하다 보니 경쟁이 붙은 상황이면 일단 갖다 붙이는 경우가 많습니다. 저는 이럴 때 세 가지를 순서대로 확인합니다.

 

첫째, 상대가 무엇을 하든 나에게 더 나은 선택이 하나로 정해져 있는가.
둘째, 모두가 그 선택을 하면 모두가 더 나빠지는가.
셋째, 약속을 강제할 장치가 없는가.

 

셋 다 예여야 죄수의 딜레마입니다. 하나라도 아니오가 나오면 이름이 달라지고, 처방도 달라집니다.

 

가장 자주 오분류되는 사례가 뱅크런입니다. 개별 예금자의 판단이 모여 전체에 나쁜 결과를 만든다는 점은 닮았습니다. 그런데 첫 번째 질문에서 걸립니다. 남들이 돈을 빼지 않으면 나도 굳이 뺄 이유가 없고, 남들이 빼기 시작하면 나도 빼야 합니다. 최적의 행동이 상대의 행동에 따라 뒤집히죠. 상대와 무관한 최선이 존재하지 않는 겁니다.

 

구분	죄수의 딜레마	뱅크런
상대와 무관한 최선	있음, 배신	없음
균형의 개수	1개	2개
나쁜 결과의 원인	유인 구조	서로에 대한 예상
바꿔야 할 것	배신의 대가	모두의 예상

 

이런 종류를 조정 게임(coordination game)이라고 부릅니다. 그래서 처방이 다릅니다. 죄수의 딜레마는 배신했을 때 손해를 보게 만들어야 풀리지만, 뱅크런은 "다들 안 뺄 것"이라는 예상을 고정시켜야 풀립니다. 예금자 보호 장치가 그래서 필요하죠. 구조를 잘못 읽으면 엉뚱한 처방을 들고 오게 됩니다.

 

빠져나오는 방법은 결국 둘 중 하나 

 

첫째는 게임을 반복시키는 겁니다. 로버트 액설로드는 언제 끝날지 모르는 반복 상황에서 어떤 전략이 가장 나은지 겨루는 대회를 두 차례 열었습니다. 온갖 정교한 전략이 몰렸는데 우승은 팃포탯이라는 아주 단순한 방식이었습니다. 처음에는 무조건 협력하고, 그다음부터는 상대가 직전에 나에게 한 대로 그대로 따라 하는 게 전부입니다.

 

더 놀라운 건 두 번째 대회입니다. 액설로드가 팃포탯이 왜 이겼는지 분석해 참가자들에게 미리 나눠줬는데도, 다시 팃포탯이 이겼습니다. 전략이 다 공개된 상태에서도 이긴 거죠. 이 전략의 성격은 네 마디로 요약됩니다. 먼저 협력하고, 단순해서 읽히고, 당하면 갚고, 상대가 돌아오면 지난 일은 덮습니다.

 

둘째는 강제력을 만드는 겁니다. 냉전기 미국과 소련의 핵 군비 경쟁이 이 모형으로 자주 설명됩니다. 상대가 핵을 쌓는지 모르는 상태에서는 각자 쌓는 쪽이 합리적이고, 그래서 둘 다 쌓아 모두가 손해를 봅니다. 양쪽 모두 이 손해를 알고 있었기 때문에 직통 회선을 열고 핵 확산 금지 조약을 맺는 식으로 장치를 만들었습니다. 배신의 유인을 없앨 수 없다면, 배신의 대가를 만드는 방향이죠.

 

 

그래서 저는

죄수의 딜레마라는 말이 나오면 형량표부터 그리지 않습니다. 앞의 체크리스트 첫 번째 질문, 상대와 무관한 최선이 존재하는지부터 봅니다. 그게 안 보이면 다른 게임이고, 다른 처방이 필요하니까요.

 

한 가지 아쉬운 건 이 개념이 쓰이는 방식입니다. "어차피 서로 배신할 거니까 내가 먼저 한다"는 말의 근거로 인용되는 걸 종종 봅니다. 이 모형이 말하는 건 배신이 옳다는 게 아닙니다. 이런 구조를 그대로 두면 배신이 나온다는 것이죠. 바꿔야 할 대상은 사람의 마음이 아니라 판 자체입니다.

 

 

📌 함께 읽으면 좋은 글
· 세계화(Globalization) 완벽 정리 : 개념부터 2026년 무역질서까지
· 지니계수와 로렌츠 곡선, 숫자가 낮으면 잘사는 나라일까

· 경남 모다드림 청년통장 총정리 | 월 20만 원 넣고 2년 뒤 960만 원, 8월 19일 마감