내시 균형: 영화 '뷰티풀 마인드' 뒤에 숨은 아이디어

좁은 다리를 양쪽 끝에서 마주 보며 다가오는 두 운전자를 떠올려 보자. 한 번에 한 대의 차만 지나갈 공간밖에 없다. 둘 다 밀고 나가면 충돌한다. 둘 다 정중하게 기다리면 아무도 움직이지 못하고 뒤로 줄만 늘어난다. 합리적인 결과는 한 사람이 가고 다른 사람이 멈춰 서는 것이며, 일단 그 양상이 자리를 잡으면 두 운전자 모두 자신이 하고 있는 행동을 바꿀 이유가 전혀 없다. 기다리는 운전자가 갑자기 앞으로 튀어나간다고 해서 이득을 보지 못하고, 움직이는 운전자가 멈춘다고 해서 이득을 보지도 못한다. 다른 모든 사람이 가만히 있는 한 누구도 다르게 행동해서 더 나아질 수 없는, 그 얼어붙은 채로 스스로를 강화하는 배치가 바로 노벨상을 받고 영화 뷰티풀 마인드에 영감을 준 아이디어의 핵심이다.

이 아이디어는 내시 균형이라 불리며, 미국 수학자 존 포브스 내시 주니어의 이름을 땄다. 기술적으로 들리지만, 사실 이것은 당신이 이름조차 붙이지 않고 하루에 수십 번씩 헤쳐 나가는 무언가를 묘사한다. 교통, 줄 서기, 가격, 협상, 심지어 반쯤 빈 기차에서 어디에 앉을지를 고르는 일까지. 일단 그것이 보이기 시작하면, 다시는 보지 않을 수 없게 된다.

존 내시가 실제로 발견한 것

존 내시는 1940년대 후반 프린스턴의 대학원생이었고, 그때 짧은 박사 학위 논문을 썼는데 이 논문이 결국 1994년 노벨 경제학상을 그에게 안겨주었다. 이 상은 존 하사니, 라인하르트 젤텐과 공동 수상했다. 게임 이론은 이미 하나의 분야로 존재하고 있었는데, 이는 주로 수학자 존 폰 노이만과 경제학자 오스카어 모르겐슈테른 덕분이었다. 두 사람의 1944년 저서 게임 이론과 경제 행동이 그 토대를 놓았다. 그러나 그들의 연구는 대부분 영합 게임이라 불리는 좁은 부류의 상황에 초점을 맞췄다. 영합 게임은 정해진 파이를 나누는 것처럼 한 참가자의 이득이 정확히 다른 참가자의 손실이 되는 게임이다.

내시의 기여는 참가자들이 둘 다 이길 수도, 둘 다 질 수도, 혹은 그 사이의 어떤 결과든 나올 수 있는, 더 지저분하고 더 현실적인 경우를 다룬 데 있었다. 그는 놀라운 수학적 결과를 증명했다. 유한한 수의 참가자와 유한한 수의 선택지가 있는 모든 게임에는 적어도 하나의 균형점이 존재한다는 것이다. 균형점이란 어떤 한 참가자도 혼자서 전략을 바꿔 자신의 결과를 개선할 수 없는 전략의 조합을 말한다. 수학자들이 환호한 것은 바로 그 존재의 보장이었다. 경제학자, 생물학자, 정치학자들이 그 후 70년 동안 활용한 것은 그 일상적인 유용성이었다.

균형, 쉬운 말로

수학을 벗겨내고 보면 내시 균형은 그저 모두가 다른 모든 사람이 하고 있는 것을 전제로 자신이 할 수 있는 최선을 다하고 있는 안정적인 상황일 뿐이다. 그 마지막 구절이 모든 비밀이다. 누구도 진공 속에서 행동하지 않는다. 각 사람의 최선의 수는 다른 사람들의 수에 달려 있으며, 균형이란 그 모든 최선의 반응이 한꺼번에 맞아떨어지는 지점이다.

유용한 검증 방법은 "후회 없음" 확인이다. 먼지가 가라앉고 모두가 다른 모든 사람의 선택을 볼 수 있게 되었다고 상상해 보자. 자신의 결정을 들여다보며 "다른 사람들이 한 것을 알고 보니, 나는 아무것도 바꾸지 않을 것이다"라고 생각한다면, 당신은 균형 상태에 있는 것이다. 단 한 사람이라도 돌이켜보며 "나는 다르게 했어야 했다"라고 생각한다면, 그 상황은 균형이 아니었다. 왜냐하면 그 사람에게는 이탈할 이유가 있었기 때문이다.

결정적으로, 균형이 반드시 집단에게 최선의 결과인 것은 아니다. 그것은 단지 안정적일 뿐이다. 사람들은 모두가 도달할 수 있었던 것보다 더 나쁜 처지에 놓이게 만드는 내시 균형에 갇힐 수 있는데, 단순히 어떤 개인도 혼자서는 그것을 고칠 수 없기 때문이다. 안정적인 것과 좋은 것 사이의 그 간극이 바로 흥미롭고 때로는 비극적인 현실 세계의 많은 결과들이 자리 잡는 곳이다.

죄수의 딜레마: 그 유명한 함정

게임 이론을 통틀어 가장 유명한 예시는 죄수의 딜레마이며, 이것은 균형이 어떻게 모두를 더 나쁜 처지로 몰아넣을 수 있는지를 정확히 보여준다. 두 용의자가 체포되어 서로 의사소통할 수 없는 별도의 방에 갇힌다. 각자에게 똑같은 거래가 제시된다. 당신이 동료를 배신하고 그가 침묵하면, 당신은 자유롭게 풀려나고 그는 무거운 형을 받는다. 둘 다 침묵하면, 각자 더 가벼운 혐의로 짧은 형을 받는다. 둘 다 서로를 배신하면, 둘 다 중간 정도의 형을 받는다.

이제 한 용의자의 입장에서 끝까지 생각해 보자. 동료가 침묵한다면, 그를 배신하는 것은 짧은 형을 사는 대신 자유롭게 풀려나게 해주므로 배신이 더 낫다. 동료가 당신을 배신한다면, 그를 배신하는 것은 가장 무거운 형 대신 중간 정도의 형을 받게 해주므로 다시 배신이 더 낫다. 상대방이 무엇을 하든, 배신이 당신의 최선의 수다. 같은 논리가 동료에게도 적용된다. 그래서 둘 다 배신하고, 둘 다 중간 정도의 형을 받게 된다. 비록 서로 침묵했더라면 둘 다 훨씬 더 나았을 텐데도 말이다.

그 상호 배신이 바로 내시 균형이다. 그것은 안정적이다. 일단 둘 다 자백하고 나면, 어느 쪽도 혼자 침묵으로 바꿔서는 처지를 개선할 수 없다. 그렇게 하면 상대방에게 공짜 면죄부를 건네주는 꼴이기 때문이다. 하지만 그것은 집단적으로는 끔찍하다. 죄수의 딜레마는 국가 간 군비 경쟁에서부터 둘 다 간신히 본전이나 맞출 때까지 가격을 깎아 내리는 두 경쟁 상점에 이르기까지 수많은 현실 상황을 포착한다. 모두가 자신의 합리적 이기심을 따라가다가 곧장 더 나쁜 결과로 빠져드는 것이다.

당신이 이미 살고 있는 일상 속 균형

내시 균형이 작동하는 것을 보는 데 수갑이 필요한 것은 아니다. 일단 찾아보기 시작하면 그것은 어디에나 있다.

도로의 한쪽으로 운전하기: 세계 대부분에서는 모두가 오른쪽으로 운전한다. 영국과 일본 같은 곳에서는 모두가 왼쪽으로 운전한다. 어느 관행이든 안정적인 균형이다. 당신 주변의 모두가 오른쪽으로 운전한다면, 당신의 최선의 수는 당신도 오른쪽으로 운전하는 것이고, 왼쪽도 마찬가지다. 어떤 운전자도 바꿔서 얻을 게 없으며, 바로 그 때문에 그 체계가 유지된다. 보편적으로 "옳은" 쪽은 없으며, 오직 스스로를 강화하는 합의만 있을 뿐이다.

만날 장소 고르기: 당신과 친구가 전화기도 없이 붐비는 도시에서 헤어졌다고 해보자. 둘 다 독립적으로 가장 명백한 랜드마크, 즉 중앙역이나 중앙 광장으로 향한다면, 서로를 찾게 된다. 그 명백한 장소를 경제학자들은 초점이라 부르는데, 이는 노벨상 수상자 토머스 셸링이 발전시킨 개념이다. 이것이 균형인 이유는 어디로 가야 할지에 대한 당신의 최선의 추측이 상대방이 어디로 갈 것이라고 당신이 생각하는지에 달려 있고, 그 유명한 랜드마크가 둘 다를 조율해 주기 때문이다.

경기장에서 서 있기: 앞줄 사람들이 더 잘 보려고 일어서면, 그 뒤의 모두가 따라 일어서거나 아무것도 보지 못하게 된다. 곧 경기장 전체가 서 있게 되고, 앉아 있을 때와 똑같은 시야를 얻지만, 이제는 다리만 아플 뿐이다. 누구도 혼자 앉아서는 나아질 수 없으므로, 모두가 앉기를 선호하는데도 서 있는 균형이 지속된다.

계산대 줄 고르기: 바쁜 슈퍼마켓에서는 손님들이 가장 짧아 보이는 줄로 계속 옮겨 다니기 때문에 줄이 고르게 맞춰지는 경향이 있다. 모든 줄이 대략 비슷해지면, 누구도 옮겨서 시간을 절약할 수 없게 되고, 그 체계는 안정된다. 그 균형이 바로 계산대에서 끊임없이 다시 형성되며 펼쳐지는 작은 내시 균형이다.

답이 하나보다 많을 때

흔한 오해 하나는 모든 게임에 단 하나의 깔끔한 균형이 있다는 것이다. 종종 균형은 여러 개이며, 그것이 진짜 조율 문제를 만들어낸다. 운전 예시는 이미 이를 암시했다. 오른쪽 운전과 왼쪽 운전은 둘 다 완벽하게 안정적이며, 한 나라가 어느 쪽에 안착하느냐의 문제는 부분적으로 역사적 우연이다.

콘서트와 스포츠 경기 사이에서 결정하는 두 친구를 생각해 보자. 둘 다 따로 있기보다는 함께 있기를 원하지만, 한 사람은 콘서트를 약간 더 선호하고 다른 사람은 경기를 더 선호한다. 여기에는 두 개의 균형이 있는데, 둘 다 콘서트에 가거나 둘 다 경기에 가는 것이며, 일단 계획이 정해지면 어느 친구도 혼자 떨어져 나갈 유인이 전혀 없다. 문제는 안정성이 아니라 선택이다. 두 사람은 어느 균형으로 조율할 것인가? 바로 이 때문에 관습, 전통, 계약, 그리고 명확한 의사소통이 현실에서 그토록 중요하다. 이것들은 여러 균형이 가능할 때 집단을 하나의 균형 쪽으로 슬쩍 이끌어 주는 데 도움이 된다.

내시는 또한 균형이 때때로 혼합 전략이라 불리는 것을 요구한다는 점을 보여주었다. 이는 참가자들이 자신의 선택을 무작위로 한다는 뜻이다. 축구의 페널티킥을 생각해 보자. 만약 공격수가 항상 왼쪽으로 찬다면, 골키퍼는 매번 왼쪽으로 몸을 날리는 법을 익힐 것이다. 예측 불가능하게 남으려면 공격수는 이리저리 섞어야 하고, 골키퍼도 마찬가지다. 균형이란 어느 쪽도 더 예측 가능해져서는 이득을 볼 수 없는 특정한 확률의 혼합이다. 내시의 증명은 어떤 단일한 고정된 선택도 안정적일 수 없을 때조차 그러한 균형이 언제나 존재함을 보장했다.

그 아이디어가 그토록 많은 분야를 바꾼 이유

내시 균형은 결과가 여러 행위자의 맞물린 선택에 달려 있는 어떤 상황이든 분석할 수 있는 정밀한 도구를 연구자들에게 주었다. 경제학자들은 이를 사용해 기업이 어떻게 가격을 정하는지, 경매가 어떻게 설계되어야 하는지, 시장이 어떻게 효율적인 결과에 도달하는지(또는 도달하지 못하는지)를 연구한다. 정부가 휴대폰 회사에 무선 주파수를 수십억에 파는 현대적 주파수 경매의 설계는 게임 이론의 이 분야에 직접 의존한다.

그 영향력은 경제학을 훨씬 넘어선다. 진화생물학자들은 이 개념을 "진화적으로 안정한 전략"으로 변형해, 어떤 동물 행동이 세대를 거쳐 지속되는 이유를 설명하는 데 사용했다. 즉, 어떤 행동은 어떤 희귀한 돌연변이 전략도 침입해서 더 나은 결과를 낼 수 없을 때 살아남는다. 정치학자들은 균형 분석을 사용해 투표, 연합, 그리고 군비 경쟁의 암울한 논리를 연구한다. 컴퓨터 과학자들은 이를 의지해 네트워크, 온라인 광고 경매, 그리고 경쟁하는 알고리즘의 행동을 추론한다. 공통된 맥락은 어디서나 동일하다. 합리적인 당사자들이 상호작용하고 각자의 최선의 수가 다른 이들에게 달려 있을 때마다, 내시 균형은 먼지가 가라앉는 그 지점이다.

수학 뒤에 숨은 인간의 이야기를 기억할 만하다. 내시는 수십 년간 조현병과 싸웠는데, 이 시기는 뷰티풀 마인드에 묘사되어 있다. 그는 충분히 회복한 끝에 1994년 노벨상으로 인정받았고, 2015년 세상을 떠나기 직전에는 수학에서 가장 높은 영예 중 하나인 아벨상을 받았다. 그의 아이디어가 지닌 연약한 아름다움은 그것이 갈등 속에서 질서를 찾아냈다는 데, 가장 적대적인 대치 속에 숨어 있는 안정적인 지점을 찾아냈다는 데 있다.

핵심 요약

내시 균형은 모든 참가자가 다른 모든 사람이 내린 선택을 전제로 자신이 할 수 있는 최선의 선택을 하고 있어서, 누구도 혼자 전략을 바꿔 자신의 결과를 개선할 수 없는 상황이다. 그것은 안정성의 지점이지, 반드시 공정성이나 효율성의 지점은 아니다. 바로 그 때문에 죄수의 딜레마는 합리적인 사람들을 협력으로 도달할 수 있었을 것보다 더 나쁜 결과에 가둘 수 있다. 당신은 끊임없이 내시 균형 안에서 살고 있다. 도로의 어느 쪽으로 운전할지, 어느 계산대 줄에 설지, 경기장에서 일어설지 말지. 존 내시의 영속적인 업적은 그러한 균형점이 언제나 존재함을 증명하고, 경제학자, 생물학자, 정치학자들에게 전략, 갈등, 협력을 이해할 단 하나의 예리한 렌즈를 준 것이다. 일단 균형을 알아보는 법을 배우고 나면, 군중과 기업과 국가의 뒤엉킨 선택들이 조금은 덜 혼란스럽게, 그리고 숨겨진 규칙이 있는 게임처럼 훨씬 더 많이 보이기 시작한다.