무리, 벌집, 그리고 위계: 동물은 왜 함께 사는가

1963년과 1964년, 윌리엄 도널드 해밀턴이라는 박사 과정 학생은 런던 유니버시티 칼리지의 골턴 연구소에서 빌린 책상에 앉아 노란 종이에 글을 쓰며, 번식하지 못하는 일벌을 마침내 이해할 수 있게 해 줄 대수식을 풀어 가고 있었다. 그는 어색했고 자주 사람들의 눈 밖에 났으며, 자신의 지도교수들조차 거의 이해하지 못하는 무언가를 자신이 붙들고 있다고 확신했다. 그가 만들어 낸 것은 짧은 부등식, 즉 세 개의 글자와 부등호 하나였고, 1964년 Journal of Theoretical Biology에 실린 두 편의 짧은 논문으로 발표되었다. 그리고 그 논문들은 사회적 행동의 유전학 이론을 세웠으며, 한 세기가 넘도록 진화생물학을 조용히 괴롭혀 온 한 가지 질문에 답을 내놓았다.

그 질문은 말로 옮기기는 쉬워도 답하기는 놀랄 만큼 어렵다. 꿀벌 군집에는 수만 마리의 일벌이 있는데, 그 모두가 자기 알을 결코 낳지 못하는 암컷이다. 이들은 벌집을 짓고 애벌레를 먹이며 꿀을 모으러 다니고 목숨을 걸고 벌집을 지키지만, 정작 번식은 하지 않는다. 자연선택이 번식의 성공을 보상하는 것이라면, 어떻게 번식을 완전히 포기하는 동물을 만들어 낼 수 있었단 말인가? 더 넓게 보아, 어째서 그토록 많은 동물이 무리와 벌집과 서열화된 위계 속에서 함께 살며, 흔히 실제 비용까지 치러 가면서 남을 돕는 것일까? 이 글은 다윈이 스스로 고백한 난점에서 출발해 해밀턴의 법칙을 거쳐 그 너머에 이르기까지, 동물이 도대체 왜 협력하는가를 설명하는 사고의 흐름을 따라간다.

이론을 거의 침몰시킬 뻔한 하나의 특별한 난점

찰스 다윈이 1859년 종의 기원을 출간했을 때, 그는 자신의 논증이 어디에서 가장 취약하게 느껴지는지를 솔직히 밝혔다. 결코 번식하지 않는 일벌과 일개미와 일흰개미 같은, 사회성 곤충의 불임 계급은 그에게 "하나의 특별한 난점, 처음에는 극복할 수 없어 보였고 실로 내 이론 전체에 치명적으로 보였던 것"으로 다가왔다. 자연선택은 번식의 차이를 통해 작동하므로, 한 개체가 더 많은 자손을 남기도록 돕는 형질은 퍼지고 번식을 방해하는 형질은 사라진다. 일벌은 자손을 전혀 남기지 않는다. 그의 이론을 곧이곧대로 읽으면 불임은 곧바로 선택에서 밀려나야 마땅한데, 그런데도 군집 전체가 그 불임 위에 세워져 있다.

다윈은 답의 윤곽을 어렴풋이 보았다. 선택이 곤충 개체 하나하나가 아니라 가족 전체에 작용할 수 있어서, 쓸모 있는 불임 일꾼을 만들어 내는 군집이 그러지 못한 군집을 능가할 수 있다고 본 것이다. 그는 이를 정밀하게 다듬을 유전학을 갖추지 못했지만, 그 직관은 옳은 방향을 가리켰다. 그리고 그 수수께끼는 누군가가 빠진 산수를 채워 넣을 때까지 백 년 동안 풀리지 않은 채 남아 있었다.

한 분야를 재편한 세 개의 글자

그 누군가가 바로 해밀턴이었고, 그의 답은 오늘날 해밀턴의 법칙으로 알려져 있다. 이 법칙은 남을 돕도록 그 보유자를 유도하는 유전자가 r·B > C일 때 개체군 전체로 퍼져 나간다고 말한다. 글자 r은 행위자(돕는 쪽)와 수혜자(도움을 받는 쪽) 사이의 근연도 계수로, 두 개체가 한 유전자를 혈통을 통해 공유할 확률을 재는 수치다. 글자 B는 수혜자에게 돌아가는 적합도 이익으로 늘어난 자손 수로 헤아리며, C는 행위자가 치르는 적합도 비용, 즉 도움을 줌으로써 포기하는 자손 수다. 근연도만큼 할인된, 친척에게 돌아가는 이익이 자신이 치르는 비용을 능가할 때, 돕는 유전자가 이긴다.

이 부등식 속에 숨은 개념적 도약은, 한 생물이 자기 유전자의 사본을 두 가지 방식으로 다음 세대에 전할 수 있다는 점이다. 직접 번식할 수도 있고, 친척이 번식하도록 도울 수도 있는데, 친척은 같은 유전자의 사본을 지니고 있기 때문이다. 어미가 백 마리의 자매를 낳도록 돕는 벌은, 제 알을 몇 개 낳는 것보다 훨씬 효과적으로 자기 유전자를 퍼뜨릴 수 있다. 생물학자들은 개체 자신의 번식에, 친척에게서 가능하게 한 번식을 근연도로 가중해 합한 총량을 그 개체의 포괄 적합도라 부르며, 자연선택이 이 값을 극대화한다는 것이 해밀턴의 통찰이었다. 이를 받아들이는 순간, 불임 일꾼은 더 이상 모순이 아니라 훌륭한 다윈주의적 전략이 된다.

자매 벌이 어미와 딸보다 더 가까운 이유

유전학적으로 보면 사정은 이보다 한층 더 유리하게 드러나는데, 그 까닭은 벌과 개미와 말벌이 유전자를 물려받는 방식의 한 특이점에 있다. 이 곤충들은 벌목에 속하며 반수이배성이라는 체계로 번식한다. 수컷은 수정되지 않은 알에서 발생해 반수체로, 단 한 벌의 염색체만 지니는 반면, 암컷은 수정된 알에서 발생해 이배체로, 부모에게서 한 벌씩 받은 두 벌의 염색체를 지닌다. 이 비대칭은 자매들이 서로 얼마나 가깝게 연결되는가에 기묘한 결과를 가져온다.

여왕이 단 한 마리의 수컷과 짝짓기를 하면, 그 딸들은 모두 아버지의 전체 유전체에서 동일한 사본을 받는다. 반수체인 아버지에게는 물려줄 염색체가 단 한 벌뿐이기 때문이다. 어머니 쪽으로는 두 자매가 평균적으로 유전자의 절반을 공유한다. 완전히 공유되는 아버지 쪽 기여에 절반만 공유되는 어머니 쪽 기여를 더하면, 친자매 사이의 근연도는 0.75가 나오는데, 이는 어미와 그 딸 사이의 표준값인 0.5에 견주어 더 높다. 그래서 일벌은 제 자손보다 자매들과 더 가깝게 연결되어 있다. 해밀턴은 1964년에 이를 알아채고 현상 전체의 열쇠로 읽었다. 반수이배성 종에서는, 어미가 더 많은 자매를 길러 내도록 돕는 것이 스스로 번식하는 것보다 유전적으로 더 나은 도박일 수 있으며, 이것이야말로 해밀턴의 법칙이 요구하는 바로 그 전제 조건이다. 반수이배성이 곤충 사회로 가는 유일한 길은 아니어서 흰개미는 그것 없이도 사회를 이루지만, 수수께끼를 딱 들어맞게 만든 산수의 한 조각으로서 0.75라는 수치는 전율을 일으켰다.

진사회성과 지구에서 가장 협력적인 동물들

협력을 극한까지 밀어붙이는 벌, 개미, 흰개미는 생물학자 에드워드 O. 윌슨이 정밀하게 규정한 한 범주에 들어간다. The Insect Societies(1971)와 Sociobiology: The New Synthesis(1975)에서 그는 함께 모여 알려진 가장 극단적인 사회 조직 형태인 진사회성을 규정하는 세 가지 진단적 특징을 제시했다. 같은 군집 안에서 함께 사는 세대들의 겹침, 새끼에 대한 협동적 돌봄으로 개체가 제 자식이 아닌 새끼를 보살피는 것, 그리고 번식 가능한 계급이 번식을 맡고 불임이거나 거의 불임인 일꾼 계급이 노동을 맡는 번식의 분업이다.

꿀벌과 개미와 흰개미는 모두 이 기준을 충족하며, 놀랍게도 어느 포유류 한 종도 그렇다. 동아프리카의 땅속 굴 체계에서 사는, 거의 눈이 멀고 털이 없는 설치류인 벌거숭이두더지쥐는 같은 원리로 군집을 운영한다. 단 한 마리의 번식하는 여왕, 한 줌의 번식하는 수컷, 그리고 굴을 파고 먹이를 구하고 방어하는 수십 마리의 비번식 일꾼이 있다. 이런 종류의 군집은 하나의 일관된 전체로 결합되는 특수화된 부분들의 망이며, 그 논리는 훨씬 더 작은 무언가를 메아리친다. 진핵세포 내부에서는 세포골격이 세 가지 섬유 체계를 중심체와 함께 사용해 세포에 모양과 운동성, 그리고 분열하는 능력을 부여한다. 작동하는 전체를 짓기 위해 특수화된 부분들이 협력하는 것은, 생명이 모든 규모에서 거듭 돌아오는 건축적 주제다.

낯선 이가 낯선 이를 도울 때

혈연 관계는 많은 것을 설명하지만 모든 것을 설명하지는 못한다. 동물은 때로 전혀 친족이 아닌 개체와도 협력하기 때문이다. 1971년, 로버트 트리버스라는 하버드 대학원생은 혈연이 아닌 두 동물이 서로 돕는 데서 각자 이익을 얻을 수 있을 때 무슨 일이 벌어지는지를 물었다. 1971년 3월 Quarterly Review of Biology에 실린 그의 논문 "The Evolution of Reciprocal Altruism"은 그 답을 내놓았다. 혈연이 아닌 개체들 사이의 협력은, 상호작용이 시간을 두고 반복되고 또 개체가 이전에 누가 자신과 협력했는지를 알아보고 기억할 수 있다면 진화할 수 있다는 것이다. 돕는 쪽은 나중에 되돌려 받으리라는 기대로 지금 비용을 치르며, 이 체계는 받기만 하고 주지 않는 배신자를 가려내어 끊어낼 수 있기에 비로소 지탱된다.

교과서적 사례는 흡혈박쥐다. 이 박쥐들은 피를 먹고 살며 한 끼를 구하지 못하면 며칠 안에 굶어 죽을 수 있는데, 먹이를 무사히 취한 박쥐는 그러지 못한 둥지 동료에게 자기 먹이의 일부를 게워 내어 흔히 나누어 준다. 이 나눔은 혈연이 아니라 필요를 따르며, 박쥐들은 전에 자신을 도와준 상대에게 우선적으로 호의를 되갚는데, 이는 트리버스의 이론이 예측하는 바로 그 반복적이고 상대를 특정한 교환의 양상이다. 상호성은 협력으로 가는 두 번째 길을 더해 주는데, 이 길은 공유된 유전자가 아니라 기억과 인식, 그리고 앞으로 다시 마주칠 것이라는 그림자에 기대고 있다.

쪼는 순서와 갈등의 조용한 경제학

함께 사는 것은 협력만으로는 풀리지 않는 문제를 낳는다. 먹이와 짝과 공간을 둘러싼 경쟁이다. 모든 갈등을 싸움으로 해결해야 한다면 부상과 에너지로 치르는 비용은 파멸적일 것인데, 동물이 이를 아끼는 방식이 처음 면밀히 기술된 곳은 어느 양계장이었다. 1922년, 토를레이프 셸데루프에베라는 노르웨이 동물학자는 오슬로 대학교에서 집닭의 사회적 행동에 관한 박사 논문을 완성했다. 그는 암탉들이 안정적인 선형 서열로 정렬되어, 각 새가 자기 아래의 새들을 쪼을 수 있고 자기 위의 새들에게는 양보해야 한다는 점을 알아챘고, 일상의 언어에 굳어진 이름을 그것에 붙였다. Hackordnung, 곧 쪼는 순서다.

같은 논리는 늑대에서 영장류, 산호초 물고기에 이르기까지 척추동물 전반에 되풀이된다. 우열 위계는 승자와 패자를 미리 예측 가능하게 정해 둠으로써 비용이 큰 싸움을 줄여, 대부분의 다툼이 난투가 아니라 눈짓 하나나 자세 하나로 결판나게 한다. 결과가 이미 분명한 싸움에서는 어느 동물도 얻을 것이 없기 때문이다. 이렇게 읽으면 위계는 단순히 괴롭히는 자와 당하는 자의 사다리가 아니라 갈등 감소 체계, 곧 집단생활에서 피할 수 없는 경쟁을 모두에게 더 값싸게 만드는 방식이다.

유전자, 집단, 그리고 이타성이 진짜 뜻하는 것

해밀턴의 틀이 아무런 반대 없이 승리한 것은 아니다. 1960년대에 걸쳐 경쟁 이론인 집단 선택이 널리 통용되었고, 생태학자 베로 윈에드워즈가 1962년에 이를 옹호했다. 그것은 동물이 종 전체의 이익을 위해 스스로를 절제하여, 자원을 고갈시키지 않으려고 자기 번식을 조절한다고 보았다. 반면 혈연 선택은 동물이 종의 이익이 아니라 친척이 지닌 자기 유전자의 사본을 위해 행동한다고 보았다. 1970년대에 이르러 증거는 결정적으로 혈연 선택 쪽으로 기울었는데, "종의 이익을 위하여"라는 발상은 다른 이들이 자제하는 동안 마음껏 번식하는 어떤 이기적 개체에게도 취약하다는 것이 드러났기 때문이다. 생물학자 데이비드 슬론 윌슨이 다수준 선택을 수학적으로 동등한 재구성으로 되살려 내면서 이 발상은 뒤집혔다기보다 나중에 다듬어졌지만, 집단 선택의 소박한 형태는 살아남지 못했다.

마지막 한 가지가 가장 흔한 오해를 풀어 준다. 해밀턴을 처음 접하는 학생들은 이타성을 도덕적 관념, 곧 친절이나 너그러운 감정의 문제로 여기기 쉽지만, 진화생물학에서 이 단어는 정확하고 감상이 배제된 뜻을 지닌다. 이타적 행동이란 행위자 자신의 평생 번식 적합도를 낮추는 동시에 수혜자의 적합도를 높이는 행동을 말하며, 의도와 감정은 그 정의에서 완전히 배제된다. 일벌은 제 자매에 대해 무언가를 느끼든 말든 이 기술적 의미에서 이타주의자다. 존 메이너드 스미스와 외르스 사트마리가 The Major Transitions in Evolution(1995)에서 주장했듯, 바로 이 포괄 적합도의 논리는 생명의 역사에서 가장 깊은 사건들을 관통한다. 염색체로 결합한 유전자들에서, 다세포의 몸으로 모여든 단세포들로, 그리고 공유된 언어 위에 사회를 세운 인간들로 이어지는 사건들이다. 제대로 이해하면 협력은 진화가 거듭 빚어낸 위대한 발명 가운데 하나다.

핵심 요점

동물이 함께 사는 까닭은, 알맞은 조건 아래에서 협력이 자연선택이 헤아리는 유일한 화폐, 곧 다음 세대로 전해지는 유전자로 보답하기 때문이다. 다윈은 1859년 불임 일꾼 곤충을 거의 치명적인 난점으로 지목했고, W. D. 해밀턴은 1964년에 r·B > C라는 법칙으로 이를 해결했다. 그는 친척에게 돌아가는 근연도 가중 이익이 돕는 쪽의 비용을 능가할 때 돕는 유전자가 퍼진다는 것을 보였는데, 친척은 같은 유전자의 사본을 지니고 있고 포괄 적합도가 남에게서 가능하게 한 번식까지 헤아리기 때문이다. 반수이배성은 벌과 개미와 말벌에서 이 거래를 더 날카롭게 만들어, 친자매에게 어미와 딸 사이의 0.5에 대비되는 0.75의 근연도를 부여하며, 진사회성을 추동하는 데 기여했다. 진사회성은 E. O. 윌슨이 세대의 겹침과 협동적 새끼 돌봄, 그리고 번식의 분업을 통해 규정했으며, 꿀벌과 흰개미와 벌거숭이두더지쥐에게서 나타난다. 혈연이 아닌 개체들 사이에서도 협력은 상호성을 통해 진화할 수 있는데, 이는 로버트 트리버스가 1971년에 보였고 흡혈박쥐가 입증한다. 한편 셸데루프에베의 쪼는 순서 같은 우열 위계는 갈등이 폭력으로 번지기 전에 결판을 냄으로써 집단생활의 비용을 줄인다. 혈연 선택은 소박한 집단 선택을 누르고 이겼으며, 여기서 이타성은 도덕적 행동이 아니라 적합도를 낮추는 행동을 뜻하고, 같은 논리가 생명의 역사 전반에 걸쳐 복잡성을 빚어낸 주요 전이들을 구성한다.