개미는 바보인데 개미집은 천재인 이유 — 창발이란 무엇인가
팀은 왜 어떤 날은 똑똑하고, 어떤 날은 멍청할까
회의가 끝난 직후 복도에서 답이 나온 경험, 한 번쯤은 있을 것이다.
회의 중에는 아무도 해결의 실마리를 잡지 못했다. 한 시간 동안 각자 발언을 했고, 화이트보드엔 화살표와 단어들이 뒤엉켰지만 방향이 잡히지 않았다. 그런데 회의실 문을 닫고 나오는 길에, 복도 한쪽에서 두 사람이 나누는 짧은 말 한마디로 갑자기 방향이 보였다. 회의가 아니라 복도가 결정적인 순간이었다. 나도 그 복도 쪽 대화가 회의보다 결정적이었던 적이 한두 번이 아니다.
그 반대 경험도 있다. 각자는 다 뛰어난 사람들이었다. 기획을 오래 한 사람, 코드를 빠르게 짜는 사람, 일정을 한 치 오차 없이 관리하는 사람. 그런데 이 셋이 한 방에 모이면 번번이 헛돌았다. 따로 일할 때보다 같이 일할 때 결과물이 더 어정쩡했다. 팀이 모일수록 왜 더 나빠지는지 설명하기 어려웠다.
이 두 장면의 비대칭이 오랫동안 이상했다. 개인이 평범한데 팀이 예상보다 훨씬 좋은 결과를 만드는 순간이 있다. 개인이 각자 유능한데 팀으로선 영 힘을 못 쓰는 순간도 있다. 이게 어디서 오는지, 개인 역량을 바꾸는 것 이외의 설명을 찾기 어려웠다.
조직 심리학 책에서는 "팀워크"와 "소통"이라는 말이 나왔다. 맞는 말이지만 뭔가 한 꺼풀 더 들어가지 못하는 느낌이었다. 팀워크를 높이라는데, 팀워크가 정확히 어떤 구조여야 하는지는 설명이 없었다.
그 설명을 엉뚱한 데서 찾게 됐다. 개미집에서.
나도 그게 궁금했다 — 개인 실력의 총합이 팀 성능이 아니었다
몇 년 전, 처음으로 6명 규모 팀 프로젝트를 맡았던 첫 3개월 동안 나는 확실히 틀린 믿음을 갖고 있었다. 팀 성과는 팀원 역량의 합이라는 믿음이었다. 그래서 매주 상세한 지시서를 만들었고, 각자가 정해진 범위 안에서 완수하면 좋은 결과가 나올 거라 생각했다. 세 달 동안 그렇게 밀어붙였는데 결과물은 계속 지시서와 다른 방향으로 흘러갔고, 결국 지시서를 던지고 매일 30분씩 팀원들이 자유롭게 이야기하는 시간만 확보하는 방식으로 바꿔봤다. 정확히 그 시점부터 팀 아웃풋이 내가 지시한 것보다 더 나은 방향으로 튀어나오기 시작했는데, 그때는 왜 그런지 몰랐다. 몇 년 뒤 개미집 이야기를 읽고서야, 내가 손을 뗀 자리에 무엇이 대신 들어왔었는지가 비로소 이해됐다.
그게 이 글을 쓴 이유다.
"개인 합 ≠ 전체 성능"이라는 감각은 그때 처음 생겼는데, 이 질문의 답이 경영학 책보다 개미한테 있다는 건 예상하지 못했다.
개미는 왜 여기에 등장하는가? 개미 집단은 인간이 만든 팀보다 훨씬 극단적인 형태로 이 현상을 보여준다. 개체가 아무것도 모르는 상태에서, 집단이 최적해를 낸다. 그래서 창발을 이해하는 데 이보다 좋은 교재가 없다.
개미 한 마리는, 사실 아무것도 모른다
개미를 한 마리 집어서 앞에 놓고 보자.
먼저 뇌의 크기 이야기부터 해야 한다. 사람의 뇌에는 약 860억 개의 신경세포(뉴런)가 있다. 개미는 종에 따라 다르지만, 가장 작은 종은 약 90,000개, 더 큰 종도 250,000개 수준이다. 2021년 왕립학회 학술지에 32개 종의 개미 뇌를 분석한 연구가 실렸는데, 그 결론은 이렇다. "개미는 꿀벌이나 말벌보다도 특히 작은 뇌를 가진다 — 세포 수와 질량 모두에서." 860억 대 25만. 숫자만 보면 비교 자체가 무의미하게 느껴진다. 직접 이 숫자를 나란히 놓고 보니 그제야 실감이 났다.
그런데 문제는 뇌 크기만이 아니다.
개미에게 주어진 정보는 극도로 국소적이다. 페로몬(개미가 지나가면서 몸에서 분비해 남기는 냄새 자국), 다른 개미와의 접촉, 진동 같은 신호가 전부다. "지금 집단 전체가 어떤 상황인지"를 파악하는 능력은 없다. 2008년 미어메콜로지컬 뉴스에 발표된 연구를 보면, 개미는 "근처의 냄새 자국이나 다른 개미의 더듬이 접촉 같은 국소 신호에 기반한 단순한 규칙 집합"만 따른다. 큰 그림을 보는 게 아니라, 지금 당장 코앞의 신호에만 반응한다.
의사결정을 내리는 것도 아니다.
짐이 무거우면 안쪽으로 움직이고, 가벼우면 입구 쪽으로 움직인다. 이 수준에 가깝다. 관계 학습도 어렵다. 왕립학회 학술지에 발표된 연구에 따르면, 개미는 관계 학습 과제를 풀기 어려울 때 단순 경험칙, 즉 휴리스틱에 의존한다. 상황을 분석해서 전략을 짜는 게 아니라, "이럴 땐 이렇게"라는 단순한 반응으로 버틴다.
정리하면 이렇다. 개미 개체는 전체 지도를 보지 못한다. 결정을 내리지 않는다. 인접한 신호에 단순하게 반응할 뿐이다.
이 개체들이 수만 마리 모이면 무슨 일이 일어날까?
그런데 이 바보들이 모이면, 최단 경로를 푼다
곤충학은 말한다. "개미는 코앞의 냄새에만 반응한다."
복잡계 과학은 말한다. "코앞에만 반응하는 것들이 서로를 증폭한다."
두 문장이 같은 얼굴을 하고 있다. 둘 다 '멀리 보지 않는 반응' 하나만 말하고 있다.
둘의 공통항은 자기강화 피드백이다. 작은 신호가 서로를 증폭해 임계값을 넘는 순간, 개체에 없던 성질이 전체 수준에서 튀어나온다. 그게 창발(emergence)이다.
창발을 생활 언어로 풀면 이렇다. "부품에는 없던 성질이 전체 수준에서 태어나는 것." 복잡계 과학 분야 학술지에 실린 정의는 "개별 성분의 속성만으로는 설명할 수 없는 거시적 성질이 나타나는 현상"이다. 개미 한 마리를 들여다봐도 최단 경로 찾기 능력은 없다. 그런데 집단이 되면 있다.
이 구조가 어떻게 작동하는지, 두 장면으로 살펴보자.
장면 하나. 아무도 지휘하지 않는데 최단 경로가 생긴다.
개미가 먹이를 발견하면 페로몬을 남기며 돌아온다. 다른 개미들이 그 냄새를 따라 같은 길을 가면, 더 많은 페로몬이 쌓인다. 더 많은 페로몬은 더 많은 개미를 끌어당긴다. 이것이 자기를 강화하는 피드백 루프다.
여기서 결정적인 지점이 있다. 짧은 길은 긴 길보다 순환 속도가 빠르다. 같은 시간에 더 많이 오가면 페로몬이 더 빠르게 쌓인다. 짧은 길에 개미가 몰리고, 긴 길의 페로몬은 점점 희미해진다. 지시한 개미가 없어도, 전체 지도를 아는 개체가 없어도, 결과적으로 최단 경로만 남는다.
2023년 스탠퍼드 대학 연구팀이 아마존 열대우림의 나무 개미를 추적해 이 메커니즘을 수학적으로 분석했다. 흐름의 속도가 증가할수록 최단 경로로 수렴한다는 것을 확인했다. 1989년에 Goss와 Deneubourg가 이 피드백 구조를 처음 '자기촉매적(autocatalytic)' 반응으로 설명했고, 30년이 넘는 후속 연구들이 같은 구조를 반복해서 확인해왔다.
개체들의 국소 반응이 집합적으로 최적해를 만들어낸다. 어떤 개미도 "이 길이 최단이니 모두 여기로"라고 명령하지 않는다. 그런데 집단은 그 결론에 도달한다.
겪어보면 이상하게 친숙한 장면이다. 회의실에서 아무도 해결책을 제시하지 못했는데 복도에서 답이 나왔던 그 순간. 누군가 의도적으로 만든 결과가 아니었다. 정보가 오가는 구조가 바뀌었을 때 나타난 결과였다.
장면 둘. 개별 개미는 온도계가 아닌데, 집단은 온도계처럼 작동한다.
개미 집단은 땅 온도가 일정 수준 이상으로 올라가면 집단으로 둥지를 떠난다. 흥미로운 건 이 임계 온도가 군집 크기에 따라 달라진다는 점이다. 군집이 클수록 더 높은 온도에서야 대피를 시작한다. 작은 집단은 더 낮은 온도에서 먼저 움직인다.
미국 국립과학원 학술지에 발표된 연구에서 이것을 "집단적 감각 반응 임계값의 창발"이라 이름 붙였다. 개별 개미 한 마리는 온도를 정밀하게 측정하는 능력이 없다. 그런데 집단이 되면 온도계처럼 작동한다. 게다가 집단의 크기에 따라 감도가 달라지는 정교한 온도계로. 개체에 없던 감각이 집단 수준에서 나타난 것이다.
이 두 장면이 보여주는 것은 같다. 개체의 능력을 올린 게 아니다. 개체 간 상호작용의 구조가 전체 수준의 새로운 성질을 만들어낸다.
이 구조가 개미에만 있는 건 아니다.
사람 뇌를 연구하는 쪽에서 가장 오래 풀리지 않은 문제가 의식(consciousness)이다. 의식이 창발이라는 건 많은 신경과학자가 지지하는 관점이지만, 확립된 정설은 아니다. 뉴런 하나는 의식이 없다. 어떻게 신호를 주고받는지는 알지만, 그 세포 안에 "나는 생각한다"가 들어있진 않다. 그런데 수십억 개가 연결되면 주관적 경험이 나타난다. 2025년 한 리뷰 논문은 이를 "뉴런들의 통합적 활동에서 떠오르는 창발 성질"로 정리한다. 뇌를 아무리 들여다봐도 의식이 있는 세포는 없다. 그런데 의식은 있다.
이 세 렌즈를 나란히 놓으면 무언가가 드러난다.
곤충학 렌즈가 보여준 것: 개미 개체는 단순하다. 전체를 보지 못하고, 국소 신호에만 반응한다.
복잡계 과학 렌즈가 겹치면 보이는 것: 단순한 개체들의 국소 상호작용이 자기강화 피드백을 통해 임계값을 넘을 때, 전체 수준의 새로운 성질이 태어난다. 이것이 창발이다.
의식 연구 렌즈가 더해지면 보이는 것: 이 구조는 개미에 한정되지 않는다. 우리 뇌 안에서, 지금 이 글을 읽고 있는 이 순간에도 같은 일이 일어나고 있다.
세 분야가 같은 지점을 가리킨다. 연결의 구조가 개체에 없던 성질을 만들어낸다는 것.
그리고 2006년 왕립학회 학술지에 발표된 연구는 이 피드백 루프가 "개미뿐 아니라 물고기 떼의 방향 전환, 새떼의 비행 패턴 등 다양한 집단에서 같은 형태로 나타난다"고 정리했다. 자기강화 피드백은 개미의 특수한 능력이 아니다. 상호작용이 있는 모든 집합에서 원칙적으로 가능한 구조다.
우리 팀도 예외가 아닐 수 있다.
그럼 우리 팀에서 오늘 볼 수 있는 것 하나
자기강화 피드백이라는 개념을 팀 장면에 얹어보자.
팀 지능은 개인 실력의 총합이 아니라 피드백의 밀도다. 개미집이 최단 경로를 찾는 이유는 개미가 똑똑해서가 아니라, 개미들 사이의 신호가 자기를 강화하며 순환하기 때문이다. 페로몬이 돌아야 경로가 최적화되듯, 팀 안에서 정보가 돌아야 팀 결과가 나온다.
이 관점에서 보면, 리더가 오늘 바꿔볼 것은 사람 능력 평가가 아니다. 그보다 먼저 볼 것은 "정보가 팀 안에서 얼마나 자주, 얼마나 짧은 경로로 오가고 있는가"다.
몇 년 전 내가 지시서를 던지고 30분 대화 시간을 확보한 것은, 사실 모르고 한 일이었다. 지금 생각하면 그것은 페로몬 루프를 열어둔 것이었다. 팀원들이 서로의 생각에 반응하고, 그 반응이 다시 반응을 낳는 순환이 시작될 수 있는 구조를 만든 것이었다.
아주 작은 관찰 하나를 제안해본다. 나도 이걸 다음 회의에서 한번 시도해볼 참이다.
다음 회의에서 발언 총량 대신, 발언끼리 얼마나 서로를 물고 이어졌는지를 세어본다. 누군가의 발언이 다음 사람의 발언을 이끌어냈을까? 그 연결이 또 다른 연결로 이어졌을까? 개미 연구에서 흐름 속도가 증가할수록 최단 경로로 수렴했듯, 발언의 연결이 촘촘해질수록 무언가 다른 일이 생기는지 보자.
"이렇게 하면 팀이 반드시 똑똑해진다"고 말하는 게 아니다. 하지만 이 관점을 갖고 보면, 왜 그 회의가 좋았는지, 왜 저 팀은 잘 되는지가 다르게 읽히기 시작한다. 개인 역량이 아니라 연결의 구조를 보게 된다.
이게 작은 차이처럼 보이지만, 실제로 고치는 것이 달라진다.
개미집이 천재였던 게 아니라, 연결이 천재였다
처음 질문으로 돌아가자.
팀은 왜 어떤 날은 똑똑하고, 어떤 날은 멍청할까?
개미집에서 본 것은 이 질문에 하나의 렌즈를 준다. 개미집이 천재인 건 개미가 특별히 똑똑해서가 아니었다. 개체들 사이의 연결이 자기강화 피드백을 만들고, 그 피드백이 임계값을 넘었을 때 집단 수준에서 새로운 성질이 태어났다. 그게 창발이 만들어낸 얼굴이었다.
우리 조직에서도 같은 얼굴이 산다. 우리 뇌 안에서도 지금 이 순간 같은 일이 일어나고 있다. 그리고 그 얼굴은 개체를 바꾼다고 나타나는 게 아니다. 연결의 밀도와 구조가 바뀔 때 나타난다.
여기서 한 가지 질문이 남는다. 어떤 시스템에서는 창발이 잘 일어나고, 어떤 시스템에서는 왜 일어나지 않을까? 개미집도 어떤 조건이 갖춰져야 최단 경로를 찾을까? 신호가 얼마나 밀도 있어야 하고, 임계값은 어떻게 형성될까?
그 이야기 — 창발이 일어나는 조건 편 — 는 다음에 이어보자.
같은 방식으로 쓴 글이 하나 더 있다. 우리 몸은 왜 대칭일까 — 생물이 대칭을 선택한 진화적 이유. 몸의 좌우가 왜 닮았는지를 진화 쪽에서 따라간 글인데, 이 글과 마찬가지로 "부품이 아니라 규칙이 형태를 만든다"는 자리에서 만난다.
참고 자료
- Godfrey, Swartzlander & Gronenberg (2021). Allometric analysis of brain cell number in Hymenoptera suggests ant brains diverge from general trends. Proceedings of the Royal Society B.
- Dornhaus & Franks (2008). Individual and Collective Cognition in Ants and Other Insects. Myrmecological News, vol. 11.
- Garg, Shiragur, Gordon & Charikar (2023). Distributed algorithms from arboreal ants for the shortest path problem. PNAS.
- Sumpter (2006). The principles of collective animal behaviour. Philosophical Transactions of the Royal Society B.
- PNAS (2022). The emergence of a collective sensory response threshold in ant colonies.
- PMC10887681 (2024). Emergence and Causality in Complex Systems.
- Goss & Deneubourg (1989). Collective patterns and decision-making. Ethology Ecology & Evolution.
- Frontiers in Computer Science (2025). The consciousness spectrum: the emergent nature of purpose, memory, and adaptive response.
- Royal Society B (2020). Ants resort to heuristics when facing relational-learning tasks they cannot solve.