게임이론에서 내시균형은 상대방이 현재 전략을 유지한다고 할 때, 어느 한쪽도 혼자 전략을 바꿔 더 유리해지기 어려운 상태를 뜻합니다. 경쟁, 협상, 가격 결정처럼 서로의 선택이 결과에 영향을 주는 상황을 분석할 때 핵심적으로 활용됩니다.
📌 핵심 5줄 요약
1. 내시균형은 누구도 혼자 전략을 바꿔 이익을 높이기 어려운 상태입니다.
2. 상대방의 선택에 따라 내가 가장 유리한 선택을 최적 반응이라고 합니다.
3. 각 플레이어의 최적 반응이 만나는 조합이 내시균형입니다.
4. 내시균형은 항상 모두에게 가장 좋은 결과이거나 사회적으로 효율적인 결과는 아닙니다.
5. 보수행렬을 만들고 우월전략, 최적 반응, 일탈 가능성을 순서대로 확인하면 분석할 수 있습니다.
📌 목차
01 | 게임이론과 전략적 상호작용
02 | 내시균형의 정확한 뜻
03 | 플레이어·전략·보수 구분하기
04 | 보수행렬 읽는 방법
05 | 최적 반응 찾기
06 | 내시균형 구하는 절차
07 | 죄수의 딜레마 사례
08 | 내시균형과 우월전략
09 | 내시균형과 파레토 최적
10 | 순수전략과 혼합전략
11 | 반복게임에서 달라지는 점
12 | 협조게임과 비협조게임 비교
13 | 분석할 때 자주 하는 오류
14 | 실제 상황에 적용하는 방법
01 | 게임이론과 전략적 상호작용
게임이론은 여러 의사결정자의 선택이 서로의 결과에 영향을 주는 상황을 분석하는 방법입니다. 여기서 게임은 오락만을 뜻하지 않으며, 기업의 가격 경쟁, 협상, 입찰, 스포츠 전술, 일상적인 선택까지 포함합니다.
혼자 결정하는 문제라면 자신의 비용과 편익만 계산하면 됩니다. 그러나 상대방도 동시에 선택한다면 상대의 행동을 예상해야 하므로 의사결정 구조가 달라집니다. 내시균형은 바로 이 상호의존적인 선택을 설명하는 개념입니다.
02 | 내시균형의 정확한 뜻
내시균형은 모든 플레이어가 상대방의 전략을 고려해 자신의 전략을 선택한 결과입니다. 현재 조합에서 한 플레이어가 혼자 전략을 바꿔도 보수가 증가하지 않는다면 그 조합은 내시균형일 수 있습니다.
중요한 점은 ‘가장 좋은 전체 결과’가 아니라 ‘상대의 선택이 고정됐을 때 각자에게 최선인 선택’이라는 것입니다. 따라서 내시균형에서는 플레이어들이 서로 만족한다기보다, 일방적으로 바꿀 유인이 없다고 이해하는 편이 정확합니다.
03 | 플레이어·전략·보수 구분하기
분석을 시작하기 전에 세 가지 요소를 구분해야 합니다. 플레이어는 의사결정 주체이고, 전략은 선택할 수 있는 행동이며, 보수는 특정 전략 조합에서 얻는 이익이나 만족도입니다.
예를 들어 두 기업이 가격을 높게 유지할지 낮출지 결정한다고 가정하면 기업은 플레이어, 높음과 낮음은 전략, 각 조합에서 얻는 이익은 보수가 됩니다. 보수는 반드시 화폐일 필요는 없으며 시장점유율, 승률, 시간 절약처럼 비교 가능한 결과로 표현할 수 있습니다.
04 | 보수행렬 읽는 방법
두 플레이어가 각각 두 가지 전략을 선택한다면 보통 행과 열로 구성된 보수행렬을 사용합니다. 행은 한 플레이어의 전략, 열은 다른 플레이어의 전략을 나타내고, 각 칸에는 두 플레이어의 보수를 함께 적습니다.
| 구분 | 확인할 내용 |
|---|---|
| 행 | 첫 번째 플레이어가 선택할 전략 |
| 열 | 두 번째 플레이어가 선택할 전략 |
| 각 칸 | 해당 조합에서 두 플레이어가 얻는 보수 |
| 분석 기준 | 상대방의 선택을 고정한 뒤 자신의 보수를 비교 |
보수 쌍의 첫 번째 숫자가 행 플레이어의 보수인지, 두 번째 숫자가 열 플레이어의 보수인지 먼저 정해야 합니다. 이 기준을 혼동하면 최적 반응과 균형을 잘못 찾게 됩니다.
05 | 최적 반응 찾기
최적 반응은 상대방이 특정 전략을 선택했을 때 내가 선택할 수 있는 전략 중 가장 높은 보수를 주는 선택입니다. 상대가 첫 번째 전략을 택한 열에서는 내 보수를 비교하고, 상대가 두 번째 전략을 택한 열에서도 같은 작업을 반복합니다.
상대의 선택에 따라 최적 반응이 하나로 정해질 수도 있고, 두 전략이 같은 보수를 주어 여러 개가 될 수도 있습니다. 후자의 경우에는 동률인 전략 모두가 최적 반응에 포함됩니다.
06 | 내시균형 구하는 절차
첫째, 플레이어와 각자의 전략을 정리합니다. 둘째, 가능한 모든 전략 조합을 보수행렬에 적습니다. 셋째, 각 열이나 행에서 플레이어별로 가장 높은 보수에 표시합니다.
마지막으로 두 플레이어의 최적 반응 표시가 동시에 겹치는 칸을 찾습니다. 그 칸이 순수전략 내시균형입니다. 균형 후보를 찾았다면 해당 칸에서 어느 한쪽이 혼자 전략을 바꿀 때 보수가 높아지는지 다시 확인해야 합니다.
07 | 죄수의 딜레마 사례
죄수의 딜레마는 각자에게 합리적인 선택을 반복하면 모두에게 더 나쁜 결과가 나타날 수 있음을 보여주는 대표적인 게임입니다. 두 사람이 서로 협력하거나 배신할 수 있고, 상대가 어떤 선택을 하든 배신이 개인적으로 더 높은 보수를 준다고 가정해 보겠습니다.
이때 두 사람 모두 배신하는 조합이 내시균형이 될 수 있습니다. 한 사람만 협력으로 바꾸면 자신의 보수가 낮아지기 때문입니다. 그러나 두 사람이 모두 협력하는 결과가 두 사람에게 더 나을 수도 있습니다. 이는 내시균형과 사회적으로 가장 바람직한 결과가 다를 수 있다는 점을 보여줍니다.
08 | 내시균형과 우월전략
우월전략은 상대방이 어떤 전략을 선택하더라도 다른 선택보다 항상 높은 보수를 주는 전략입니다. 우월전략이 있으면 분석이 비교적 간단해집니다. 각 플레이어의 우월전략이 만나는 조합은 일반적으로 내시균형이 됩니다.
다만 모든 게임에 우월전략이 존재하는 것은 아닙니다. 우월전략이 없다고 해서 내시균형이 없는 것은 아니며, 상대방의 선택별로 보수를 비교해 최적 반응을 직접 찾아야 합니다.
09 | 내시균형과 파레토 최적
내시균형은 일방적인 전략 변경의 유무를 기준으로 판단합니다. 반면 파레토 최적은 다른 사람의 상황을 나쁘게 만들지 않고 누구의 상황도 더 개선할 수 없는 결과를 뜻합니다.
어떤 결과는 내시균형이지만 파레토 최적이 아닐 수 있습니다. 즉, 모두가 함께 전략을 바꾸면 더 나아질 여지가 있어도 개인이 먼저 움직일 유인이 없을 수 있습니다. 두 개념을 같은 의미로 사용하지 않는 것이 중요합니다.
10 | 순수전략과 혼합전략
순수전략은 한 가지 행동을 확정적으로 선택하는 방식입니다. 보수행렬의 특정 칸에서 최적 반응이 겹치면 순수전략 내시균형을 찾을 수 있습니다.
반면 혼합전략은 여러 전략을 일정한 확률로 선택하는 방식입니다. 순수전략 균형이 없거나 상대가 자신의 선택을 예측하기 어렵게 해야 하는 경우에 사용합니다. 혼합전략의 확률은 상대방이 어떤 선택을 하든 기대보수가 같아지도록 설정하는 방식으로 구합니다.
11 | 반복게임에서 달라지는 점
한 번만 진행되는 게임에서는 현재 보수와 즉각적인 일탈 유인이 중심이 됩니다. 그러나 같은 플레이어가 여러 차례 만나는 반복게임에서는 과거 행동에 대한 보복, 보상, 신뢰가 전략에 영향을 줍니다.
반복게임에서는 단기적으로 손해를 보는 협력이 장기적으로 유지될 수 있습니다. 상대가 앞으로도 다시 만날 가능성이 있고, 협력을 깨면 이후 불이익을 받을 수 있기 때문입니다. 따라서 동일한 보수행렬이라도 게임이 한 번인지 반복되는지에 따라 분석 결과가 달라질 수 있습니다.
12 | 협조게임과 비협조게임 비교
비협조게임은 각 플레이어가 자신의 전략을 독립적으로 선택하고, 합의가 있더라도 이를 강제로 이행할 수 있는지와는 별개로 분석하는 방식입니다. 내시균형은 주로 이 틀에서 설명됩니다.
협조게임은 플레이어들이 연합을 만들고 보수를 나누는 문제를 더 직접적으로 다룹니다. 현실의 협상에서는 협조 가능성, 계약의 구속력, 정보 공유 여부까지 고려해야 하므로 단순한 보수행렬만으로 결과를 확정하기 어렵습니다.
13 | 분석할 때 자주 하는 오류
첫 번째 오류는 가장 큰 숫자가 들어 있는 칸을 무조건 내시균형으로 판단하는 것입니다. 내시균형은 전체 보수의 크기가 아니라 각 플레이어가 혼자 바꿀 유인이 있는지를 확인해야 합니다.
두 번째 오류는 상대방의 선택을 고려하지 않고 자신의 최선만 찾는 것입니다. 세 번째 오류는 보수의 순서를 바꾸어 읽는 것입니다. 또한 균형이라고 해서 공정하거나 효율적이거나 도덕적으로 바람직하다는 뜻은 아닙니다.
14 | 실제 상황에 적용하는 방법
실제 문제를 분석할 때는 먼저 의사결정자를 명확히 정합니다. 그다음 각자가 선택할 수 있는 행동, 선택 시 얻는 결과, 상대방의 선택에 대한 예상 반응을 적습니다.
이후 가능한 조합을 표로 만들고, 각 플레이어의 최적 반응을 따로 표시합니다. 균형 후보를 찾은 뒤에는 정보가 완전한지, 선택이 동시에 이루어지는지, 게임이 반복되는지, 협력이나 계약이 가능한지 점검합니다.
예를 들어 두 사람이 공동 작업에서 각자 노력할지 말지 결정한다면, 노력의 비용과 공동 성과의 이익을 분리해 보수로 표현할 수 있습니다. 한 사람의 선택이 다른 사람의 결과에 영향을 준다면 단순한 개인 최적화가 아니라 전략적 상호작용으로 다뤄야 합니다.
☑ 체크리스트
- 플레이어가 누구인지 명확히 정했는가?
- 각 플레이어가 선택할 수 있는 전략을 빠짐없이 적었는가?
- 각 전략 조합의 보수를 같은 기준으로 비교했는가?
- 보수행렬에서 각 플레이어의 최적 반응을 따로 표시했는가?
- 최적 반응이 겹치는 칸을 내시균형 후보로 찾았는가?
- 한쪽이 혼자 전략을 바꿨을 때 보수가 증가하는지 확인했는가?
- 반복게임, 협력 가능성, 정보 부족 같은 조건을 고려했는가?
📖 자주하는 질문 Q&A
내시균형은 항상 하나만 존재하나요?
아닙니다. 게임에 따라 내시균형이 여러 개일 수도 있고, 순수전략 내시균형이 없을 수도 있습니다. 순수전략이 없을 때는 혼합전략을 검토할 수 있습니다.
내시균형은 모두에게 가장 좋은 결과인가요?
그렇지 않습니다. 내시균형은 어느 한쪽이 혼자 바꾸기 어려운 상태일 뿐이며, 모두가 협력하거나 동시에 전략을 바꾸면 더 나은 결과가 가능한 경우도 있습니다.
내시균형을 가장 쉽게 구하는 방법은 무엇인가요?
보수행렬을 만든 뒤 상대방의 각 전략에 대한 최적 반응을 표시하는 방법이 가장 기본적입니다. 두 플레이어의 표시가 겹치는 칸을 찾고, 그 칸에서 일방적인 이탈이 이익을 주는지 확인하면 됩니다.
현실에서는 사람들이 항상 내시균형대로 행동하나요?
반드시 그렇지는 않습니다. 사람은 정보 부족, 감정, 실수, 신뢰, 반복 관계의 영향으로 이론적 예측과 다르게 행동할 수 있습니다. 내시균형은 행동을 설명하는 하나의 분석 기준이지 실제 결과를 자동으로 보장하는 규칙은 아닙니다.
📝 마무리
내시균형은 상대방의 선택을 고려한 최적 반응이 서로 맞물리는 지점을 찾는 개념입니다. 보수행렬을 만들고 각 플레이어의 최적 반응을 표시하면 기본적인 전략적 상호작용을 체계적으로 분석할 수 있습니다. 다만 균형의 존재만 확인하지 말고, 효율성·협력 가능성·반복 여부까지 함께 살펴야 현실적인 해석이 가능합니다.