게임이론 초보자를 위한 기초!
- 편집팀
- 2월 16일
- 4분 분량
만약 당신이 작은 회사를 운영하고 있고 동업자와 협력해야 할 상황이 발생했다고 가정해 보자. 이때 가장 중요한 것은 무엇일까? 물론 동업자와의 원만한 관계 유지나 이미지 관리도 중요하지만 궁극적인 목표는 서로의 동의를 얻어 자신에게 가장 큰 ‘이익’을 가져오는 것이다. 이는 특정 상황에만 해당하는 것이 아니라 우리의 일상에서도 적용되는 기본적인 원칙이다. 매 순간의 선택에서 최적의 결정을 내리기 위해 여러 요인을 고려하고 그에 따른 결과를 분석하는 과정은 바로 게임이론의 핵심이 된다. 지금부터 게임이론의 기본 개념과 그것이 어떻게 우리 삶에 적용되는지 알아보자.

게임이론의 기본
게임이론이란, 개인이나 집단이 서로 영향을 주고받으며 최적의 선택을 찾아가는 수학적 이론이다. 게임이론은 사람들이 경쟁하거나 협력하는 상황에서 자신에게 가장 큰 보상을 얻기 위한 전략을 구상하는 과정을 분석한다. 이때 ‘게임’이라는 용어는 단순한 오락이 아니라, 경쟁적 또는 협력적 상호작용을 의미한다. 게임이론은 이러한 상호작용을 수학적으로 모델링하여 각 참가자가 최선의 선택을 할 수 있도록 돕는다.
즉, 게임이론의 핵심은 참가자들이 어떤 선택을 할지 예측하고 변화하는 상황에 적합한 전략을 도출하는 데 있다. 이 이론은 경제학, 정치학, 생물학, 심리학 등 다양한 분야에서 중요한 역할을 한다.
내쉬 균형
게임이론에서 가장 중요한 개념 중 하나는 ‘내쉬 균형(Nash Equilibrium)’이다. 내쉬 균형이란, 각 참가자가 자신의 전략을 최적화했을 때 더 이상 다른 전략으로 변경할 유인이 없는 상태를 의미한다. 즉, 모든 참가자가 자신의 전략을 선택한 후 더 이상 누군가가 전략을 바꾸더라도 이득을 얻을 수 없는 상황이다. 게임이론에서 이상적인 결과를 추구하는 최종 상태가 바로 이 내쉬 균형이다.
게임이론의 역사
게임이론은 인간의 본능적인 전략적 사고에서 비롯되었지만 이를 체계적인 이론으로 발전시킨 것은 20세기 초반의 일이었다. 1921년, 보렐은 게임이론의 기초적인 아이디어를 제시했으며 이후 1928년 폰 노이만이 이를 수학적으로 정립했다. 1944년 폰 노이만은 모르겐슈턴과 함께 《게임이론과 경제행동》을 발표하며 게임이론의 이론적 기반을 확립했다. 이 연구는 제2차 세계대전 중 폭격 전략 수립에 활용되기도 했다. 게임이론은 이후 정치, 경제, 생물학, 컴퓨터 과학 등 다양한 분야에서 널리 응용되며 우리의 삶 속에 깊숙이 자리잡게 되었다.

게임이론의 분류
게임이론은 여러 가지 기준으로 분류될 수 있다. 가장 일반적인 분류 기준은 게임의 성격에 따른 구분이다. 게임이론을 크게 네 가지 유형으로 나눌 수 있다: 협력 게임과 비협력 게임, 정보 제공 게임과 정보 비제공 게임, 전략형 게임과 전개형 게임, 제로섬 게임과 논제로섬 게임이다.
1. 협력 게임 vs. 비협력 게임
협력 게임과 비협력 게임에 대해 살펴보도록 하자. 협력 게임과 비협력 게임은 의사 결정의 과정에서 각각의 참가자들이 서로 전략을 공유하는지 혹은 독단적으로 결정을 하는지에 따라서 나눈다. 즉, 협력 게임에서는 서로 전략을 공유하고 최적의 결과를 도출하는 반면 비협력 게임에서는 협력이 불가능하거나 허용이 되지 않는다.
2. 정보 제공 게임 vs. 정보 비제공 게임
정보 제공 게임은 참가자들이 게임의 규칙이나 상황에 대한 정보를 미리 알고 시작하는 게임이다. 반대로 정보 비제공 게임은 참가자들이 불완전한 정보를 가지고 게임을 시작하게 되는 상황을 말한다.
3. 전략형 게임 vs. 전개형 게임
세 번째로는 전략형 게임과 전개형 게임으로 나눌 수 있다. 전략형 게임은 참가자들이 동시에 전략을 선택하고 구상하는 방식으로 이루어지기 때문에 서로의 전략에 맞게 자신의 전략을 수정하는 것이 불가능하다. 그러므로 상대가 할 수 있는 선택을 모두 고려하여 안전한 전략을 짜는 것이 최우선으로 작용된다. 전개형 게임은 이와는 반대로 참가자들이 특정 순서에 따라 순차적으로 결정을 내리므로 서로 영향을 줄 수 있으며 보통 트리형 구조로 나타난다.
4. 제로섬 게임 vs. 논제로섬 게임
마지막으로는 제로섬 게임과 논제로섬 게임이다. 이 단어는 평소에는 자주 사용되므로 생소하지는 않을 수도 있다. 제로섬 게임은 특정 참가자가 이익을 얻으면 다른 참가자에게 그대로 영향이 가서 상대 참가자의 손해에 직접적으로 연결이 된다. 간단히 말하자면 만약에 참가자 A가 5만큼의 이익을 얻었다면 나머지 참가자들은 그만큰 손해를 보고 시작한다는 의미이다. 즉, 최종적으로 모두 게임을 진행했을 때 모든 사람의 최종 이익과 손해의 합은 0이 된다. 마치 국한된 범위 안에서만 물질 교환이 이루어지는 것과 같은 개념인 것이다. 그러나 논제로섬 게임은 한 참가자가 이익을 얻고 상대 참가자가 손해를 볼 수는 있지만 그 합이 0일 필요는 없다. 즉, 더 많은 손해를 보거나 이익을 볼 수 있는 형태의 게임이다. 이때, 이익과 손해의 합이 +가 되는 경우를 포지티브섬 게임이라고 하며 이와 반대로 –가 되는 경우를 네거티브섬 게임이라고 하기도 한다.
죄수의 딜레마
게임이론에 대해 이야기할 때 빠질 수 없는 유명한 사례에는 바로 ‘죄수의 딜레마’가 있다. 이 사례는 두 명의 용의자가 서로 다른 전략을 선택함에 따라 결과가 달라지는 상황을 묘사한다. 이 사례에서는 두 죄수가 각각 자백을 할지 침묵을 할지 선택해야 한다. 만약 두 사람 모두 침묵하면 각각 6개월의 징역형을 받지만, 한 명이 자백하고 다른 한 명은 침묵할 경우 자백한 사람은 석방되고 침묵한 사람은 10년형을 선고받게 된다. 그러나 두 명 모두 자백하면 각각 5년형을 받게 된다.
게임이론적으로 보면, 내쉬 균형에 해당하는 최적의 전략은 두 죄수 모두 자백하는 것이다. 서로 협력하지 않고 자백을 선택하는 것이 상대가 자백을 했을 때 발생하는 최악의 결과를 피할 수 있는 전략이기 때문이다. 하지만 이 선택이 반드시 가장 좋은 결과를 가져오는 것은 아니다. 만약 두 죄수가 서로 협력하여 침묵을 선택했다면 둘 모두 더 가벼운 형량을 받을 수 있었을 것이기 때문이다.
즉, 죄수의 딜레마는 게임이론 중에서도 심리적인 요인이 크게 작용하는 협력의 중요성과, 전략적 선택에서 신뢰가 얼마나 중요한지를 잘 보여주는 사례이다.

게임이론의 응용 분야
게임이론은 단순히 이론에 그치지 않고 다양한 분야에서 실제로 적용되고 있다. 그 예를 들면, 경제학에서는 시장 경쟁, 기업 간 경쟁, 가격 결정 및 독점 분석 등에서 게임이론이 중요한 역할을 한다. 특히 기업들은 가격 인하, 광고, 브랜드 전략 등에서 경쟁적으로 최적의 전략을 구사하기 위해 게임이론을 사용한다.
정치학에서도 게임이론은 선거 전략, 외교적 협상, 무역 협상 등을 분석하는 데 유용하다. 국가 간의 협력과 갈등을 모델링하는 데 게임이론이 활용된다. 생물학에서는 진화론적 분석과 동물의 행동 연구에서 게임이론을 적용하여 개체들이 협력하고 경쟁하는 방식 즉, 진화적으로 안정된 전략(ESS)을 이해하는 데 도움을 준다.
컴퓨터 과학에서도 게임이론은 매우 중요한 역할을 한다. 특히 인공지능(AI) 분야에서 AI가 상대의 전략을 예측하고 최적의 선택을 하도록 돕는 데 게임이론이 활용된다. 또한 네트워크 보안 및 알고리즘 설계에서도 중요한 이론적 기반이 된다.
법학에서도 게임이론은 법적 분쟁, 규제 정책의 효과, 그리고 법률이 경제에 미치는 영향을 분석하는 데 쓰인다.
게임이론의 공부
이처럼 게임이론은 다양한 분야에서 경쟁과 협력의 동적 관계를 분석하고 최적의 결정을 이끌어내는 데 필수적인 도구로 자리잡고 있다.
게임이론은 삶의 곳곳에 스며들어 있는 이론이다. 게임이론의 기초적인 개념을 알고 있다면 상대보다 더 앞선 상태에서 시작할 수 있을 것이다. 만약 게임이론에 대한 흥미가 있다면 이에 대해 조금 더 깊이 공부하거나 선택에 영향을 줄 수 있는 심리학적인 요인까지 고려하면서 공부를 하는 것을 추천한다.
김서현 학생기자 | Math and Computer Sci. | 지식더하기
참고자료
[1] Game Thoery for Network Security by Xiannuan Liang, Yang Xiao
[3] n분의 1의 함정 - 하임샤피라
첨부 이미지 출처
[3] Encyclopaedia Britannica

تعليقات