[이건희칼럼] 천재 수학자의 죽음과 '죄수의 딜레마'

“당신 덕분에 여기까지 왔어요. 당신은 내가 존재하는 이유이고 모든 이유는 당신입니다. 제 여행은 저를 육체적인 것과 환상적인 것을 느끼게 했습니다. 그리고 저는 제 학업에서 정말 중요한 것을 발견했습니다. 제 인생에서 가장 중요한 발견은 모든 논리와 증명은 사랑이라는 신비스러운 공식입니다.”


영화 <뷰티풀 마인드>에서 주인공을 맡은 러셀 크로우가 마지막에 노벨경제학상을 수상하며 한 말이다. 천재수학자 존 내쉬 교수의 일대기를 그린 영화 <뷰티풀 마인드>는 전세계에서 3억명이 넘는 관객을 모았다. 아카데미시상식에서 작품상, 감독상, 여우조연상, 각색상 등 4개 부문을 휩쓸었고 골든글로브시상식에서도 작품상, 남우주연상, 여우조연상, 각본상을 받았다.

◆천재 수학자가 남긴 감사와 사랑

영화는 최고의 엘리트들이 모이는 프린스턴대학원에 시험을 안보고 장학생으로 입학한 웨스트버지니아 출신의 한 천재가 캠퍼스를 술렁이게 하면서 시작된다. 이후 그가 하루아침에 학계에서 제2의 아인슈타인으로 떠오르고 생애 처음 사랑에 빠져 알리시아와 결혼에 이르는 이야기가 이어진다.

실제 존 내쉬 교수가 카네기공대를 졸업하고 지난 1948년 프린스턴대학원에 지원했을 때 지도교수의 추천서에는 ‘This man is a genius’(이 사람은 천재)라는 단 한문장만 쓰여 있었다. 그가 지난 1950년 취득한 박사학위 논문의 길이도 불과 27쪽이었다니 진정한 천재성은 오히려 짧고 명료하게 드러남을 알 수 있다.


지난 1951년 31세로 MIT 교수가 되던 시기에는 환청과 환각에 사로잡혀 피해망상증과 정신분열증에 시달렸다. 오랫동안 투병하면서 아내 알리시아와 헤어지고 만나는 과정을 반복하다 아내의 헌신적인 보살핌 덕분에 정상으로 회복됐다.

노벨상 수상 시 아내에 대한 깊은 감사와 사랑의 마음을 전해 많은 사람에게 감동을 전달한 존 내쉬는 죽을 때도 아내와 함께였다. 편미분방정식 분야에서 획기적인 기여를 한 공로로 수학계의 노벨상이라고 불리는 아벨상을 수상하게 돼 노르웨이의 시상식에 참석했다가 지난 5월23일 귀국, 집으로 돌아가던 길에 교통사고로 사망했다.


두사람은 뉴저지고속도로에서 타고 가던 택시의 운전기사가 앞 차를 추월하려다 가드레일에 부딪히면서 현장에서 즉사했다. 안타깝게도 비극적인 죽음을 맞았지만 ‘두사람은 저 세상에 함께 가서 죽음 이후에도 영원한 동반자가 되지 않았을까’라는 생각을 갖게 한다.

◆자신의 이익만 바라면 결국 손해

존 내쉬가 학계의 스타로 부상한 첫 계기는 지난 1949년 21세의 젊은 나이에 발표한 ‘내쉬균형’이론이다. 주류 경제학자들이 추종하는 애덤 스미스의 전통경제학 ‘보이지 않는 손’을 정면으로 뒤집는 이론이어서 주목을 받았다.

애덤 스미스는 개개인이 자신의 이익을 극대화하고자 노력하는 결과가 사회에도 이익으로 나타난다는 이론을 전개했다. 반면 존 내쉬는 개개인이 자신의 이익만을 추구하면 서로 손해를 입는 결과가 나타난다고 주장했다.

응용수학에서 다룬 게임이론을 발전시킨 존 내쉬의 박사학위 논문 ‘비협력 게임’에서는 개인들 사이 상호관계에서 상대방 대응에 따라 최선의 선택을 하는 과정을 반복하면 어떤 시점에 균형이 형성되고 서로 자신의 선택을 바꾸지 않게 된다고 해석했다.

게임이론은 전략적인 상호작용 및 의사결정을 연구하는 이론으로 세계무역협상과 국가노동관계 등에도 이론적 뒷받침이 됐다. 학문적으로는 수학만이 아니라 경제학·사회과학·생물학 등 여러 분야에 많은 영향을 미쳤다. 존 내쉬는 동·서 간 냉전시대인 지난 1950년대 초반 국가 사이의 게임전략전문가로 국방부 소속 연구소에서 일한 적도 있다.

◆신의 지키면 더 나은 결과 도달

게임이론의 가장 유명한 사례로 ‘죄수의 딜레마’를 들 수 있다. 협력적인 선택이 최선의 선택임에도 불구하고 자신의 이익만을 위한 선택으로 서로에게 나쁜 결과를 야기하는 현상이다.

예컨대 친구인 A와 B가 범죄용의자로 붙잡힌다. 경찰은 범인이라는 증거를 대략 갖고 있지만 결정적인 자백을 얻어내려 한다. 그들을 격리시킨 후 침묵을 지키는 사람에게는 징역 3년형을, 자백하는 사람은 무죄로 석방해주겠다고 제안한다. 증거가 있기 때문에 두사람 다 자백하지 않으면 각각 징역 1년형이, 두사람 다 자백하면 각각 징역 2년형을 받게 됨을 알려준다. 이 상황에서는 상대방이 어떤 선택을 하더라도 자신은 배신해 자백하는 것이 이익이다.

왜냐하면 A로서는 자신이 자백할 때 B가 침묵한다면 자신은 석방되고 B만 3년형을 살게 되며 B가 자백하더라도 둘다 똑같이 2년형을 살게 돼 궁극적으로는 B보다 유리해지거나 B와 똑같은 결과를 얻게 되기 때문이다.

만약 A가 침묵을 지키고 B도 침묵하면 둘다 똑같이 1년형을 살지만 B가 자백할 경우 B는 석방되고 본인만 혼자 3년형을 살게 된다. 이처럼 B가 어떤 선택을 하든 A로서는 자백하는 것이 유리하다. 상대방보다 나은 이익을 얻기 위해 친구를 배신하는 경우 두사람의 징역은 총 3년 또는 4년이 된다.

이와 반대로 A와 B 모두 침묵한다면 두사람은 각각 1년형, B가 자백한다면 A는 3년형, B는 석방된다. 의리를 지킬 경우 두 사람의 징역은 총 2년 또는 3년 중 하나가 된다. 배신하는 경우보다 총체적으로 더 나은 결과가 얻어진다.

죄수의 딜레마는 집단의 구성원 각각이 상대적으로 불리해질 수 있음을 알면서도 의리와 신의를 지키는 선택을 할 경우 집단 전체적으로는 더 나은 결과에 도달할 수 있다는 사실을 시사한다. 신뢰와 불신이라는 도덕적인 개념을 지극히 현실적인 의미로 바꿔주는 사례다.

◆전체 이익 위한 밑바탕은 ‘신뢰’

우리 사회에서 죄수의 딜레마와 같은 사례는 매우 많다. 아이의 성적을 다른 아이보다 더 높이기 위해 아이를 학원에 보냈더니 다른 집에서는 우리 집보다 더 많은 시간을 들여 아이를 학원에 보낸다. 이런 일이 반복되다 보면 부모의 허리는 휠 수밖에 없다. 아이의 자립적인 학습능력은 오히려 줄고 학교의 교권은 무너진다. 상대적인 이익만을 추구한 결과 나타난 부작용이다.

상대방을 앞서기 위해 내가 빨리 달리면 상대방은 나보다 더 속도를 더 낸다. 그러면 나도 더 힘을 낸다. 이처럼 달리는 속도가 점점 빨라지면 결국 둘 다 쓰러질 수 있다. 소위 경쟁지상주의 사회에서 나타나는 폐해다.

기업 역시 직원 개개인이 갖춘 서로 다른 장점과 능력을 최대한 이끌어내는 방식보다는 직원들끼리 일률적으로 경쟁시켜 성과를 높이려는 경우가 적지 않다.

대한민국이 경제규모, 산업의 수준, 물질적인 풍요로움에 비해 국민의 정신적인 행복감이 낮다는 사실을 모르는 사람은 없을 것이다. 이는 돈이 많고 적음과 위치의 높고 낮음에 상관없이 많은 사람이 각자의 위치에서 자신의 이익만을 최우선시하는 방향으로 나가는 경우가 많아 나타난 결과가 아닐까 한다.

자신의 이익만이 아니라 사회 전체의 행복과 이익을 들여다보면서 소통하고 교감하는 것이 중요하다. 그러기 위해서는 죄수의 딜레마 사례에서 보듯 상호신뢰가 밑바탕이 돼야 한다.