최윤필
선임기자

등록 : 2017.04.01 04:40
수정 : 2017.04.01 04:40

단순함과 복잡함의 겉과 속을 함께 사랑한 수학자, 논리퍼즐의 대부

등록 : 2017.04.01 04:40
수정 : 2017.04.01 04:40

가만한 당신- 레이먼드 스멀리언

제이슨 로젠하우스 제임스매디슨대 교수가 쓴 2014년 평전 제목('For Lives: A Celebration of Raymond Smullyan')처럼, 레이먼드 스멀리언은 수학자로, 마술사로, 피아니스트로, 무엇보다 논리퍼즐의 창조자로, 퍼즐 같은 생을 살았다. 그는 신비로워 보이는 것들의 단순한 진실과, 단순해 보이는 것들 이면의 복잡하고 정교한 맥락을 퍼즐과 마술로 내보이는 데서 즐거움을 찾았다. 그에겐 수학과 퍼즐과 마술과 음악이 다르지 않았을 듯하다. alchetron.com

미국의 수학자이고 논리학자 레이먼드 스멀리언(Raymond Smullyan)은 퍼즐 마니아들에겐 논리 퍼즐의 중시조(中始祖)쯤으로 통하는 사람이다.

아내 블랑쉬 드 그랩(Blanche de Grab)과의 첫 데이트 때, 그가 건 수작(酬酌)은 ‘강제 퍼즐’의 수작(秀作)으로 꼽히는데, 대충 전모가 이러했다고 한다.

스멀리언이 그랩에게 이런 조건을 건다. “만일 제가 하는 말이 참이라면 제게 당신의 사진을 한 장 주세요. 하지만 거짓이라면 사진을 주지 않겠다고 약속해주세요.”

뭔 일 있겠냐는 생각에 그랩은 흔쾌히 응했고, 스멀리언은 이렇게 말했다.

“당신은 제게 당신의 사진 또는 키스를 주지 않을 것입니다.”

저 말이 참이라면, 다시 말해 그랩의 마음이 그러했다면, 그랩은 그에게 사진을 주어야 한다. 하지만 그가 사진을 주면 스멀리언의 말은 거짓이 되므로, 사진을 줄 수도 없다. 또 만일 저 말이 거짓이라면 그랩은 사진을 줘서는 안 된다. 그런데, 키스도 해주지 않으면 그의 말은 참이 돼버린다. 곤경을 벗어날 수 있는 유일한 길은 단 하나, 그에게 키스하는 것밖에 없었다.(저런 유형의 퍼즐을 ‘강제 퍼즐’이라 한다. ‘논리퍼즐’(박만엽 옮김, 199~208쪽)

물론 짜증을 내며 박차고 일어나버릴 수도 있었겠지만, 그랩은 멋진 키스로 그의 난해한 구애에 응했다고 한다. 훗날 그랩은 “원하는 걸 얻을 수 있는 꽤 능글맞은 방법(sneaky way) 아닌가?”라며 능글맞게 말했다.( NYT, 2017.2.16 )

그는 음반까지 낸 피아니스트이자 직업 마술사였고, 늦깎이 수학자이자 교수였고, 아마추어 천체 관측가였다. 그 이채로운 삶의 조각 한 가운데 그가 둔 게 논리 퍼즐이었다. 피아니스트가 오선지의 난해한 악보를 건반의 화음으로 구현하듯, 자신이 겪은 삶과 수학ㆍ논리학의 정교한 아름다움을 퍼즐로 전하고자 했던 레이먼드 스멀리언이 2월 6일 별세했다. 향년 97세.

스멀리언은 6살이던 1925년 4월 1일 만우절의 추억을 퍼즐 인생의 에피소드로 소개하곤 했다. 그날 아침, 몸이 아파 누워 있던 스멀리언에게 10살 위 형 에밀(Emile)이 다가와서는 이렇게 말했다고 한다.

“자, 레이먼드, 오늘이 만우절인 건 알지? 오늘 내가 너를 지금껏 한 번도 겪지 못한 기발한 방법으로 속여먹을 테니 기대해!”

어린 그는 온종일 마음 졸이며 형의 기습(?)에 대비했지만, 끝내 아무 일도 일어나지 않았다. 잠도 못 자고 기다리던 그의 사정을 알게 된 엄마가 에밀에게 동생과 한 약속을 지키라고 했고, 형은 레이먼드에게 다가와 “내가 널 속일 거라고 잔뜩 기대했지? 그게 내 속임수였어”라더라는 일화.

그는 “내가 정말로 속은 건지 아닌지 갈피를 잡지 못해 불을 끈 뒤 오랫동안 잠을 이루지 못하고 침대 위에서 그 문제를 골똘히 생각했던 기억이 난다”고 썼다. “내가 속지 않았다면, 내가 잔뜩 기대했던 바가 이루어지지 못한 셈이므로 속은 것이다. (형은 바로 그렇기 때문에 내가 속은 것이라고 주장했다.) 그러나 같은 이치로 만일 내가 속았다면, 내가 기대한 바가 이루어진 것이므로 그런 측면에서 보면 속았다고 할 수 없는 것이다. 그렇다면 나는 과연 속은 것인가, 속지 않은 것인가?”( qedinsight.wordpress.com, ‘즐거운 논리’ 13~ 14쪽)

스멀리언이 곧장 퍼즐과 논리학의 세계로 나아간 건 아니었다. 아니 그의 삶 자체가 하나의 퍼즐이었다.

그는 노벨상 물리학자 리처드 파인만(Richard Feynman, 1918~1988)의 고향인 미국 뉴욕 퀸즈의 파 라커웨이(Far Rockawy)에서, 파인만보다 1년 늦은 1919년 5월 25일 태어났다.

39년 MIT를 졸업한 파인만이 41년 맨해튼프로젝트를 거들다 이듬해 프린스턴대에서 박사학위를 받으며 학자의 모범적 경로를 따라가던 것과 달리 스멀리언의 삶은 청소년기서부터 미로 같은 경로로 이어졌다.

그의 아버지는 사업가였고, 어머니는 주부였다. 부모는 스멀리언의 남다른 음악 재능을 살려주고자 어려서부터 피아노를 배우게 했고, 12살 무렵 한 경연대회에 나가 그랑프리를 타오기도 했다. 뉴욕 브롱크스의 시어도어 루스벨트 고교에 진학시킨 것도 피아노 전공을 살려주기 위해서였다. 문제는 스멀리언이 음악 못지않게 수학을 좋아했다는 점이었고, 루스벨트 고교 커리큘럼에는 집합과 함수가 없었다는 점이었다. 그는 피아노가 싫어서가 아니라 수학도 좋아서 고교를 중퇴한다. 독학으로 대입자격시험을 치른 그는 오리건 주 퍼시픽 대와 리드대를 다니다 말다 한 뒤 샌프란시스코로 건너가 다시 피아노 공부를 하기도 했다. 그가 시카고대에서 학사 학위를 딴 건 35세이던 54년이었다. 그의 방황은 생계 문제와도 무관하지 않았을 것이다. 그는 마술을 익혀 뉴욕의 나이트클럽 무대에서 마술 공연으로 학비를 벌었고, 정수기 외판사원으로도 일했고, 직접 고안한 체스퍼즐로 책을 내기도 했다. 돈과 음악과 수학의 균형이라는 혼란스러운 퍼즐 속에서 그가 궁극적으로 추구한 것은 재미였을지 모른다.

스멀리언의 2004년 피아노 연주음반 재킷.

그가 체스 퍼즐을 처음 고안한 것은 16살 무렵이었다고 한다.( www-groups.dcs.st-and.ac.uk ) 단 두 수만에 체크 메이트(장기의 외통수)를 만들어내라는 식의 고전적인 퍼즐이었다. 그의 실력은 20대 들어 수학과 논리학을 독학하면서 꽤 높은 경지에 이르렀고, 체스 퍼즐을 연구하며 역행분석(retrograde analysis, 미래의 결과를 상정한 뒤 거기에 이르는 경로를 역탐색하는 논리 기법 중 하나)의 개념을 이해했다고 훗날 그는 말했다. 프린스턴대 대학원을 다니던 57년 한 친구에게 자기가 만든 체스 퍼즐을 보여줬는데, 친구가 그 퍼즐을 영국에 살던 그의 아버지에게 보여줬고, 그걸 아버지가 맨체스터 가디언 지에 투고해 신문에 실렸고, 그 인연으로 그의 체스 퍼즐이 한동안 가디언에 고정적으로 실리기도 했다는 일화도 있다.(위 앤드루스대 홈페이지) 2년 뒤 40세의 그는 함수형 프로그래밍언어의 창안자이자 전산학의 아버지라 불리는 알론조 처치(Alonzo Church,1903~1995)의 지도로 프린스턴에서 수학 박사 학위를 받았다. ( mesosyn.com)

그가 마술에 심취한 사연도 따지고 보면 수긍이 간다. 수학이 머리로 탐구하는 추상의 퍼즐이라면, 그에게 마술은 손으로 구현하는 논리이자 구체의 퍼즐이었을 것이다. 40년대 30대의 그는 뉴욕 그리니치빌리지의 이런저런 나이트클럽 무대에서 활동한 꽤 인기 있는 마술사였고, 시카고대 재학 중에도 그 수입으로 생활비와 학비를 충당했다. 하지만 벌이가 늘 쏠쏠한 건 아니어서, 부업(?)으로 한 진공청소기 회사 세일즈맨으로 취직한 적도 있었다. 책 ‘즐거운 논리’에 소개된 취업 면접 일화도 흥미롭다.

면접관이 “이따금 사소한 거짓말을 하는 것을 혹시 중요하게 생각하느냐?”고 물었다고 한다. 그는 속으로는 세일즈맨의 과대선전에 심한 역겨움을 느끼면서도 진심을 감추고 “아닙니다”라고 거짓말을 했다는 것이다. 이어진 그의 생각. “내가 그 거짓말에 대해 중요하게 생각했는가 자문해보았다. 나의 대답은 단연 ‘아니다’였다. (…) 면접에서 한 그 거짓말을 내가 시큰둥하게 생각한 셈인데,(…) 그렇다면 내가 면접시험에서 ‘아닙니다’라고 한 답변은 거짓말이 아니라 참말이었던 것이다!”

54~56년 학사 학위밖에 없던 그는 철학과 교수 루돌프 카납(Rudolf Carnap)의 추천으로 뉴햄프셔 다트머스대학서 수학을 강의했고, 그 강의 이력으로 부족한 미적분학 학점을 인정받았다고 한다. 2년 만에 박사학위를 딴 그는 61년까지 프린스턴대에서 강의했고, 뉴욕 예시바대학(61~68), 훗날 뉴욕시립대에 편입된 브롱크스의 레만칼리지 교수로 지내다 82년 명예교수가 됐다.

그는 진지한 학자이기도 했다. 귀납적 가산집합이론(theory of recursively emumerable sets in existence)을 다룬 책 ‘Theory of formal systems’을 61년 프린스턴대 출판부에서 출간한 것을 비롯, 90년대까지 여러 편의 저작과 논문을 주요 학회지에 실었다. 괴델의 ‘불완전성의 원리(theorem of undecidability)’ 등에 대한 가장 명쾌한 해설 중 하나가 그에게서 탄생했다고도 한다. 그 해설은 훗날 논리 퍼즐의 형태로 재창조됐다. 96년 그와 함께 ‘집합이론과 연속체 문제(Set theory and the continuum problem)’라는 책을 쓴 뉴욕시립대 멜빈 피팅(Melvin Fitting) 교수는 “스멀리언은 한 편의 논문을 완성하고 나면 2, 3년 뒤 그것들을 모두 퍼즐로 바꿔놓곤 했다.(…) 그런 뒤 다시 수학으로 돌아오는 그에겐 늘 퍼즐들이 어김없이 따라왔다”고 말했다. 괴델의 정리를 토대로 만든 퍼즐들에 대해 마틴 가드너(Martin Gardner)는 “수학과 논리학의 문제에 관한, 지금까지 쓰여진 가장 독창적이고, 가장 심오하며, 가장 재미있는 컬렉션”이라고 평했다( www-groups.dcs.st-and.ac.uk )

수학ㆍ논리학의 개념들에 더해 그는 아라비안나이트의 ‘세헤라자데’나 루이스 캐럴의 ‘이상한 나라의 앨리스’ 이야기를 퍼즐로 이어놓기도 했다. 책 ‘논리퍼즐’의 1부는 세헤라자데가 사형을 모면하기 위해 1003번째 밤부터 풀어놓는 퍼즐 이야기로 시작된다. 82년의 한 퍼즐 책(‘The Lady or the Tiger? And Other Logic Puzzles’)에서 그는 유클리드의 원론이 퍼즐북 형식으로 쓰여졌다면 훨씬 인기를 끌었을 것이라 썼다. (NYT, 위 기사)

마술사이기도 했던 스멀리언은 '반지의 제왕'의 마법사 간달프를 연상케 하는 외모로도 주목을 끌었다고 한다. 물론 그가 '원조'였다. 사진은 2009년 뉴욕시립대에서 열린 그의 구순(九旬) 기념강연 장면. quotesgram.com

스멀리언은 ‘도는 말이 없다’(박만엽 옮김, 철학과현실사)라는 책을 냈을 만큼 도교철학에 심취했고, “내겐 자유의지가 있지만, 그건 내 선택에 의한 게 아니다”로 시작하는, 인간의 자유의지와 죄의식에 대한 철학적 담론을 신과 인간의 가상대화 형식의 에세이로 남기기도 했다.( mit.edu) “내가 왜 죽을 걸 걱정해야 하나? 살아 있는 동안 일어나지도 않을 일인데!”라는 식의 농담도 그는 즐겼다고 한다.

그는 “유머는 전적으로 심각하고 이성적인 분위기 속에서는 결코 번성할 수 없다” 고도 했고, “사물과 정신에 관한 제대로 된 형이상학적 질문은 인식론적 혼란을 통해서만 제기된다”는 알쏭달쏭한 말도 남겼다.( mesosyn.com ) 뉴욕타임스는 부고에서 ‘거울나라의 앨리스’의 험프티 덤프티(Humpty Dumptyㆍ알쏭달쏭한 말을 해대는 달걀)를 두고 앨리스가 “어떻게 그가 그렇게 늘 혼란스러우면서 논리적인지(manages to be both confusing and logical) 모를 일”이라고 한 말을 그의 삶에 빗대 환기하기도 했다.

2015년 스멀리언 헌정 문집을 편집한 제임스매디슨대 수학과 제이슨 로젠하우스(Jason Rosenhouse) 교수는 “스멀리언의 퍼즐들이 지닌 명료함은 지금껏 누구도 획득하지 못한 수학의 아름다움을 드러내 보여준다”고 썼다. 로젠하우스의 말처럼 그가 퍼즐을 통해 추구한 것은 단정한 명제 혹은 암기하면 그만이라 여겨지는 수학 공식을 넘어 그 이면의 복잡하고 정교한 맥락을 소개하려던 것이었다고 말할 수도 있지만, 그냥 재미였다고 해도 좋을 것이다. 음악과 마술 수학 논리학이 지닌 복잡하지만 정교한 아름다움들을 발굴해 퍼즐화하는 동안, 그는 무척 즐겁고 행복했을 것이다.

말년의 스멀리언은 그가 사랑했던 이탈리아의 음악가 주세페 스칼라티(1685~1757)의 하프시코드 곡과 바하, 슈베르트의 피아노곡들로 음반을 냈다. 그리고 남편의 멋진 퍼즐들 속에서 퍼즐처럼 골치 아픈 삶의 고단함을 잊곤 했을 아내 그랩과 더불어, 뉴욕 허드슨의 집 베란다에서 6인치 미러망원경으로 밤하늘의 별을 관측하곤 했다. 뉴욕의 별자리들도 어쩌면 그에겐 거대한 퍼즐 판이었을 것이다. 최윤필 기자

ㅡㅡㅡㅡㅡㅡ

저작권자 © 한국일보 무단전재 및 재배포 금지

한국일보 페이스북

한국일보 트위터

한국일보닷컴 전체기사 RSS

RSS

한국일보닷컴 모바일 앱 다운받기

앱스토어구글스토어

한국일보닷컴 서비스 전체보기

Go

뉴스 NOW

이전

  • 종합
  • 정치
  • 사회
  • 경제
  • 국제
  • 문화
  • 연예
  • 라이프
  • 스포츠

다음

오늘의 사진

전국지자체평가

많이 본 뉴스

  • 1
  • 2