암호 만드는 자와 해독하는 자
암호의 진화는 쉽게 읽을 수 없는 암호의 작성과 이를 깨뜨리는 해독의 전쟁이다. 여기엔 천재적 수학, 머리 지끈거리는 공학뿐 아니라 비밀스럽고 음침한 권력의 싸움과 희생, 그리고 성배(聖杯)를 찾으려는 근원적 욕망이 어우러져 있다. 창과 방패, 열쇠와 자물쇠의 경쟁에서 과연 최후의 승자는 존재할까?
<코드 북(the code book)> (영림카디널 발행)이 소개하는 모험과 환상의 사례 하나. 1885년 미국에서 발행된 <빌 페이퍼(the beale paper)> 라는 책은 바다의 요정 세이렌(Seiren)의 노래처럼 여러 인생을 사로잡았다. 1822년 미국 버지니아주 워싱턴 호텔에 투숙했던 토머스 빌이 주인에게 남긴 암호문이 책의 내용이다. 호텔 주인의 친구가 수십 년간 매달린 끝에 2,000만 달러에 달하는 금은보화를 발견했다는 내용을 해독했지만 금을 묻어둔 정확한 장소는 결국 풀지 못한 채 가산을 탕진했고 <빌 페이퍼> 를 펴냈다. 빌의 보물지도는 지금도 모험가들에게 세이렌의 노래를 들려준다.
현대인은 왕권을 전복하려는 반역 모의가 아니라, 물건을 사는 상거래에서 암호를 쓴다. 계좌번호, 비밀번호 같은 중요한 정보를 가로채일 염려 없이 전자상거래를 하는 것은 ‘공개 열쇠’라는 암호 혁신 덕분에 가능해졌다.
1970년대 공개 열쇠 시스템이 현실화하기 전까지는 어떤 암호라도 송신자와 수신자가 열쇠 즉 암호책을 공유해야 했다. 즉 ‘알파벳을 뒤로 세 자리 미뤄(A는 D로, B는 E로) 암호를 만든다’는 시이저 암호체계에서는 ‘세 칸 뒤로 이동’이 열쇠이다. 2차대전 당시 독일군은 기계적으로 돌아가는 회전판 3개를 써서 알파벳 암호가 계속 바뀌도록(A를 칠 때마다 C, K, L, W등으로 매번 다르게 암호화도록) 하는 ‘에니그마’를 사용했다. 이 강력한 암호는 해독 기계를 통해 읽을 수 있는데, 회전판을 처음 어디에 맞추고 시작했는지 그 열쇠를 모르면 해독기계도 소용이 없다.
공개 열쇠 시스템은 암호를 만들 때 쓰는 열쇠는 누구에게나 공개하고, 해독할 때는 해독자만 아는 열쇠를 쓰는 것이다. 한 방향으로 변환은 쉽지만 반대방향으로는 어려운 일방함수를 이용했다. 예를 들어 아주 큰 두 소수를 알고 있을 때 그 곱을 구하기는 쉽지만, 곱한 수를 나눠서 두 소수를 구하는 데는 시간이 많이 걸린다. 1977년 <사이언티픽 아메리칸> 에는 114,381,625,757,888,867,669,235,779,986,146,612,010,218,296,721,242,362,562,561,842,935,245,733,897,830,597,123,563,958,705,058,989,075,147,599,290,026,879,543,541의 두 인수를 구해보라는 문제가 실렸다. 600명이 각종 컴퓨터를 동원해 계산한 끝에 94년 17년 만에 답이 나왔다. 이 수는 10의129제곱수인데 요즘 인터넷 거래정보 암호의 열쇠는 10의308제곱 이상 수를 쓴다.
아직 실현되지는 않았지만 미국 IBM 연구소에서 실험적으로 검증된 양자암호는 이론적으로 아예 깨뜨리는 것이 불가능하다. 암호의 전쟁이 결국 암호작성자의 승리로 끝난다는 전망을 제시하는 것이다.
이 책의 마지막 장 ‘사이퍼 챌린지’에는 난이도별로 수록된 10개 암호문이 실려있다. 책의 설명을 참조해 가면서 다양한 방식의 암호 깨뜨리기에 직접 도전해 볼 수 있다.
김희원기자
기사 URL이 복사되었습니다.
댓글0