리만가설과 소수와 원자
노르웨이의 수학자이자 필즈상을 수상한 아틀레 셀베 르크는 이런 말을 남겼습니다.
리만 가설을 증명하려고 시도하는 것은 자살 행위다.
독일의 수학자 다비트 힐베르트도 만약 천년 뒤 다시 살아날 수 있다면 꼭 하고 싶은 말로 다음 질문을 남겼습니다.
리만 가설은 증명되었습니까?
리만 가설은 리만 가설은 159년 전 독일의 천재 수학자 베른하르트 리만이 세운 가설입니다. 리만 가설은 정수론 최고 난이도 문제입니다. 정수론은 수의 성질을 다루는 수학의 한 분야로 페르마, 가우스, 오일러 등의 수학자들이 발전시켰습니다. 수란 무엇일까요? 수는 매우 편리하지만 추상적인 개념입니다. 만약 이 세상에 수가 없다고 가정해 봅시다. 친구들과 넷이서 레스토랑에 갔을 때 면 모두 같은 음식을 시킨다면 메뉴명을 네 번 반복해야 합니다. 하지만 수가 있기 때문에 이 음식 4개요!라고 쉽게 주문할 수 있습니다.
수 중에는 소수가 있습니다. 소수는 1과 자기 자신으로만 나눌 수 있습니다. 4는 2 곱하기 2로 표현될 수 있지만, 13은 1 곱하기 13 즉 1과 자신만으로 이루어져 있습니다. 물리학자 리처드 파인만은 핵전쟁으로 세상이 파괴되고 살아남은 다음 세대 아이들에게 문명을 재건하기 위해 도움이 되는 딱 한 문장만 남길 수 있다면, 모든 물질은 원자로 이루어져 있다는 말을 남겨야 한다고 했습니다. 원자는 화학적으로 더 이상 쪼갤 수 없는 가장 작은 단위로, 물리학에서 원자가 이렇게 중요한 만큼 수학에서도 더 이상 나눌 수 없는 소수는 매우 중요합니다.
18세기 초 스위스의 수학자 오일러는 2, 3, 5, 7, 11, 13 등 불규칙해 보이는 소수에도 뭔가 일정한 규칙이 있을 거라고 생각하고 아무도 세 본 적 없는 매우 큰 소수를 찾기 시작했습니다. 그러나 계속 계산해도 아무런 규칙이 나오지 않았습니다. 소수의 규칙이나 특별한 패턴이 없다면 소수는 아무 의미 없는 숫자일 뿐입니다. 사람들이 오일러가 망했다고 돌리던 때 그는 소수로 만 된 공식을 찾았습니다.
소수가 그저 의미 없는 숫자들이라면 오직 모든 소수의 곱으로 표현된 식 역시 말도 안 되는 것입니다. 그가 찾아낸 식은 원주율을 구하는 식과 비슷했습니다. 소수로 만든 식에서 원의 둘레와 지름의 비가 나온다는 소식에 가우스를 포함한 많은 수학자들이 관심을 갖기 시작했습니다. 가우스는 소수가 몇 개인지 세는 것에 집중하여 소수 정리를 만들었습니다. 소수 정리는 어떤 수보다 작은 소수의 개수가 몇 개인지 알려주는 식이지만 증명하지는 못했습니다.
이때 리만이 가우스의 소수 정리를 증명하기 위해 리만 가설을 만든 것입니다. 리만은 가상의 소수들로만 이루어진 식을 그래프로 그렸습니다. 높이가 0이 되는 지점 즉, 영점들을 하나씩 찾기 시작했고 영점들이 완벽히 한 줄로 나열되어 있다는 것을 알아냈습니다. 아무 의미 없어 보이는 숫자들 중에 패턴 있었다는 뜻입니다. 제타 함수의 모든 영점들이 일직선 위에 있다는 것만 증명하면 소수 정리도 증명이 가능하게 되었습니다.
1972년 리만 가설을 연구하던 몽고메리 박사는 영점이 일직선 위에 있는지보다 중요한 건 영점들 사이의 간격이 아닐까? 의문을 가졌고, 수식을 찾아냈습니다. 재미있는 건 이 수식이 양자역학에서 적용되는 미시 세계 운동을 표현하는 수식과 같다는 것입니다. 수학과 양자역학이라는 전혀 다른 두 분야에서 찾아낸 각각의 패턴은 놀랍게도 하나로 연결되어 있었습니다. 단지 숫자일 뿐인 소수가 이 세상을 구성하는 아주 작은 세계와 공통점을 가지고 있었던 것입니다.
소수의 패턴을 알아낸다면 원자 구조의 비밀도 알아낼 수 있고 나아가 우주의 모든 것을 이해할 수 있지 않을까요? 이미 우리 두 세계가 연결되어 있다는 결정적인 증거를 찾아냈으니까요.