[궁금한S] 리만 가설은 무엇인가?

[앵커]
과학에 대한 모든 궁금증을 풀어주는 <궁금한 S> 시간입니다.

그동안 저명한 수학자들이 도전했지만 풀지 못했던 리만 가설. 도대체 어떤 것이길래 160년 동안 수학계의 최대 난제로 남아있는 것일까요? 리만 가설이 무엇인지 지금 바로 화면으로 만나보시죠.

[이효종 / 과학 유튜버]
안녕하세요! 과학의 모든 궁금증을 해결하는 궁금한 S의 이효종입니다. 궁금한 S와 함께할 오늘의 이야기 만나볼게요.

2018년 9월 24일, 독일 하이델베르크에서 수학 포럼이 열렸습니다. 이곳에서 언론과 세계적인 수학자들의 주목을 받은 한 사람이 있었는데요.

바로 1966년 수학의 노벨상인 필즈상과 아벨상을 받은 영국의 수학자 ‘마이클 아티야’ 박사입니다.

그는 160년 동안 누구도 풀지 못한 수학계 최대 난제 중 하나로 꼽히는 ‘리만 가설’을 증명하겠다고 했죠.

하지만 학계에서는 그의 증명법에 회의적인 눈길을 보내고 있습니다. 아니 대체 ‘리만 가설’이 무엇이길래, 수학 최대의 권위가 있는 상인 필즈상까지 받은 사람의 시도를 회의적으로 바라볼 수밖에 없었던 걸까요?

리만 가설을 한 줄로 요약하자면 이렇게 이야기할 수 있어요.

소수에는 아주 논리적이고 수학적인 특수한 규칙성이 있다. 여기서 말하는 소수는 0.123 같은 그러한 소수가 아니에요. 우리가 배운 대로 표현하자면 1을 제외한 자연수 중 1과 자기 자신으로만 나누어떨어지는 수를 의미하죠.

리만 가설의 아이디어는 스위스의 수학자이자 물리학자인 레온하르트 오일러로부터 출발합니다.

그는 2, 3, 5, 7, 11 같은 불규칙해 보이는 소수에도 무언가 일정한 규칙이 있을 거로 생각했어요. 많은 수학자는 소수란 자연이나 우주와 상관없는 불규칙한 숫자의 나열이라며 오일러를 비웃었지만, 오일러는 놀라운 발견을 하게 됩니다.

소수로 이루어진 수의 제곱을 분자로, 그 수에 -1을 한 수를 분모로 무한히 곱해지는 숫자의 배열을 고안해냅니다. 그리고 자신의 수학적 능력을 이용해 이 숫자의 결괏값이 6분의 파이 제곱이라는 하나의 숫자로 표현됨을 발견해 냅니다.

전혀 규칙성이 없어 보이는 소수로부터 우주에서 가장 완벽하다고 여기는 매력적인 도형인 원을 나타내는 원주율을 끌어낸 거죠.

소수로 만든 식에서 원의 둘레와 지름의 비가 나온다는 소식에 많은 수학자가 관심을 두기 시작했는데요.

인류 역사상 가장 위대한 수학자로 불리는 가우스 또한 소수에 뭔가 비밀이 있을 거로 생각했습니다. 가우스는 소수들에 숨어 있는 규칙을 발견하는 건 쉽지만 왜 그런 건지 증명하기는 쉽지 않다고 이야기했죠.

실제로 가우스는 소수의 분포와 로그함수의 상관관계를 밝혀냈으나, 증명이 되지 않아 바로 발표하지 않았습니다.

그러던 중 1859년 가우스의 제자였던 베른하르트 리만은 소수의 비밀을 풀 수 있는 아주 특별한 가설 하나를 제안하게 됩니다.

리만은 ‘리만 제타 함수’라는 오일러의 수식과 비슷하지만, 제곱을 미지수로 나타내는 아이디어를 통해, 오일러의 수식을 함수로 표현하는 데 성공하게 됩니다.

이를 이용해 리만은 제타 함수를 실제로 눈에 보이는 입체적인 그래프로 그려보기로 했고, 그래프의 높이가 제로가 되는 지점, 제로 점이라고 불리는 점의 위치를 알아봤습니다.

이 제로 점이 수학과 과학에서는 매우 의미 있는 값들을 가지고 있는 경우가 많거든요!

리만은 제타 함수의 제로 점이 어디에 나타나는지 계산을 거듭했습니다.

애초의 예상은 소수 배열이 불규칙하기 때문에 소수만으로 만들어진 제타 함수의 제로 점도 불규칙할 것으로 생각했죠.

하지만 여기서 놀라운 비밀을 발견하게 되는데요. 4개의 제로 점이 정확히 일직선에 배열되어 있다는 것이었죠.

한두 개도 아니고 무려 4개의 제로 점의 배열…단순한 우연의 일치라고 보긴 힘들지 않으신가요?

이 결과를 토대로 리만은 어쩌면 아직 발견되지 않은 다른 제로 점도 전부 같은 일직선에 배열되어 있는 것이 아닐까, 라는 추측을 하게 됩니다.

이를 통해 기존에 추상적으로만 존재하던 ‘소수는 규칙성이 있을 것이다!’라는 가설은 연구와 증명을 할 수 있는 특정한 명제, ‘제타 함수의 비자명적인 영점들은 임계 직선 위에 존재한다’라는 한 줄의 가설로 재탄생되게 됩니다.

그리고 이 명제는 여전히 증명되지 않는 역사적인 난제로 남아있죠.

소수의 규칙성은 논리적으로 존재할 것이다! 이것이 바로 리만 가설이 해결하고자 했던 궁극적인 목표였던 것입니다!

그 후 1972년 프린스턴 대학에서 수학자 휴 몽고메리와 물리학자 프리먼 다이슨의 우연한 만남으로 리만 가설 연구는 전환점을 맞게 됩니다.

몽고메리는 제로 점이 일직선 위에 있는지보다 중요한 건 제로 점들 사이의 간격이 아닐까? 라는 생각을 떠올리게 됩니다. 소수의 간격은 불규칙했지만, 제타 함수의 영점들은 간격이 비교적 일정하게 나타났거든요.

그는 고민 끝에, 이 간격을 나타내는 수식을 찾아냈습니다.

그런데 놀라운 것은, 이 수식이 양자역학에서 적용되는 미시세계의 운동을 표현하는 수식과 매우 비슷한 형태를 가지고 있었다는 것입니다! 수학과 양자역학, 전혀 다른 두 분야에서 찾아낸 각각의 패턴은 놀랍게도 하나로 연결되어 있었습니다.

이 발견은 리만 가설을 피해온 수학자들의 태도를 크게 바뀌게 하는 계기가 되었습니다.

소수를 두고 많은 사람은 창조주의 암호나 설계도라고 부르기도 합니다. 그래서 여전히 많은 수학자의 고뇌의 대상이 되고 있죠.

수학계의 악명 높은 난제로 남아있지만, 언젠가 리만 가설이 증명된다면 원자의 비밀을 포함해, 우주의 비밀에 한 걸음 다가갈 수 있는 계기를 얻을 수 있지 않을까요?

오늘 리만 가설이 무엇인지, 그리고 그 가설이 밝히고자 하는 수수께끼는 무엇이었는지에 관해 궁금한 S와 알아보았는데, 어떠셨나요? 즐거우셨나요? 그럼 궁금한 S는 이만 인사드릴게요~

과학에 대한 궁금증이 있다면 언제든 사이언스 투데이 페이스북에 댓글을 남겨주세요.

이상 궁금한 S였습니다!