[수학] 제타함수 Analytic continuation의 의미

왜 zeta function 의 analytic continuation 이 의미가 있는가에 대해 알아보자.

원래 zeta 함수는 s 가 정수일때 정의되었다. 저 급수는 p-test 에 의해서 s>1 일때만 수렴한다.

오일러에 의해 이 제타함수가 소수와 관련이 있다는 것을 알게된 후 부터 사람들은 이 zeta 함수의 s 를 정수에서 더 확장시키기 위해 애써왔다.

가장 간단한 방법은 s 를 정수에서 실수로, 실수에서 복소수로 확장하는 것이다. 정수에서 정의된 제타함수의 수렴 조건 때문에 실수로 확장된 경우에도 s>1 이라는 조건은 항상 필요하고, 복소수의 경우에는 Re(s)>1 인 조건이 필요하게 된다.

[여담 :

애초에 수학자들은 s=1 인 경우에 이 zeta 함수가 잘 정의되지 않는 다는 것을 알고 있었다. s=1 인 경우를 harmonic series 라고 하는데, 이는 제타함수의 등장 이전부터 수학자들을 골치아프게 했던 수열이었다.

일반항은 1/n 으로 n 이 커지면 커질수록 0에 가까이 간다. 이 합이 수렴할까 안할까에 대해서 수학자들은 상당히 많은 고민을 했다. ]

미적분학 이후 하나의 식을 여러가지 다른 표현식으로 쓸 수 있는 기법들이 발달했다. s=1 에서는 제타함수가 잘 정의되지 않는 다는 것을 알았으니, s=1 을 제외하고 Re(s)>0 인 부분에서 제타함수를 어떻게 확장할 수 있을까 [여기서 확장이란 말은 Re(s)>1 인 부분에서는 기존의 제타함수를 재생산하고, 그 확장된 부분에서도 잘 정의된 제타함수를 만드는 것을 말한다. ] 를 고민했다.

여기서 등장한 것이 첫번째 analytic continuation posting 에서 소개한

이 식이다. 두번째 적분 항이 x^{-s-1} 이 Re(s)>0 인 구간에서 수렴하기에 이 제타함수는 Re(s)>0 인 구간까지 확장이 되었다.

거기다 이 식은 제타함수가 s=1 에서 잘 정의되지 않았음을 보여준다. [s=1 을 대입하면 발산한다. - 엄밀하게는 s=1 에서 simple pole 을 가지고 residue 1 을 가진다는 것을 알려준다. ]

Re(s)>0 까지 확장했으니, 그 뒤 수학자들, 특히 리만은 이 제타함수를 복소 평면 전체로 확장하는 시도를 했다. 여기서는 Gamma 함수가 매우 중요한 역할을 했는데, 이 감마함수가 항상 0보다는 크고, 0 과 negative integer 에서 simple pole 을 갖는다는 것에서 제타함수의 성질들을 읽어낼 수 있다.

analytic continuation 두번째 포스팅에서 증명했던 저 식과 functional equation 을 잘 조합해보자.

우변을 두 가지 방식으로 표현했다.

먼저 두번째 줄로부터 좌변은 s=0 과 s=1 에서 pole 을 가진다는 것을 알 수 있다. 이 말은 제타함수가 s=0, s=1 에서 pole 을 가진다는 것을 의마할까? pi^{-s/2} 는 모든 s 에 의해 정의되니 특별히 고려하지 않아도 된다. 하지만 gamma 함수의 경우는 다르다.

감마함수, Gamma(s) 는 s=0,-1,-2,... 에서 pole 을 가진다. 우변이 s=0,1 에서 simple pole 을 가지기에 이 우변의 s=0 에서의 pole 은 감마함수의 pole 이라는 것이 되고 s=1 에서의 pole 은 zeta 함수의 pole 이라는 것이 된다.

즉 zeta 함수는 s=1 에서만 simple pole 을 가지고 나머지 구간에서는 잘 정의된다.

다시 좌변을 살펴보자. 좌변의 Gamma(s/2) 는 s=-2k 일 때 pole 을 가진다. 하지만 우변의 경우 s=-2k 일때 pole 이 없이 잘 정의가 된다. 이 말은 zeta(s=-2k) 의 값이 gamma(-k) 값과 상쇄가 되어 잘 정의가 된다는 것을 의미한다. gamma(-k) 가 simple pole 을 가지니 zeta(-2k) 는 simple zero 를 가진다.

즉 이로부터 zeta(-2k) =0 라는 것을 알 수 있다. 이러한 점들을 zeta 함수의 trivial zero 라고 부른다. 더 나아가 Re(s)>1 일 때 zeta(s) 함수는 0을 가지지 않는 다는 것은 알 수 있다.

이로써 Re(s)>1 인 경우 제타함수는 0을 가지지 않는다는 것, Re(s)<0 인 경우 zeta 함수는 -2k 일때 0을 가진다는 것을 알 수 있다. 그 사이의 영역은 어떠한가? 0 < Re(s) <1 에서 제타함수는 0을 가질까? [이것에 관한 가설이 바로 리만가설이다. 관련 포스팅 [수학, 책] 리만가설 ]

[ zeta(-2k)=0 인 것은 사실 이는 베르누이 숫자로도 바로 파악 가능하다. s가 음수일때 제타함수는 베르누이 숫자를 이용하여 다음과 같이 표현할 수 있는데

B_{2n+1} = 0 이기에, zeta(-2n) =0 이다.

참고로 베르누이 수

를 이용하면 zeta(0) 과 zeta(-1) 값을 구할 수 있다.

곧이 곧대로 이를 해석하면

인데 어떻게 저런 값을 가질 수 있겠는가? 하지만 엄밀하게 저 식은 Re(s)>1 인 구간에서 정의된 것이다. 그래서 사실 analytic continuation 이 계산한 제타함수는 원래의 1/n^s 가 아니라 regulator 가 곱해진 형태의 제타함수이다. [관련 포스팅 [수학, 과학(?), 계산] 1+2+3+ ... = -1/12 와 Regulator ]

물리나 대중과학서에는 Re(s) 의 구간을 특별히 언급하지 않고 넘어가 진짜 저 합이 저렇게 된다고 착시 현상을 주고 있다.

아무튼 이런 것 처럼 원래의 제타함수라면 구할 수 없던 범위의 제타함수의 값을 analytic continuation 을 통해 구할 수 있어진다.