Continuous Learning_Startup & Investment

대부분의 동료 리뷰는 절망적일 정도로 형편없다. 이미 좋은 연구들이 있는데 게을러서인지 공부하고 더 좋은 동료 리뷰를 만들 생각을 못한다. 내가 한가지 작은 그러나 큰 팁을 준다면 이걸 알려주겠다. 동료 평가를 할 때에 동료 평가 평가를 같이 한다. 뭐냐면, 동료 평가가 되고 당사자들에게 해당 정보가 전달이 될 때(individual raw data로 준다) 당사자는 자신에 대한 평가를 보고 그 평가 자체를 평가한다. "당신에 대한 이 평가가 자신의 성장에 얼마나 도움이 됩니까?" 부정적인 평가일지라도 성장에 도움이 될 수가 있으며, 긍정적 평가일지라도 성장에는 도움이 별로 안될 수도 있다. 만약 동료들에게 성장에 도움이 안되는 평가를 날리는 사람들이 우리 팀에 대부분이라면 우리는 아무도 접수하지 않는 정보를 날리느라 개고생하고 있는 거다 -- 덤으로 기분까지 나빠지는 경우가 허다하다. 또 반대로 모든 부정적인 평가를 나쁘게 평가하는 사람이라면(자기 성장에 도움이 안된다고) 그 사람은 피드백을 받는 스킬이 떨어지는 거다. 이걸 제대로 하다 보면 사람들이 평소에 서로 주고 받는 피드백의 질이 훨씬 더 올라가고, 피드백을 좀 더 잘 받는 사람이 되는 부수적 효과가 있다. 우리가 하는 평가의 궁극적 목적은 사람을 정확히 평가하기 위한 것도 아니고, 그 사람의 연봉을 정하기 위한 것도 아니다. 또, 누군가를 기분 나쁘게 하거나 기분 좋게 하기 위함도 아니다. 그것은 당사자가 좀 더 나은 성과를 내는 사람이 되어 조직에 더 큰 기여를 할 수 있도록 돕기 위함이다. 김창준님

https://blog.samaltman.com/what-i-wish-someone-had-told-me What I Wish Someone Had Told Me Optimism, obsession, self-belief, raw horsepower and personal connections are how things get started. Cohesive teams, the right combination of calmness and urgency, and unreasonable commitment are how things get finished. Long-term orientation is in short supply; try not to worry about what people think in the short term, which will get easier over time. It is easier for a team to do a hard thing that really matters than to do an easy thing that doesn’t really matter; audacious ideas motivate people. Incentives are superpowers; set them carefully. Concentrate your resources on a small number of high-conviction bets; this is easy to say but evidently hard to do. You can delete more stuff than you think. Communicate clearly and concisely. Fight bullshit and bureaucracy every time you see it and get other people to fight it too. Do not let the org chart get in the way of people working productively together. Outcomes are what count; don’t let good process excuse bad results. Spend more time recruiting. Take risks on high-potential people with a fast rate of improvement. Look for evidence of getting stuff done in addition to intelligence. Superstars are even more valuable than they seem, but you have to evaluate people on their net impact on the performance of the organization. Fast iteration can make up for a lot; it’s usually ok to be wrong if you iterate quickly. Plans should be measured in decades, execution should be measured in weeks. Don’t fight the business equivalent of the laws of physics. Inspiration is perishable and life goes by fast. Inaction is a particularly insidious type of risk. Scale often has surprising emergent properties. Compounding exponentials are magic. In particular, you really want to build a business that gets a compounding advantage with scale. Get back up and keep going. Working with great people is one of the best parts of life.

이미 하이젠베르크가 위치라는 물리량을 정의할 때부터 푸리에 급수를 사용하였기 때문에 이는 예상된 결과일지도 모르겠습니다만, 참으로 유쾌하고 즐거운 결론, 놀라운 결론이 아닐 수 없습니다. 하이젠베르크, 보른, 조르단이 완성한 행렬역학은 다시 1926년 슈뢰딩거가 자신의 파동역학과 같은 개념임을 증명되었는데, 이는 결국 하이젠베르크와 슈뢰딩거는 같은 대상을 다른 방식으로 서술한 것이었음을 의미하는 것이기도 합니다. 책에서 하이젠베르크와 슈뢰딩거는 극한의 대립을 보이는 것처럼 대결 구도가 그려집니다. 그렇지만 인류가 이룩한 모든 학문의 발전에서도 그렇듯, 결국 행렬역학과 파동역학은 다시 하나의 더 큰 양자역학, 즉, 양자물리학으로 가기 위한 두 개의 주춧돌이었습니다. 그렇지만 하이젠베르크의 노력이 그저 슈뢰딩거의 파동역학에 통합되는 것으로만 귀결된 것은 아니었습니다. 그의 행렬역학을 활용하면 이른바 ‘불확정성의 원리 (Uncertainty principle)’까지도 부드럽게 진행하는 것이 가능해지기 때문입니다. 행렬 연산자로 주어지는 두 독립 연산자들의 교환 (commutator)와 분산 (variance)만 정의해주면 되기 때문입니다. 그러면 슈바르츠 부등식 (Schwartz inequality)을 활용하여 아주 깔끔하게 운동량 연산자와 위치 연산자의 분산 기대값의 곱이 hbar/2 보다 항상 크거나 같다는 것도 유도할 수 있습니다. 슈뢰딩거 방정식은 철저하게 파동 방정식에서 시작한 역학 기반 개념이라면 하이젠베르크의 행렬역학은 에너지 양자화 개념 하나만으로 시작한 역학이라 서로 전혀 다른 대상을 가리킬 것이라 생각하는 것이 자연스러울 것입니다. 그런데도 놀랍게 두 접근 방식은 같은 개념을 가리키고 있었고, 유도된 관계식도 정확히 일치했으니, 슈뢰딩거 입장에서는 이 일치가 정말 놀랍고 흥미로웠을 것입니다. 책에서는 흥미롭게도 두 양자역학의 거두 모두 이 혁명적인 발견과 방정식 유도를 그들이 가장 육체적으로 혹은 정신적으로 고난을 겪던 시절의 산물로 그리고 있습니다. 실제로 슈뢰딩거는 결혼 생활의 파국과 결핵으로 인한 쇠약한 몸을 이끌고 요양 생활을, 하이젠베르크도 정신적 스트레스로 인한 요양 생활을 하던 중에 이러한 지적 성과물을 이끌어낸 것으로 그려지고 있습니다. 이는 일부는 사실이고 일부는 픽션입니다만, 두 사람 모두 이 결과물을 이끌어내던 시절이 가장 어려웠던 혹은 정신적으로 가장 약했던 시절 중 하나였던 것은 맞습니다. 어쨌든 이 두 사람의 위업은 후세의 학자들에게 이제 양자역학은 상상력의 범위가 아닌, 실제 세계를 새롭게 그리고 가장 정확하게 기술할 수 있는 기묘하지만 진리인 체계가 되었고, 학자들은 더 이상 고전역학의 관점에서 세상을 이해하기를 멈추게 되었습니다. 아이러니컬하게도 슈뢰딩거 자신은 이 양자역학의 결과물이 결국 세상을 확률론적으로 밖에 바라볼 수 없는, 그리고 여러 독립된 상태가 중첩된 결과물이라는 결론으로 이르게 되는 것을 받아들일 수 없어 '슈뢰딩거의 고양이' 같은 사고실험도 창안했지만 오히려 그 사고 실험이 양자역학의 특별함과 괴상함을 제일 잘 보여주는 대표적인 사례가 되었다는 것은 흥미로운 부분이기도 합니다. 이렇게 이 책은 네 가지 과학사의 사건을 다루면서 그 중심 플롯의 인물들의 삶과 그들이 생애 최고의 위업에 이르는 장면을 마치 의식의 흐름 기법으로 사실과 허구를 섞으며 이야기를 이끌어나가는 독일의 작가 제발트 (W. G. Sebald)가 취하는 것 같은 스타일로 잘 기술해 나갑니다. 책의 마지막 장에 있는 감사의 말을 유심히 읽은 분들이 아니라면 이 책을 팩션이 아닌, 짧은 과학사 서술 정도로 읽으셨을만한 분이 있었겠다는 생각도 들었습니다. 이 책은 여러모로 독자들에게 특별한 지적 경험을 안겨줍니다. 어렵게 기술하려면 한없이 어렵게 기술할 수 있는 과학의 주요 개념들을 평이하고 일상적인 언어로 잘 기술하는 것은 작가의 독특한 스타일이 문학적으로도 충분히 성숙했기 때문이라고 생각할 수 있을 것입니다. 그에 더해 작가가 책 곳곳에 뿌려놓는 아름다운 표현들도 독자들에게 특별한 감정을 선사합니다. 예를 들어 하이젠베르크가 자신의 발견에 벽이 있는 것 같다며 자신의 스승 닐스 보어를 찾아가 만나는 대목에서, 스승 보어가 해 준 "바다의 미칠 것 같은 넓이를 눈 한번 깜빡이지 않은 채 응시할 수 있는 사람은 영원의 한 조각이 놓인 곳에 가닿을 수 있다." 라는 것 같은 표현은 비록 팩션이지만 그 자체로도 오래 기억하고 싶은 문장이기도 합니다. 이렇게 이 책에 대한 감상을 나눠보았습니다. 어떠한 방향에서든 인류의 문명이 존속하는 한, 그리고 발전하는 한, 우리는 앞으로도 계속 탐험을 지속할 것이고, 또 세상을 마주하는 인식의 틀을 끊임없이 개혁해 나갈 것입니다. 과거의 것을 익히되, 새로운 것으로 바꿔나가야 조금씩 진보를 만들어나갈 수 있는 것이겠죠. 이번 마지막 책에서 하이젠베르크의 대사를 인용하며 글을 마무리합니다. "우리 시대의 과학에 대해 이야기하는 것은 객관적이고 초연한 관찰자로서가 아니라 인간과 자연 사이에서 벌어지는 게임의 행위자로서의 우리가 자연과 맺는 관계에 대해 이야기하는 것입니다. 과학은 이제 실재를 예전과 같은 방식으로 대면할 수 없습니다. 세계를 분석하고 설명하고 분류하는 방법은 스스로의 한계를 맞닥뜨렸습니다. 이것은 개입이 탐구 대상을 변화시킨다는 사실에서 비롯합니다. 과학이 세상에 비추는 빛은 우리가 바라보는 실재의 모습을 바꿀 뿐 아니라 그 기본적 구성 요소의 행동까지도 바꿉니다."

(즉, 위치에너지가 최소, 운동에너지가 최대) 이러한 관계식은 이 진자라는 시스템에 각각의 에너지를 기술할 수 있는 작용소인 해밀토니안이라는 오퍼레이터를 적용하면 알 수 있습니다. 그 결과물이 각각 운동에너지와 위치에너지로 나오는 것이죠. 양자역학도 결국 이러한 해밀토니안과 에너지의 상관관계를 찾는 일입니다. 그렇지만 20세기의 물리학자들과 수학자들에게 충격을 안겨준 것은 더 이상 그들이 그간 익숙했었던 세상을 이해하는 방식이 통용되지 않았다는 것입니다. 즉, 고전역학으로 기술할 수 있는 해밀토니안 오퍼레이터가 통하지 않는 시스템을 만나게 된 것입니다. 이는 둘 중의 하나를 의미합니다. 해밀토니안 오퍼레이터 자체가 잘못되었거나, 그 시스템을 고전역학적으로 기술하는 것 자체가 잘못되었거나 말입니다. 물론 해밀토니안은 결국 에너지 보존법칙을 이끌어내는 수학적 장치이므로, 이 장치 자체가 틀릴 수는 없습니다. 그렇다면 남은 요소는 하나입니다. 지금까지 학자들이 세상을 기술해오던 방식이 틀렸다는 것입니다. 여기서 물리학자들은 충격과 혼란을 겪습니다. 왜 그간 잘 작동하던 이 해밀토니안과 기술 방식이 작동하지 않는 세계가 나오게 된 것인가라는 의문 때문이었습니다. 그 세계는 사실 원래부터 존재해 왔습니다. 19세기부터 쌓이기 시작한 실험적 증거에 더해, 20세기 이르러 그 세계를 탐험할 수 있는 수단이 생기면서부터 그 세계는 사람들에게 모습을 드러내기 시작한 것이죠. 그 세계는 바로 원자의 세계였습니다. 원자의 세계에서는 더 이상 어떤 것이 파동이거나 입자이거나의 택일을 (적어도 관찰 전에는) 하지 않습니다. 오히려 파동과 입자의 이중성이 겹쳐 있는 상태가 되죠. 자석의 N극이 S극이었다가 N극이었다가 하면서 겹쳐 있다고 한다면 사람들은 쉽게 납득하기 어려울 것입니다. 차량이 멈춰 있거나 달리거나 하는 상황이 겹쳐 있다고 한다면 사람들은 더더욱 납득하기 어려울 것입니다. 그렇지만 바로 이러한 겹쳐져 있는 상태라는 것이 양자역학이 기술하는 원자의 세계에서 일어나는 일들이었습니다. 이 기묘한 이중성을 수학적 정합성을 만들면서 유지하기 위해서는 해밀토니안과 세상을 기술하는 방식 둘 다를 수정할 필요가 있었습니다. 위치에너지는 큰 문제가 없었지만, 운동에너지는 기술 대상의 파동성을 고려하여 재정립될 필요가 있었습니다. 그래서 파동의 특징을 갖는 대상의 운동량, p,이라는 개념을 재정립하였고, 이 운동량은 그 파동의 파동 벡터에 비례함이 기술되었습니다. 이 때의 비례상수는 바로 플랑크상수 h였죠. 파동성을 갖는 대상이므로, 이 대상의 특징을 기술하는 것은 자연스럽게 파동함수로 표현되는 것이 필요했습니다. 당시 물리학자들은 이미 파동방정식 자체에는 익숙해 있었습니다. 현악기의 진동 등을 묘사할 수 있는 헬름홀츠 방정식 (Helmholtz equation) 등이 잘 알려져 있었고, 이 편미분방정식을 풀면 시간과 공간에 따라 일정한 주파수로 진동하는 파동함수가 나온다는 것을 잘 알고 있었기 때문이죠. 문제는 이 고전역학의 파동함수의 모든 파동 관련 현상은 눈으로 쉽게 관찰하거나 귀로 들을 수 있는 실체가 있었던 반면, 빛이나 전자의 파동성은 쉽게 실험적으로 규명하기 어려웠다는 것입니다. 그렇지만 이에 대한 실험적 증거가 쌓이면서 이들을 파동함수로 묘사하는 것은 자연스러운 요구가 되었고, 이제 이 파동함수로 기술되는 세상에 대해 이들의 운동에너지와 위치에너지를 생성물로 만들어내는 해밀토니안을 다시 기술할 필요가 생겼습니다. 이를 통합적으로 완성한 것은 바로 에르빈 슈뢰딩거였습니다. 이 책에서 슈뢰딩거는 결핵을 앓던 시기 요양병원에서 보낸 반 년 간의 시간 동안 이 위업을 달성한 것으로 그려집니다. 비슷한 시기, 슈뢰딩거보다 훨씬 젊었던 20대의 천재 물리학자 베르너 하이젠베르크는 슈뢰딩거 방정식이 출판된 논문을 접하고는 충격에 빠집니다 (출판의 선행으로 따진다면 하이젠베르크의 논문이 1925년, 슈뢰딩거의 논문은 1926년에 나왔기 때문에 작품에서 그려진 하이젠베르크의 충격은 슈뢰딩거의 논문이 자신과 전혀 다른 접근법을 취하고 있는 것에서 나온 충격으로 보아야 할 것입니다.). 그 방정식이 수학적으로는 그럴듯하게 양자역학의 신비로움을 묘사하고 있었지만, 하이젠베르크가 보기에는 이미 답정너스러운, 즉, 이미 자연에서 관찰되는 파동성을 고려하여 아예 파동함수를 답으로 정하고 그 답이 나오게끔 해밀토니안을 역으로 추산한 것 같은 찜찜함을 가지고 있었기 때문입니다. 하이젠베르크는 이 찜찜함에 동의할 수 없었습니다. 파동이나 입자 같은 물리적 개념이 개입할 여지를 주지 않은 채, 오로지 여러 상태가 공존할 수 있다는 점, 그리고 에너지는 h*nu 의 형태로 양자화되어 있다는 점만 고려한 이른바 ‘행렬역학’을 그 전에 창안했기 때문입니다. 하이젠베르크의 행렬역학은 선배 과학자인 플랑크가 제창한 에너지 양자화부터 시작했습니다. 애초에 1925년 논문에서 하이젠베르크가 착안한 부분도 '정말 에너지가 양자화되어 있다면, 그 에너지들만 가지고도 전자 (를 비롯한 general entity)'의 위치와 운동량도 표현할 수 있어야 하는 것이 아닐까?' 라는 부분이었기 때문입니다. 여기서 양자화된 에너지란 다름아닌 E = hbar * omega(n) 입니다. 여기서 n은 양자화된 궤도 (orbit)를 의미하며, 이는 기본이 되는 주파수의 정수배로서 에너지들이 정의될 수 있음을 의미합니다. 하이젠베르크는 푸리에급수 (Fourier series)로 임의의 주기함수를 확장할 수 있는 것처럼, 전자의 위치와 운동량도 결국 이들 양자화된 주파수를 갖는 성분들의 합으로 표현될 수 있다고 생각했습니다 (이는 수학적으로는 spectral transform에 해당합니다.). 즉, 위치와 운동량을 sigma_n{An*exp(inwt)}의 형태로 표현할 수 있다고 본 것이죠. 여기까지만 보면 행렬이 아니라 그냥 벡터만 있어도 될 것 같습니다. 즉, X = [A1, A2,...] 같이 표현되는 벡터처럼 말이죠. 그런데 운동방정식에서는 1차항만 있는 것이 아닙니다. 곱하기도 있고 제곱도 있고 미분도 있죠. 이 과정에서 이들을 나타낼 수 있는 인덱스는 2개 이상 필요하게 됩니다. 따라서 벡터의 개념은 행렬의 개념으로 확장되어야 합니다. 하이젠베르크가 이 장면에서 가장 탁월했던 부분은 아마도 두 상태 사이의 전이를 (즉, m->n 전이) X_nm이라는 행렬형 인덱스로 표현한 것이 아닐까 생각합니다 (물론 이에 대해 힌트를 준 것은 그의 스승 막스 보른과 또 다른 수학자 파스쿠알 죠르단이었습니다.). 이렇게 되면 다양한 연산들을 행렬의 곱 (더 정확히는 각 대상들을 행렬로 나타냈을 때 이들의 성분들의 곱. 그런데 그 성분들의 곱 방식은 행렬 곱 방식을 이루는 방법과 똑같음.)으로 표현할 수 있게 됩니다. 왠지 모르겠지만 처음에는 하이젠베르크는 스스로 이러한 과정을 다 유도한 이후에도 이것이 행렬의 연산 결과물이라는 것을 눈치채지는 못 한 것 같습니다. 그것이 행렬로 확장될 수 있다고 눈치채고, 수학적 토대를 만든 사람들이 바로 그의 지도교수였던 수학자 막스 보른 (Max Born)과 파스쿠알 죠르단 (Pascual Jordan) 입니다. 막스 보른은 수학적 전통이 강한 학자여서 바로 이것을 행렬 연산자로 일반화할 수 있었고, 이를 통해 강 양자화 (strong quantization) 관계식이 유도되었습니다. 이 관계식이 유도되고 나면 굉장히 흥미로운 결론을 하나 얻을 수 있습니다. 예를 들어 위치 정보를 이끌어내는 위치 연산자 (position operator)에 대해 고유벡터 (상태함수 역할)와 고유치를 구해보면 자연스럽게 고유벡터에 대응하는 함수가 델타 함수 (delta function)임을 유도할 수 있고, 마찬가지로 운동량 정보를 이끌어내는 운동량 연산자 (momentum operator)에 대해 고유벡터와 고유치를 구해보면 자연스럽게 그 고유벡터에 대응하는 함수가 exp(ikx) 형태가 됨도 찾을 수 있게 됩니다. 그래서 위치와 운동량 연산자 각각에 특정한 상태 함수를 내적시킨 값은 하나는 파동 함수로 또 하나는 그 파동 함수의 푸리에 변환 함수로 주어지게 되는 결과물이 나옵니다.

Roth's theorem, Mordell conjecture, Vojta's conejcture, Erdős–Woods conjecture 등 어마어마한 정리들이 abc 추측의 증명을 차례로 기다리고 있습니다. 특히 1993년에 앤드류 와일즈에 의해 증명된 바 있는 그 유명한 ‘페르마의 마지막 정리 (더 정확히는 Fermat-Catalan conjecture)’의 새로운 증명 방법을 내포하는 것으로 알려졌기 때문에, 더욱 흥미로운 난제이기도 합니다. 따라서 abc 추측의 증명에 매달린 수학자들은 굉장히 많았으며, 지금도 많은 정수론 연구자들이 이 문제에 매달리고 있습니다. 개인적으로 생각컨대, 이 추측은 무엇보다도 덧셈은 곱셈을 제한하고, 곱셈은 덧셈을 제한하고 있다는 철학이 내포되어 있는 추측이라, abc 추측이 한 50년만 더 먼저 제안되었더라도, 아마 abc 추측도 클레이 재단의 밀레니엄 문제 리스트에 올랐을 것이라 생각합니다. 지난 2012년 교토대 수학과의 신이치 모치즈키 (Shinichi Mochizuki) 교수는 일련의 논문들을 통해, 이 abc 추측을 증명했다는 것이 암시된 연구 결과를 네 편의 시리즈 논문으로 발표한 바 있습니다. 네 편 합쳐서 무려 561페이지가 넘는, 거의 웬만한 단행본 두 권 정도 되는 분량의 논문들이라, 이 논문이 세상에 공개된 이후, 10년이 넘어가도록, 이 논문을 완전하게 이해한 수학자는 거의 없습니다. 필즈상 수상자 Peter Scholze나 Jacob Stix 같은 수학자들은 2018년에 직접 일본을 방문하여 모치즈키 교수와 이 내용에 대한 토론을 하기도 했지만, Scholze 교수 등이 지적한 일부 오류 혹은 증명 사이의 간극에 대해 모치즈키 교수가 동의하지 않는 등, 여전히 모치즈키 교수의 증명은 동료 수학자들의 검증을 통과하고 있지 못하고 있습니다. 모치즈키 교수의 네 편의 페이퍼는 2020년 그가 메인 에디터로 운영하는 교토대가 발행 저널인 PRIMS에 게재되기는 하였으나, 수학계에서는 이 출판이 곧 ABC 증명의 확증이라고 받아들이지는 않습니다. 여전히 정수론 연구자들에게는 ABC 추측은 아직 정복되지 않은 난제인 셈입니다. 모치즈키 교수의 abc 추측 관련 페이퍼가 같은 정수론 전문가 동료들의 심사 혹은 이해를 어렵게 하는 이유는, 그가 사용한 (혹은 도입한) 방법론이 낯선 것이기 때문이라고 합니다. 필즈상 수상자이자 유명한 미국의 수학자 테렌스 타오 (Terence Tao) 역시 이 점을 지적하고 있으며, 다른 수학자들의 이해가 더딘 까닭도 모치즈키 교수가 거의 뼈와 살을 분리하여 재조립한 것과 같을 정도의 새로운 수학 개념에 대한 이해가 매우 쉽지 않기 때문이라고 여겨집니다. 모치즈키 자신은 이에 대해 자신은 이해할 수 있는 내용에서 왜 동료 수학자들이 논리적 간극을 느끼는지 이해할 수 없다는 반응을 보였다고도 하는데, 아마 이것이 진짜 간극일 것입니다. 모치즈키가 이해한 논리와 동료 수학자들이 받아들이고 있는 최신 수학적 방법 사이의 간극이 진짜 간극인 것입니다. 물론 모치즈키 교수의 연구가 완전 사기라든지, 논리적 결함 투성이이므로 해프닝으로 끝날 것이라 속단하기는 이릅니다. 시간이 지나고, 해석이 거듭될 수록, 모치즈키 교수의 논리의 빈틈 혹은 그가 사용한 방법의 타당성에 대한 검토가 쌓여 갈 것이고, 그 과정에서 새로운 수학, 새로운 결과가 파생될 수도 있습니다. 다만, 2012년 이후, 모치즈키 교수가 외부와의 소통을 거의 하고 있지 않기 때문에 (해외로부터 여러 번 강연 초청을 받았음에도 그는 대부분 거절했고, 이 때문에 숄제 교수 같은 사람들이 직접 교토대로 방문한 것이기도 합니다.) 과연 모치즈키 교수가 현업에서 은퇴하기 전, 그의 연구가 후속 세대에게 계승될 수 있을지 여부는 불확실합니다. 결국 결자해지라는 말 그대로, 일의 시작을 모치즈키가 하였으니, 최종적인 해결 역시 스스로 해야 하는 것이 정석일 것입니다. 모치즈키 교수는 2012년 문제의 논문 시리즈를 내기 전에도 정수론과 대수기하학 분야에서 이미 유명 수학자로 널리 인정받았던 사람입니다. 여전히 동료들에게 인정을 확실히 못 받고 있지만, 어쨌든 동료들의 회람을 위해, 자신의 저작물을 인터넷에 공개했고, 지금은 PRIMS 저널에 출판된 그 페이퍼들을 다운 받아서 읽어 볼 수 있습니다. 푸엥카레 추측을 증명한 예전 그레고리 페렐만 역시 저널 출판 전에, 출판전 논문 (preprint) 만으로 그 업적의 정당성과 독창성을 인정받았기 때문에, 새로운 증명이든, 난제의 해결이든, 일단 동료들에게 공개할 수 있는 버전의 문서화가 매우 중요한 단계입니다. 그러면 그 논문에 대한 토론이 해당 학계의 커뮤니티에서 자생적으로 일어나고, 피드백이 오고가는 와중에 더 나은 결과를 위한 진전이 생성되기도 합니다. 물론 그 과정에서 지금까지 수없이 많은 잘못된 증명들이 파기되었고 세상의 빛을 보지 못 하고 사장된 것들도 있을 것입니다. 이 대목에서 저는 모치즈키 교수가 그의 롤모델인 그로텐디크 교수의 철학을 따라갔던 것이 아닐까 생각했습니다. 그로텐디크 교수도 동료들이 거의 이해할 수 없었던 새로운 개념을 스스로 창안하고 그 개념들을 조립하여 새로운 수학을 만드는 것에 평생을 바친 사람이었기 때문이죠. 작품에서 그려지는 장면 중, 모치츠키 교수가 그로텐디크 교수가 쓴 책을 다 읽어내려간 후 보였던 괴이한 모습은 아마도 일부는 픽션이겠지만 모치츠키 교수의 abc 추측 논문 대응 방식을 볼 때 사실에 가까운 모습이 아닐까 생각합니다. 어쩌면 모치츠키 교수는 그의 롤모델 그로텐디크 교수가 본 수학 그 너머의 수학 자체의 본질, 나아가 우리가 살고 있는 세상, 자연, 우주의 핵심 그 자체의 편린이나마 잠깐이라도 본 것이 아닐까라는 생각이 듭니다. 이 속살을 한 번 보고 나면 다시는 예전의 세상에 대한 인식으로 돌아갈 수 없게 되는 것이 된 셈이죠. 아마도 그로텐디크 교수와 모치츠키 교수는 abc 추측의 이면에 깔린 진리와 그 핵심 의미를 깨닫고 난 후, 더 이상 세상을 세상으로 이해하기를 멈춘 것일지도 모릅니다. 사실 abc 추측을 비롯하여, 소수와 관련된 추측들은 현대 암호학에서도 굉장히 중요한 개념을 제공합니다. 예를 들어 타원곡선 기반의 암호 (elliptic curve cryptography)는 특정한 점 (generator)이 타원곡선에 있을 때, 이에 대한 타원 곡선 상에서의 modular 연산을 2^p번, (p = prime number) 반복한 값을 계산하는 것에서 출발합니다. 공개키로서 이 generator과 마지막 도달점을 제공하지만, 진짜 암호는 p에 숨겨놓으면 해커들은 도대체 몇 번의 연산을 거쳐서 이 마지막 점에 도달했는지 알 수 없게 됩니다. ECC 암호체계는 RSA2048에 비해 더 효과적으로 암호키를 생성할 수 있으며 더 효율적으로 메모리를 사용하므로 점점 중요하면서 인기있는 암호체계로 각광받고 있습니다. 그렇지만 이 암호 체계에서도 중요한 것은 바로 이 연산을 시행하는 횟수이고, 이는 타원곡선 상에서의 modular 연산과 직결되므로, 결국 소수에 대한 특성을 이해하는 것으로 귀결됩니다. 앞으로의 암호들은 이제 폰노이만 체계가 아닌, 양자컴퓨터 내성 여부가 더 중요해지게 될텐데, 양자컴퓨터 시대가 도래했을 때 여전히 소수의 특징에 기반한 암호체계가 유효할지가 많은 연구자들의 주요 관심사가 되고 있습니다. 네번째 작품인 ‘우리가 세상을 이해하길 멈출 때’는 양자역학의 태동기였던 20세기 초반, 양자역학의 수학적 성립 과정에서 대립 구도를 이뤘던 슈뢰딩거와 하이젠베르크의 이야기입니다. 양자역학이라는 용어에서도 알 수 있듯, 양자역학 역시 ‘역학 (mechanics)’를 기반으로 합니다. 물리학에서 말하는 역학은 고전역학 (classical mechanics)입니다. 그리고 고전역학의 핵심은 어떤 시스템에 작용하는 연산자 (operator)와 그 작용 결과물 간의 상관관계입니다. 가장 유명한 연산자는 바로 해밀토니안 (Hamiltonian)입니다. 그리고 그 결과물은 바로 에너지입니다. 예를 들어 좌우로 흔들리는 진자를 대상으로 할 경우, 이 진자는 위치에너지와 운동에너지의 합이 일정합니다. 그래서 가장 높이 올라갔을 때는 순간 멈추게 되고 (즉, 위치에너지가 최대, 운동에너지가 최소), 가장 낮은 위치로 내려오면 속도가 가장 빨라집니다.

물론 그렇다고 해서 인공지능을 활용하는 연구 자체를 놓을 수는 없으니 계속 공부를 하긴 해야 합니다만, 목적과 방향성을 상실한 공부는 오히려 독이 될 뿐이기에, 세상이 어떻게 바뀌고 있는지를 모니터링하면서 공부하고 연구하는 것은 매우 중요한 일이라 할 수 있습니다. 아마도 20세기 초반에 살았던 사람들, 특히 과학자들은 마치 지금의 인공지능 연구자들처럼 각자의 연구에 희열을 느끼면서도 다른 사람들의 연구에 큰 충격과 자극을 받고, 자신의 세계관이 매일 깨지고 다시 조립하다시피 하는 고통스러운 업데이트를 겪어야 했을 지도 모르겠습니다. 물론 그 시대에는 인터넷과 이메일이 없으니 지금과 같은 짧은 업데이트 주기는 아니었겠지만, 이미 그 당시에도 충분히 발달했던 저널 출판과 우편을 통해 과학자들의 관심과 열광적인 연구로의 경주는 매일 같이 이어졌을 것입니다. 그렇지만 급격한 세계관의 변화가 늘 희열만 가져다주는 것은 아닙니다. 폭주하는 기관차처럼 세상에 대한 우리의 인식이 팽창하고 변할 때, 결국 혼란이 뒤따르는 것을 피할 수는 없기 때문입니다. 특히, 한 분야를 오랜기간 파고들던 학자들 입장에서 자신의 분야의 토대가 송두리째 흔들리게 만드는 새로운 개념과 이론의 출현은 그간 살아온 인생의 의미 자체를 부정하게 만드는 재앙이 될 수도 있습니다. 과학자들은 대개 새로운 이론이나 발견에 대해 한 편으로는 반기고 즐기지만, 한 편으로는 회의적이고 비판적 태도를 견지합니다. 이는 과학의 객관성을 추구하려는 동기에 기반을 둔 것이기도 하지만, 과학자 개인의 입장에서는 자신의 세계가 쉽게 깨지는 것을 용납하기 어려운 인지상정때문이기도 합니다. 물론 충분히 쌓인 증거와 반박할 수 없는 확실한 실험적 데이터 앞에서는 과학자들은 언제든 자신의 이론과 가설을 아낌없이 폐기할 준비가 되어있지만, 그렇다고 그것을 함부로 쉽게 판단하여 폐기하지는 않는 셈입니다. 20세기 초반의 과학자들에게는 이러한 충격을 받아들이는 경로, 혹은 스스로 만들어내는 경로를 선택할 자유가 있었고, 이들은 어떤 경로를 선택하든 그에 따르는 세계관의 변화를 온몸으로 맞을 수밖에 없었습니다. 개인적으로 제가 가장 흥미롭게 본 작품은 ‘심장의 심장’이었습니다. 이 작품에서 주로 다루는 주인공은 앞서 언급한 알렉산더 그로텐디크입니다만, 작품 속에는 그의 제자였던 일본의 천재 수학자 신이치 모치츠키 (Shinichi Mochizuki) 교수의 이야기가 등장합니다. 이 작품은 수학계의 전설이자 화제의 기인이기도 했던 그로텐티크의 일생을 다루는 작품입니다만, 이 작품 내면에는 일반적인 수학이 아닌, 극도의 추상화를 거쳐 남은 수학적 원리가 너무나 충격적일 정도로, 즉, 다시 말해 우리가 삶을 인식하는 모든 틀을 바꿔버리게 될 수도 있을 정도로 궁극에 달한 수학적 원리가 어딘가에 내재되어 있을 것이라는 암시가 놓여 있습니다. 그러한 시도를 했던 수학자들이 그간 없던 것은 아닙니다. 이미 고대 그리스 수학자 아르키메데스는 이와 비슷한 생각을 했던 적이 있고, 아이작 뉴턴이나 라이프니츠는 이를 새로운 수학의 창안 (즉, 미적분학)으로 구체화하기도 했으며, 다비트 힐베르트 같은 수학자는 인류의 모든 수학 도구를 모아 인류가 어디까지 그 진도를 나갔는지를 정리하기도 했습니다. 그렇지만 추상화 그 자체를 극도로 추구하면서 그 동안 아예 존재하지도 않았던 개념을 만들었던 수학자는 그렇게 많지 않습니다. 아벨 같은 수학자가 그에 해당할 것이며, 알렉산더 그로텐디크도 바로 그러한 수학자 중 한 사람이었습니다. 그로텐디크가 매달렸던 분야는 대수기하학과 정수론입니다. 그리고 그 중에서도 정수론에는 수학자들을 괴롭히는 난제들이 널려 있습니다. 비교적 최근에 제시된 ABC 추측 (ABC conjecture)라는 난제는 지금도 많은 수학자들을 괴롭히는 난제이자, 희대의 비밀이 숨어있을 것이라 믿어지는 문제이기도 합니다. 이런 난제들은 겉보기에는 상당히 직관적이고 쉬워보이지만, 증명은 상상보다 훨씬 더 어렵다는 공통점이 있습니다. 페르마의 마지막 정리가 대표적인 사례일 것입니다. ABC 추측은 1980년대 수학자 Joseph Oesterlé (1988)와 David Masser (1985)가 처음 제안한 문제로서, 정수론 분야의 꽤 오래된 문제이기도 합니다. 이 추측을 최대한 간단하게 설명해 봅시다. 서로 소인 세 자연수, a, b, c가 a + b = c의 관계를 만족시킬 때, 세 자연수의 곱 abc의 라디칼 (radical)이 c보다 작아지는 경우가 존재할 수 있고, 그 경우는 유한할 것이라는 것이 이 추측의 요체입니다. 무슨 이야기인지 한 번에 이해하기는 어렵기 때문에, 몇 가지 예를 들어 보면서 차근차근 이해해 봅시다. a = 3, b = 125 = 5*5*5, c = 128 = 2*2*2*2*2*2 인 경우를 생각해 봅시다. 이 세 수의 곱 3*(5^3)*(2^5)의 radical은 rad(abc) = rad(3*(5^3)*(2^5)) = 3*5*2 = 30 입니다. 여기서 radical의 뜻은, 중복되지 않으며 구분이 되는 소수들끼리의 곱을 의미하는 것입니다. 이 경우, c = 128이고, rad(abc) = 30 이므로, c > rad(abc)를 만족합니다. abc 추측은 이러한 (a,b,c) 조합이 무한이 아니라 유한 개일 것이라 추측하는 것입니다. 이를 조금 더 명료한 형태로 정리하면 c > rad(abc)^(1+ε), where ε is positive real number. 의 명제를 만족하는 서로 소인 (a,b,c) 조합이 유한 개 존재한다는 것입니다. 실은 c < rad(abc)의 부등식을 만족하는 경우가 훨씬 많습니다. 이는 상식적으로도 납득이 됩니다. 대개 곱하면 뭔가 큰 수가 될 것 같기 때문입니다. 예를 들어, (a,b,c) = (4,127,131) 같은 경우, rad(abc) = 33,274이기 때문에, rad(abc)가 c보다 훨씬 크죠. 사실 서로 소인 세 자연수의 조합에서는 이런 경우가 대부분일 것이기 때문에, 자연스럽게 반대인 경우, 즉, c > rab(abc)인 경우는 그리 흔하지 않을 것이라 추측할 수 있습니다. 비교적 간단해 보이는 이 문제에 대해, 그러나, 그 조합들이 유한한지 여부는 그렇게 간단하게 풀리는 문제가 아닙니다. 현재까지도 이 추측은 아직 완벽하게 증명되지는 않았습니다. 이 문제는 양변에 로그를 씌워서 정의될 수 있는 quality, 즉, q(a,b,c)라는 개념으로 다시 정의될 수 있습니다. 예를 들어, q(a,b,c) = log(c)/log(rad(abc))로 정의되는 quality의 개념을 이용하면, (a,b,c) = (3,125,128)의 경우, q(a,b,c) = 1.426565...인 반면, q(4,127,131)의 경우, q(a,b,c) = 0.46820...으로 계산할 수 있습니다. 따라서, abc 추측은 q(a, b, c) > 1 + ε, where ε is positive real number 를 만족하는 서로 소인 자연수 (a,b,c) 조합이 유한한지 여부를 증명하는 것이기도 합니다. 아직까지 완전한 증명이 되지는 않았지만, 컴퓨터를 사용하여 간접적인 테스트는 계속 진행되고 있습니다. 예를 들어 네덜란드 라이덴 대학에서는 c < 10^18인 경우에 대해, q >1을 만족하는 a,b,c 조합이 14,482,065개, q>1.05를 만족하는 조합은 2,352,105개, q>1.1을 만족하는 조합은 449,194개, q>1.2를 만족하는 조합은 24,013개, q>1.3을 만족하는 조합은 1,843개, q>1.4를 만족하는 조합은 160개 있음을 컴퓨터 계산을 통해 찾아낸 바 있습니다. 물론 이러한 결과가 abc 추측을 바로 증명하는 것은 아닙니다. c는 10^18보다도 당연히 무한히 커질 수 있기 때문입니다. 컴퓨터를 사용하여 지금까지 찾아낸 q의 최대값은 q=1.6299로서 (a,b,c) =(2,3^10*109,23^5)의 조합에서 비롯된 결과입니다. 살펴보았듯 abc 추측은 일견 매우 단순해 보이지만, 만약 증명된다면 그에 힘입어 자동적으로 증명되는 따름정리들이 꽤 많기 때문에 매우 중요한 문제이기도 합니다.

최근에 있었던 독서모임의 마지막 책은 작년에 화제가 되었던 문제작 '우리가 세상을 이해하기를 멈출 때 (노승영 역, 문학동네, 2022, 뱅하민 라바투트 (Benjamín Labatut) 작)'이었다. 이에 대해 클럽 멤버들과 아래의 발제문을 나눴다. =================== 이 책은 작가의 세번째 작품으로서, 실제로 있었던 사실과 작가의 상상력이 절묘하게 혼합된 팩션 단편집입니다. 굳이 분류하자면 과학소설로 볼 수 있겠지만, 각 단편들이 기초를 두고 있는 플롯과 주된 등장인물들은 모두 과학사에서 찾아볼 수 있는 소재들입니다. 역사 속의 실존 인물을 바탕으로 역사서에 기록되지 않은 빈틈을 메워가며 실감나는 묘사로 줄거리를 채우는 책들은 많이 있습니다. 대표적으로 나관중의 삼국지가 이에 해당할 것입니다. 그렇지만 특정 시대, 특정 직업을 갖는 인물들을 중심으로 팩션을 만든 작품은 흔치 않습니다. 특히 그 단편들이 제각각 동떨어진 것이 아니라 하나로 연결되는 것 같은 구조를 갖는 작품은 더더욱 흔치 않죠. 이 책에는 다섯 편의 작품이 실려 있는데, 그 중 19세기-20세기에 살았던 과학자들이 주인공으로 등장하는 작품은 총 네 편입니다. 첫번째 작품인 ‘프러시안 블루’에서는 독일의 화학자 프리츠 하버 (Fritz Jakob Haber (1868-1934)), 두번째 작품인 ‘슈바르츠실트 특이점’에서는 독일의 물리학자 카를 슈바르츠실트 (Karl Schwwarzschild (1873-1916)), 세번째 작품인 ‘심장의 심장’에서는 독일계 프랑스 수학자 알렉산더 그로텐디크 (Alexander Grothendieck, 1928-2014), 그리고 네번째 작품인 ‘우리가 세상을 이해하길 멈출 때’에서는 오스트리아의 물리학자 에르빈 슈뢰딩거 (Erwin Rudolf Josef Alexander Schrödinger, (1887-1961))와 독일의 물리학자 베르너 하이젠베르크 (Werner Karl Heisenberg, (1901-1976))가 주인공으로 등장합니다. 이들의 생몰연도를 보면 알 수 있지만, 작가는 19세기 후반-20세기 초중반 정도의 특정 시기에 살았던 '과학자'들의 이야기에 주목합니다. 왜 이 시기, 이 과학자들이 작가의 관심을 끌었던 것일까요? 이 책의 제목에서도 볼 수 있듯, 19세기 후반부터 20세기 초중반 사이의 약 반 세기 정도의 기간 동안 인류는 그 어떤 시기보다도 격변의 시기를 겪었습니다. 인류 역사 상 가장 큰 전쟁이 두 번 연이어 일어났고 수 천만명에 달하는 사람들이 죽었으며, 수많은 나라들이 없어지고 식민지가 되고 다시 독립하여 탄생하기도 했습니다. 그렇지만 인류의 문명사를 돌아보건대, 이 시기야말로 인류가 아마도 단위 시간 당 가장 많은 지적 성취와 발전을 이룩한 시기라고 볼 수 있을 것입니다. 개별 학문들이 수많은 학자들의 노력이 오랜 시간 축적된 결과, 어느 시기에 이르면 갑자기 레몬 나무에 많은 열매가 달리는 것처럼 급격한 성과들이 창출되는 경우가 있습니다. 예를 들어 중국 역사에서는 송나라 시기가 그랬을 것이고, 유럽에서는 르네상스 시기가 그랬을 것입니다. 그런데 19세기 후반과 20세기 초반의 시기의 지적 급발전은 그 이전의 다른 지적 성과물 폭발 시기와 좀 성격이 다릅니다. 그것은 바로 개별 학문들이 독립적으로 폭발적 발전을 한 것이 아니라, 서로 강력한 영향을 주고받으며 그 발전 속도가 더 가속되었다는 것입니다. 예를 들어 19세기 후반 들어 발전하기 시작한 군론과 대수기하학 등은 물리학의 발전에 엄청난 영향을 미쳤는데, 만약 정수론에서 출발한 리만기하학 등 수학의 선행 발전이 없었더라면 아인슈타인은 자신의 가설을 수학적으로 '제대로' 그리고 '효과적으로' 기술하기 매우 어려웠을 것입니다. 19세기 후반의 위대한 업적 중 하나인 맥스웰방정식 (Maxwell equation) 역시, 대수기하학과 함수해석학, 편미분방정식 같은 수학적 도구가 없었더라면 간단하게 기술되기 어려웠을 것입니다. 양자역학 역시 수학의 발전이 없었다면 그 개념의 명확한 기술은 상상하기 어려웠을 것입니다. 반대로 물리학이 발전하여 수학의 새로운 개념들이 들어오게 된 일도 있습니다. 아인슈타인의 일반상대성이론의 해는 다비트 힐베르트 같은 당대 최고의 수학자에게 영감을 주기도 하였으며 (Einstein–Hilbert action), 20세기 중반 이후 물리학의 최대 가설 중 하나인 양-밀스 질량 간극 가설 같은 분야는 수학에서 아예 새로운 분야를 창출하기도 하였습니다. 학문 간 상호발전은 비단 수학과 물리학에만 국한된 것은 아니었습니다. 화학 역시 본격적으로 20세기 초반 들어 가설로만 남아 있던 원자론이 아인슈타인의 브라운운동 (Brownian motion) 이론과 장 패랭 (Jean Baptiste Perrin)의 실험 등을 통해 확정되었고, 양자역학에서 재해석된 원자와 전자의 특성을 이용하여 원소주기율표가 재정립되었으며, 분광법에서 얻어진 물질의 스펙트럼은 이제 보다 정밀한 이론적 근거로 해석될 수 있었습니다. 이는 유기화학, 물리화학, 분석화학 같은 화학의 세부 분야 발전의 촉매가 되어 주었으며, 특히 촉매에 관한 과학은 인류가 20세기 중반 이후 너무나 많이 의존하게 된 석유화학, 배터리, 반도체 등의 소재 화학, 화학 공학으로 이어지는 교두보가 되었습니다. 화학에서의 발전은 다시 생물학, 특히 생화학과 분자생물학의 발전으로 이어졌으며, 공학은 이러한 기초과학의 성과들이 누적되면서 더욱 폭발적인 발전을 누릴 수 있었습니다. 19세기 후반-20세기 초반의 이 짧은 기간 동안 이렇게 서로 다른 영역의 학문이 서로 발전을 주고받으며 새로운 지식의 프론티어를 넓히는데 일조하게 된 이유는 무엇이었을까요? 물론 이미 많은 과학사가들은 이 시기가 딱히 특별한 시기는 아니며 그간 축적된 각 분야의 성과들이 임계점에 이른 것이 그 시점이었을 뿐이라는 것을 지적합니다. 그렇지만 그러한 사실을 감안해도 이 당시의 폭발적인 학문, 특히 과학의 발전 속도는 예외적일 정도로 놀라운 수준입니다. 오히려 그 시절보다 훨씬 더 과학기술 수준이 발전했다고 자부하는 우리 시대에서는 이에 필적할만한 과학기술 발전 속도는 거의 보이지 않습니다. 과거 냉전 시절 미-소 간의 우주개발경쟁에서 잠시 재현된 적이 있으나 그것은 국가 주도의 발전이었고, 최근 인공지능을 둘러싼 급격한 기술의 발전도 이에 비견할 수 있겠으나, 이 역시 인공지능이라는 상대적으로 좁은 영역에만 국한된 것입니다. 작가의 표현을 빌리자면, 이 시기는 사람들이 자신들이 살던 세상을 이해하던 방식이 근본적으로 바뀐 시기였을 것입니다. 그 이전까지는 사람들이 인식하는, 느끼는, 살아가는 세상은 그저 인식하고, 느끼고 살아가는 그 자체였을 뿐이었을 것입니다. 그렇지만 이 시기를 거쳐 사람들은 세상을 다시 보게 됩니다. 그 동안 당연하다고 인식하던 세상의 본질이 사실 당연한 것이 아니었음을, 그 동안 하나라고 믿었던 존재의 특징이 사실 다수가 될 수도 있음을, 그 동안 불변하는 진리라고 믿었던 원리가 불변이 아님을, 그 동안 변치 않는 확고한 이론이라고 믿었던 것이 더 상위 이론의 특수한 형태일 뿐이라는 사실을 하나씩 차례로 충격과 함께 받아들이게 된 것이죠. 세계관을 바꿔야 할 정도로 충격적인 발견이 연이어 나오게 되면 사람들은 어떤 반응을 보이게 될까요? 최근 몇 년간 정신없을 정도로 발전하고 있는 인공지능의 발전 사례를 보면 조금이나마 그 시기 사람들의 마음을 헤아려볼 수 있을지도 모르겠습니다. 예를 들어 저는 학교에서 2021년부터 인공지능을 포함한 계산과학을 가르치고 있는데, 매 학기마다 강의노트를 바꿔야 할 정도로 인공지능의 발전 속도는 무시무시합니다. 이제는 매 학기가 아니라 매달, 아니, 매주 바꿔도 모자랄 정도로 이 분야의 발전 속도는 점점 가속되고 있으며, 어느 순간 ‘업데이트하는 것은 이제는 큰 의미가 없고, 그것이 업데이트되고 있다는 것을 인식하는 것만으로도 충분하다’ 라는 생각을 하게 될 정도가 되었습니다. 어차피 한 두 달 있으면 구식이 되어버릴 이론과 알고리듬을 학습하는 것에 과도한 신경을 쓰기 보다는, 우리가 인공지능을 인식하는 그 틀 자체를 계속 업데이트하는 것이 더 중요하다는 결론에 이르게 된 것이죠.