NEST meeting 발표 후기 (220722)

 지난 금요일에는 약 1년만에 NEST 미팅에서 발표를 했다 (발표자료: 아래에 임베드). 지난번과 달리 zoom이 아닌 오프라인 현장에서 발표했는데, 현장에는 고등과학원 선생님들만 오셔서 옹기종기 진행을 했지만 줌으로는 좀더 많은 분들이 들으신 모양이다. 비록 informal한 시간이지만 통계물리 분야 교수님들, 박사님들께서 한 줄 한 줄 봐주시기 때문에 준비도 무척 디테일하게 하게 되고, 발표 과정에서의 디스커션도 다른 어느 발표보다도 알차게 도움이 된다.

나는 저번 발표(블로그 게시물 링크)에서처럼 이번에도 thermodynamic geometry (이하 TG. 합의된 약어는 아니며 임의로 줄인 것임) 쪽 논문을 리뷰하는 식으로 진행했다. 시스템의 거시적 상태를 정의하는 파라미터 (온도, 압력 등) 쌍들의 모임이, 그 곡률이 명확한 역학적/에너지적 의미를 갖게끔 어떤 다양체를 이룬다는 것이 TG의 핵심적인 관찰이다.

원래 이쪽 분야는 Ruppeiner geometry, Weinhold geometry 등의 이름으로 평형 시스템의 거시적 열역학에 대해 먼저 수립되었고, 액체-기체 상전이나 이징 모형과 같은 교과서적 모형에 대한 기하적 재해석뿐 아니라 블랙홀 등에 대한 최신 연구들에도 꽤나 활발히 적용이 되었다. 다만 상전이에서 나타나는 불연속점이나 미분불가능점 같은 singularity에 대해, 이론 물리학의 자랑할 만한 방법론으로서 잘 정립된 재규격화군(RG) 등에 비해서 이런 TG가 얼마나 좋은 설명력과 새로운 시야를 제공할지는 의문인 상태다.

단적으로 말해 TG는 이미 잘 알고 있는 열역학적 현상을 매니폴드 위에서 일어나는 걸로 취급할수 있더라 라는 재밌는 해석 그 이상도 이하도 아닐 수도 있다. 그러나 이하에서도 서술하겠지만 그러한 재밌는 포말리즘이 연구자를 매혹시키고 계속 공부를 하게끔 한다. 분포가 오직 거시적 파라미터에 의해 간단히 결정되기 때문에 이들 시스템의 기하학은 피셔 정보량을 메트릭 삼는 정보기하(information geometry)와 동등하기도 하다.

아무튼 그러다가 비평형 현상에 대한 구체적인 접근을 가능하게 하는 확률열역학이 발달되면서, 평형으로 relax되고 싶어하지만 외부 제어입력 때문에 계속 평형에서 조금 떨어진 채로 evolve되는, 요동이 중요하게 작용하는 계들을 선형근사해서 TG로 다루는 연구들이 진행되었다. 이미 잘 정립되어 있는 linear response theory (LRT) 가 여기에서 적극적으로 쓰여, 물리문제를 어떠한 기하문제로 바꾸고 어떻게 풀어나가야 하는지 잘 guide를 해준다.

시스템을 제어해서 처음 상태에서 다른 상태로 옮기는 작업을 어떻게 하면 적은 비용으로 수행할 수 있을까? 이런 궁금증은 꽤나 응용가능성이 많은 연구문제다. TG에 따르면 그런 에너지적 비용이, 매우 자연스럽게 파라미터 다양체 상에서의 '길이'와 직접 관련지어 써진다.

멀리 옮길수록 비용이 많이 들테니 당연한 거 아니냐고 할 수도 있는데, TG의 message는 그것보다는 약간 더 nontrivial하다. 목표로 하는 처음 상태와 나중상태가 정해져 있더라도, 어느 경로를 거쳐서 가는지를 여전히 무한히 다양하게 고를 수 있기 때문이다. 다양체가 시스템의 역학적 정보를 담고 있다는 것을 알면, 어떤 경로를 거쳐야 마찰 등에 의한 에너지적 비용 발생을 최소화하면서 목표를 달성할 수 있는지 알 수 있다. 말하자면 매우 추상적으로 정의된 휘어진 공간 상에서 길이를 최소로 하는 '직진'이 무엇인지 알려주는 게 TG의 핵심적 역할이다. 이 경우에 길이를 정해주는 메트릭 텐서는 정보기하와는 약간은 다르게 된다.

더 나아가서, 같은 경로를 따르더라도 어느 부분에서 빠르게 가고 어느 부분에서 느리게 가느냐에 따라 에너지적 비용이 달라질 수 있다. 비록 LRT 영역이라 어차피 매우 느린 상황이긴 하지만, 그 안에서도 이러한 time-parametrization의 이슈는 어느정도 다뤄질 수 있다. 어떤 고정된 경로에 대해 코시-슈바르츠 방정식을 적용하면, (대충 대각화시켜서 얘기하자면) 메트릭텐서의 역할을 하는 susceptibility의 크기가 클수록 그 곳에서는 느리게 움직여야 한다는, 어찌 보면 꽤나 직관적인 결론이 나오기도 한다.

이번에 NEST 미팅에서 소개한 논문은 이러한 TG의 방법론을, (Thouless가 처음 보고한) adiabatic pumping이라는 문제에 대해 적용한다. Adiabatic pumping은 거시적, 항시적 기울기가 없는 상황에서도 싸이클을 돌려서 일정한 방향의 흐름을 만들어내는 것이다. 여기서 흐르는 것은 전기가 될수도 있고 스핀이 될수도 있는 등 다양하다. 저자들은 열역학 연구자들이므로 주로 역학적 에너지를 뽑아내는 엔진에 대해서 다룬다. 특정한 방식의 엔진싸이클은 adiabatic pumping으로 간주될수 있기 때문이다. 이로써 따로 노는 것처럼 보였던 adiabatic pumping 분야와 열역학적 제어 분야가, 기하학이라는 징검다리를 통해 연결된다. 그리고 효율이 높으려면 그만큼 일률(power)는 줄어들어야 한다는 tradeoff relation이 기하로부터 주어지게 된다.

청중 선생님들의 공통된 지적은, 포말리즘이 무척 재밌기는 한데 과연 얼마나 새로운 시야를 제공하는지에 대한 의문이었다. 해당분야 연구자들이 좀더 와닿게 밝혀줘야 할 부분이다. 개인적으로는 매우 scarce한 상황에서 제어를 통해 어렵게 어렵게 에너지를 뽑아낼때는 어떤 경로를 얼마나 빠른속도로 거칠지의 이슈가 중요해지고, 그럴 때 TG가 기존에 우리가 몰랐던 실용적인 솔루션을 제공할수 있지 않을까 상상해보고 있다. 그래도 확실히 재밌긴 한것같고, interest가 잘 맞는 것 같으니 함께 꾸준히 공부 해보자고 말씀해 주셨다.

한편, 아예 평형으로 relax될 생각이 없이 항시적(housekeeping)으로 평형에서 많이 떨어져 있는, arbitrarily far-from-equilibrium 시스템에 대해 TG를 적용하는 연구는 아직 별로 없는 상태다. 왜냐면 LRT만 해도 평형계에서부터 미소하게만 떨어진 것이므로 거시적 파라미터 셋으로 규정되는 앙상블 접근이 약간은 통하는데, 평형에서 임의로 멀리 떨어진 시스템은 앙상블 접근 자체가 잘 통하지 않기 때문이다. 거시적 조건 하에서 비평형계가 어떤 상태를 택할지에 대한 일반원리는 아직 정립되지 않은 상태로, 최소 엔트로피 원리, 최대 엔트로피 원리, 최대 캘리버 원리 등 여러 설들이 부분적인 이해만을 제공하고있다.

Active matter를 비롯한 내가 정말로 관심있는 시스템들도 대부분 이 경우인데, 여기에의 TG 적용은 아직 블루오션이라고 볼 수도 있겠고, 한편으로는 위와 같은 이유로 근본적으로 TG와 안 맞는다고 볼수도 있다. 물론 far-from-equilibrium에서의 엔트로피 생성을 기하적으로 다루는 연구 흐름들도 있고 그것들에도 관심이 무척 많긴 하나, 그건 파라미터들의 공간이 아니라 좀더 추상적인 함수공간이므로 TG와는 아예 다르다.

Active matter를 제어해서 에너지를 뽑아내거나 구조를 형성시킬 때 비용이 어떻게 드는지에 관해서는, 정적인 상태에서의 연구는 나름 진행이 되고 있지만 동역학적 과정에 대한 연구는 거의 없다시피한 상태다. 그 돌파구는 위에서 말한것처럼 함수공간 상에서 엔트로피 생성을 보는 쪽이나, 아니면 optimal transport theory 및 speed limit 쪽에서 활발히 나올 가능성이 높다고 보고있긴 하며, 그쪽에도 흥미가 많이 있다. 그렇지만 그것들에 대한 지식이 TG로도 어느정도 증진된다면 그 역시 꽤나 재밌지 않을까 상상해본다.

Facebook에서 이 글 보기: 링크

Damped harmonic oscillator coupled with thermal reservoir: frequency-domain approach

확률미분방정식을 time domain에서 정직하게 풀게 되면 상관함수(correlation function)들에서 있어 마땅한 causal structure의 origin이 매우 명쾌하게 보인다는 장점이 있다. 그러나 이렇게 푸는 것은 변수가 세네 개 정도만 있더라도 매우 복잡한 작업이 된다. 특히 변수들 간에 명확한 hierarchy가 있지 않고 서로 영향을 주며 얽혀 있는 경우에는 더욱 그렇다.

따라서 미분방정식을 적절히 다른 domain으로 보내주는 변환을 하여 기술하는 경우가 많다. 라플라스 변환을 해서 \(s\)-domain에서 보는 경우는 상관함수들의 시간에 따른 decay를 보기에 매우 편리해지고, 푸리에 변환을 해서 frequency domain에서 보는 경우는 신호의 스펙트럼 성질, 즉 주파수 대역에 관한 성질을 자연스럽게 볼 수 있다. 이러한 장단점들 외에도, 계산 자체가 time domain에서 보는 것보다 훨씬 간단하다.

이 글에서는 기초적인 물리 시스템인 감쇠 진동자가 열저장체에 접촉하고 평형을 이루고 있어 온도가 잘 정의된 상황을, 주로 푸리에변환을 해서 다룬다. 이는 평형 및 비평형 통계역학의 좋은 연습문제가 된다.

여기에 더해서, 현재 내가 진행중인 연구에서 평형 모델을 구성할때 사용하는 핵심적인 방법론을 이 모델에 적용해 보았다. 그 핵심 방법론이란 주어진 어떤 해밀토니안 \(\mathcal{H}\)에 대해 볼츠만분포 \(e^{-\beta\mathcal{H}}\)를 평형분포로 갖는 확률미분방정식을 결정하는 절차인데, 이 방법에 따르면 쉽게 guess될 수 있는 해밀토니안으로부터 원래의 미분방정식이 유도된다. 따라서 그것이 해당 시스템의 canonical ensemble에 해당하는 해밀토니안이라는 점이, statistics에서 evident할 뿐만 아니라 dynamics의 관점에서 정확하게 입증된다.

본래 연구실 내에서 공유하고자 정리한 문서인데 블로그에도 게시해본다.

Facebook에서 이 글 보기: 링크

최무영 교수님의 비평형통계역학 특강 TA를 담당한 소감

교양과학서적 <최무영 교수의 물리학 강의>를 중학교 때 인상깊게 읽고 자기소개서에도 쓰고 그랬었는데, 10년쯤 지나서 이번 학기에 최 교수님의 '응집물질물리특강 1 (비평형통계역학)' 수업조교를 맡아서 하게 되었다.

교수님께서는 학생들 과제물을 일일이 살펴보신 뒤에 조교에게 채점하게끔 주시는데, 이번에 마지막 과제 받으러 찾아뵐때 책을 가져가서 싸인을 받아도 되는지 여쭈었고 흔쾌히 허락해 주셨다. 몇번 개정이 되고 표지도 바뀌어서 이제는 아마 구하기 힘든 판본일게다.

당시 내가 구입할 때 아버지도 같이 사 읽으셨어서, 싸인 받는다고 하니까 같이 갖고 가서 받아오게끔 부탁하셨다. 아버지는 이과 전공은 아니지만 수학도 내게 고등학생 초반까지 한 수 가르쳐 주셨을 정도로 워낙 잘하시고 했다보니 이런 과학쪽에도 기본적으로 관심이 있으시고, 당시에 내가 물리학 관심있어 한다니까 함께 읽어보고 이야기 나눠보고 싶어서 사 읽으셨던 것 같다.

다른 물리학자 교수님들과 최교수님이 공저하신 신간 <그렇게 물리학자가 되었다>도 마침 오늘(!) 출간이 되었다. 그래서 그것도 교보에서 사서 가지고 가려 했지만 아쉽게도 우리 학교 교보에는 아직 입고가 안 되었더라. 자서전 느낌인 것 같은데 어떤 내용이 담겨 있을지 궁금하다.

수업 얘기를 좀 해 보자면, 인문대 수업에서는 현실 정치사회에 대한 튀는 말씀도 꽤 자주 하신다고 하는데 (그러한 내용들이 종종 등장하는 <최무영 교수의 물리학 강의> 또한 요즘으로 따지면 '인문사회계를 위한 물리학'에 해당하는 수업에서 강의하셨던 걸 다듬은 것으로 알고 있다) 여기서는 박사과정 특강 수업이다 보니 철저히 전공내용 위주로 진행을 하셨다.

그래도 가끔씩 수업 내용과 관련해서 과학지식의 인식론적 기초, 사회구성적 성격 같은것에 대해 말씀을 해 주시는데 교수님의 견해만을 바탕으로 단정적으로 얘기하기보다는 해당 학계의 여러가지 설을 소개해주시는 식으로, 지극히 합리적인 견해 형성 방식을 갖고 계시다고 느꼈다.

특히 미시적인 대상들과 규칙들의 동역학이 실재에 가깝고 통계역학은 그것들로부터 유도될수 있어야 하는 부차적인 것이라는 물리학도 특유의 환원주의적 도식이, 반드시 맞는건 아닐 수 있다는 말씀도 재밌었다. 우리는 현상의 설명에 가장 유용한 이론적 틀을 골라서 적용하는 것일 뿐이고, 단단한 실재라고 믿어지는 것들도 마찬가지인 것.

이건 내가 시스템의 미시적 디테일이 irrelevant해지고 '근본적으로 거시적인' strict한 법칙들이 등장하는 universality class 같은 걸 보면서 했던 생각들과도 그 결이 비슷했다. 여하튼 소박한 환원주의에 대한 그런 의심은 언뜻 들으면 다소 신비주의적인 계기를 갖는 것으로 오해될수 있으며 한때 '신과학' 등의 구호 하에 지나칠 정도의 총체성에의 추구로 물리학자들을 이끌기도 했지만, 최 교수님은 한때 유행했던 그런 것들과 어느 정도는 거리를 두신 걸로 알고 있고, 해당 언급 역시 철저히 인식론적 문제의식이라고 생각된다.

뭐 모두 중요한 얘기들이지만 사실 여담들이고, 전공 내용 자체에 대한 최 교수님의 강의 실력 또한 두말할필요 없이 명불허전이셨다. 학기 중후반부에는 진도 때문에 너무 급하게 진행했는데 이것이 상당히 아쉽다.

물리 교수님들의 강의 방식을 내 마음대로 두 가지로 나눠 보자면 대단히 심오하고 미묘해보이게 설명하는 방식과, 최대한 클리어하고 담백하게 해설해서 아우라를 부수는 방식이 있다. 들어본 수업 중에는 김석 교수님이 대표적으로 후자 쪽이었다. 최 교수님 수업의 경우 관점은 기본적으로 전자에 가까우신 것 같은데, 그 미묘한 것들조차 단순히 말로 하는게 아니라 정확한 이론적 statement들로 풀어내셔서 오히려 후자에 가깝게 느껴지는 탁월한 강의였다.

이번학기를 끝으로 퇴임하시는 것으로 알고 있는데 명예교수 되시고 나서도 기회가 되면 강의를 열어주시면 좋을 듯하다.

Facebook에서 이 글 보기: 링크

2022-1학기를 마치며

학기가 거의 끝나 가는 지금 시점에 생각해 보면 돌고 돌아 물리가 제일 재밌는 것 같다. 커다란 계산들을 하나하나 손으로 풀어서 확인을 하고 그것들에 해석이 부여될 때마다, 혹은 어릴 때 교양과학서적에서 읽었던 내용이 실제 이론적으론 이런 거구나 하고 약간이나마 알게 될 때마다 이렇게 재밌을 수가 없음.

또 하나 느낀 점은 물리과 고급 이론과목들은 서로 다른 곳에서 출발해도 결국 수렴진화(?)하는 것 같다는 인상이다. 실제로 주변이랑 얘기 나눠 봐도, 학기 중반쯤 되니까 서로 다른 과목인데도 다들 비슷한 걸 배우고 있어서 웃길 때가 많았고... 양자장론, 상전이, 다체계, 응집특강 모두 교집합이 꽤 많다. 이건 다른게 아니라 그냥 현재로선 결국 물리를 기술하는 가장 보편적이고 진전된 언어가 장론이어서 그런것 같음.

다만 이번 학기에 내가 들은 수업들의 경우엔 Lorentz invariant한 이론들을 다루진 않았고 전부 시간과 공간을 따로 취급하긴 했다. 작년 양자장론 1은 상대론을 기본으로 깔고 가서 거의 제대로 못 따라갔는데, 지금은 장론의 기본적인 언어도 익혔고 일반상대론 수업에서 상대론의 언어도 익혔으니, 그때 내용을 지금 다시 본다면 좀더 수월하게 따라갈수 있을 듯.

대학원 초반에는 통계물리 분야는 다른 물리 분야랑 뭔가 아예 따로 논다고 생각했었는데 그건 요새 새롭게 다루는 대상들(네트워크, 생체, 머신러닝 등)이 물리학의 전형적 주제들과 살짝 따로 놀아서 그런거 같고, 이론적으로까지 그렇다고 생각했던 건 내가 내공이 부족해서였던 것 같음.

근데 또 다르게 생각하면, 통계물리가 다른 분야랑 심하게 따로 놀지 않는다는 게 오히려 엄청 신기한 일이기도 함. 수많은 입자들이 모여 있는 거시적인 상황을 다루는 이론(통계역학/통계장론)이, 그 입자들 한 두 개의 미시적인 상호작용 규칙을 다루는 이론(양자장론)이랑 출발점도 관점도 질적으로 아예 다른데, 결국 형식적으로 비슷하게 된다는거니까.

하여간 이론물리 하면 흔히 떠오르는 것들을 너무 모르다 보니, 그런걸 채워가면서 물리학도로서 한 단계 업그레이드 되자는게 이번학기 목표였다. 실제로 학기를 거치면서 어느 정도는 좀더 통합되고 넓은 시야를 가질 수 있게 된 것 같다.

여담이지만 학부시절에 전기과에서 신호처리 쪽 공부하면서 훈련받아서 델타함수, 푸리에변환, 복소적분 등을 잘 다루고 재밌어하는 게 내 부심(?) 중에 하나였는데, 고급 이론과목을 듣다보니 그런 것들은 기본 중에 기본소양으로 늘 깔려있는 느낌이다.

아주 구체적인 계산을 하지 않아도 그런 것들을 꼼꼼하게 따지는 것만으로 합리적으로 아귀가 맞으면서 올바른 물리를 주는게 되게 재밌다. 정확히 말을 못하겠는데 인과성, 동일성 같은 엄청 중요한 것들이 이런 계산들 속에서 수식적으로 자연스럽게 등장하고, unphysical한 것들은 늘 절묘하게 제거가 됨. 암튼 내용적인 흥미나 직업적(?)인 목표뿐만 아니라 내가 좋아하는 그런 계산기법들을 늘상 다뤄볼수 있다는것도 공부의 데일리한 즐거움이겠다.

암튼 방학때는 작년에 너무 어려워서 던졌던 장론 수업 자료가 시스템에 남아 있으니 그걸 다시 공부해 보고, 이번 학기 수업 내용 중에서도 진도 나가느라 바빠서 상세한 예시 못 들어주셨던 걸 스스로 채워보고 하면 될 듯하다.

타과 출신이라는 것은 더이상 핑계가 되지 않는만큼, 일찍부터 공부 충실하게 한 동료들에 비해서 현재 내가 이해하고 활용할수 있는 이론의 폭은 정말 새발의 피도 안될 거라서 늦게나마 열심히 해봐야겠다는 생각이 든다.

Facebook에서 이 글 보기: 링크

Transition probability and rate of the continuous stochastic dynamics: some lessons from quantum mechanics

포커-플랑크 방정식으로 기술되는 시스템에서 미소 전이확률(정확히는 확률밀도)과 전이율을 계산해본 결과를 pdf로 첨부한다.

연구에 참고하고 있는 여준현 교수님 논문 (J.Yeo et al, "Housekeeping entropy production in continuous stochastic dynamics with odd-parity variables," J. Stat. Mech.: Theor. Expr. 2016.9 (2016): 093205.) 을 읽다가 해당 식 (9), (10)이 어떻게 얻어지는지 정확히 계산하고 싶어서 해본 것인데, 단지 이 논문을 읽기 위해서뿐 아니라 꽤나 제너럴하게 쓸모가 있는 작업같고, 이러한 식을 다룬다면 반드시 알아야 할 내용이라고 생각되어 공유해본다.

포커-플랑크 방정식도 결국 어떤 연산자가 abstract ket을 time-evolution시키는 것이다 보니, 양자역학에서 도입된 bra-ket notation이 계산과정에서 유용한 것이 흥미롭다.

사족을 달자면 이렇게 비평형 통계역학에서 한 분포를 다른 분포로 바꾸어주는 커널 \Gamma는 요즈음 머신러닝에서 화제인 디퓨전 모델의 핵심 object기도 하다.

Facebook에서 이 글 보기: 링크

열역학 제 2법칙

친구가 보내준 재미난 트윗을 봤다.

진지하게 코멘트를 하자면 (일단 열역학 1법칙 아니라 2법칙이고) 실제로 열역학 제 2법칙의 한계를 탐색하는 현대적 연구가 많다. 겉보기에 2법칙을 깨는 것처럼 보이는 시스템들도, 숨겨진 operation까지 올바르게 고려해서 기술하면 알고보니 그렇지 않다는 것. 계산기, 엔진 등 여러 분야에서 이런 게 있고... 그럼에도 그런 시스템들은 그 겉보기인 한에서 효용이 있기도 하며 이들 역시 일축되지 않고 구체적으로 탐구되어야 한다.

그리고 계의 크기가 작아 열요동을 무시할 수 없는 microscopic system의 경우에는 엔트로피 생성량 또한 분포를 가지는 확률변수이고, 잘 정의된 조작에 대해 '단일 시행에서는' 엔트로피가 감소하는것이 가능하다. 다만 여러 시행에 대한 평균값은 반드시 양수이게 된다. 이것을 요동정리(fluctuation theorem)이라고 하며 열역학 제 2법칙의 미시적인 시스템까지에의 일반화라고 할 수 있겠다. 열역학 제2법칙은 평균의 개념이 들어간 통계적인 법칙인 것이다.

다만 이러한 단일 시행에서의 우연적인 음의 엔트로피 생성은 일관적이고 쓸모있게 활용가능한 것이 아니므로, 2법칙이 깨졌다는 식으로는 말하지 않는듯하다.

안 진지한 코멘트도 하자면, 저런 귀신이 존재한다면 결국 머피의 법칙을 실현하는 존재일텐데, 머피의 법칙도 결국은 열역학법칙에 의해 제약되지 않을까? 이것이 열역학 연구자의 믿음이다.

Facebook에서 이 글 보기: 링크

경사하강법(stochastic gradient descent)의 일반화 성능이 높은 이유? stochasticity 없이도 달성해보기

참여중인 이론기계학습 연구모임에서 6개월마다 한 번 정도씩 내 발표순서가 돌아온다. 이번에 다룬 프리프린트 (J. Geiping et al., "Stochastic Training is Not Necessary for Generalization," https://arxiv.org/abs/2109.14119)에서는 제목 그대로 stochasticity 그 자체는 좋은 학습, 즉 오버피팅 없이 일반화를 잘하는 학습의 필수요건이 아니라고 주장한다. 즉 SGD라는 확률과정의 여러 특징들을 서로 잘 분리해 내어 보니, stochasticity라는 요인을 빼고 이외의 side effect만 취한 결정론적 최적화로도 똑같은 일반화 성능을 달성할 수 있다는 것이다.

초록도 본문도 상당히 도발적인 뉘앙스로 쓰인 논문인데, 후술하겠지만 실제 결과는 그 정도까지 surprising한 것은 아닌 듯하고, 그래도 유의미한 문제의식을 스텝바이스텝으로 재밌게 풀어가고 있다. 수학적 원리에 기초를 둔 응용연구, 혹은 딥러닝의 작동원리 자체에 대한 연구를 활발히 해온 Tom Goldstein 및 그 동료들의 연구이다.

딥러닝에서 mini-batch를 사용하는 SGD가 왜 좋은가? 일단 가장 흔히 알려져 있듯이, full batch보다 계산 시간 면에서 유리하다는 것이 있겠다. 그렇다면 SGD는 시간 단축을 위해 결과적인 성능을 희생하는 것인가? 딥러닝에선 그렇지가 않고 SGD가 '오히려 좋다'는 것이 꽤나 알려져 있다. 그 이유로는 크게 두가지가 있다.

첫번째는 최적화 관점이다. Full-batch gradient descent (FB GD)는 비용 함수 지형의 saddle point(안장점)에서 속도가 급격히 느려진다. 반면 SGD는 이러한 saddle point를 잘 벗어나서 minima를 잘 찾아간다 (이건 아마 stochasticity 그 자체가 중요할것같다). 그리고 N차원 비용함수 지형에서 기울기가 0이 되는 점들 중, 간단히 산술적으로만 생각해봐도 saddle은 매우 많지만 minima는 훨씬 적을것이다. 이계도함수의 부호가 모두 플러스여야 minimum인데, 몇개는 플러스고 나머지 몇개가 마이너스고 하면 saddle point이기 때문이다. 이런 상황에서 saddle 하나하나에서 느려지는 FB GD에 비해, minima를 잘 찾아가는 SGD는 당연히 훨씬 유리하다.

두번째는 일반화 관점이다. 만약에 기울기 하강을 통해 비용함수의 minima에 도달했더라도, 그 지점이 과적합(overfitting)을 일으키는 파라미터들이라면 딥러닝 관점에서는 별로 안좋을것이다. 학습데이터(트레이닝셋)에 존재하지 않았던 테스트셋 데이터를 넣어도 잘 작동해야 하고, 이를 일반화(generalization)을 잘한다고 한다. FB GD는 설령 minima에 무사히 도달하더라도 overfitting이 심한 곳일 가능성이 높고, 반면 SGD는 일반화를 잘하는 지점에 잘 도달하는 경향이 있다.

왜 그럴까? 일단 minima 부근의 비용함수 지형이 sharp할수록 오버피팅이 심하고 (좀만 벗어나도 많이 달라지니까), flat할수록 일반화를 잘한다는 것은 약간 애매하지만 직관적으로 받아들일 만하다. 물론 이론적, 실험적으로 입증한 논문들도 많으며 거의 정설이다. 그래서 이하에서는 일반화가 잘되는 minima를 flat minima라고 부르겠다.

그러면 SGD가 왜 flat minima를 선호하는가? 이에 대한 다양한 설명이 있다. 먼저 통계물리 관점이다. 무지성(?)이고 위치 및 방향에 대해 균질한 화이트노이즈와 다르게, SGD의 경우는 landscape의 모양에 따라 adaptive, intelligent하게 조절되는 비평형 노이즈기 때문에, sharp minima일수록 더 오래 못빠져나오는 화이트노이즈와는 정반대로 flat minima에서 더 오래 머무른다. 이걸 통계물리학자들은 fluctuation-dissipation relation의 breakdown이라고 한다.

아니면 수학적으로, SGD에 의한 implicit한 효과를 explicit하게 빼내어 주어서 설명하는 것도 있다. SGD는 full batch에 의한 진짜 비용함수 지형 대신에, 매 지점에서 약간씩 틀어져있는 '가짜 지형'을 effectively 겪는다고 할 수 있다. 그 가짜 지형을 계산해보면 실제 지형에, 비용함수의 기울기의 제곱에 비례하는 항이 추가된다. 이것을 최소화한다는 것은 기울기가 별로 안컸으면 좋겠다는 것이고 이는 전형적인 regularization term에 해당한다. 즉 SGD는 regularization 효과가 있고 이것때문에 오버피팅이 방지된다.

위 두 가지는 서로 대립되는게 아니라 서로 통해있는 얘기다. 첫번째 관점에서 말한 것처럼 adaptive하게 조절되는 구체적인 방식이, 바로 두번째 관점에서 말한 regularization term인 것이다. 아무튼 여기서는 후자에 초점을 맞추자. 이 논문의 문제의식은 다음과 같다. SGD를 실행하되 그 이론적 해석만 regularization이라고 하는 게 아니라, 아예 SGD 대신 FB GD를 해버리되 앞서말한 regularization을 직접 해주어 보자. 위의 설명대로면 FB GD로도 SGD의 일반화 성능을 달성할 수 있어야 한다.

저자들은 이를 확인하기 위해 ResNet 모델, CIFAR-10 데이터로 일반화 성능을 확인하는 실험을 돌린다. 이때 fair comparision을 위해, minibatch라는 게 없는 FB GD에서도, SGD에서와 같은 batch size에 해당하는 batch normalization은 계속 해준다.

일단 SGD에서는 validation score가 95.7%가 나온다. 반면 이를 full-batch로만 바꾼 naive FB GD에서는 75.42%가 나온다. 이 20%의 성능 갭을, (앞서 말한 explicit regularization을 포함하여) 어떻게든 non-stochastic한 방식으로만 메워보고 싶다.

첫번째로 스케쥴링을 개선해준다. 처음부터 learning rate를 크게 시작하지 말고, 상당히 느리고 긴 warm-up을 해준다. 이것만으로 87.36%로, 갭이 절반 이상 메워졌다 (근데 이걸 SGD에서도 똑같이 해준다면 그쪽도 성능이 더 좋아지는것 아닌가? 사실 이하에서도 이런 비슷한 의문이 계속 든다).

다음으로는 i) gradient clipping (FB GD에서는 landscape-dependent한 learning rate adaptation과 동등함), ii) regularization (위에서 말했듯 이게 논문의 핵심 문제의식이다), iii) smaller batch size에 해당하는 batch normalization 수행 등을 해준다. 이렇게 하면 95.67%의 성능으로 SGD의 성능에 거의 근접해진다.

그리고 마지막으로, 기본적으로 해주고 있던 random data augmentation도 꺼 주자. 그렇게 하면 SGD의 성능은 84.32%로 떨어지는데, FB GD 쪽의 성능은 89.17%가 되어 상대적으로 현격하게 잘하게 된다.

위에서 말했듯, 완전한 fair comparison이라기엔 FB GD 쪽에 너무 불공평한 추가적 성능 개선작업을 많이 해준 감은 있다. 위에 말했듯 '어떻게든 non-stochastic하게 해보겠다'는 것에 치중해서 흘러간 것이다.

그럼에도 불구하고, SGD의 여러 특징들을 잘 분리해내서 그 중에 실제 일반화 성능에의 주효한 요인을 identify하고, 무작위성이 없는 방식으로도 상당히 높은 성능을 달성할 수 있음을 보인것은 충분히 의미가 있다고 보인다.

다만 full-batch니까 당연히 시간은 더 오래걸렸을 것이다. 저자들 역시, 실제로 어떤 시간 단축과 성능 개선을 하기 위한 논문이라기보다는, (이미 잘 되고있는) 딥러닝의 작동원리에 대한 깊은 이해를 돋구기 위한 연구라는 식으로 말하고 있다.

다음으로는 SGD의 implicit bias ('가짜 지형'을 겪게끔 되는것) 효과를 explicit regularization처럼 보이게 빼내어주는 실제 이론적 계산을 따라가보고싶다. 그리고 flat minima일 때 overfitting이 덜 되는 이유를, 분포라는 관점에서 clear한 argument를 만들어보고 싶다. 발표하면서 작성한 노트를 하단에 이미지로 첨부한다.

Facebook에서 이 글 보기: 링크

Facebook 'Tensorflow KR' 그룹에서 이 글 보기: 링크

양자역학과 통계역학의 구분: 디스커션의 레벨을 잘 분별하여 변증법적 이해를 도모하자

물리학에서의 확률 하면 흔히 양자역학을 생각하는데, 그러한 양자역학적 확률(불확정성 원리 등)과 통계역학적 확률(엔트로피 등)이 서로 다르다는건 독서 및 양질의 웹검색 등을 통한 개념 교통정리와, 기초적인 일반물리학 훈련을 통해서 감을 잡을수 있다.

그러나 원론적으로 알더라도 개별 문제로 들어가면 이 둘을 은근히 헷갈리는 경우가 있는 듯하다. 대표적인 게 영점 에너지, 양자 상전이(quantum phase transition) 같은 것들이다.

외부와 열적 접촉을 하고 있을때 온도가 잘 정의되고, 그렇지 않다면 양자통계역학적 시스템이 아니라 그냥 양자역학적 시스템인 것. 요컨대 각 state의 에너지레벨과 degeneracy를 구하는건 양자역학이지만, 실제로 계가 각 state를 어느 확률로 갖겠냐는 건 통계역학이다.

(여담으로 유한한 온도에서 수소원자 해밀토니안의 모든 state의 볼츠만팩터를 더한 분배함수가 발산한다는 문제가 있던데 직접 계산해보고 해결해 봐도 재밌을거같다)

보손, 페르미온의 통계역학이 서로 다르다는 걸 논의할 때도 여러 입자의 결합 파동함수를 바탕으로 정확하게 formulate할때도 있지만, 그냥 알려진 조합론적 성질(한 state에 무한히 들어간다 / 한개만 들어간다)만으로 '쉽게' 유도할때도 있다. 나는 대학원 통계역학 수강을 할때는 후자로 배웠지만, 조교 할 때에는 전자로 강의를 하셨다. 후자 같은 경우엔 사실 파동함수를 쓰는 양자스러운 계산이 직접 등장조차 안 한다.

그러면 열적 접촉 말고 빛과의 상호작용에 의한 들뜸 같은건 어떻게 하느냐... 이것도 계산방법이 있을 테고, 포톤가스를 통계역학적으로 다루기도 하는 것 같다.

아무튼 이런걸 심오해보이게 말고 딱 즉문즉답 식으로 클리어하게 구분하는 논증과 예시 같은걸 많이 갖고 기억해두고 있으면 좋을거같다.

(여담이지만 이런 거랑 비슷하면서 좀 다른 얘긴데, 계가 에너지 낮은 걸 선호한다는 거랑, (토탈)엔트로피 높은걸 선호한다는 것도 전제조건 같은 걸 정확히 써 두면 열역학의 언어로 쉽게 통합적으로 다룰수 있는건데... 기초 일반화학 쪽에서 주로 현상의 설명을 위해 정성적으로, 말로 다루다 보니 둘 사이에 많이들 헷갈리는 것 같음. 특히 화학반응의 선호 같은걸 생각할때.)

그러면 양자 상전이라는게 무엇인가? 요동의 크기와 커플링의 세기 사이에 경합이 존재할때 파라미터 변화에 따라 상전이가 일어날수 있는데, 그 요동의 정체가 열적인 것이 아니라 양자적인 경우인것.

양자요동은 quantum harmonic oscillator에서 영점에너지 얘기할 때 나오는 그것이고, 절대영도에서도 양자요동이 있기 때문에 구성요소 사이에 커플링이 적절히 돼있는 계라면 절대 영도에서도 양자상전이가 가능함.

물론 유한한 온도에서도 양자상전이가 가능하며 한 시스템 안에서 열요동과 양자요동을 통합적으로 다루는 픽쳐도 당연히 있다 (서로 통합된, 연결된 현상). 그리고 한편으로는, 임계점 근처에서는 어떤 차원에서 열적 요동에 의한 상전이와, 다른 차원에서 양자요동에 의한 상전이 사이에 대응도 존재한다(다른시스템에서 나타나는 서로 다른현상). 사실 이런 것 때문에 더 헷갈릴수도 있다.

흔히들 질문하는 '절대영도에 실제로 도달할수 없는 이유'는, 적어도 일단은 영점에너지 같은 양자역학적 개념이 아니라 열역학/통계역학의 질문인것같다. 설령 절대영도에 정확히 도달하더라도 양자요동이 있다는게 영점에너지니까.

다만 이 열역학적 질문도 더 빈틈없이 통제하고 더 깊게 들어가면 양자적인 질문이 될수도 있는 것 같고 (사실 잘모름), 이와 별개로 통계역학에서 가장 근본적이고 미묘한 질문인 비가역성의 근원 문제도 제기될수 있다. 결국 다 deterministic time evolution이지 않느냐. 이는 고전통계역학에서의 볼츠만의 H-theorem에 비견되는 양자통계역학의 근본 물음으로서, eigenstate thermalization hypothesis (ETH) 등의 키워드로 활발하게 연구되고 있다.

그러나 이렇게되면 개념이 섞여버리고 논의의 레벨을 헷갈리게 된다. 전공필수과목 수준에서 지금 상황이 양자역학적인 것인지 통계역학적인 것인지는 정확히 구분해볼 필요가 있다. 사골같은 예시로, 물이 도체냐 부도체냐가 초중고 넘어갈때마다 달라진다고 밈처럼 까이지만 그래도 지식을 급히 먹다 체하지 않으려면 그 스텝을 따르는게 좋은데, 이거랑 비슷하다고 생각한다.

Facebook에서 이 글 보기: 링크

머신러닝의 물리학: 개괄 및 문헌 소개

웹 검색을 하다가 올해 초에 나온듯한 아주 좋은 책을 찾았다. (Huang, Haiping. "Statistical Mechanics of Neural Networks." (2022). Springer 링크)

물리학, 특히 통계물리학으로 머신러닝의 작동원리를 모형화하고 설명화하려는 시도는 상당히 활발하게 이뤄지고 있다. 머신을 glassy한 스핀 시스템처럼 보고 원하는 분포를 만들어갈때 무슨일이 벌어지는지 보는 관점, 알갱이 계의 jamming에 대응시키는 관점(이건 아직 잘 이해하지 못했다), 신경망의 한 층에서 다른 층으로 정보가 전파되는 것을 되틀맞춤무리(renormalization group) 변환으로 보고 상전이를 identify하는 관점 등이 있다. 점점 많이 보이는 NNGP, infinitely wide neural network, neural tangent kernel 등도 한국인 물리학자 이재훈 박사님이 초기에 깊게 기여한 연구 흐름으로 알고있다.

이런 일련의 흐름은 재작년에 나온 종설논문(Bahri, Yasaman, et al. "Statistical mechanics of deep learning." Annual Review of Condensed Matter Physics 11 (2020): 501-528. 링크)에 어느정도 잘 정리되어 있다. 일부 possible misconception과 달리, 이들 대부분 그저 '느슨한 비유'를 넘어서 통계물리라는 제너럴한 프레임워크를 머신러닝 시스템에 '실제로 정확히' 적용하는 것에 가깝다고 나는 생각하고 있다.

나는 머신러닝을 직접 연구하지는 않고 보다 전통적인 물리학적 대상들을 공부하고 있지만, 이런 분야들에도 늘 관심 갖고 팔로업은 하는 중이다. 특히 이들 중 SGD를 비롯한 딥러닝의 최적화 과정을, 손실함수 지형 위에서의 Brownian motion 비슷한 걸로 보는 관점에 제일 흥미가 있다. SGD가 단순히 계산량을 tractable하게 하기 위해 아쉬운 대로 minibatch를 쓰는것이 아니라, 도달하는 minima 자체가 full batch GD에 비해 '오히려 좋아'서 오버피팅이 방지되고 잘 작동한다는 걸 여러 연구들이 시사하는데, 그 이유를 통계물리학의 랑주뱅 방정식 등을 도구 삼아서 분석하는 것이다.

내 메인 연구주제가 현상론과 반대를 지향한다고 할수 있는 원리적인(?) 열역학 인것과 달리, 머신러닝에서의 이러한 관심사는 다소 현상론적이라고 하겠다. 나는 2021년 노벨상을 받은 스핀글래스 등 응집물질들에 잘 적용되는 전통적(?) 통계물리보다는, 주로 90년대 이후에 발전된 stochastic thermodynamics를 도구 삼아서 연구하고 있다. 이런 방법론적 흥미 및 익숙함 때문에 머신러닝에서도 그러한 접근들에 관심이 가는 것일지도 모른다.

그런데 서두에 소개한 이 책은 그런 게 아니라 굉장히 근본적인 쪽, 즉 맨 앞쪽 문단에서 첫 번째로 말한 관점 쪽을 매우 잘 써두었다. 통계물리 방법론 중에서도 깊고 어려운 쪽에 속하다보니, 학습이란게 대체 무엇인지에 대한 시야도 열역학적 해석을 통해 상당히 깊게 가지고 가는 듯하다. 우리 연구실 박사수료생 선배 중에도 이런 걸 하시는 분이 있는데, 이만큼 잘 정리돼 있는 책이 전세계에 아예 없는것같고 목차를 읽는것만으로도 많은 공부가 된다고 하신다. 두고두고 읽을만한 텍스트북이라 하드커버 physical book을 사봐도 괜찮겠다 싶음. 다만 스핀글래스 중심이라 상당히 난이도가 높을것 같기는 하다.

여담이지만 늘 관심있게 팔로우업 하고있는 스탠포드/구글브레인 그룹 (S Ganguli, J Sohl-Dickstein(이분은 diffusion model의 시초가 된 2015년 논문의 저자이기도 하다), S S Schoenholz 등) 에서도 연구 내용들을 이렇게 책으로 정리해서 내주었으면 좋겠다는 바람도 든다. 내 직감이지만 디퓨전모델이 점점 유명해지는것과 겹쳐서 머신러닝 하는 분들이 (꼭 원리 그자체가 physics-inspired인 디퓨전모델이 아니더라도) 이런 통계물리적 접근에 점점 더 관심을 갖게 되고, 유능한 학생들이 계속 투입되는 만큼 무척 잘하게 되지 싶다. 그 웨이브를 타려면 미리 각종 세미나 및 스쿨 같은 데도 참가하고 블로그 같은데에도 써두고 실질적인 연구협업에도 ASAP involve되어 볼 필요가 있겠다.

Facebook에서 이 글 보기: 링크

summation of two random variables: some elementary calculations

세상이 알아주지 않지만 나 혼자 자주 하는 일 중 하나는, 간단하고 잘 알려진 결과들도 가능한 한 복잡하게 얻어보는 것이다. 무슨 말인고 하니, 계산을 할때 인간의 직관과 언어, 그리고 추상화된 심볼로 때울 수 있는 부분을 배제하고 가능한한 elementary한 수식 전개만 이용해서 절차적, 기계적으로 계산해 보는 것.

그렇다고 해서 추상적인 수학적 구조로 가는 게 아니라 최대한 elementary하게 풀어 쓰는 것이다보니 이런건 '수학적'인 사고방식이라고 부르기도 어렵다. 그냥 물리학도로서의 계산 연습 같은거라고 하겠다.

오늘 지인의 궁금증에 나름의 답을 써 보다가도 그런 걸 하나 했다 (원래의 궁금증과는 큰 관련은 없게 된 듯). 바로 두 독립인 확률변수 \(X_1, X_2\)의 합 \(Y=X_1+X_2\)에 대해서다. 자세한 계산은 다음의 pdf 파일에 써 두었고, 모티베이션을 아래에 국문으로 소개한다.

확률변수라는 것을 이름과 달리 변수(집합의 원소가 될수있는 기호)라기보다는 함수(집합에서 집합으로의 맵핑)라는 관점으로 생각하는게 더 적절할때가 많다. 그러면 일단 위 표현에 등장하는 +기호는 숫자들간의 elementary한 덧셈과는 다르고, 그것과 비슷하게 보이도록 표기한것일 뿐인건 분명해보인다. 숫자와 숫자를 연산해서 숫자가 나오는게 아니라, 함수와 함수를 연산해서 함수가 나오는거니까.

확률변수는 결국 확률분포함수에 의해 completely describe되므로 확률분포의 언어로 상황을 나타내보자. 그러면 \(Y\)의 확률분포를, \(X_1\)과 \(X_2\) 확률분포의 elementary한 덧셈과 곱셈으로 나타내겠다는 생각을 해볼수 있다.

첫번째 관점은, 세번째 확률변수 \(Y\)에 독자적인 randomness가 없고 철저히 \(X_1\)과 \(X_2\)에 의해서만 결정된다는 것에서 출발한다. 이걸 식으로 표현해보자. 정확히 어떻게 결정되는지가 델타함수 부분에 들어가있다.

\(P(X_1=x_1, X_2=x_2, Y=y) = P(X_1=x_1) P(X_2=x_2) \delta(y - (x_1+x_2))\) ...(i)

Elementary한 연산만으로 되어 있으므로 내가 좋아하는 표현이다.

\(X_1\)과 \(X_2\)에 더하여 \(Y\)라는 확률변수까지 함께 고려할 때 추가되는 불확실성이 없다는 것을, 정보엔트로피 H를 정량적 척도삼아 기계적(?)으로 계산해 볼 수 있다. 이 3개짜리 joint 분포의 불확실성의 총 크기(정보엔트로피)를 계산하면, 기존 두개짜리 분포 \(P(X_1=x_1, X_2=x_2)\)의 정보엔트로피와 똑같게 나온다 (상단 pdf에서 자세히).

두번째 관점은 확률변수의 합의 직관적(?) 정의에 충실하게, 확률변수 \(X_1\)과 \(X_2\)에서 하나씩 draw해서 서로 더했을때 그 합이 \(y\)가 될 확률을 써 보는 것이다. \(X_1\)에서 \(x\)가 나왔다면 \(X_2\)에서는 \(y-x\)가 나와야 한다.

\(P(Y=y) = \sum_x P(X_1=x) P(X_2=y-x)\) ...(ii)

컨볼루션이라고 부르는 익숙한 연산이다. 독립인 확률변수 두 개의 합의 분포는 원래의 확률분포 두 개의 컨볼루션인 것. 그렇다면 (i)에서 (ii)를 직접 유도할수 있을까? 델타함수의 성질을 잘 써서 marginalize를 두번 해주면 된다 (상단 pdf에서 자세히).

이렇게 \(Y=X_1+X_2\)라는 추상화된(?) 표현을 확률분포함수의 언어로 elementary하게 풀어 써서 이리저리 갖고 놀아 봤다. 그저 덧셈기호이지만 뜯어보면 꽤 복잡한것들이 숨어있는 셈이다. 그러면 우리는 이 표현을 어떻게 실제 숫자들간의 덧셈처럼 쉽게 받아들이고 사용하는가? 그리고 그래도 왜 문제가 없는가? 몇가지 생각을 해봤다.

(1) Draw한 샘플들(곧 숫자들)의 덧셈과 대응되므로.

(2) 위 식 (i)의 델타함수 안에 실제 숫자들의 덧셈인 \(y-(x_1+x_2)\)가 들어가 있어서.

(3) 독립인 확률변수의 합(<=> 확률분포함수의 convolution)도 교환법칙 및 결합법칙이 성립하는 등, 대수학적 성질을 숫자들의 덧셈과 to some extent 공유해서.

(1), (2)는 trivial하게 같은얘기 같고, '어떻게 쉽게 받아들이나'와 관련있는 듯하다. (3)은 나머지 둘과는 결이 다르며, '왜 그래도 되는가'와 관련있는 듯하다. 맞는 생각일지 독자 쌤들의 많은 지적 바라오며...

암튼 간단한 예를 들었지만, 실제 연구 과정에서도 수식 전개가 약간 불명확하다 싶으면 자연어와 조건문으로, 혹은 한단계 추상화된 심볼로 돼있는부분을 최대한 elementary한 수식으로 바꿔서 기계적으로 풀어보곤 한다. 무슨무슨 theorem 등의 알려진 결과에 의해 옳을수밖에 없다는 고급(?) 논증도 중요하지만 초등적인 계산으로 직접 보이는것 역시 이해를 보완해준다. 특히 랑주뱅방정식을 도구삼아 연구할때면 correlation function에 대해 그런 초등적인 확인작업을 해볼 기회가 많다.

그러나 그런 식의 계산은 특성상 사람들이 별로 알아주지 않으며 직접적으로 유용하지도 않다. 내 개인적인 확인용, 그리고 공부 및 연습용이라고 보는게 맞겠다. 흘려보내기 아깝다보니 sns랑 노션에 그런걸 종종 모아두면 어떨까 한다.

Facebook에서 이 글 보기: 링크