옆 학과에 재미난 연구실이 생겼다

상당히 하드코어한 물리학을 쓰는 것 같은 교수님(https://waves.snu.ac.kr/home)께서 전기과에 부임하셨다. Publication list에서 supersymmetry라는 단어가 보이길래 들어가 볼 수밖에 없었다 (학부 졸업할 시점까지 교양과학 책에서나 봤었던 supersymmetry는 페르미온과 보존 사이를 바꿔주는 변환을 말하는거니, 잘 모르지만 빛과 물질의 상호작용을 다룬다면 나올법해 보이기는 한다). PI께서는 학석박포 모두 서울대 전기에서 하셨고 (박남규 교수님 제자) 연구실 주제는 광학적으로 작동하는 지능시스템을 구현하는 것.

박남규 교수님 제자분답게 원래 플라스몬 제어 같은 걸 하셨고 그걸로 논리소자를 구현하는 관심사를 현재의 주제로 연결하신 듯하다. 예컨대 어떤 재료의 단위체에서 광신호의 인풋-아웃풋 관계가 비선형인데, 단위체들 사이의 연결관계를 desired statistics를 갖도록 편하게 엔지니어링할 수 있다면 그것을 인공신경망이라고 할 수 있을 것이다. 이런 관점에서 photonic AI로 연결이 되는 것 같다.

그리고 그러한 재료의 좋은 예가 바로 통계물리 내지는 재료러들에게 익숙할 disordered system, 혹은 scale-free network로 간주할수 있는 material인 듯하다. 이러한 매질에서 빛의 anomalous (특히 super)diffusion을 보는 논문도 있다. 아무튼 레귤러한 시스템보다는 이런 시스템들의 disorderedness를 엔지니어링함으로써 그 광학적 지능시스템의 특성을 효과적으로 조절하고 개선할 수 있는 모양. 아무튼 통계물리 붐은 와야한다...

사이트를 보니 학부 동기 한 명도 대학원생으로 있는것 같아 반갑다.

Facebook에서 이 글 보기: 링크

Parisi의 노벨물리학상 수상

올해 노벨물리학상은 마나베·하셀만, 파리시에게 주어졌다 (기사 링크: [속보]노벨 물리학상에 마나베·하셀만, 파리시). 스핀글래스에도 큰 기여를 했고 KPZ 모델의 P가 바로 이분이기도 하고... 이외에도 우리 분야에서 이름은 모르기 어려운 분이고 당장에 우리랩 신입생 석사지도교수의 지도교수시다.

내가 현재 하고 있는 일은 90년대 이후로나 발전한 stochastic thermodynamics에 기반을 많이 두고있어서 Parisi의 Replica method 같은 테크닉을 직접 사용할 기회는 사실 많지 않긴 한데... 여러 군데에서 예상치못하게 이름이 등장하는 분이라 그래도 신기하다. 예컨대 확률열역학의 기반이 되는 SDE 같은 것과 양자역학의 커넥션을 구체적으로 지적한 stochastic quantization이라는 토픽도 Parisi의 웤이라고 알고 있다 (사실 경로적분 포말리즘에 의해 통계물리와 양자역학이 연결되는 것은 잘 알려져 있는 것인데 stochastic quantization이라고 하는 것이 정확히 어떤 contribution인지는 아직 잘 모르겠다).

예전에 Renormalization group 등에서도 상이 나오긴 했지만 보통은 특정한 연구대상에 대한 성과에 노벨상을 주는거 같고 통계물리 일반의 이론적 기법에 수여하는 건 상대적으로 드문것 같았는데... 나름 독특한 색깔의 시상 같다. 암튼 안그래도 오늘 아침에 랩 사람들끼리 Barabasi를 필두로 한 복잡계 및 네트워크 과학 연구자들도 노벨상 받을만 하지 않나 이런 얘기 했는데, 이런 시상의 경향이라면 이쪽도 언젠가는 진짜 될수도 ㅎㅎ

Non-equilibrium collective phenomena workshop 2021 (NCP2021) 후기 - (2)

지난번 중간평가(?)에 이어, 워크숍이 다 마무리되고 나서 이번 워크숍에 대한 소감을 다시 정리해본다. 일단 각 분야 내용에 대한 생각은 뒤쪽으로 밀어두고... 내 관심분야 내지는 성향, 그리고 연구라는게 대체 무엇인지 등과 관련된 추상적인 잡생각이 많이 들었는데 그 얘기부터 써보겠다.

워크숍 내용과 직접 관련된 얘기는 아닌데 듣다보니 이런 생각들이 많이 들었다. 일단 나는 마음에 드는, 멋있다고 느껴지는 이론체계 내지는 사고방식 같은 게 있으면 거기에 꽂히는 편이다. 그래서 그런지 그걸 어디에 적용해볼수 있을지, 적용되는 사례가 있을지 찾아보고 생각해 본다. 그러다 보니 내가 떠올리는 토픽들은 주로 내가 좋아하게 된 방법론을 '적용할 수 있으니 해본다' 정도지, 현재 쟁점이 되는 중요한 문제를 해결해보겠다 이런 느낌이 아닌경우가 많다. 그런데 문제는 이게 과학도로서 가지는 건전한 태도인지, 그리고 좋은 연구를 할 수 있는 태도인지 걱정이 든다는거다. 반대로 비전, 목표에 대한 관심은 있는데 방법론 자체에서 재미를 못느낀다면 그건 오히려 더 고충이겠다 싶기도 하고. 하여튼 두 계기 사이에서 균형잡힌 변증법적 발전이 중요하지 않겠나.

예컨대 소프트매터 시스템도 현재로서는 특정 생체현상을 가능한 미니멀한 원리들로부터 규명하고자 하는 목적 그 자체보다는 내가 관심이 있는 이론 혹은 사고방식이 주로 그런 시스템들에 멋있게 적용이 되고 어느정도 설명을 하기 때문에 관심이 가는것에 가깝고... 정보기하 공부하다가 연장선상에서 보게 됐던 thermodynamic geometry 역시 포말리즘은 무척 마음에 드는데, 정작 그것들이 trivial하지 않게 적용된 논문들을 보니 팔자에도 없을거라 생각했던 (아마 앞으로도 그럴 가능성이 높긴한) 블랙홀 같은 무서운 것들이 튀어나왔었다. 요컨대 난 관심 방법론이 핵심적으로 역할을 하고있어서 따라가보면서 연습해볼수 있는 논문이면 관심대상들이 너무 저세상이더라도 따라가볼 의향이 있는데, 그런 취향이 계속된다면 말그대로 흥미본위의 공부일뿐 한정된 시간에서 너무 소모적이지 않겠나 싶은것.

공부뿐만 아니라 연구에서도 그렇다. 위에서 말한 것처럼 '할수 있으니까 해보는' 연습문제식 연구들은 그 과정이 재밌을지라도 그 결과가 정말로 큰 임팩트를 주기는 어렵지 않을까 하는 점 역시 느끼고 있다 (사실 물리과 학사졸업논문도 그렇게 습작식으로 주제를 선정해서 썼다). 그래도 누군가 했을 법도 한데 딱히 어디도 없는 계산들은 논문 부록에 써놓으면 citation이 꾸준히 생기긴 하던데... 하여튼 결국 이런것들이 쌓여 최신의 쟁점들에 대한 시야도 넓어지고, 시야가 생겼을때 그걸 실현해낼 맷집도 생기는것 아닌가 싶긴 하다. 그렇다고 무지성으로(?) 쌓아서는 안되고 일부러라도 능동적으로 생각을 그런쪽으로 끌고 가야 하는것 같다. 내 재미를 위해서 사회적 자원을 끌어써도 되는게 대학원의 장점이기는 하지만 그걸 위한 책임의식과 셀링이 당연히 필요한것이고, 꼭 책임의식이 아니라 철저히 내 커리어를 위해서라도 연구사적 맥락과 스토리는 확실히 잡혀야지.

하여튼 이번 워크숍에서 잘된 연구 혹은 잘된 발표들을 들어보니 이런 두가지 측면(방법론과 문제설정)의 상호작용이 뛰어난 경우가 많았다. 특히 보도자료 등으로 이미 익숙한 카이스트 김재경교수님 연구가 그랬는데, 수학적으로도 흥미로운데 그걸로 해결하려는 문제들이 엄청나게 실질적이고 중요한 것들이라는 인상이 들었다. 우리교수님 발표도 그랬고 나도 이를 뒷받침하는 더 훌륭한 대학원생이 되어야겠다는 생각을 했다. 교수님께서 바빠 보이시더라도 이런 애매한(?) 주제도 말씀 꺼내보면 은근히 좋아하시더라는 얘기도 있었으니 혼자 고민하지 말고 자주 말씀을 나눠야겠다 (특히 얼마전 구두자격시험의 방향설정과 관련해서 오랜만에 이런느낌의 고민?을 말씀드렸었는데 굉장히 잘 답해주시길래...).

다음은 내용적인 얘기 (간단히만). 일단 플랫밴드라는 토픽이 있었는데, 흔히들 고체물리에서 하듯이 운동량공간에서 밴드를 그리는데 그 밴드가 평평하게 생긴걸 플랫밴드라고 하더라. 지저분한 현상들이 사라지고 우리가 원하는 재밌는 현상들이 깔끔하게 잘 나타난다?는 느낌같은데 잘 이해를 못했다. 고체물리는 어렵다.

그 다음 주제는 population dynamics, game theory 쪽이었다. 이건 내용 자체보다는 그냥 이걸 보다가 내가 예전에 했던게 생각나서... 뭔고 하니 최적제어이론 수강했을때 했던 기말프로젝트다. 그때는 높았던 수업난이도를 잘 못따라가서 그냥 쉬운버전(?)의 최적제어 했던거라 부끄러움밖에 없었는데, 다시 열어보니 내용이 나름 생각해볼게 많다. 뭔고 하니 죄수의 딜레마를 연속적인 동역학으로 확장한 모형인 CAIPD에서, autonomous하게 두고 관찰하는게 아니라 플레이어 한명한테 인풋을 줘서 상대방한테 능동적으로 밀당을 해보겠다는 거였다. 최종적인 협력도가 전반적으로도 높아야 하고, 나랑 상대방의 협력도 차이가 너무 크면 한쪽이 자존심이 상하니까 그런 상황도 피하는 쪽으로 비용함수를 짰던 건데 이게 인간관계에 analogy가 꽤 되는듯해서, 연습 겸 강화학습 같은걸로도 해보고 랩 내부에 가끔 있는 취미발표시간(?)같은 데서 소개해 볼까 싶다.

양자 다체계에서의 ergodicity 연구는 지난번 글에 썼으니 생략하고, 마지막으로 인상깊었던건 quantum heat engine 쪽이다. 기대를 많이 하지 않았는데 무척 재밌었다. 관측 scheme에 따라서 일의 확률분포 개형자체가 완전히 달라지는 현상이, 양자적 효과라는 게 어떤건지 단적으로 보여주는 느낌이고... 만약에 생체계에의 적용보다는 펀더멘탈한 열역학 쪽을 할거라면 이런 쪽으로도 언젠가는 반드시 involve될수 있겠다는 느낌이 왔다. 무엇보다 위에서 말한 것처럼 여기서 사용하는 이론들이 꽤 간지가 난다(...)

마지막으로 물리 외적인 걸로 돌아와서 끝맺자면... 줌에서와 달리 오프라인에서 하니까 사람들과 직접 말씀나눌 기회도 살짝씩 있는 게 좋았다. 특히 학부시절 정하웅교수님 연구실에 몇번 나갔을 때 그곳 학생이셨던 박사님들께도 오랜만에 인사를 드리고 연구 얘기도 해봤다. 기관과 호텔 모두에서 방역과 안전에도 정말 많이 신경쓴 티가 났는데 사실 꼭 이렇게 했어야 하는지 모르겠지만 오프라인의 장점은 분명히 있는거구나 하는걸 체험을 좀 했다.

아무튼 이제는 본격적으로 현생을 살 시간인데... 뭐부터 해야할지도 정리가 좀 되었으니 오늘부턴 다시 해봐야겠다.

Facebook에서 이 글 보기: 링크

Non-equilibrium collective phenomena workshop 2021 (NCP2021) 후기 - (1)

APCTP에서 주관하고 지원한 NCP2021 워크숍(링크)에 참여했다. 오프라인 포스터발표라는걸 처음으로 해봤다.

늘 줌 화면으로만 뵙던 교수님들, 박사님들도 오셔서 질문을 주셨는데 뭔가 연예인을 직접 보는 느낌도 나고 코비드 상황인지라 당연히 학술발표 시간 말고 어떠한 교류 세션도 없어서 그 점이 좀 아쉽지만 저녁에 혼자서 차분히 생각을 정리해볼 여유가 있어서 오히려 좋기도 하다.

연구의 의의를 설득하는 대목에서 내가 자의적으로 강조점을 몇 가지 잡았는데 다행히 이 부분이 반응이 되게 괜찮았다. 그 중 하나는 이번에 새롭게 제시한 열효율의 tighter upper bound가, model-specific하게 찾아진게 아니라 굉장히 제너럴한 constraint로부터 유도된거라 상한으로서 더 의미가 크다는 거다. 이를테면 가장 극단적으로 과장할 경우, 실제 효율에서 그냥 0.01씩 더하면 그것도 upper bound이긴 하지 않나.

그런데 그런 식으로 김새게(?) 찾은 상한이 아니라 별도의 열역학적 principle에 의거하여 명확한 의미를 갖는 근본적 제약이라는것. 그러면서도 그것이 실제 효율과 동떨어진 것이 아니라 상당히 근접해 있으니, 우리 모델은 열역학이 허용하는 한에서 '충분히 잘하고' 있다는 뜻이 된다 (물론 잘해서 좋다라기보다는 타이트한 제약을 찾아서 좋다는 느낌이지만).

반면 생각지 못한 부분에서 의문부호가 많이 있었는데 일단 이 모델 자체를 청중에게 와닿게 설명하는 것부터가 쉽지 않은듯했다. 그리고 모델의 이론적 간결성에 비해 역설적으로, 실제 계와 비교해볼때의 자유도의 개수는 오히려 불필요하게 많은거 아닌가 하는 질문도 역시나 많았다. 아무튼 몇가지 더 추가로 확인해보고 논문화를 빠르게 시작하고 싶은데 그 확인작업들이 예상보다 어려워서... 하나씩 지혜롭게 공부를 해봐야겠다.

내 포스터발표와 별개로 이번 워크숍을 총평하자면, 사실 지금까지 참가해본 여러가지 워크숍들에서는 온/오프를 막론하고 주로 (준)고전적 계에서의 stochastic thermodynamics 기반 연구들, 네트워크사이언스, 머신러닝에 통계물리를 접목한 연구들 위주로만 접해왔다. 아마 정하웅 교수님으로부터 이어져 내려오는 학문적 계보에서도 그 이유를 찾을수 있을 것이다. 그런데 이번 워크숍에서는 주로 고체, 양자 다체계를 포함한 보다 넓은 대상들의 비평형 현상에 대해 많이 주워듣고 있다. 사실 일각에서는 통계물리를 한다고 하면 그런 분야를 먼저 떠올리기도 하는 것 같고 말이다. 내용들이 생소해서 아직 많이 이해는 안 되지만 잘 쓰인 리뷰논문들을 몇 개 알게 되어서, 웤샵 기간 동안 그것들도 흝어봐도 괜찮겠다.

시스템이 평형에 어떻게 도달하느냐, 혹은 도달하지 못하냐라는 주제가 어찌 보면 볼쯔만 이래로 통계물리의 근본 물음이라고 볼 수 있는데, (적어도 현재까지 이해하기로는) 양자다체계에서도 이와 꽤 관련있는 연구가 이뤄지고 있다는 사실, 그리고 그걸 찾아볼수 있는 키워드들을 알게 된 것만으로도 이번 워크숍의 의미는 충분하다고 생각이 든다.

Facebook에서 이 글 보기: 링크

첫 NEST group meeting 발표 후기 (210709)

오늘 아침에는 고등과학원 교수님들께서 주도하시는 NEST group meeting에서 발표를 했다 (KIAS 홈페이지, NEST group meeting 홈페이지). 통계물리 분과 사람들이 돌아가면서 논문을 소개하는 시간인데, 교수님들 박사님들께서 불명확한 부분을 다같이 이해해 보자는 느낌으로 서로 디스커션도 많이 하시고 내게도 질문 많이 해주셔서 굉장히 많이 배우는 자리였다. Informal atmosphere를 추구하는 모임이지만 이런 정도의 자리가 처음이라 걱정했는데 다행히 재밌었고, 기회가 되면 줌 말고 직접 방문해서도 해보고싶다. 좀 힘 많이 줘서 준비했는데 앞으로 대학원생 때가 아니고서는 이렇게 집중수업(?) 받는 기회가 있을지 생각해보면 그 기회를 잘 활용해야겠다는 생각이다.

정보기하를 배우고 나서 내 기존 관심사들을 이쪽 관점에서도 봐 보면 좋겠다는 생각을 계속 해왔다. 예컨대 entropy production의 서로 다른 요인이 확률분포들의 매니폴드 상에서 서로 어떻게 다르게 나타나겠는가, 그리고 시스템을 spoil시키지 않고 한정된 시간 안에 원하는 상으로 제어 가능한지 여부를 기하적으로 생각할수 있는가... 이런 것들.

그런데 이번에 다룬 논문 두 개는 후자 쪽에 가까운 주제를 잘 다루고 있으면서, 기존에 알려진 결과들에 단순히 기하적 해석을 부여만 하는 것이 아니라, 제어에 드는 열역학적 비용의 새로운 하한과 그 달성방법을 기하적 개념을 바탕으로 잘 제시했다. 비평형 상황을 올바르게 기술하려다 보니 메트릭이 Fisher information이 아니라 거기에 다른 게 약간씩 곱해진 메트릭이어서, 정보기하와는 조금 다른 기하였다는 점도 언급해둔다. 하여튼 시의적절하게 알게 되어 세미나에서 다룬 이 논문들이, 그런 막연한 관심을 비판적으로 구체화해볼 수 있는 계기가 되면 좋겠다.

Linear response regime뿐만 아니라 far from equilibrium에 대해서도 이런걸 잘 적용할 수 있으면 좋을 듯하다. Sosuke Ito 이분이 쓴 논문들 중에는 시간에 따라 다른상태로 컨트롤되는게 아니라, 현재 상태가 평형분포들의 매니폴드로부터 (혹은 역과정과 관련된 backward manifold(?)로부터. 이건 아직 자세히 안 봐서 뭔지 모르지만 entropy production rate 식 생각해보면 자연스러운 것 같음) 얼마나 멀리 떨어져 있느냐에 따라 entropy production rate가 결정되는 그런 픽쳐들도 있는것 같았다. 지금 연구하고 있는 토이모델과도 관련지어 생각해 볼 때 이쪽이 사실 굉장히 마음에 드는데, 좀더 공부해보고, 기하로부터 단지 기존결과의 재해석뿐 아니라 novel한 물리적 관찰들이 나올 여지가 있는지 생각해봐야겠다.

Facebook에서 이 글 보기: 링크

[Review] Predicting PDE systems with Machine Learning

[리뷰] 기계학습을 통한 편미분방정식 시스템의 예측

1. 논문 소개: Quasi-Newton optimizer를 이용하여 system snapshot을 바탕으로 governing equation의 계수를 fitting하기

  이 문단에서 소개할 문헌([1], arXiv 링크)에서는 Burger's equation, KdV equation, Kuramoto-Shivashinski equation, Nonlinear Schrodinger's equation, Navier-Stokes equation 등의 다양한 편미분방정식에 대하여, governing equation의 꼴을 알고 있는 상황에서 데이터가 주어졌을 때 그 계수를 예측한다.

  보다 구체적으로 서술하자면, 이 논문에서 수행하는 task는 어떤 특정 시각에서의 system의 snapshot에서 수십 개의 data point를 임의 추출하고, 아주 짧은 시간이 지난 후의 snapshot에서 수십 개의 data point를 임의 추출(그 추출 위치가 앞과 같을 필요는 없다)하여 그 둘을 비교함으로써 governing equation의 각 term의 계수를 맞추는 것이다. 그 방식은 target time 근방에서 PDE를 선형 연산자로(비선형 방정식이라면 선형화하여) 표현한 뒤 Gaussian prior를 latent solution으로 설정한 뒤, parameter들을 조절해 가며 error function을 줄여 나가는 방식이다.

  그 결과는 대체로 성공적이다. 여기에서 사용된 optimization method는 deep하지 않은, 비교적 간단한 전통적 machine learning method인 L-BFGS이다. 이는 governing equation의 꼴을 알고 있음으로 인하여 문제의 탐색 범위가 상당히 축소되는 것을 고려했을 때 아주 magical한 결과까지는 아니다.

  그럼에도 불구하고, snapshot의 full data를 사용하는 것이 아니라, 지극히 일부에 해당하는 수십 개의 점들만으로 전체의 dynamics를 적은 오차로 복구해 낼 수 있다는 것은 큰 의의가 있는 것으로 생각된다.

  그러나 한편으로는, Kuramoto-Shivashinski equation과 같이 chaotic한 system의 경우 계수가 아주 약간만 달라도 큰 오차가 발생하기 때문에, long-term evolution을 예측하기는 어렵다는 한계점 또한 존재한다.

2. 논문 소개: Deep Neural Network를 이용하여 governing equation의 꼴을 모를 때 데이터를 바탕으로 시스템의 evolution을 extrapolation하기

  이 문단에서는 위에서 소개한 문헌 [1]과 같은 저자의 후속 논문([2], arXiv 링크)에 대해 소개한다. 이 블로그의 앞선 글(Why is artificial neural network successful?: explanation based on spectral ergodicity)에서 언급하였듯, 비선형의 활성함수를 갖는 인공신경망이란 결국 수많은 동일한 비선형 함수들이 scaling, biasing되고 서로 합성됨으로써 만들어진 하나의 함수일 뿐이며, 어떠한 매우 복잡한 함수를 근사적으로 표현하고자 하는 것이다.

  본 문헌[2]에서도 이러한 관점에서 접근하여, 2개의 신경망을 학습시킴으로써 PDE의 evolution을 예측하고자 한다. 앞선 문헌[1]과의 차이가 있다면, 여기에서는 시스템의 특정 시각 t까지의 솔루션을 알고 있으나 governing equation은 그 계수뿐만 아니라 꼴에 대해서도 알지 못할 때, 특정 시각 t 이후의 솔루션이 어떻게 될지를 extrapolation하여 예측하는 것이다. 탐색 범위 자체가 [1]에 비해 많이 넓을 것이라고 예상해 볼 수 있다.

  먼저, 저자가 제시하는 한 선행 연구에서는 편미분으로 표현되는 가능한 모든 candidate term을 나열해 둔 뒤 그 계수들을 예측한다. 이러한 방법은 결과가 interpretable하다는 점에서 큰 장점이 있으나, (i) numerical differentiation이 제대로 되지 않을 수 있다는 것, (ii) task의 크기가 커짐에 따라 필요한 candidate term의 수가 기하급수적으로 늘어나며, \( \sin( \alpha u(x)) \)와 같은 특수한 꼴의 term이 들어가 있을 경우에는 parameter를 예측하지 못한다는 것 등의 단점이 있다.

  따라서 저자는 솔루션 \( \mathcal{U} \)와, 편미분방정식을 연산자 형태로 간단하게 표현했을 때 그 연산자에 해당하는 \( \mathcal{N} \)라는 두 함수를, universal approximator로서의 neural network로 근사시키는 방법론을 택하기로 한다. 이 때 저자는 솔루션 \( \mathcal{U} \)의 도함수를 구하기 위해 통상적인 numerical differentiation 대신에 automatic differentiation이라는 방법을 도입한다. 이 방법은 우리가 수행하고자 하는 task에 부합하는 동시에, numerical differentiation에 비해 더 적은 data point를 필요로 하기도 한다. 따라서 위 선행 연구의 단점 (i)이 극복된다.

  또한, 편미분방정식에 해당하는 연산자 \( \mathcal{N} \)을 특정한 몇 개의 candidate term들의 조합만으로 표현하고자 시도하기보다는, neural network를 이용하여 근사시킨다면 더욱 넓은 범위를 탐색하게 되므로 general하게 높은 성능을 기대할 수 있다. 이렇게 위 선행 연구의 단점 (ii)이 극복된다.

  이러한 setting 하에서 loss function(error function)을 다음과 같이 정의하고, Tensorflow를 이용하여 학습시킴으로써, 시스템의 특정 시각까지의 evolution system의 future evolution을 predict할 수 있다. 먼저 Deep hidden physics model \(f\)를 \(f = \mathcal{U}_t - \mathcal{N}(t, x, \mathcal{U}, \mathcal{U}_x, \mathcal{U}_{xx}, ...) \)로 정의하면, \(f\)가 0에 가까울수록 주어진 PDE를 정확하게 따르게 된다. 또한 이렇게 학습된 \( \mathcal{U} \)가 실제 training data \( \mathcal{U}^i \)와 가까워야 한다. 만약 두 조건 중 후자만 있다면 overfitting이 발생할 것으로 생각해 볼 수 있다. 결과적으로 loss function을 다음과 같이 정의한다.

\[ \sum_{i=1}^{N}{ ( | \mathcal{U}(t^i, x^i) - \mathcal{U}^i |^2 + |f(t^i, x^i)|^2 ) }\]

이러한 loss function을 줄여 나가는 방식으로 training시키면 \( \mathcal{N}, \mathcal{U} \) 양쪽 모두에 대해 학습이 일어나게 되며, 따라서 system의 evolution에 대한 예측이 가능해진다.

  그 결과는 대체로 성공적이다. 그러나 Kuramoto-Shivashinski equation에 의해 지배되는 system의 경우에는 이러한 방법론으로 제대로 된 학습이 이루어지지 않았으므로 저자는 이를 후속 연구 과제로 남겨두고 있다. 이 equation에 대한 model-free prediction은 reservoir computing을 활용해서 연구한 다른 그룹에 의해 성공적으로 이루어졌다[3].

[1] Raissi, Maziar, and George Em Karniadakis. "Hidden physics models: Machine learning of nonlinear partial differential equations." Journal of Computational Physics 357 (2018): 125-141.

[2] Raissi, Maziar. "Deep hidden physics models: Deep learning of nonlinear partial differential equations." The Journal of Machine Learning Research 19(1), 932-955.

[3] Pathak, Jaideep et al. "Model-free prediction of large spatiotemporally chaotic systems from data: A reservoir computing approach." Physical review letters 120.2 (2018): 024102.

Coupled Oscillator and Kuramoto Model

하단에 embed된 Coupled oscillator 및 Kuramoto model에 대한 자료는 2019-2 서울대학교 전기정보공학부 <비선형제어특론(심형보 교수님)> 강좌에서 발표 진행을 위해 정리한 자료로, Francesco Bullo의 책 <Lectures on Network Systems>의 제17 장의 내용을 정리한 결과이다.

(추후 LaTeX documentation 예정)

Ensemble Approach of Statistical Mechanics: dealing with a conceptual confusion

통계역학에서의 앙상블 접근: 개념적 혼동의 해소

  물리계는 그 내부 구조에 따라 microstate의 configuration을 다양하게 가질 수 있으며, 그 내부 구조가 복잡할수록(크게 다르지 않은 표현으로, 물리계의 구성 요소의 갯수가 많을수록) 그러한 configuration의 가짓수는 급격하게 증가하게 된다.

  시스템의 구체적인 내부 구조를 잠시 고려하지 않고, 그 configuration에 따라 시스템이 가질 수 있는 energy level 값들에만 집중하여 그것을  \(r\)로 인덱싱하고, 그 에너지 값을 \(E_r\)로 나타내자. 서로 다른 microstate들이 같은 에너지 값을 가질 수 있으므로, 가능한 configuration의 총 수는 가능한 energy level의 갯수보다 더 크게 된다. 에너지 \(E_r\)에 대응되는 microstate의 수를 \(g_r\)로 나타내자.

  이 때, 시스템이 그 microstate configuration에 따라 가질 수 있는 snapshot들의 collection을 생각하되, snapshot들의 평균 에너지가 어떠한 상수 값 \(\mathcal{U}\)으로 고정된다는 constraint를 준 것을 Canonical ensemble(정준 앙상블, 바른틀 앙상블)이라고 한다. 전체 \( \mathcal{N} \)가지의 시스템 snapshot 중에 에너지 \(E_r\)을 갖는 시스템 snapshot의 갯수를 \(n_r\)로 표시할 때, 다음과 같이 쓸 수 있다.
\[ \sum_{r}{n_r} = \mathcal{N} \\
    \sum_{r}{n_r E_r} = \mathcal{N} \mathcal{U} = \mathcal{E} \]
 라그랑주 승수법(Lagrange multiplier method), 혹은 복소 적분과 안장점 근사(saddle point approximation)을 통해 \(n_r\)을 구할 수 있으며 그 결과는 다음과 같다. 여기서 파라미터 \(\beta\)는 \( \beta = 1/k_{B}T \)로서, 물리적으로 온도와 관련이 있는 양이다.
\[ n_r = \frac{g_r e^{-\beta E_r}}{\sum_{r}{g_r e^{-\beta E_r}}}, \mathcal{Z} = \sum_{r}{g_r e^{-\beta E_r}}  \]
  이 때 분모에 들어가는 normalization factor \( \mathcal{Z} \)를 분배 함수(partition function)라고 한다. 이 분배 함수를 involve시킨 몇 개의 technical한 계산을 통해 열역학적 양들을 얻어내는 것이 바로 통계역학이 하는 일이라고 할 수 있겠다. 그 세부는 생략한다.

  이상의 내용을 그림으로 나타내면 다음과 같다. 주지하였다시피 아래의 그림에서 붉은색 체크 표시는 시스템 속 1개의 particle을 의미하는 것이 아니며, 1개의 체크 표시는 시스템 속 각 particle들의 state가 합쳐져서 만드는 combined state 1개를 나타낸다.

fig1. Canonical ensemble의 일반론.

  위 식들에서 \( \mathcal{U} \)는 전술한 것과 같이 시스템의 평균 에너지로서, real world에서 관찰할 수 있는 에너지와 직접적으로 결부될 수 있는 값이다. 반면, 여기에 총 microstate의 가짓수 \( \mathcal{N} \)을 곱한 값인 \( \mathcal{E} = \mathcal{N} \mathcal{U} \)는 당연하게도 매우 unphysical한 값이다. 이는 real world에서 시스템은 매 순간 하나의 snapshot을 보이는 방식으로 존재하지, 결코 잠재적으로 가능한 모든 snapshot들이 각각 나열되어 있는 방식으로 존재하지 않기 때문이다.

이 글에서는 내가 통계역학을 처음 공부하면서 겪었던, 이와 관련된 몇 가지 개념적 혼동에 대해 다룬다. 몇 가지 작은 argument를 놓침으로 인해, 이 부분을 clear하게 이해하기 어려웠다.




  먼저 \(N\)개 기체 입자를 가진 시스템을 예로 들어 보자. 이 시스템에서 각 기체 입자들의 상태에 따라, 전체 시스템이 가질 수 있는 에너지 레벨의 값은 상당히 많을 것이며, 그 에너지 레벨에 assign되는 microstate들의 개수 \(\mathcal{N}\)은 더욱더 많을 것이다(대문자 \(N\)(입자 개수)와, 대문자 필기체 \(\mathcal{N}\)(microstate 개수)의 구분에 주의하라).

이 때 microstate의 개수 \(\mathcal{N}\)은 입자의 개수 \(N\)보다도 훨씬 더 큰 값이다. 단적으로 말해서 입자 \(N\)개 각각이 들어갈 수 있는 phase space 상의 격자가 \( s \)개 만큼 있다면, \(\mathcal{N} = s^N \)의 관계가 성립하여 그 크기는 비교할 수조차 없다.

  그런데, 각각의 입자가 서로 상호작용하지 않아서 독립적일 경우에, 우리는 각각의 입자를 하나의 시스템으로 취급할 수 있다. 원래 시스템을 \(N\)개로 잘개 쪼개는 것이다. 이 경우 문제는 완전히 달라지며, \(N\)개 기체 입자로 된 시스템의 가능한 모든 snapshot \(\mathcal{N}\)개 상에서가 아닌, 기체 입자 1개로 된 시스템의 \(N\)개짜리 copy 상에서  \( p(E) \propto e^{-\beta E} \)가 성립하게 되고, 따라서 Maxwell-Boltzmann 분포가 직접적으로 정당화되게 된다. 이에 대한 언급이 Wikipedia에 있다([1], 링크, Boltzmann distribution (separable system) 부분).

fig2. N개의 (상호작용하지 않는) 기체 입자로 된 시스템을, N개의 single-particle system으로 separate하기.

  쪼개기 전과 후에 문제의 설정이 어떻게 달라지는지를 위와 같이 그림으로 표현해 보았다. 이렇게 separable system에 대한 argument가 선행됨으로써 문제의 설정 자체가 바뀐다는 것을 이해하여야 한다. 이러한 설정에서는 particle 1개가 곧 system 1개이므로, 붉은색 체크 표시 하나가 곧 gas particle 하나를 나타낸다고 할 수 있다(전술하였듯, particle 단위로 separate되지 않은 일반론적인 경우에는 이것은 전혀 사실이 아니다!).




  다음으로는 가장 간단하다고 할 수 있는 2-level system(예를 들어 upward, downward 상태를 가질 수 있는 electron spin)에 대해 살펴보면서 이 문제를 더욱 clear하게 이해하도록 하자. \(N\)개의 서로 상호작용하지 않는 electron으로 된 시스템에서 가능한 모든 snapshot의 가짓수는 \( \mathcal{N} = 2^N \) 개이다.

  통계역학에서 이 문제는 일반적으로 위의 기체 예시에서처럼 separation을 하여, electron 1개로 된 간단한 시스템의 \(N\)개짜리 copy가 있는 상황으로 취급하여 풀이한다. 그 결과, 각 시스템의 평균 에너지 \( \mathcal{U}_1 \)뿐만 아니라, 그 평균 에너지에 \(N\)을 곱한 값 \( N \mathcal{U}_1 \)도 얼마든지 physically meaningful하게 된다. 이는 맨 처음에 \( \mathcal{N} \mathcal{U} = \mathcal{E} \)가 unphysical하다고 했던 것과는 다르다(재차 강조하자면, 대문자 \(N\)(입자 개수)와, 대문자 필기체 \(\mathcal{N}\)(microstate 개수)의 구분에 주의하라).

fig3. N개의 2-level system (after separation) 

  이러한 풀이에서는 위에서 언급한 \( \mathcal{N} = 2^N \)라는 숫자는 딱히 쓰이지 않는다. Electron spin의 moment가 \(\mu\)이고 자기장이 upward \(H\)로 걸려 있을 때 총 평균 에너지는 다음과 같다.
\[ \text{(total energy)} = N\mathcal{U}_1 = - N \mu H \tanh (\beta \mu H) \text{  (physical)} \]
  그렇다면, N개의 electron으로 된 시스템을 1개씩 separation하지 않고, 통째로 취급하여 이 문제를 풀이할 수는 없을까? 어렵지 않게 그렇게 할 수 있다. 그리고 그 결과도 위의 풀이와 일치해야 할 것이다. 이하에 그 풀이를 제시한다.

fig4. N개의 2-level system (before separation)

  이 시스템의 가능한 최소 에너지는 모든 spin이 upward 방향일 때의 \(-N \mu H\)이고, 가능한 최대 에너지는 모든 spin이 downward 방향일 때의 \( +N \mu H\)일 것이다. 그리고 electron 1개의 spin이 뒤집힐 때 총 에너지 값은 \(2 \mu H\)만큼 바뀌므로, 가능한 energy level의 수는 -\(N\)부터 \(N\)까지 2개 간격으로 세어, 총 \( N + 1 \)개이다.

  \(N\)개의 spin 중 \(j\)개가 upward일 때, 시스템의 energy level은 \(E_j = (N - 2j) \mu H \)라고 할 수 있다. 그리고 이러한 configuration의 수는 총 \( _{N} C_{j} \)개이다. Canonical ensemble의 microstate configuration이 \( n_r \propto g_r e^{-\beta E_r} \)임을 고려할 때, 이 시스템의 평균 에너지는 다음과 같이 나타난다.
\[ \mathcal{U}_2 = \frac{ \sum_{j=0}^{N}{\mu H (N-2j) _NC_j e^{-\beta \mu H N} e^{2 \beta \mu H j}}}{ \sum_{j=0}^{N}{ _NC_j e^{-\beta \mu H N} e^{2 \beta \mu H j}} } \]
  이를 binomial theorem을 통해 계산하면 다음과 같다. \( x = e^{2 \beta \mu H j} \)라고 하자. 분자와 분모에 있는 \( e^{-\beta \mu H N} \)를 약분해 준 뒤 분모의 식을 directly evaluate하면 \( (1+x)^N \)이 된다. 다음으로 분자에 있는 식 중 \(N - 2j)\) 항에 분배법칙을 사용하면, 앞쪽의 항은 분모에서와 같은 원리로 \( N \mu H (1+x)^N \)로 된다. 뒤쪽의 항은 조금 더 복잡한데, \( 2 \mu H \sum_{j=0}^{N}{ j _NC_j x} \)에서 \( \Sigma \) 기호 속의 첫 번째 항이 0이 됨을 고려하고 combination들을 factorial을 이용한 정의대로 expand하여 계산해 보면 그 결과는 \(2 N \mu H x (1+x)^{N-1}\)이 된다. 이를 종합하면 다음과 같다.
\[ \mathcal{U}_2 = N \mu H \frac{(1+x)^N - 2x(1+x)^{N-1}}{(1+x)^N} = N \mu H \frac {1 - x}{1 + x} = - N \mu H \tanh (\beta \mu H) \]
  이렇게 풀이한 결과(아래첨자 2)는 앞에서 system을 separation하여 풀이하였을 때(아래첨자 1)와 같은 결과이며, 다음의 관계가 성립한다.
\[ \mathcal{U}_2 = N \mathcal{U}_1 \text{  (physical)} \\
\\ \mathcal{E}_2 = \mathcal{N}\mathcal{U}_2 = 2^N \mathcal{U}_2 \text{  (unphysical)} \]
  이로써, 통계역학의 ensemble approach를 학습하는 과정에서 개인적으로 발생한 개념적 혼동에 대해, system을 각 구성 요소별로 separate해서 보는지의 여부에 따라 문제 상황의 설정이 바뀌는 것 때문에 그러한 혼동이 발생함을 기체 시스템 및 electron spin system의 예시를 통해 살펴보았고, 특히 후자의 경우에서 통상적인 간단한 풀이와 달리 separate되지 않은 상태에서도 동일한 결과가 나온다는 것을 보임으로써 발전된 이해를 도모하였다.


[1] https://en.wikipedia.org/wiki/Canonical_ensemble

[Review] Entropy Production and Information Transfer of Stochastic Dynamical Systems

[리뷰] 확률적 동역학 시스템에서 엔트로피 생성과 정보 전달

0. 개요

  State vector \( \vec{x} \)에 대한 미분방정식으로 표현되는 동역학 시스템(dynamical systems)의 이론은 응용수학의 한 갈래로서 물리학, 그리고 공학에서의 제어 이론(control theory) 등 다양한 분야에 활용된다. 특히 비평형 계를 다루는 비평형 통계물리학에서는 종래의 평형 통계역학에서와 같이 앙상블(ensemble) 접근을 통해 분배 함수(partition function)를 정의하여 물리량들을 유도하는 방법론을 적용하기 어려우므로 noisy term \( \vec{\xi}(t) \) (주로 stationary Ornstein-Uhlenbeck process with zero characteristic time)를 포함하는, 확률변수들의 벡터(random vector) \( \vec{X} \)에 대한 확률미분방정식(SDE)을 적극적으로 활용하여 시스템을 표현하고 해석한다.

  이 게시물에서는 확률미분방정식으로 표현되는 시스템(특히 Langevin 시스템)에서 이 시스템의 솔루션이 가지는 확률분포함수 및 그것이 따르는 Fokker-Planck 방정식 등을 바탕으로 하여 시스템의 엔트로피 생성(entropy production) 및 정보 전달(information transfer) 등을 정량적으로 다루고자 하는 일련의 논문들([1]-[4])을 소개하고, 관련된 몇 가지 이슈에 대해 생각해 본다.

1. 논문 소개: 선형 랑주뱅 시스템에서의 엔트로피 생성

  이 문단에서는 <Entropy production in linear Langevin systems>(Gabriel T. Landi et al., Journal of Physics A: Mathematical and Theoretical, 2013)에 대해 개괄한다([1], arXiv 링크). 이 논문에서는 엔트로피에 대한 물리학적 배경 설명 및 수학적인 전개가 상당히 rigorous하고 충실하게 기술되어 있으므로, 본 문단은 이 게시글 전체를 대표하는 표준적 논의라고 할 수 있다. 논문은 먼저 열역학에 대한 일반적인 논의로 시작한다.

  시스템이 상태 A에서 상태 B로 변화할 때 그러한 변화가 가역적(reversible)이라면, 시스템이 겪는 엔트로피 변화는 \( \Delta S = \int \frac{dQ}{T} \)로 나타내어진다. 반면 이 변화가 비가역적이라면 위의 등식은 성립하지 않으며, 다음과 같은 부등식이 성립한다. 이 때 \( S_{prod} \)가 바로 entropy production으로, 우주 전체에서 기존에는 없다가 새롭게 생성된 만큼의 엔트로피라고 볼 수 있다.

\[ \Delta S - \int \frac{dQ}{T} = S_{prod} \geq 0 \]

  이 식의 양변을 시간 \( \Delta t \)로 나누고 극한을 취해 주면 다음과 같이 된다. 여기서 \( \Pi (t) = \frac{dS_{prod}}{dt} = \frac{dS}{dt} + \frac{d}{dt}\int{\frac{dQ}{T}} \)는 entropy production rate, \( \Phi (t) = \frac{d}{dt} \int{\frac{dQ}{T}} \)는 계에서 외부로의 entropy flux rate가 된다. 위에서 살펴보았듯 비가역성에 기여하는 term은 바로 \( \Pi (t) \)로, 항상 non-negative하다.

\[ \frac{dS_{prod}}{dt} = \frac{dS}{dt} - \frac{d}{dt} \int{\frac{dQ}{T}} \geq 0 \]

이항하면, 

\[ \frac{dS}{dt} = \frac{dS_{prod}}{dt} ( \geq 0) - \frac{d}{dt} \int{\frac{dQ}{T}} = \Pi (t) - \Phi (t) \]

  이렇게 하면 계의 entropy 생성과 출입에 대해 다음과 같이 intuitive한 식을 쓸 수도 있다.

\[ S = \int_{0}^{t}{dt' (\Pi(t') - \Phi(t'))} \]

  한편, 저자는 random vector \( X = (X_1, ... , X_n) \)가 따르는 랑주뱅 방정식(Langevin equation) \( \dot{X} = f(X, t) + B\dot{\xi}(t) \), 그 중에서도 특히 \( f(x, t) = -Ax + b(t) \)인 선형 랑주뱅 방정식과, 그에 대응되는 Fokker-Planck 방정식 \( \frac {\partial P }{ \partial t} = -\frac {\partial g }{ \partial x } \) (단 확률흐름(probability current) \( g(x,t) = f(x, t) P(x, t) - D \frac {\partial P }{ \partial x } (x, t) \))으로써 우리가 관심 있는 시스템을 정의한다.

  여기서 diffusion tensor \(D\)는 \(D = \frac{1}{2} {B} {B^T} \)로 정의되며, \(B\)가 full row rank를 가진다면 \(D\)는 positive definite(그렇지 않다면 positive semi-definite)가 된다. 이 positive definiteness 성질이 이하의 main formalism에서 중요하게 쓰이게 된다.

  다음으로 저자는 시스템에 대한 구체적인 지식 없이도 비가역성과 가역성에 대해 성공적으로 취급할 수 있도록 하기 위한, 본 문헌의 첫 번째 핵심적인 논의를 다음과 같이 clever하게 전개한다. 시스템을 이루는 상태변수들 중에, 시스템에 시간 되짚기(time reversal) 대칭을 시행했을 때 부호가 변하는 상태변수(odd variables), 그렇지 않은 상태변수(even variables)를 구분하기 위해 indicator \( \epsilon_i = \pm 1 \)을 정의한다. 이어서 odd variable끼리, even variable끼리 묶이도록 상태변수들의 순서를 rearrange하여 \(x = {\begin{bmatrix} x_{even} &  x_{odd} \end{bmatrix}}^T \)로 쓰고, 대각행렬 \( E = diag (\epsilon_1, ... , \epsilon_n ) \)를 사용하면 다음과 같이 쓸 수 있다.

\[ Ex = E{\begin{bmatrix} x_{even} &  x_{odd} \end{bmatrix}}^T = {\begin{bmatrix} x_{even} &  -x_{odd} \end{bmatrix}}^T \]

  먼저 주어진 랑주뱅 시스템이 다음과 같이 비가역 부분과 비가역 부분으로 나눠짐에 주목하자.

\[f(x,t) = f^{irr}(x,t) + f^{rev}(x,t) = Ef^{irr}(Ex, t) + (- Ef^{rev}(Ex, t)) \]

  이렇게 하면 확률흐름 \(g\)가 다음과 같이 비가역 부분과 가역 부분으로 나뉘게 되며 두 부분은 매우 주목할 만한 차이가 있다.

\[ g^{irr}(x, t) = f^{irr}(x, t) P(x, t) - D \frac{\partial P}{\partial x}(x, t)
\\ g^{rev}(x, t) = f^{rev}(x, t) P(x, t) \]

  다음으로 저자는 확률적 동역학 시스템의 엔트로피를 정의하는, 본 문헌의 두 번째 핵심적인 논의를 전개한다. 시스템의 엔트로피는 다음과 같이 정의된다.
\[ S = -\int P \log P dx \]
  가능한 상태공간 전체에 대해 \( - P \log P \)를 evaluate해서 적분해 주는, 익숙한 식이다. 여기서 \(P = P(x, t) \)이므로 적분의 결과인 엔트로피 \(S\)는 시간의 함수가 됨에 주목한다. 엔트로피를 시간에 대해 미분해 주되 앞에서 소개한, 시스템의 비가역적 요소와 가역적 요소를 나누어서 생각하는 philosophy를 도입해 주면 다음과 같다.

\[ \frac{dS}{dt} = \int (g^{irr})^T D^{-1} g^{irr} \frac{dx}{P} - \int (g^{irr})^T D^{-1} f^{irr} \frac{dx}{P} \]
  여기서 첫 번째 항의 피적분함수는 quadratic form이고, 앞서 강조하였듯 diffusion tensor D가 정의상 positive (semi-)definite하므로 이 quadratic form은 non-negative하다. 이를 맨 처음의 열역학적 논의와 비교하면 아래의 수식과 같이 결론내릴 수 있다. 이로써, Langevin 방정식(및 대응되는 Fokker-Planck 방정식)으로 기술되는 확률적 동역학 시스템에서의 entropy production과 entropy flux를 explicitly 유도하였다. 

\[ \Pi (t)  =  \int (g^{irr})^T D^{-1} g^{irr} \frac{dx}{P}, \]
\[ \Phi (t) = \int (g^{irr})^T D^{-1} f^{irr} \frac{dx}{P}   \]

  논문의 나머지 부분에서는 entropy production rate \( \Pi (t) \)를 (i) integral fluctuation theorem을 따르며 non-adiabatic한 부분, (ii) integral fluctuation theorem을 따르며 adiabatic한 부분, (iii) integral fluctuation theorem을 따르지 않는 부분으로 나눈다. 다음으로 선형 Langevin 방정식으로 국한하여 논의를 특수화시켜, 행렬과 벡터만을 사용한 선형대수학적 형태로 그러한 각 부분을 표현한다. 이 단계에 이르면 Fokker-Planck 방정식의 해인 확률분포함수 \(P\)가 식에 드러나지 않는다.

  다음으로 저자는 간단한 응용의 시도로서, noise term을 추가해 준 전기 회로(RL, RLC)에 대해 entropy production rate의 각 부분((i), (ii), (iii))을 계산해 본다. 시간이 지남에 따라 inductor L은 asymptotic하게 short처럼 작동하고, capacitor C는 asymptotic하게 open처럼 작동함을 고려할 때 이러한 회로들은 시간이 지남에 따라 단순히 resistive한 회로처럼 작동하면서 일정한 전력을 소비하게 되는데, 이는 논문의 FIG. 1.과 FIG. 2.에서 보듯이 entropy production rate가 asymptotically constant하게 계산되는 것에 의미적으로 부합하는 결과이다. 또한 초반의 transient한 상태에서는 계의 엔트로피도 증가하나, 시간이 무한대로 지남에 따라 asymptotically 도달하는 steady state에서는 계의 엔트로피는 고정되고, 생성되는 엔트로피가 모두 계의 외부로 전달됨을 알 수 있다.




2. 논문 소개: 확률적 동역학 시스템에서의 정보 전달

  이 문단에서는 이차 시스템(2차원 시스템)에서의 변수 간의 정보 전달에 초점을 맞춘 연구 논문 <Information flow within stochastic dynamical systems>(X. San Liang, Physical Review E, 2008)을 소개한다([2], arxiv 링크). 벡터 \( \vec{x} = {\begin{bmatrix} x_1 & x_2 \end{bmatrix}}^T \)와 미분방정식 \( d\vec{x} / dt = f(\vec{x}, t) \)로 표현되는 동역학 시스템에 대하여, 위의 논문 [1]과 동일한 방식으로 joint entropy \(H = -\int \int \rho \log \rho dx_1 dx_2 \)가 정의된다. 여기서, 결정론적 시스템임에도 불구하고 entropy가 정의될 수 있는 이유는, initial condition을 달리함에 따라 서로 다른 무수히 많은 trajectory들이 발생하므로 이들을 모아서 생각할 수 있기 때문이다.

  이 때 joint entropy \(H\)는 다음의 미분방정식을 따름이 알려져 있다.
\[ \frac{dH}{dt} = E[\nabla \cdot f] \]
  그러나 standard Wiener process \(\vec{w}\)를 이용하여 stochasticity가 도입된 확률적 동역학 시스템 \( d\vec{x} = f(\vec{x}, t)dt + B(\vec{x}, t)d\vec{w} \)에서는 위처럼 entropy가 만족하는 미분방정식을 state할 수 있는 elegant form이 없다고 한다(엔트로피의 정의는 같다). 따라서 \(dH_1/dt\)를 evaluate하기 위해 \(\rho\)와 marginal distribution \( \rho_1, \rho_2 \)가 따르는 Fokker-Planck 방정식을 활용해야 한다. 한편, \(x_2\)가 frozen된 조건 하에서의 엔트로피 \(H_{1,2}\)에 대해서는 \(dH_{1,2} / dt\)를 evaluate할 때 Fokker-Planck 방정식으로 할 수 없으며, 보다 fundamental하게 미분의 정의로 돌아가서 계산을 해야 한다. 해당 계산이 이 논문의 첫 번째 핵심적인 논의라고 할 수 있을 것이다.

  이렇게 \(dH_1/dt\)와 \(dH_{1,2} / dt\)를 계산하고 나면, 다음과 같이 정의되는 정보 전달률(rate of information transfer)를 계산할 수 있게 된다. 상태변수 2에서 상태변수 1로의 정보 전달률 \(T_{2 \rightarrow 1}\)는 다음과 같이 정의된다.
\[ T_{2 \rightarrow 1} = \frac{dH_1}{dt} - \frac{dH_{1,2}}{dt} \]
  위에서 evaluate한 엔트로피 표현식을 바탕으로 이를 계산해 주면 다음과 같다(여기서 \(g_{ij}\)는 시스템의 stochastic perturbation을 나타내는 텐서의 각 성분으로, [1]의 diffusion matrix에 해당하는 것이다). 엔트로피를 바탕으로 상태변수들 사이의 정보 전달률을 계산하는 식을 만드는 이 부분이, 본 문헌의 두 번째 핵심적인 논의라고 할 수 있을 것이다. 여기서 연산자 \(E_{i|j}\)는 확률분포 \( \rho_{i|j} \) 위에서 evaluate되는 conditional expectation을 의미한다.
\[ T_{2 \rightarrow 1} = - E_{1|2}[ \frac{\partial(F_1 \rho_1)}{\partial x_1}] + \frac{1}{2} E_{2|1}[ \frac{\partial ^2 ( g_{11} \rho_1 )}{\partial x_1^2} ] \]
\[ T_{1 \rightarrow 2} = - E_{2|1}[ \frac{\partial(F_2 \rho_2)}{\partial x_2}] + \frac{1}{2} E_{1|2}[ \frac{\partial ^2 ( g_{22} \rho_2 )}{\partial x_2^2} ] \]
  이로써 확률적 거동을 하는 이차 시스템에서 각 상태변수 간의 정보 전달률을 정의하고 계산하였다. 이 식에서 발견할 수 있는 몇 가지 흥미로운 aspect를 열거하자면, (i) 만약 시스템의 stochastic perturbation이 변수 \(x_2\)로부터 독립적이라면, \(x_2\)에서 \(x_1\)로의 정보 전달률은 이 시스템과 대응되는 결정론적 시스템의 정보 전달률과 동일하다는 것, (ii) 만약 \(x_1\)의 evolution이 \(x_2\)와 독립적이라면 \(T_{2 \rightarrow 1} = 0\)이라는 것 등이 있다. 이는 정보 전달률이 그 자체로 consistent하고, 그 의미에도 부합하도록 잘 정의된 값이라는 것을 시사한다.

  논문의 FIG. 1.에서는 예시된 간단한 시스템에 대해 동역학의 시늉내기 결과를 보여주는데 여기서 위의 aspect (ii)와도 연관되는 매우 흥미로운 점이 드러난다. 이것은 바로 \(T_{1 \rightarrow 2} \neq 0\)인 반면, \(x_1\)과 \(x_2\)가 서로 거의 똑같은 양상으로 evolve하면서 매우 높은 correlation을 보여줌에도 불구하고, \(T_{2 \rightarrow 1} = 0\)이라는 것이다. 즉, 정보 전달률을 이상과 같이 정의하면 단순한 상관관계 분석만으로는 알 수 없는, 인과관계에 대한 지식이 정량적으로 imply되는 것이 가능하다는 것이다. 이는 수학적으로 보면 conditional probability가 involve되어 있기 때문이라고 생각할 수 있다.



3. 논문 소개: 기타

  이상의 두 논문보다 시기적으로 앞서서 쓰인 <Steady State Thermodynamics of Langevin Systems>(Takahiro Hatano and Shin-ichi Sasa, Physical Review Letters, 2001)에서 역시 stochasticity가 involve된 Langevin 타입의 동역학 시스템에 대하여 Shannon entropy를 위의 두 논문과 정확히 동일하게 정의하고, Jarzynski equality를 바탕으로 이 시스템의 정상상태(steady-state) 열역학을 전개하며, 이러한 formalism은 Crooks의 fluctuation theorem과 consistent하다는 것도 특기된다([3], arXiv 링크).

  한편, 무인 항공기(UAV) 등 기계적 agent들의 동역학을 연구해 온 항공공학자 J. G. Manathara의 <Entropy as a measure of consensus on large networks>(J. G. Manathara, working manuscript, 2013)에서는, \(N\)개의 수많은 agent가 네트워크로 연결되어 있는 multi-agent system(혹은 network system) \( \dot{\vec{x}} = f(\vec{x}) \)에서의 consensus(혹은 synchronization, 각 상태변수들의 값이 서로 일치되는 현상)의 척도로 entropy가 사용될 수 있음을 제시한다. Agent가 충분히 많아서 네트워크의 nodal value들의 distribution \(f(x)\)를 논할 수 있을 경우에, entropy는 다음과 같이 정의된다.
\[ H = - \int f \log f dx \]
  이렇게 정의된 엔트로피는 각각의 agent들의 동역학이 서로 일치될수록 그 값이 작다는 것이 시늉내기를 통해 확인되며, 그 의미상으로도 물리학에서 엔트로피를 무질서도라고 해석하는 것과 일맥상통한다. 따라서 이 양을 consensus의 척도로 사용할 수 있다. 또한 이 양은 기존에 consensus의 척도로 많이 사용되어 온 mean square 타입의 error에 비해서 consensus의 판단에 있어 훨씬 더 엄격하다(문헌의 Figure 1). 즉, mean square error는 시간에 따라 consensus가 달성되는 시스템에서 초반부터 상당히 급격하게 감소하나, entropy는 마치 sigmoid function과 유사한 개형으로, 초반부에는 느리게 감소하다가 후반에 consensus가 많이 달성되면 그 때에야 변곡점을 거치며 민감하게 감소하는 양상을 보인다([4], 저자 홈페이지 링크).

  이외에도 entropy, network dynamics 등의 keyword를 포함하여 인터넷 검색을 해 보면 opinion dynamics 등 다양한 multi-agent dynamical system에 대해 entropy를 정의하여 과학적 탐구 및 공학적 활용을 꾀하는 문헌들이 많이 있음을 알 수 있다.



4. 종합적 고찰: comment on the 'distribution' approach

  동역학 시스템에 대하여 probability distribution으로 접근하는 Fokker-Planck approach는 근본적으로, noisy term이 가지는 stochasticity에 의해 발생하는 가능한 trajectory들을 모두 모아서(이는 평형 통계역학에서의 ensemble approach에 대응된다) 고려하겠다는 것과 동등한 철학이다. 그리고 이상에서 소개한 4개 논문 모두에서, entropy 및 그것으로부터 유도되는 information transfer 등을 정의할 때에 항상 이러한 확률분포의 관점이 채택되고 있음을 확인할 수 있다. 즉, 확률분포의 개념이 들어가 있지 않은, 1개의 sample trajectory만으로는 엔트로피라는 물리량이 제대로 정의되지 않는다. 이는 엔트로피가 근본적으로 통계역학적인 개념인 이유이다.

평형 통계역학에서도 주어진 constraint하에서 가능한 모든 상태들의 configuration에 대한 정보가 주어져야 entropy를 제대로 계산할 수 있으며(\(  S = - \sum_{r}{P_r \log P_r} \)), '계가 지금 \(r = r_1\)이라는 상태에 있다'라는 것을 알려주는 sample snapshot 하나만으로는 엔트로피가 제대로 정의되지 않는다.

그렇다면 자유도가 dramatically reduce되고 fluctuation이 제거되어 결정론적인 trajectory를 따르는 것처럼 보이는 '열역학'에서는 엔트로피라는 값이 어떻게 정의되고 계산될 수 있는 것인가? 대표적으로 일반물리학에서부터 학습하여 잘 알고 있는 이상 기체의 열역학을 생각해 보자.

이 문제를 해결함에 있어서 중요한 것은, 열역학에서는 microstate의 configuration에 따라 발생하는 fluctuation이 '제거된' 적이 없으며, 다만 전체 시스템의 크기에 비해 그 fluctuation이 매우 작아, 확률분포의 deviation이 매우 작을 뿐이라는 것이다. 그러한 상황에서 average dynamics를 따로 정의한 것이 바로 우리가 알고 있는 열역학의 식들이다. 즉 우리는 열역학에서 주로 average dynamics만을 tracking하지만, microstate configuration의 많은 가능성에 따른 deviation은 결코 없어지지 않았으며, (비록 그 상댓값이 매우 작을지언정) 늘 average dynamics와 함께 존재하고 있는 것이다. 그리고 바로 그 configuration의 다양한 가능성으로부터 엔트로피가 정의되고 계산되게 된다.

이 점을 보다 명확히 확인하려면, 준정적 과정(quasi-static process)과, 자유 팽창(free expansion)으로 대표되는 비평형 과정을 비교해 보면 된다. 논문 [1]을 소개하는 문단에서 살펴보았듯, 준정적 과정에서는 \( \Delta S = \int \frac{dQ}{T} \)가 근사적으로 성립하는 반면 자유 팽창과 같은 비평형 과정에서는 좌변이 항상 같거나 크게 되고, 그 차이만큼이 바로 entropy production에 해당한다. 즉 우주에서 기존에 없던 엔트로피가 새로 생겨나는 것이다.

열역학으로 올바르게 기술되는 준정적 과정(이는 자유 팽창과 가열/냉각을 지극히 작은 간격으로, 오랜 시간 간격으로, 지극히 많은 횟수만큼 단계적으로 반복하는 '느리고 답답한' 과정이라고 할 수 있다)에 비해서, 자유 팽창의 경우에는 trajectory의 deviation이 매우 크다. 즉, 처음 상태에서 나중 상태로 갈 때에 가능한 trajectory들의 폭이 매우 넓으므로 그 중간 과정의 average dynamics만을 추적하여 진술하는 것이 크게 의미가 없게 된다. 이러한 경우가 바로 비가역적 과정이며 entropy production이 발생하게 되는 것이다.

- 끝 -

[1] Landi, Gabriel T., Tânia Tomé, and Mário J. De Oliveira. "Entropy production in linear Langevin systems." Journal of Physics A: Mathematical and Theoretical 46.39 (2013): 395001.

[2] San Liang, X. "Information flow within stochastic dynamical systems." Physical Review E 78.3 (2008): 031113.

[3] Hatano, Takahiro, and Shin-ichi Sasa. "Steady-state thermodynamics of Langevin systems." Physical review letters 86.16 (2001): 3463.

[4] Manathara, Joel G., "Entropy as a measure of consensus on large networks.", working manuscript, retrieved from jgmanathara.files.wordpress.com/2013/01/conentpy.pdf (2019.10).

Centrality Measures of Graphs: Mathematics, intuitions, and some notable issues

그래프의 중심성 척도: 수식, 직관, 그리고 몇 가지 주목할 만한 사항들

하단에 Embed된 pdf 파일은 2019-2학기 전기정보공학부의 '비선형제어특론'(심형보 교수님)의 수업을 통해 Francesco Bullo의 책 <Lectures on Network Systems>를 기반으로 하여 제작하게 된 발표자료이다. 그래프(혹은 네트워크)에서 어떤 노드가 구조적으로 중요한 역할을 하는지 측정하기 위한 다양한 지표들(중심성 척도, 중심도)에 대해 공부하여 개략적으로 정리하였고, 가능하다면 응용 사례도 첨부하고자 하였다.

첫째로 가장 기본적이라고 할 수 있는 차수 중심도(Degree centrality)는 각 노드가 몇 개의 간선(edge)을 가지고 있는지 세어 주는 것이다. 복잡 네트워크 과학 분야의 역사적 발달에 있어서, 차수 중심도의 분포가 멱법칙을 띠는 네트워크인 '척도 없는 네트워크'에 대해 A.-L. Barabasi, R. Albert, H. Jeong 등이 수행한 일련의 연구가 중요한 역할을 하기도 하였다.

고윳값 중심도(Eigenvalue centrality)는 특정 노드의 중심성을 평가할 때, 그 주변 노드의 중심성까지 고려하겠다는 철학으로 개발되었다. 각 노드의 중심도를 구하는 방정식이 고윳값 방정식의 형태를 보인다는 점에서 이와 같이 이름붙여진 것 같다. 주변 노드의 개수뿐 아니라, 주변 노드의 중요성 또한 자신의 중요성에 영향을 미치게 된다. 한편 카츠 중심도(Katz centrality)의 경우 차수 중심도와 고윳값 중심도의 특징을 합쳐 놓은 것이라고 할 수 있다.

다음으로 다룰 페이지랭크 중심도(PageRank centrality)는 구글의 창업 기반이 된 것으로 유명하며, 검색 순위 결정을 위해 각 웹 페이지의 유명세를 평가하는 데 사용되었다. 재미있게도 발명자이자 구글 창업자인 래리 페이지(Larry Page)의 이름을 따서 명명된 것이라고 한다. 페이지랭크 중심도의 철학은, (i) 어떤 웹 페이지가 유명한 페이지에게 인용당할수록 더 높게 평가되는 것, (ii) 무차별 수집가(collector, 수많은 페이지를 인용하는 페이지)보다는 세심한 비평가(delicate critic, 적은 수의 페이지만 선별하여 인용하는 페이지)에게 인용당할수록 더 높게 평가되는 것으로 요약될 수 있다.

마지막으로 다룰 Betweenness centrality(BC)와 closeness centrality(CC)의 가장 큰 특징은, 그 정의상 노드 1개의 중심성을 평가하는 데에 네트워크 전체가 직접적으로 involve되는 것이라고 할 수 있겠다. 네트워크 상에서 정보가 전달된다고 보았을 때, 특정 노드를 대체할 만한 경로가 없어 '병목 현상'이 일어날 경우 그 노드는 큰 BC 값을 가지게 된다.

한편, 네트워크는 spatial embedding을 가지고 있지 않은 구조이지만 노드간의 거리를 통해 대략적인 '지름'를 정의할 수 있는데, CC는 그 척도라고 할 수 있겠다. 어느 노드를 중심으로 CC를 평가하느냐에 따라 지름이 다르게 평가되게 되며, 지름이 작을수록 해당 노드는 전체 네트워크와 밀접하게 연결되어 있다는 뜻이 된다.