빛으로 작동하는 인공지능

이전에 우연히 접하고 신기해서 포스팅 했던 전기과 유선규 교수님(https://waves.snu.ac.kr/research)은 박사 때는 플라즈몬 같은 걸 하셨고, 지금은 질서가 깨져있는 물질의 설계 쪽과 함께, 전기 대신 빛으로 작동하는 인공신경망의 설계를 연구 테마로 잡고 계신다.

그런데 마침 요새 analog optical computing이 나한테까지 전해 들릴 정도로 업계에서 굉장한 화두가 되고 있는 모양이다. 유 교수님 연구실 소개를 보고 그때는 지적으로 신기하다고만 생각했는데, 프랙티컬한 관점에서도 시의적절하게 매우 좋은 연구주제를 설정하신 것 같아 멋진듯하다.

머신러닝을 개선하는데 쓰이는 핵심적인 아이디어들을 보면, 물론 디지털 하드웨어를 효과적으로 쓰도록 로우레벨에서 개선하는것도 엄청 중요했지만, 이해와 활용에 있어서는 대부분 아날로그한 알고리즘들이 크게 작용하고 있는듯하다 (그래서 컴공의 여타 분야에 비해 머신러닝에서는 선대, 미적분학 등이 유독 더 강조되는 것이기도 하겠다). 극단적으로는 그러한 아날로그 알고리즘이 머신러닝의 요체이고, 디지털 컴퓨터는 그러한 아날로그 알고리즘을 원하는대로 쉽게 implement 하게 해주는 플랫폼 역할이라고 생각할수도 있다.

이런 센스에서, reservoir computing이라고 해서, 수많은 비선형 자유도를 가진 시스템이라면 (이를테면 물 담아놓은 바가지(...) 등 물리적 시스템들을 포함하여) 뭐든지 사용할수 있는 아날로그한 딥러닝도 제안된 바 있다. 그러나 여기서는 그 비선형 자유도 전체를 시시각각 업데이트 하는것이 아니라, 말단에 있는 상대적으로 조그만 뉴럴넷만 트레이닝 시켜서 원하는 함수의 윤곽을 뽑아내게 된다.

아직 analog optical computing이 어떤 것인지는 잘 모르지만 reservoir computing과 약간은 비슷하게, 그러나 전자 기반의 디지털 집적회로처럼 매우 세심히 디자인된 광회로를 만들어가지고서 머신러닝을 비롯한 계산을 하겠다는 듯하다.

Genuine analog의 장점은 명백하다. 자연은 나비에-스톡스 방정식 등의 복잡한 편미분방정식을, 말하자면 매 순간 아주 쉽게 근사적으로 푼다고 할수 있다 (방정식이 정확히 캡쳐하지 못하는 건 stochasticity로 간주될테다). 이는 근본적으로 에뮬레이션인, 컴퓨터속의 아날로그와는 다른것이다. 한편 아날로그의 큰 단점으로는 어떤 디자인을 바닥부터 원하는대로 쌓아올리거나, 요소 하나하나 값을 시시각각 컨트롤하기가 어렵다는 게 있다.

후자의 특징 때문에 생각보다 시간과 에너지가 드라마틱하게 절약되진 않을수도 있겠단 생각은 든다. 만약 기존 디지털컴퓨팅 노하우들과 시너지를 이룬 좋은 광회로가 나와서 이런 점들에서 breakthrough가 일어난다면 우리가 아는 컴퓨팅의 모습에 근본적인 도약이 생길수도 있지 않을까 한다.

Facebook에서 이 글 보기: 링크

논문 초안을 쓰며 느낀 점: 책임있는 글쓰기를 자연스럽게 하는 법

작년 말에 연구를 마무리하고 논문으로 정리하자고 하셔서 인트로 및 부록 빼고 본문까지는 대략 써 보았었다. 그때 내가 임의로 해서 교수님께 가져간 목차를 교수님도 거의 비슷하게 구상하고 계셨어서 기분이 좋기도 했었다. 내용을 소개하는 방식이 straightforward하지만은 않은데 꽤 구체적으로 비슷했어서 신기했던 기억이다.

하지만 그 이후 약 아홉 달 동안, 기존 내용을 refine하고 추가적인 연구 내용 (efficiency at maximum power (EMP)) 을 얻느라 섭밋 계획을 한번 엎었다. 그 사이에 새로 얻은 EMP 쪽을 메인으로 해서 이번 3-4주간 거의 새로 쓰다시피 했고 연휴 직후에 교수님께 보내드렸는데, 이번엔 정말로 마무리하자는 느낌이시다.

초안을 써 보면서 여러가지 느낀 게 있다. 먼저 영문으로 이정도 분량의 글을 써 본 건 사실상 처음인 탓에 (학부 졸업논문들이랑 인문대수업 리포트들도 전부 국문으로 썼음), 내가 쓴 글임에도 글의 전모가 한 눈에 들어오진 않아서 불안감은 가지고 있다. 아마도 아카이브에 올리기 전까지 교수님께 피드백 받는 과정에서 계속 살펴보면, 좀 더 이 원고와 친해져서(?) 한 눈에 이슈들이 보이지 않을까 싶다.

사실 본문에서는 그냥 내가 연구한 내용을 잘 표현하면 되니까 좀 테크니컬한 고민들이랑 수식 입력의 귀찮음 위주로만 있었다면, 좀더 고차원적인 창작의 고통(?)은 인트로 부분에서 주로 있었다. 그런데 한편으로는, 쓰기 전에 막연하게 걱정되던, 혹은 다른 논문들 읽으면서 '와 이런걸 번거로워서 어떻게 하나' 싶어서 걱정했음에도 막상 써 보니 생각보다 자연스럽게 해결이 되는 것들도 많이 있었다.

그중 대표적인게 레퍼런스 다는 것. 다른 논문들의 레퍼런스 보면 기본 50-60개는 되는 느낌이라 처음에는 저걸 대체 어떻게 하지 싶었는데, 첫 연구를 그래도 몇년 붙잡고 있었다 보니, 정말 직접적인 참고가 되는 문헌만 정리해도 30-40개 정도로 생각보다 적지 않게 나오더라. 여기에 직접적인 방법론적 참고는 안 되더라도 연구사적 맥락에서 반드시 인용해야 하는 논문들 및 설명이 잘돼있는 리뷰 논문들을 인용하고, 20세기 초반에 쓰인 근본 논문들도 방법론 언급할 때 예우 차원(?)에서 인용하면, 50-60개는 억지스럽게 채운다는 느낌 없이도 금방이다.

그런데 우리 교수님이 원생/포닥 때 작성하신 논문들을 보면 인용을 같은 업계에 비해서 정말 무척 적게 하시는 편인듯하다 (주도적으로 쓰신 논문에서는 30개 미만 인용하신 경우가 많음). PPT 같은거 봐 주실 때도 과장된 표현이나 레토릭한 표현을 지양하시는데 이런 것과 뭔가 일관되게 느껴지기도 한다. 내게도 그런 방향으로 지도를 해주실지도 궁금하기도 하다.

다음은 유사도 문제. 워낙 조심해야 한다고 주의가 많길래 고통을 받을것으로 예상했는데 생각보다 전혀 그렇진 않았다. 아무리 본문이 아닌 선행연구조사 부분이더라도, 내가 원하는 딱 그 맥락과 뉘앙스에 exact한 문장이 다른 논문들에 많이 있는 게 아니라서, 다른 논문을 일단 긁어오자는 생각 자체가 안 들고 내가 직접 써서 다듬게 되더라. 간혹 정말로 질투날 만큼 맘에 쏙 드는 문장들도 있긴 한데, 확률상 대부분은 내가 필요로 하는 문장들이 아닌지라 그냥 기억하고 기록만 해둔다.

결국 표현하고자 하는 바가 명확하게 존재하고 그것에 대해 많이 생각을 해봤다면, 표절을 피하는 것은 내가 갖고있는 문장을 억지로 paraphrasing하는 힘든 과정이 아니라, 나쁜 마음 먹지 않는다면 나름 자연스레 이뤄지는 과정인듯 (반면에 예술창작, 특히 음악에서는 훨씬 어려울 것 같음).

우리 active matter 분야에서는 과장좀 섞어 모든 논문이 거의 똑같이 시작하는데 ("active matter는 개별 입자의 수준에서 주변으로부터 에너지를 흡수하여 운동으로 전환시키며 와글거리는 물질이다" 이 정도의 뜻), 이런 건 약간 예외적일 수도 있겠다. 다만 이런 것조차도, 다른 논문들의 문장을 직접 참고하되 표현을 바꿔 쓴다는 느낌이 아니라, 뜻의 덩어리를 머리속에 기억해두고 그걸 글에 녹여낸다는 느낌으로 하면 문제가 생기지 않게 잘 할수 있다. 만약 100년 동안 연구가 쌓인다면 정의는 그대로인데 표현의 가짓수는 한정적이니 표절문제가 생길수 있겠지만, 그때는 연구 트렌드가 달라져서 첫문장이 달라지겠지(...).

카피킬러 같은 건 아직 안 해 보았고 교수님의 피드백과 첨삭까지 마치면 해볼 예정이다. 글쓰기에 있어서는 스타일이 확고하시고 굉장히 꼼꼼하셔서 아마 많이 바뀌어서 돌아오지 않을까 생각해본다. 실제로 무척 인자하고 점잖은 분이신데, 교수님 말씀으로는 대학원생때 유일하게 짜증나셨을 때가 동료 논문 첨삭해 줄 때였다고 하신다.

그리고 연구노트 좌측여백을 사실상 영어 단어장처럼 사용하고 있다. 나는 맘에 쏙 드는 단어가 보이면 어떻게든 내것으로 만들고 싶어하는데 (이것은 페북이나 블로그에 글을 쓸때도 마찬가지임) 그러다보니 언젠가 내 글에 써먹으려고 적어두게 된다. 텝스 공부할 때도 단어 억지로 외우는걸 제일 힘들어했는데 (사실 제대로 안하고 청해/독해점수로 비볐음...), 글쓰기라는 목적이 있으니 영단어 공부도 자연스럽게 되는구나 싶다.

그리고 그런 단어들이 과연 맥락에 맞는 뜻인지를 보려면 영영사전을 찾는 게 매우 도움이 된다는 걸 알았다. 예문도 예문이지만, 뜻이 정확히 논리적으로 해설된 걸 보는 것도 생각보다 꽤 유용하다. 이를테면 내가 정의한 어떤 양을 여지껏 composite efficiency라고 이름붙이고 사용해 왔는데, 찾아보니 composite가 내가 생각하던 그런 뉘앙스와는 좀 다른 뜻이라, 영영사전을 찾아가며 comprehensive efficiency로 바꾸게 된 일이 있다 (물론 교수님께서 어떻게 판단하실진 모른다). 그리고 남의 논문 읽을 때도, 그냥 수식 따라가며 공부하는 입장이 아니라 논문을 써야되는 사람 입장에서 읽으니까 예전과 달리 어휘 같은 게 눈에 좀더 들어오는 듯.

아무튼 첫 연구는 교수님이 하사해주신 토픽이지만 내 맘에 쏙 드는 지적 방향성이었고, 그럼에도 불구하고 내가 갈피를 못잡던 시간이 길어서 연구가 늦어지다 보니 슬슬 비슷한 문제의식의 논문이 많이 나와서 연구가 처음보다는 덜 novel하게 된 느낌인데... 그 논문들이 모르고 있는 걸 내가 아는 게 아직은 꽤 남아있다고 생각은 하지만, 그래도 시간문제겠다 싶어서 초조한 기분이 많이 든다. 이젠 정말로 빨리 제출하고 다음 연구주제로 넘어가보고 싶다.

Facebook에서 이 글 보기: 링크

Neural style transfer를 처음 접했던 일, 그리고 컴퓨터 공부의 잘못된 방법

딥러닝을 아주 막연하게만 알다가 처음으로 그 놀라운 성능, 그리고 크리에이티브한 분야에의 응용가능성을 접한 것은 바로 style transfer 쪽에서 가장 히트쳤던 논문 중 하나인 "A neural algorithm of artistic style" 논문을 접하고서였다.

(당시 버전: arXiv 링크. 이후 CVPR 2016에 "Image style transfer using convolutional neural networks"라는 제목으로 억셉되었다. Google scholar에서는 인용수를 병합하여 집계하고있음. 해당 버전: 링크)

그 논문을 소셜미디어에서 우연히 접하고 너무 감명받아 페이스북에 글을 썼었다. 지금 보니 말투가 킹받기는(?) 하지만, 당시의 소감을 느낄 수 있다보니 재미있어서 다시 가져와본다 (해당 Facebook 게시물: 링크).

저 때 나는 패턴인식에 막연하게나마 관심이 있어서 전기과 해동 도서관에서 책 빌려서 공부하던 터였다. 그 때 공부하던 건 공간상에 빨간 점과 파란 점이 뿌려져 있는데 직선으로는 구분되지 않을 때 비선형함수들의 합성으로 어떻게 구분선을 그을지 등 기초적인 내용이었다. 그런데 갑자기 접한 neural style transfer는 아득히 멀게, 그야말로 마법에 가깝게 느껴졌던 것 같다 (사실 지금도 그렇다).

하여튼 저런 게 내 센트럴한 흥미를 깊이 자극했지만, 이미 너무 잘 발전해버린 바람에 내가 기술적으로 이해하고 활용할수는 절대로 없을 것 같다고 생각했었다. 그리고 그런 기분은 머신러닝 기술 발전소식을 팔로업하면서 8년째(...) 계속 느끼는중인데... 그 기간 동안 아무 때라도 좀더 용기내서 dive in 해 보았다면 좀더 여러 가지의 좋은 기회를 얻을 수 있지 않았을까 해서 아쉬움도 있다. 농담섞인 얘기지만 물리를 잘 하는 게 딥러닝에 도움 된다는걸 늘 생각했고 또한 실제로 목격해왔는데, 지금은 내 전공인 비평형 통계물리의 핵심 아이디어들까지 머신러닝 피플들이 적극적으로 익히고 있는 바람에, 통계물리 바탕으로 그쪽에 새로운 뭔가를 던질 수 있는 여지가 거의 사라지고 있는 것 같아서 말이다.

아무튼 당시에나 지금이나 컴퓨터에 워낙 친숙하지 않다보니, 저때는 소스코드 등이 다 공개되어 있으니까 그대로 가져다가 돌려 보면 된다거나 하는 것도 아예 몰랐었고 철저히 아날로그적으로 (수학이나 물리 공부하듯이) 공부했다. 그러느라 머신러닝에 쓰이는 수식들이랑 초보적인 매트랩(!?)에는 빠삭해졌지만, 파이썬 라이브러리로 직접 뭔가 만들 줄 아는 실속은 전혀 없이 시간 낭비를 많이 했던 것 같다. 컴퓨터라는 건 바닥부터 안해도 이미 있는거 따라하면서 부딪혀보면 되는거라고 옆에서 한마디라도 누가 좀 알려줬더라면...

하여튼 그 이후로 물리학이랑 미학 공부한다고 정신없느라 이쪽 공부는 안하다가 (미학을 공부하게 된 계기 중에 하나가 사실은, 딥러닝이 발전하는걸 보며 기술과 문화예술의 상호작용에 관심이 생겨서이기도 하다), 2018년 초에 원래 알던 전기과 형이랑, 의대 신입생 두명이랑 같이 굿펠로 책 스터디하면서 좀 다시 따라가게 됐던 것 같다. 그 책은 연구실 출범 초기에 교수님께서 빌려 가셨다.

Facebook에서 이 글 보기: 링크

점점 각광받는 디퓨전 모델(diffusion model)

생성모델 분야를 매일같이 혁신하고 있는 학습 스킴인 diffusion model 쪽에서 유명한 Yang Song (Google scholar: 링크, 개인 홈페이지: 링크) 이 이번에 스탠포드 박사 졸업 하시면서 바로 칼텍 교수로 임용되신 듯하다.

이 분이랑, 스탠포드 Ganguli 그룹(홈페이지: 링크)의 여러 alumni 및 그 근처 동료 분들(S.S. Schoenholz, J. Sohl-Dickstein, J. Pennington, Jaehoon Lee 등)이, 수학 및 물리학을 바탕으로 머신러닝을 이론적으로 연구하면서 FAANG에도 걸쳐 있을 수 있는 멋진 포지션 창출의 제일 모범적이고 성공한 케이스들인 것 같다.

Ganguli 그룹에서는 디퓨전 모델은 사실 극히 일부분이고, 기존 딥러닝 이론에 물리 적용하는걸 꾸준히 다양하게 하시며, 인공지능뿐 아니라 생체 신경망의 정보 인코딩에 대한 이론적 분석 같은 것도 활발히 하시는 듯. 어째 다 스탠포드네....

나도 9월 초에 논문초안 내고 나면, 네이버웹툰 지인이랑 같이 올해 초에 디퓨전모델 스터디 하던 걸 자투리시간에 마무리 해서 블로그에 정리나 해둘 생각이다.

- diffusion model 기초: 물리학의 시야에서

- diffusion Schrödinger bridge

- Riemannian manifold에서의 diffusion model

- 미학적(?) 함의

아무튼 우리 분야로부터 강하게 inspired된 방법론인 디퓨전모델이 재작년부터 점점 뜨더니 위에 말한 스터디 그만뒀던 한 반년도 안 되는 사이에 대중적으로도 많이 알려질정도로 커다란 성공을 거둬서 기쁜마음 반 초조한마음 반임.

초조한 이유는 디퓨전모델이 워낙 각광받다 보니 이제 머신러닝 피플이 비평형통계물리 계산을 우리들보다도 잘하게 되는게 시간 문제겠다 싶어서 ㅋㅋ 현재 이론물리의 정수이자 에쎈스는 장론이랑 RG라고 생각하는데 이들도 혹시 IT 최전선에 응용돼서 빼앗기기(?) 전에 깊게 공부해서 저점매수 해 두어야겠다. 실제로 이미 응용의 시도들도 파편적으로 꽤 있고.

난 교양수준이긴 하지만 크리에이티브한 작업의 assistant로서의 머신러닝에 늘 관심이 제일 많은 편이다. 세계의 근본 요소가 아니라, 세상에서 어쩌다 생겨난 여러가지 것들에 대한 '법칙 아닌 법칙'(말하자면 패턴?)들을 경험적으로 파악해서 재조합하는 걸 전통적으로는 예술가와 그 조수들이 잘 했는데, 머신러닝이 잘 하는. 것도 딱 그런거고. 그렇게 파악된 '법칙 아닌 법칙'을 뜯어보는 것에 내가 원체 관심이 많기도 할 뿐더러, 그런것들이 역으로 각 부문별 창작활동이란 과연 무엇인지에 대해 더 깊은 이해까지 제공할수 있다고 생각함.

DALL-E 2나 Midjourney 등으로 요즘 핫한, diffusion model의 예술창작 같은 경우도 그래서 매우 맘에 든다. 그런데 이것은 결국 블랙박스 단계를 넘어 semantic 및 style을 체계적이면서도 쉽게 이해, 추출, 변경 가능해질 때에 지금보다도 더욱 커다란 비즈니스적 breakthrough가 생길것 같음. 별로 챌린징한 태스크는 아닌 것 같고 (통합적으로 예쁘게 안된다면 덕지덕지 붙여서 만들면 되니까) 돈 많이 될 테니까 아마 금세 누가 만들겠지.

Facebook에서 이 글 보기: 링크

9th Soft Matter Summer School: Active Soft Matter 참여 후기 - (2)

오랜만에 우수 발표상을 받았다. 부상으로 2TB SSD도 받았는데 어떻게 쓰면 좋을지는 찾아봐야겠다.

총 7개 상 중 나포함 2개를 우리 연구실 멤버가 받았다. 전체 포스터가 열몇 개이긴 했지만 암튼... Active soft matter의 글로벌한 대가 분들한테 포스터 내용 소개하고 핵심 메시지를 전달해 보는 것 자체만으로도 뜻깊은 시간이었던 듯. 다만 정작 내 연구와 매우 직접적으로 관련이 있는 연사분들(Cates, Ramaswamy 등)은 줌으로만 렉쳐 하셔서 포스터 보여드릴 기회가 없었던건 아쉬움.

심사교수님들과 동료들로부터의 꽤 중요한 피드백들 (+그리고 그걸로부터 시작된 여러가지 생각들) 도 있었다. 먼저 내 연구의 문제의식 중 odd-parity variable을 다루는건 다소 이론적인 열역학쪽 관심사로부터 유래된 것인데, soft matter 커뮤니티에서는 좀더 손에 잡히는 설명이나 실제적인 기대효과, 혹은 bottom up construction을 원하는것 같았다. 고등과학원 학회 때는 정반대로 추상적인 원리에서 시작하는 top down 모델수립에 많이들 관심을 가지셨었는데... 암튼 사실 작년 봄에 좀 해보다가 그만둔 일인데 다시 해봐야 하나 싶다.

다음으로는 work의 fluctuation 문제다. Active matter를 이용한 엔진이 여러의미로 전통적 엔진보다 성능이 매우 개선될 수 있음을 보였지만 그때 일의 요동은 커진다는 걸 인지하고는 있었는데, 이론적 흥미를 넘어 실제 유용성을 찾고자 할 경우 이 문제에 대해 정확히 언급 해주면 좋을 것 같다. 아니면, work 자체가 워낙 많이 개선되니까 '상대적 요동'을 찍어본다면 생각보단 괜찮을수도 있고.

그렇지 않다면 아예 후속 연구로, 에너지를 더 써서라도 fluctuation의 크기가 원하는 수준 이하로 보장되도록 집어넣는 제어의 방법 같은 것도 생각해볼 수 있을듯 (사실 이런쪽이 늘 넘 재밌게 느껴짐). Thermodynamic uncertainty relation은 precision을 좋게 하려면 그만큼 에너지 소산이 필요하다는걸 알려주지만, 에너지를 소산시킨다고 반드시 precision이 좋아지는건 당연히 아니니까 말이다.

다음으로는 연구실 동료들이 얘기한, odd와 even parity의 (혹은 각자끼리의) cooperation 효과도 해 볼 만 하겠다. 이것도 연구 맨 처음 단계부터 얘기는 나왔었는데, 일단은 인터랙션이 없는 모델이다보니 여러 입자를 섞어놔도 재미없고 trivial한 interpolation에 그칠것이 거의 확실하다. 근데 상호작용을 잘 주면 입자간의 직간접적 협력에 의해 양적인 개선뿐만 아니라 질적으로 새로운 현상도 볼수 있지 않을까 싶기도 함. 그러한 협력현상이 좀더 우리가 active matter에서 초롱초롱한 눈빛으로 기대하는 바이기도 하고. 물론 이것도 지금 연구에서 해결을 볼 사항은 아니고 ,후속으로 생각해보자 정도.

그리고 나는 일단은 active matter에 대해서 공학 활용이나 생체계 원리 설명을 염두에 둔 soft matter 커뮤니티 쪽 흥미보다는, 흥미롭고 새로운 비평형 현상들을 볼수있는 테스트베드(?) 느낌으로 생각하는 통계물리/통계장론쪽 이론 커뮤니티의 흥미로 더 관심이 있는듯하다. 지금 연구는 양쪽중 어디에도 속하지 않는 애매한 상태인데 다음부턴 어떻게 pose하고 풀어나가야 할지 고민이 많이 들기도 한다.

Facebook에서 이 글 보기: 링크

9th Soft Matter Summer School: Active Soft Matter 참여 후기 (1)

UNIST에서 개최된 '9th Soft Matter Summer School: Active Soft Matter'(행사 홈페이지: 링크)에 참여하고 있다.

이번 행사도 평소의 여러 워크숍들처럼 연사분들이 연구 소개 발표 하시는 줄 알았는데, 써머 스쿨이라는 이름에 부합하게 방법론적인 것에 초점을 두고 학생들 공부에 좀더 직접 도움이 되고자 하는 느낌으로 진행이 되었다.

우리 통계물리 쪽에서도 이번스쿨의 주제인 active matter를 매우 열심히 다루긴 하지만, 아예 soft matter라고 이름이 걸린 행사에 오니까 설명과 질의응답의 포인트에도 묘하게 차이가 있고, 확실히 평소와 다른 커뮤니티에 와 있구나 느낌이 드는 점도 재미있었다 (물론 당연히 교집합도 많다). 팀플 같은 게 없다보니 얘기할 기회는 적어서 잘 모르지만 아예 biology 백그라운드 분들도 상당히 계신 모양임.

다만 만약에 (우리 윈터스쿨처럼) 주제가 아예 좁았거나, 관심사별로 세션 나눠서 진행을 한다면 실험이면 실험, 이론이면 이론 정말로 깊게 배워갈수 있을텐데, 다같이 듣는 것이다보니 여전히 약간 애매한 점은 있었다. 몰랐던 분야라면 이런게 있구나 정도, 아는 분야라면 크게 챌린징하지 않은 복습느낌.

연사 모두가 말그대로 어디가서 plenary session 맡아 하실 정도의 분들이라, 관심사에 따라 세션 나눠서 하는 식으로 진행할게 아니긴 했다. 청중 전체의 general interest를 만족시키면서도 방법론적으로도 어느정도 take home message가 있게끔 균형있게 잘 구성된 듯하다.

개인적으로는 내 지금 연구에서 꽤 중심적으로 참고하고 있는 Ramaswamy 교수님의 연구(논문 링크: 클릭)를 저자직강(?)으로 설명 들어서, 다 제치고 이게 무척 유익하기도 했다. 내가 다루는 문제가 서 있는 지형을 이해하고 나서는 연구 스쿱당할까 싶은 조급함이 좀 줄긴 했었는데, 이걸 들으니 내 연구문제에 다가가는 길이 너무 클리어하게 보이는 느낌이라 그래도 빨리 써서 내야겠다는 생각이 든다.

이외에도 헷갈리던 것들을 좀더 확실히 알고, 잘 아는 티를 효과적으로 내려면 어떻게 말해야 하는지 컨벤션 같은 거랑, 앞으로 anchor 삼을 응용쪽 레퍼런스 문헌들을 많이 알아가는 걸로도 만족이다.

Facebook에서 이 글 보기: 링크

학위논문 구성에 대한 때이른 상상

일반 논문들에 비해 박사학위논문들은 많이는 안 읽어 봐서 그 구성의 전략 같은 걸 잘 모르지만, 학위과정 중에 다뤘던 개별 문제들을 꿰뚫는 하나의 스토리 내지는 중심적인 방법론을 소개하면서 풀어나가는 듯하다.

그걸 염두에 두면, 내 경우에는 통계역학에서 말하는 '평형'이라는 게 무엇인지, 현대적 포말리즘에서 수식적으로 어떻게 다루어지는지부터 꽤 많은 비중을 할애해서 다루면서 시작하면 좋을 듯하다. 이걸 튼튼하게 수립해 둬야, 조건 하나씩 빼 가면서 어떤 종류의 비평형이 나오는지 깊게 살펴보는 게 가능하다.

그리고 그 과정에서 나로서는 약간 옛것 느낌이 드는 macroscopic한 열역학, 그리고 microscopic한 시스템에 대한 linear response theory까지 필연적으로 건드리게 될 듯. 어차피 현대적인 포말리즘 안에서 놀 거라면 그런것들을 안 해도 개별적인 계산 진행에는 문제가 없으나, 지금 내가 하는게 왜 나온 것인지, 어떤 현대적인 개념과 옛 개념이 과연 서로 같은것인지 다른것인지 등등 깊은 이해와 설명을 하기는 어려움.

암튼 이런 걸 왜 목표삼게 되었냐면... 일단 평형을 다룰 때 여러 논문들에서 정의나 전제조건 같은 것들이 조금씩 다 다른데, 그것들 사이의 관계 및 논리적 위계를 통합적으로 다루면서 정리해주는 문헌은 흔히 보기는 어렵다. 그럼에도 사실 많지 않은 수의 논문들을 인용하면서 금세 정리할 수 있다. 이건 단순히 테크니컬한게 아니라, 어떻게 깨지냐에 따라 아예 다른 열역학을 주기 때문에 매우 중요하다.

그리고 정의와 전제를 공유하는 동일한 포말리즘인데도 불구하고 겉보기에 좀 다른 랭귀지로 쓰여있는 경우 (transition probability 기반일지, 혹은 probability current 기반일지 등등)도 있다. 그것들 사이에는 명시적인 계산을 통해 반드시 서로 링크를 지어줄수 있는데, 그걸 직접 보여주는 계산들을 수록하는 것 역시 꽤 유익하지 싶다. 딱 하나의 간단한 계산을 통해 bridge를 제공해주기만 해도 읽는 사람 입장에서 답답함이 사라지고 많은게 명쾌해지는데, 의외로 그런 bridge들이 잘 없음.

페이스북에도 종종 썼듯이 novel한 결과가 아닌 일상적인 계산들도 허투루 버리지 말고 꼭 정리해서 남겨두자고 결심했었는데, 그 이유는 사실은 심심함(...)에 가까웠다. 그러나 훨씬 실질적인 목적을 찾자면 바로 이런 것인 듯. 원래 저렇게 마음먹은 것은 짧지않은 학위과정에서 어떻게든 데일리한 성취감 찾으려고 그런거였는데, 학위논문의 완성도를 높이기 위해서라고 생각하면 매우 실질적인 목적이 생기는거니까.

암튼 그래서 읽는이가 내 학위논문 하나만 옆에 끼고 읽더라도, 평형과 그 깨짐을 다룸에 있어서 미묘하게 달라서 헷갈리는 여러 픽쳐들 사이의 논리적 관계에 대해 명확한 그림을 얻을 수 있게끔 하는게 목표이다. 여기에 더해서, 너무 수학으로 가지 말고 철저히 물리로 설명할수 있으면 더 좋은 물리학 학위논문일 것이다. 애초에 수학을 잘 모르는데 수학 정리들 인용해서 풀어나가는 게 약간 무책임하기도 하고 말이다 (그래도 수학과에서 우리쪽과 관련된 수리물리 연구 하시는 분들이 쓴 문헌들 보면 많은 도움은 될 듯).

그러고 보니 학부 때 물리과 졸업논문 주제를 스스로 정하고 percolation 모형 및 거기서 쓰이는 finite-size scaling 등 통계역학의 일반 기법에 대해 공부할 때에도, 이런 쪽으로 긍정적인 경험이 있었다. 여러 저널 논문들에서 서로 조금씩 다르거나 부분적인 얘기만을 하고 있어서 헷갈리던 것을, 당시 논문지도교수셨던 강병남 교수님 연구실에서 나온 학위논문들(조영설 교수님, 오수민 박사님)을 옆에 끼고 읽으면서 좀 더 잘 이해했었으니 말이다. 내 학위논문도 누군가에게 그런 역할을 한다면 좋지 않을까.

물론 내 관심 주제는 (1) 이런식의 이론 확률열역학 그 자체랑, (2) 그것의 능동물질(active matter)에의 적용 그 사이 어딘가에 아슬아슬하게 있기 때문에, 이런 기획은 얼마든지 엎어질 수도 있다. 만약 학위 연구 과정에서 후자가 많이 강조되게 된다면, 이런 얘기를 깊게 다룰 만한 여유는 없겠지.

지금으로선 (1), (2) 둘다 재밌긴 하고, 양쪽 다 균형있게 다뤄서 어디로든 갈수 있게 리스크 관리를 하고 싶은 마음이다. 근데 후자의 경우에도 실제 세상에의 직접적 유용성 쪽보다는, 평형 모형에는 없는 새로운 현상이 나타나는 이론적 모형이라는 측면에 일차적인 관심이 있는 거라서, 냉정하게 보면 전자 쪽에 가까운 관점으로 공부 중인 듯하다. 교수님께서도 내가 꼼꼼하다 보니 전자 쪽으로도 잘 할수 있을거라고 하셨었다.

근데 다 떠나서 선배 연구자들의 박사학위 논문 보면 이런 작업이 이미 많이 돼있을수도 있다 =_= (근데 내가 이런걸 하려고 참고하고 있는 논문들 중엔 총 인용수 30회 이하의 논문도 많다보니... 아마 그렇지는 않을듯) 결국 일반 저널 논문들뿐 아니라 학위논문들도 많이 읽어보면서 감을 더 잡을 수 있을 듯하다. 물론 이런 것에 대한 집착적인 고민을 하기 이전에, 연구 관련된 고민들부터 평소에 열심히 잘해야함은 물론이다.

Facebook에서 이 글 보기: 링크

NEST meeting 발표 후기 (220722)

 지난 금요일에는 약 1년만에 NEST 미팅에서 발표를 했다 (발표자료: 아래에 임베드). 지난번과 달리 zoom이 아닌 오프라인 현장에서 발표했는데, 현장에는 고등과학원 선생님들만 오셔서 옹기종기 진행을 했지만 줌으로는 좀더 많은 분들이 들으신 모양이다. 비록 informal한 시간이지만 통계물리 분야 교수님들, 박사님들께서 한 줄 한 줄 봐주시기 때문에 준비도 무척 디테일하게 하게 되고, 발표 과정에서의 디스커션도 다른 어느 발표보다도 알차게 도움이 된다.

나는 저번 발표(블로그 게시물 링크)에서처럼 이번에도 thermodynamic geometry (이하 TG. 합의된 약어는 아니며 임의로 줄인 것임) 쪽 논문을 리뷰하는 식으로 진행했다. 시스템의 거시적 상태를 정의하는 파라미터 (온도, 압력 등) 쌍들의 모임이, 그 곡률이 명확한 역학적/에너지적 의미를 갖게끔 어떤 다양체를 이룬다는 것이 TG의 핵심적인 관찰이다.

원래 이쪽 분야는 Ruppeiner geometry, Weinhold geometry 등의 이름으로 평형 시스템의 거시적 열역학에 대해 먼저 수립되었고, 액체-기체 상전이나 이징 모형과 같은 교과서적 모형에 대한 기하적 재해석뿐 아니라 블랙홀 등에 대한 최신 연구들에도 꽤나 활발히 적용이 되었다. 다만 상전이에서 나타나는 불연속점이나 미분불가능점 같은 singularity에 대해, 이론 물리학의 자랑할 만한 방법론으로서 잘 정립된 재규격화군(RG) 등에 비해서 이런 TG가 얼마나 좋은 설명력과 새로운 시야를 제공할지는 의문인 상태다.

단적으로 말해 TG는 이미 잘 알고 있는 열역학적 현상을 매니폴드 위에서 일어나는 걸로 취급할수 있더라 라는 재밌는 해석 그 이상도 이하도 아닐 수도 있다. 그러나 이하에서도 서술하겠지만 그러한 재밌는 포말리즘이 연구자를 매혹시키고 계속 공부를 하게끔 한다. 분포가 오직 거시적 파라미터에 의해 간단히 결정되기 때문에 이들 시스템의 기하학은 피셔 정보량을 메트릭 삼는 정보기하(information geometry)와 동등하기도 하다.

아무튼 그러다가 비평형 현상에 대한 구체적인 접근을 가능하게 하는 확률열역학이 발달되면서, 평형으로 relax되고 싶어하지만 외부 제어입력 때문에 계속 평형에서 조금 떨어진 채로 evolve되는, 요동이 중요하게 작용하는 계들을 선형근사해서 TG로 다루는 연구들이 진행되었다. 이미 잘 정립되어 있는 linear response theory (LRT) 가 여기에서 적극적으로 쓰여, 물리문제를 어떠한 기하문제로 바꾸고 어떻게 풀어나가야 하는지 잘 guide를 해준다.

시스템을 제어해서 처음 상태에서 다른 상태로 옮기는 작업을 어떻게 하면 적은 비용으로 수행할 수 있을까? 이런 궁금증은 꽤나 응용가능성이 많은 연구문제다. TG에 따르면 그런 에너지적 비용이, 매우 자연스럽게 파라미터 다양체 상에서의 '길이'와 직접 관련지어 써진다.

멀리 옮길수록 비용이 많이 들테니 당연한 거 아니냐고 할 수도 있는데, TG의 message는 그것보다는 약간 더 nontrivial하다. 목표로 하는 처음 상태와 나중상태가 정해져 있더라도, 어느 경로를 거쳐서 가는지를 여전히 무한히 다양하게 고를 수 있기 때문이다. 다양체가 시스템의 역학적 정보를 담고 있다는 것을 알면, 어떤 경로를 거쳐야 마찰 등에 의한 에너지적 비용 발생을 최소화하면서 목표를 달성할 수 있는지 알 수 있다. 말하자면 매우 추상적으로 정의된 휘어진 공간 상에서 길이를 최소로 하는 '직진'이 무엇인지 알려주는 게 TG의 핵심적 역할이다. 이 경우에 길이를 정해주는 메트릭 텐서는 정보기하와는 약간은 다르게 된다.

더 나아가서, 같은 경로를 따르더라도 어느 부분에서 빠르게 가고 어느 부분에서 느리게 가느냐에 따라 에너지적 비용이 달라질 수 있다. 비록 LRT 영역이라 어차피 매우 느린 상황이긴 하지만, 그 안에서도 이러한 time-parametrization의 이슈는 어느정도 다뤄질 수 있다. 어떤 고정된 경로에 대해 코시-슈바르츠 방정식을 적용하면, (대충 대각화시켜서 얘기하자면) 메트릭텐서의 역할을 하는 susceptibility의 크기가 클수록 그 곳에서는 느리게 움직여야 한다는, 어찌 보면 꽤나 직관적인 결론이 나오기도 한다.

이번에 NEST 미팅에서 소개한 논문은 이러한 TG의 방법론을, (Thouless가 처음 보고한) adiabatic pumping이라는 문제에 대해 적용한다. Adiabatic pumping은 거시적, 항시적 기울기가 없는 상황에서도 싸이클을 돌려서 일정한 방향의 흐름을 만들어내는 것이다. 여기서 흐르는 것은 전기가 될수도 있고 스핀이 될수도 있는 등 다양하다. 저자들은 열역학 연구자들이므로 주로 역학적 에너지를 뽑아내는 엔진에 대해서 다룬다. 특정한 방식의 엔진싸이클은 adiabatic pumping으로 간주될수 있기 때문이다. 이로써 따로 노는 것처럼 보였던 adiabatic pumping 분야와 열역학적 제어 분야가, 기하학이라는 징검다리를 통해 연결된다. 그리고 효율이 높으려면 그만큼 일률(power)는 줄어들어야 한다는 tradeoff relation이 기하로부터 주어지게 된다.

청중 선생님들의 공통된 지적은, 포말리즘이 무척 재밌기는 한데 과연 얼마나 새로운 시야를 제공하는지에 대한 의문이었다. 해당분야 연구자들이 좀더 와닿게 밝혀줘야 할 부분이다. 개인적으로는 매우 scarce한 상황에서 제어를 통해 어렵게 어렵게 에너지를 뽑아낼때는 어떤 경로를 얼마나 빠른속도로 거칠지의 이슈가 중요해지고, 그럴 때 TG가 기존에 우리가 몰랐던 실용적인 솔루션을 제공할수 있지 않을까 상상해보고 있다. 그래도 확실히 재밌긴 한것같고, interest가 잘 맞는 것 같으니 함께 꾸준히 공부 해보자고 말씀해 주셨다.

한편, 아예 평형으로 relax될 생각이 없이 항시적(housekeeping)으로 평형에서 많이 떨어져 있는, arbitrarily far-from-equilibrium 시스템에 대해 TG를 적용하는 연구는 아직 별로 없는 상태다. 왜냐면 LRT만 해도 평형계에서부터 미소하게만 떨어진 것이므로 거시적 파라미터 셋으로 규정되는 앙상블 접근이 약간은 통하는데, 평형에서 임의로 멀리 떨어진 시스템은 앙상블 접근 자체가 잘 통하지 않기 때문이다. 거시적 조건 하에서 비평형계가 어떤 상태를 택할지에 대한 일반원리는 아직 정립되지 않은 상태로, 최소 엔트로피 원리, 최대 엔트로피 원리, 최대 캘리버 원리 등 여러 설들이 부분적인 이해만을 제공하고있다.

Active matter를 비롯한 내가 정말로 관심있는 시스템들도 대부분 이 경우인데, 여기에의 TG 적용은 아직 블루오션이라고 볼 수도 있겠고, 한편으로는 위와 같은 이유로 근본적으로 TG와 안 맞는다고 볼수도 있다. 물론 far-from-equilibrium에서의 엔트로피 생성을 기하적으로 다루는 연구 흐름들도 있고 그것들에도 관심이 무척 많긴 하나, 그건 파라미터들의 공간이 아니라 좀더 추상적인 함수공간이므로 TG와는 아예 다르다.

Active matter를 제어해서 에너지를 뽑아내거나 구조를 형성시킬 때 비용이 어떻게 드는지에 관해서는, 정적인 상태에서의 연구는 나름 진행이 되고 있지만 동역학적 과정에 대한 연구는 거의 없다시피한 상태다. 그 돌파구는 위에서 말한것처럼 함수공간 상에서 엔트로피 생성을 보는 쪽이나, 아니면 optimal transport theory 및 speed limit 쪽에서 활발히 나올 가능성이 높다고 보고있긴 하며, 그쪽에도 흥미가 많이 있다. 그렇지만 그것들에 대한 지식이 TG로도 어느정도 증진된다면 그 역시 꽤나 재밌지 않을까 상상해본다.

Facebook에서 이 글 보기: 링크

Damped harmonic oscillator coupled with thermal reservoir: frequency-domain approach

확률미분방정식을 time domain에서 정직하게 풀게 되면 상관함수(correlation function)들에서 있어 마땅한 causal structure의 origin이 매우 명쾌하게 보인다는 장점이 있다. 그러나 이렇게 푸는 것은 변수가 세네 개 정도만 있더라도 매우 복잡한 작업이 된다. 특히 변수들 간에 명확한 hierarchy가 있지 않고 서로 영향을 주며 얽혀 있는 경우에는 더욱 그렇다.

따라서 미분방정식을 적절히 다른 domain으로 보내주는 변환을 하여 기술하는 경우가 많다. 라플라스 변환을 해서 \(s\)-domain에서 보는 경우는 상관함수들의 시간에 따른 decay를 보기에 매우 편리해지고, 푸리에 변환을 해서 frequency domain에서 보는 경우는 신호의 스펙트럼 성질, 즉 주파수 대역에 관한 성질을 자연스럽게 볼 수 있다. 이러한 장단점들 외에도, 계산 자체가 time domain에서 보는 것보다 훨씬 간단하다.

이 글에서는 기초적인 물리 시스템인 감쇠 진동자가 열저장체에 접촉하고 평형을 이루고 있어 온도가 잘 정의된 상황을, 주로 푸리에변환을 해서 다룬다. 이는 평형 및 비평형 통계역학의 좋은 연습문제가 된다.

여기에 더해서, 현재 내가 진행중인 연구에서 평형 모델을 구성할때 사용하는 핵심적인 방법론을 이 모델에 적용해 보았다. 그 핵심 방법론이란 주어진 어떤 해밀토니안 \(\mathcal{H}\)에 대해 볼츠만분포 \(e^{-\beta\mathcal{H}}\)를 평형분포로 갖는 확률미분방정식을 결정하는 절차인데, 이 방법에 따르면 쉽게 guess될 수 있는 해밀토니안으로부터 원래의 미분방정식이 유도된다. 따라서 그것이 해당 시스템의 canonical ensemble에 해당하는 해밀토니안이라는 점이, statistics에서 evident할 뿐만 아니라 dynamics의 관점에서 정확하게 입증된다.

본래 연구실 내에서 공유하고자 정리한 문서인데 블로그에도 게시해본다.

Facebook에서 이 글 보기: 링크

최무영 교수님의 비평형통계역학 특강 TA를 담당한 소감

교양과학서적 <최무영 교수의 물리학 강의>를 중학교 때 인상깊게 읽고 자기소개서에도 쓰고 그랬었는데, 10년쯤 지나서 이번 학기에 최 교수님의 '응집물질물리특강 1 (비평형통계역학)' 수업조교를 맡아서 하게 되었다.

교수님께서는 학생들 과제물을 일일이 살펴보신 뒤에 조교에게 채점하게끔 주시는데, 이번에 마지막 과제 받으러 찾아뵐때 책을 가져가서 싸인을 받아도 되는지 여쭈었고 흔쾌히 허락해 주셨다. 몇번 개정이 되고 표지도 바뀌어서 이제는 아마 구하기 힘든 판본일게다.

당시 내가 구입할 때 아버지도 같이 사 읽으셨어서, 싸인 받는다고 하니까 같이 갖고 가서 받아오게끔 부탁하셨다. 아버지는 이과 전공은 아니지만 수학도 내게 고등학생 초반까지 한 수 가르쳐 주셨을 정도로 워낙 잘하시고 했다보니 이런 과학쪽에도 기본적으로 관심이 있으시고, 당시에 내가 물리학 관심있어 한다니까 함께 읽어보고 이야기 나눠보고 싶어서 사 읽으셨던 것 같다.

다른 물리학자 교수님들과 최교수님이 공저하신 신간 <그렇게 물리학자가 되었다>도 마침 오늘(!) 출간이 되었다. 그래서 그것도 교보에서 사서 가지고 가려 했지만 아쉽게도 우리 학교 교보에는 아직 입고가 안 되었더라. 자서전 느낌인 것 같은데 어떤 내용이 담겨 있을지 궁금하다.

수업 얘기를 좀 해 보자면, 인문대 수업에서는 현실 정치사회에 대한 튀는 말씀도 꽤 자주 하신다고 하는데 (그러한 내용들이 종종 등장하는 <최무영 교수의 물리학 강의> 또한 요즘으로 따지면 '인문사회계를 위한 물리학'에 해당하는 수업에서 강의하셨던 걸 다듬은 것으로 알고 있다) 여기서는 박사과정 특강 수업이다 보니 철저히 전공내용 위주로 진행을 하셨다.

그래도 가끔씩 수업 내용과 관련해서 과학지식의 인식론적 기초, 사회구성적 성격 같은것에 대해 말씀을 해 주시는데 교수님의 견해만을 바탕으로 단정적으로 얘기하기보다는 해당 학계의 여러가지 설을 소개해주시는 식으로, 지극히 합리적인 견해 형성 방식을 갖고 계시다고 느꼈다.

특히 미시적인 대상들과 규칙들의 동역학이 실재에 가깝고 통계역학은 그것들로부터 유도될수 있어야 하는 부차적인 것이라는 물리학도 특유의 환원주의적 도식이, 반드시 맞는건 아닐 수 있다는 말씀도 재밌었다. 우리는 현상의 설명에 가장 유용한 이론적 틀을 골라서 적용하는 것일 뿐이고, 단단한 실재라고 믿어지는 것들도 마찬가지인 것.

이건 내가 시스템의 미시적 디테일이 irrelevant해지고 '근본적으로 거시적인' strict한 법칙들이 등장하는 universality class 같은 걸 보면서 했던 생각들과도 그 결이 비슷했다. 여하튼 소박한 환원주의에 대한 그런 의심은 언뜻 들으면 다소 신비주의적인 계기를 갖는 것으로 오해될수 있으며 한때 '신과학' 등의 구호 하에 지나칠 정도의 총체성에의 추구로 물리학자들을 이끌기도 했지만, 최 교수님은 한때 유행했던 그런 것들과 어느 정도는 거리를 두신 걸로 알고 있고, 해당 언급 역시 철저히 인식론적 문제의식이라고 생각된다.

뭐 모두 중요한 얘기들이지만 사실 여담들이고, 전공 내용 자체에 대한 최 교수님의 강의 실력 또한 두말할필요 없이 명불허전이셨다. 학기 중후반부에는 진도 때문에 너무 급하게 진행했는데 이것이 상당히 아쉽다.

물리 교수님들의 강의 방식을 내 마음대로 두 가지로 나눠 보자면 대단히 심오하고 미묘해보이게 설명하는 방식과, 최대한 클리어하고 담백하게 해설해서 아우라를 부수는 방식이 있다. 들어본 수업 중에는 김석 교수님이 대표적으로 후자 쪽이었다. 최 교수님 수업의 경우 관점은 기본적으로 전자에 가까우신 것 같은데, 그 미묘한 것들조차 단순히 말로 하는게 아니라 정확한 이론적 statement들로 풀어내셔서 오히려 후자에 가깝게 느껴지는 탁월한 강의였다.

이번학기를 끝으로 퇴임하시는 것으로 알고 있는데 명예교수 되시고 나서도 기회가 되면 강의를 열어주시면 좋을 듯하다.

Facebook에서 이 글 보기: 링크