게시물 목록

Friday, March 31, 2023

비평형 능동물질과 배트맨 리턴즈: When does locality help?

문화예술과 과학기술은 서로 영향을 주고받으며 발전한다. 특히 계산기술의 양적, 질적 발전은 영상매체에서의 생생한 그래픽 표현을 직·간접적으로 뒷받침해준다.

사실적이면서도 화려한 영상 효과 구현을 위해서는 적절한 수학적 모형화와 대량의 계산이 필요하다. 실제로 <반지의 제왕> 시리즈의 영상 효과를 담당한 회사 '웨타 디지털', 그리고 수식어가 필요 없는 애니메이션 회사 디즈니의 연구조직 '디즈니 리서치' 등에서는 일찍이 문화기술의 중요성을 인식하고 예술가들뿐만 아니라 로보틱스 연구자, 수학, 물리학 및 계산과학 전공자 등을 고용해 왔다.

이 글에서는 컴퓨터 그래픽스와 물리학의 관계에 대해서 재미있는 고전적 사례를 소개하고, 앞으로는 이들이 어떤 관계에 있게 될지, 그리고 꼭 관계가 있어야만 할지 등에 대해서 살짝 생각해 본다.


능동 물질과 배트맨 리턴즈

필자의 전공인 통계물리학은 수많은 입자가 상호작용하는 상황을 확률론을 도구 삼아서 기술하는 물리학의 한 분야이다. 일(work), 열(heat) 등 에너지의 흐름과 그 비가역성에 대한 학문인 열역학을 볼쯔만 등이 현대적으로 정당화하는 과정에서 등장하였다. 이 분야에서 2010년대 이후로 활발한 관심을 끌고 있는 키워드는 바로 능동 물질(active matter) 이다.

능동물질이란, 입자 간의 수동적인 충돌에 의해서 움직일 뿐인 보통의 액체 및 기체 등과 달리, 개별 구성 입자들이 스스로 연료를 소모하면서 적극적으로 헤엄치는 물질을 말한다. 대표적으로 생물체들의 세포 내에서 에너지를 소모하면서 움직이는 여러가지 분자크기 기계들, 혹은 움직이는 세포 그 자체들, 그리고 어떤 추진 장치를 갖게끔 화학적으로 특별히 합성된 콜로이드 물질 등이 있다.

이러한 능동물질은 밖에서 공급되는 유용한 에너지를 꾸준히 소모하면서 (열로 전환하면서, 즉 우주의 엔트로피를 증가시키면서) 평형으로부터 떨어져 있으므로, 비평형 시스템의 한 예시이다. 이러한 능동물질 연구의 효시로 꼽히는 연구는, 새들이 몰려다니는 집단적 움직임을 나타내기 위해 1995년에 제안된 비첵(Vicsek) 모델이다. 각각의 입자는 자체적인 방향성을 가지고 돌아다니는데, 자기 자신의 '시야 범위' 내에 있는 입자들을 보고, 그 주변 입자들의 평균 방향으로 정렬하게 된다.

그런데 재미있게도 컴퓨터 그래픽 연구자인 C. Reynolds가, 이미 거의 동일한 모델을 Boids라는 이름으로 1986년에 제안했다고 한다. 그리고 이 Boids 모델은 Reynolds가 엔지니어로 참여한 1992년도 명작 영화 <배트맨 리턴즈> (배트맨 2) 에도 적용되어, 박쥐들의 집단적 움직임을 사실적으로 표현해 주었고 이로써 영화에 음산한 느낌을 더해주었다 (박쥐는 새가 아니지만 아무튼...).


https://journals.aps.org/prx/abstract/10.1103/PhysRevX.12.010501

(위 링크: 능동물질 분야의 대가들이 저술하여 Physical Review X에 게재한 총설논문 (접근 권한 필요). 논문 본문의 Introduction 부분에 배트맨 리턴즈에 대한 언급이 존재한다 (Boids가 물리학자들에게 여기서 처음 재발견된 것은 아니다). Bowick, Fakhri, Marchetti and Ramaswamy, Physical Review X, 12 (2022).)

배트맨 리턴즈가 포함된 이 영화 시리즈는, 현재 우리가 배트맨 실사영화 하면 떠올리는 어둡고 진지한 분위기의 전형을 확립한 작품들이다. 배트맨이라는 매력적인 캐릭터, 팀 버튼 감독 특유의 분위기와 함께, 이러한 수학적 모델링 아이디어와 계산 기술력의 진보 또한 영화 연출의 완성도에 일정부분 역할을 했다고 하면 무리한 추측일까.

국소성 (locality) 을 둘러싼 생각

아무튼 통계 물리학자들과 컴퓨터그래픽 연구자들은 서로의 분야에서 거의 비슷한 모델이 있음을 꽤나 오랫동안 서로 몰랐던 모양이다. 따라서 이를 이론과학과 문화기술의 직접적 상호작용이라고 보기엔 애매하다. 그러나 각 분야의 관심사 및 계산 기술의 발전에 의해 '나올 때가 되어서' 서로 비슷한 시기에 나온, 말하자면 예정된 우연이라고 할 수 있겠다.

그런데 이러한 모델은 질량, 운동량, 에너지 등의 교환이 시공간적으로 서로 잇따라 (즉 '국소성 (locality)'을 만족시키면서) 전달되는, 전통적인 물리학에서 좋아하는 역학적 상호작용이 아니다. 메커니즘은 모르지만 아무튼 주변을 보고 그에 따라 정렬된다고 거시적인 규칙을 정해 준 것 뿐이다.

(예컨대 새가 주변의 다른 개체들을 눈으로 보고 방향을 바꾸는 것이라고 치자. 이것을 역학적으로 제대로 모델링하려면, 주변의 개체들에서 반사된 빛 입자가 새의 눈에 들어오고, 이것이 시각 세포를 자극하고, 그 신호가 신경을 통해 뇌로 들어가 어떤 판단을 일으키고, 그러한 판단에 따라 날개에 어떤 운동이 지시되어 비행 방향이 조절되는 것을 일일이 고려해야 한다. 이러한 과정을 최대한 사실적으로 표현하겠다고 일일이 역학적으로 모델링하여 컴퓨터로 재현한다는 것은, 설령 그렇게 하더라도 별다른 실익이 없는 코믹한 일이다.)

물리학에서는 이러한 것을 좋아하지 않는다. 대표적으로 중력은 서로 멀리 떨어져 있는 두 천체 사이에 작용하며, 서로 멀리 떨어져 있는 두 전하 (+ 혹은 -) 사이에는 전자기력이 작용하는데 물리학자들은 이러한 원격 작용이 만족스럽지 않았다. 따라서 물리학자들은 두 천체, 혹은 두 전하 사이의 모든 공간을 중력장, 혹은 전자기장을 비롯한 장 (field) 이 채우고 있다고 생각하였고, 입자간의 상호작용은 장의 존재, 혹은 장의 변화를 통해 매개된다. 이로써 원격 상호작용으로 여겨지던 이러한 기본 힘들은, 장을 통한 국소적인 상호작용의 연쇄로 새롭게 이해되었다. 이러한 접근은 인류 과학사에서 손꼽힐 만큼 성공적이어서, 장론 (field theory) 은 거의 모든 현대 물리학 이론의 표준적, 통합적 기술 방법으로 되고 있다. 또한 이러한 장들은, 단순히 이론적인 도구가 아니라 근본적인 물리학적 실재(實在)처럼 받아들여지는 느낌이다 (전자기파, 중력파와 같은 파동의 검출이 결정적이다).

그러나 이미 썼듯이 비첵모델은 매우 거시적인 수준의 모형이고, 상호작용을 매개하는 구체적인 국소적 상호작용이 모형화되어 있지 않다. 또한 비첵 모델은 유효적 (effective), 혹은 현상론적 (phenomenological) 기술일 뿐, 위에 쓴 능동물질의 정의에도 있는 에너지 출입에 대한 고려, 즉 '열역학이 들어가 있지 않다. 따라서 평형으로부터 얼마나 멀리 떨어져서 작동하는지 체계적인 분석이 어렵다. 이처럼 거시적인 새들 (혹은 박쥐들, 물고기들 등) 의 집단 운동은 도리어 '너무나 극명하게' 평형으로부터 멀다.

상전이와 보편성

위와 같은 점들을 고려하면, 비첵 모델은 에너지 출입에 대한 적절한 고려도 없고, 국소적인 상호작용의 연쇄로 이해될수도 없으므로, 물리학이라기보다는 그냥 입자기반 시뮬레이션 같은 것일 뿐이라는 의문을 가질 수가 있다. 대체 왜 물리학으로 분류될까? 실제로 필자가 주변에서 많이 받는 질문인데, 이에 대한 답은 간단치 않다.

일단 일종의 제도론적인 답을 하자면, 그냥 물리학자들이 주로 했기 때문에 그런 것 같다. 사실 이것이 제일 정확한 답일 수 있다. 그러나, 이러한 사회구성주의적 답변에서 그치지 말고 규범적 정당화를 시도해 볼 필요도 있다.

내 생각에 이런 종류의 모델들이 물리학으로 분류될 수 있는 이유는 바로 상전이 (phase transition) 의 존재 때문에 그렇다. 상전이란, 온도에 따라 액체가 기체로 변하는 것처럼, 파라미터의 변화에 따라 물질의 어떤 특성이 점진적으로 변하지 않고 급격하게 변하는 것이다.

이러한 상전이가 왜 그렇게 이론물리학자들이 특별하게 여기는 현상인지, 점진적인 변화와는 근본적으로 어떻게 다른지도 다루고 싶으나, 물리학자들이 좋아하는 주제인 대칭성, 보편성 등과 매우 깊은 관련이 있다고 해 두고 그 세부는 지면상 생략한다. 결국 이러한 다소 인위적이고 현상론적인 모델도, 상전이를 보여준 덕분에 물리학자들의 활발한 관심 대상이 될 수 있었던 것이다.

비첵 모델은 새들의 밀도가 낮거나 노이즈가 클 때에는 무질서한 운동을 보이는데, 밀도가 높거나 노이즈가 작아지면 위에서 이야기한, 다같이 비슷한 방향으로 몰려다니는 large-scale 집단운동을 보여주게 된다 (여러 동물들에서 이러한 현상이 있는데, 새들의 경우에는 flocking이라고 불리고, 물고기는 schooling이라고 불리며, 보다 넓은 용어로는 swarming이라고 부르는 듯하다). 이론적으로, 이러한 몰려다니는 상태는 평형에서는 불가능한, 철저히 비평형적인 현상이므로 흥미롭다. 그리고 이러한 변화는 서서히 일어나는 것이 아니라, 특정 조건 주변에서 급격하게 일어난다.

이러한 상전이 특성 탓에 비첵 모델은 물리학자들의 상당한 관심을 모으게 되었고, 현재 최초 논문 1개만 해도 7600회 이상 인용되었다. 또한 커다란 개체 스케일이 아니라 세포 스케일에서 일어나는 여러가지 집단 현상에 대해서도 이와 비슷한 틀로 분석을 하는 연구들이 생겨나면서 능동물질 분야가 본격적으로 시작되었다. 이렇게 능동물질이라는 하나의 인기있는 토픽으로 정리가 된 것은 보통 2010년쯤으로 본다.

그리고 정말로 '물질'이라고 불릴 만한, 분자크기 즉 나노~마이크로미터 스케일의 응집물질들 중에서도 에너지를 꾸준히 소모하며 헤엄치면서, 평형에서는 관찰되지 않는 흥미로운 집단현상을 보이는 계들이 많이 발견되었고, 능동물질이라는 틀에서 통합적으로 연구되게 되었다. 이제 이들은 확률과 결합한 현대적 열역학의 체제에서, 에너지를 얼만큼 소모하면서 평형으로부터 얼만큼 떨어져 있는지의 문제까지 포함하여 정량적으로 잘 기술되고 있다.

Concluding remarks: 그래픽스와 물리학의 관계 혹은 무관계

최근에 모종의 계기로 그래픽스와 물리학의 관계에 대해 생각을 많이 해 보고 있었는데, 마침 그래픽스와 능동물질 물리학의 이러한 오래된 연결을 알게 되어 꽤나 신나는 심정이다. 이러한 그래픽스와 물리학의 관계가 앞으로는 어떻게 전개될지 다소 추상적으로나마 생각해보았다.

그래픽스는 기본적으로 꼭 진실성을 추구하는 것이 아니라 예술적인 장면을 연출하기 위한 것이다 (진실성을 추구하면 그때부터는 문화기술이라기보다는 과학의 영역이며, 주로 그래픽스라기보다는 시뮬레이션이라고 불린다). 이것을 반드시 물리학에 기반해서 할 필요는 당연히 없다. 그러나 진실성과 별개로, 시청자를 설득할 만한 사실성은 대부분 필요하다. 사실적 표현을 하기 위해, 혹은 조금 덜 사실적이더라도 예술성을 기하기 위해 물리학과 그래픽스가 서로 영감을 주고받고, 더 나아가 물리학적 모형 및 방법론을 직접적으로 활용 가능한 지점은 꽤 많아 보인다.

현대 이론과학으로서 좁은 의미의 물리학뿐 아니라, 시간에 따른 자연현상의 수학적 기술이라는 좀더 넓은 의미의 물리학적 (혹은 동역학적) 방법론이라면 더욱 명백하게 그렇다. 어떤 경우엔 국소적인 상호작용을 물리학적 정확성에 집착하지 않아야 더 효율적으로 멋진 장면을 만들어낼 수도 있을 것이고, 또 어떤 경우에는 물리학 지식의 도움을 받아 쉽게 멋진 장면을 만들 수도 있을 것이다.

특히 최근에는 딥러닝 분야의 발전에 따라, 커다란 인공 신경망의 높은 일반화 성능, 그리고 특징추출 (feature extraction) 및 차원축소 (dimension reduction) 능력에 의해 동역학계 이론, 로보틱스, 컴퓨터비전, 컴퓨터그래픽스 등 여러 분야가 서로 glue되고 경계가 흐려지면서, 이러한 관심사는 더욱 여러 방향으로 구체적으로 전개되고 있다.

위에서는 과학분야로서의 시뮬레이션의 경우 진실성을 기하기 위해, 국소적 상호작용을 얄짤없이 일일이 재현해야 하는 것처럼 말했다. 물론 거의 모든 경우에는 맞다. 그러나 요새는 심지어 시뮬레이션의 경우에도 딥러닝의 도움을 받아서, 통계적으로 희귀하지만 꼭 보아야 하는 이벤트, 혹은 강한 비선형 효과 등에 대해 적은 계산량만으로도 올바른 결과를 내겠다는 연구가 많다. 그 결과의 진실성을 어떻게 확신할지는 기술적으로도, 과학철학적으로도 어려운 문제일테다.

아무튼 그래픽스에서 이러한 딥러닝 방법은 국소적 상호작용을 일일이 재현하지 않고 사실성에 기여하는 핵심적인 윤곽만을 효과적으로 추출해서, 계산량을 줄이면서도 물리학 지식의 도움을 효과적으로 받게 할 것으로 기대된다 (또한 이는 세상에 존재하는 거시적 현상들에서 뭐가 중요하며 어떻게 돌아가는지에 대한 미술가적인 이해를 돋우는, 일종의 '과학 아닌 과학' 역할을 해 줄 수 있을 것이라고 본다).

결론짓자면 많은 계산량으로 악명높은 그래픽스 분야가 때로는 물리학적 정확성에 대한 추구를 폐기하면서, 때로는 반대로 물리학으로부터 도움을 받으면서 더욱 발전하여 사람들에게 문화적인 즐거움을 주기를 바란다. 이러한 적절한 판단 필요성의 중심에는, 결국 한편으로는 정확한 수학적 모형화를 돕고, 한편으로는 계산량을 더욱 증가시키는 국소성의 양면이 있다.


Alookso에서 이 글 보기: https://alook.so/posts/LKtaxGk (이론물리학 그리고 배트맨 리턴즈: When does locality help?)

Facebook에서 이 글 보기: 링크

Tuesday, March 28, 2023

물리, 그래픽스, AI 융합연구의 두 가지 방향

그래픽스나 컴퓨터비전 쪽을 physics-aware하게 하는 게 점점 중요해질 수 있어 보인다.


일단 이를 위한 첫번째 방법으로는, 오브젝트들을 생성하고 이동시켜주는 규칙을 최적화하기 위한 손실함수(loss function)를 잘 설계하고 이것으로 뉴럴 네트워크를 학습시켜서 '근사적으로' physics-aware하게 할 수도 있을테다. 즉 large scale 시스템을 일일이 시뮬레이션하지 않고 중요한 자유도만 살리면서도 올바른 윤곽을 흉내내게끔 하는것.

이런 건 이미 실제로 많이 하고 있다. 특히 계산량이 많은 것으로 유명한 유체 시뮬레이션 쪽이랑 빛 렌더링 쪽에서, 주요 feature를 뽑아주는 뉴럴넷의 파워를 빌려서 딥러닝 붐 초창기부터 이미 진전이 많이 있었다고 알고 있다.
(그래픽스랑은 다소 다른 맥락에서 등장한 terminology 같긴 하지만, physics-informed neural network도 이런 비슷한 접근법이며 현재는 그래픽스 쪽에서도 많이 적용이 된다고 알고 있다)
그런데 그렇게 하지 말고, 아예 블렌더 등의 그래픽스 프로그램에서 동작하는 스크립트 같은 걸 GPT-4 같은 Language model을 통해 만들되, 그렇게 생성된 스크립트가 물리법칙을 respect하는 물체의 경로를 지시하게끔 한다면, 물리 지식이 없는 사용자도 물리적으로 자연스러운 그래픽을 만들어낼 수 있을것이다. 그러면 그걸로 만들어진 스크립트는 뉴럴넷이라는 커다란 함수를 이용한 근사가 아니라 '정확히' 물리법칙을 존중하게 될테고.
수행하고 싶은 과업의 종류 및 계산량에 따라 이런 방향들 중 무엇이 더 적합할지가 갈릴텐데, 만약에 '시뮬레이션' 스러운 게 아니라 그냥 간단한 일상적 장면 표현 같은 데에 쓸 목적이라면 후자의 접근법도 꽤나 괜찮겠다는 생각이 든다.
물론 이미지 전체를 아예 한번에 주조해 버리는 GAN이나 디퓨전 기반의 text-to-video generation (요샌 3d도 되는 듯) 으로 비벼 버릴 수도 있겠으나... 그런 거 말고 오브젝트들의 개체성이 선명해야 한다거나, 정확히 원하는 물리적 동작이 있는 상황이라면 현재와 같은 패러다임의 text-to-video generation은 조금 부적합할수도 있으니까.
그러나 물리법칙을 존중하는 어떤 장면을 만든다고 할때 그 구성요소에 유체역학 혹은 기체의 확산 같은 게 포함되어 있어 버리면 결국은 전자와 같은 방향도 관여될 수밖에 없을 것 같긴 하다.
(개인적으로 과학적(?) 재미는 전자쪽에 좀더 있는것 같기도 하다. 인간이 잘 모르는 중요 feature를 뉴럴넷이 알아내서, 적은 비용만으로 전반적인 윤곽을 상당히 정확하게 흉내낸다면, 그런 뉴럴넷을 뜯어보면서 우리 입장에서도 현상의 전체적인 윤곽에 무엇이 중요한 거였구나 하고 배울수가 있으니까.)
이런 접근에서 당장 생각나는 문제점이 있다면 GPT같은 무척 커다란 모델도 물리적 규칙을 이해하는건 어려워한다는 것이다. 그런데 이건 자연어에 대한 통계적 이해로부터, 물리법칙을 존중하는 '자연어 생성' 및 '자연어 레벨의 추론' 능력이 emerge하지 않는다는 얘기일 뿐이고. 자연어가 아니라 물리법칙을 존중하는 '코드를 짜는 것'이라면 오히려 훨씬 더 쉬울수도 있을 것 같다.
사실은 사용자가 물리학 지식이 있어서 공식을 아예 manual하게 지시해주고, 옳게 했는지 검토도 가능한 경우에는 지금의 ChatGPT 정도로도 그냥 쉽게 될 것 같다. 그걸 넘어서 일일이 안 알려줘도 실수없이 정확하게 하도록 파인튜닝하는 게 중요하겠지.

암튼 정말 말 그대로 하루가 다르게 새로운 것들이 엄청나게 나오고 있으며, 기존 것들을 연결해서 새로운 서비스를 구현하는것도 너무 잘 되고 있으니.... 이런것들도 분명히 이미 있거나 조만간에 될 듯.
이런 여러가지 워크플로우들을, 기존에 잘 돼있는 것들을 직접 연결, 또 연결해서 만들어 낼 수만 있는 정도의 표층(?) 코딩 능력만 갖추더라도 지금 다가오고 있는 시대에 꽤 재밌게 잘 적응할 수 있지 않을까 한다. 가장 최근에는 심지어 그것조차 하지 않아도 GPT가 알아서 다 연결시켜 주는 게 나온 모양인데, 그것까진 아직 팔로업하지 못했다.

나는 차라리 내가 바닥부터 직접 코딩하는 시뮬레이션 같은 것은 비교적 잘 할수 있지만 위와 같이 이미 있는 것들을 기민하게 연결해서 작업하는 일은 여전히 익숙하지 못하다 보니, ChatGPT한테 물어봐 가면서 점차점차 익혀 보려고 한다. 프로그래밍 연습 해야된다 해야된다 하면서 계속 안하고 버텼는데 지금이야말로 무조건 해야 될 적기인 것 같음.

Facebook에서 이 글 보기: 링크

Sunday, March 26, 2023

13학번 선배들의 교수 임용 소식을 보며

전기과 학부시절 13학번 선배들 중에, 올해들어 교수로 임용되었다는 소식을 슬슬 많이 듣는다 (만 27-29세 정도). 과가 워낙 크다 보니 대부분은 직접 아는 분들은 아니긴 한데, 물론 직접 아는 분들도 있고, 분야는 주로 AI 및 AI반도체 쪽인 듯하다.

그리고 직접 인연은 없는 학과지만 수리과학부 쪽에선 우리 통계물리 분야에서 친숙한 PDE들의 수학적 성질을 보시던 13학번 분도 이번에 교수님 되셨다고 들음. 말하자면 응용수학 쪽인데 AI반도체처럼 산업에 직접 응용되는 느낌은 아니므로, 통계물리 전공하는 입장에서 꽤 참고할만한 케이스인 듯하다.


아무튼 현황이 이렇다는 것은 내년쯤이면 우리 14학번들 중에도 교수로 임용되는 분들이 꽤 생길 수도 (아니면 이미 있을 수도) 있다는 얘기다. 동갑이거나 동기인 지인들 중에서도 박사 받는 분들은 슬슬 생기고 있는데, 교수 임용은 커녕 박사 졸업하는것도 나한테는 사실 아직 하나도 와닿지가 않고 다른 세상 얘기 같다.

14학번 중에서는 누가 가장 먼저 임용이 될까? 내가 인지하고 있는 분 중에서는 컴공 14 중에 박사 미국 유학 가신 어떤 분이 학부때도 잘 하기로 유명했는데, 지금 보니 NLP 쪽에서 인용수가 3천여 회에 달하고, 강연이나 학술행사 같은 걸 할 때면 벌써 교수님들이랑 같은 급으로 섭외돼서 강연 하시고 그러더라. 이분도 졸업이 얼마 안 남으셨을 텐데, 아마 교수로 임용되시거나, 아니면 회사 쪽에 대우가 더 좋은 직책이 있으면 그쪽으로 가던가 하실 듯.


나는 이제야 첫 논문 섭밋했는데 물론 분야별 차이도 많이 있을 거고, 학부에서 이상한 거 하느라 남들보다 3-4학기 더 다닌것도 감안을 해야 겠지만... 위처럼 벌써 논문 수백 회 내지는 천몇백 회씩 인용되고 교수 임용되시는 분들을 떠나 그냥 대학원생들 평균, 혹은 회사 생활 하고 있는 친구들 평균이랑 비교해서도 뭔가 커리어의 status가 꽤 늦어지고 있는건 이제는 객관적으로 인식하고 대응해야 될 현실인 듯하다. 그렇지 않을 줄로만 알았고 실제로 그렇지 않았는데, 첫 실적이 늦어지면서 한 21-22년 기점으로 그야말로 순식간에 그렇게 되어 버린 느낌이다.


나는 인더스트리 생각을 한동안 많이 했고 지금도 막 아카데미에 꼭 남지 않으면 안 된다 이런 건 아닌데... 기본적으로 공부하고 지식 추구하는 게 제일 재미는 있는 듯하다. 그러다보니 학위과정 동안에 실적이 괜찮게 나와서 뭔가 학문적인 커리어를 잘 꾸려나갈 수 있을 거라는 생각이 들면, 그리고 좋은 환경의 포지션이 있으면 가급적 아카데미에 더 있어 보고 싶은 편이다.

만약에 그렇지 못하다면 어려운 포지션에서 너무 오랫동안 남기보다는, 물리 전공했다는 백그라운드를 잘 알아주는 곳을 잘 찾아서 취업을 하는 게 개인으로서의 팔자에 더 좋을 수가 있다.


그러다 보니, 어떻게 흘러가더라도 어쨌든 나중에 봤을때 미련이 없게끔 최대한 해 봐야 하는 것이고, 그러려면 내가 생각중인 내용 및 분야를 좀더 적극적으로 개척하고, 동료들한테 당장의 구상으로는 어필이 잘 안되더라도 나 혼자서도 틈틈이 계산 많이 해보고 하면서 능동적으로 결과를 가져가서 보여주고 하면 좋을 것 같다.
지금까지는 정식으로 approve되지 않은 계산들, 당장에 재밌는반응이 별로 없는 계산들은 이걸 내가 마음대로 해 봐도 되나 주저하면서 제대로 dive in하지 못하고, 그러다보니 make sense하는 방향인데도 시기를 놓친 경우가 많았던 것 같다. 그럴 이유가 없는것인데...

지금도 involve되어 있는 주제가 몇 가지 있는데 이것들만 졸업 전에 모두 논문실적으로 만들어 내더라도 대기만성 느낌으로 나름 괜찮아 보이기도 한다. 그러나 논문화할 만큼 만족스러운 완성도에 도달시킬 수 있다는 보장이 없으니... 연구 자체와 함께, 그것을 어떻게 엮어서 어떤 커리어를 지향할 것인가 하는 것도 지금보다 훨씬 치열하게 고민해야겠다는 생각이 든다. 그러면 또 역전될 수도 있고 좋은 길이 보일 수도 있고 그런 거겠지.


Facebook에서 이 글 보기: 링크

Sunday, March 19, 2023

딥 러닝의 급속한 발전을 지켜본 학부 시절의 기억

요즈음 학부 초년생들은 딥러닝과 그것을 위한 수학 및 프로그래밍 등에 대해 어느 정도 선에서 관심을 갖고 받아들이고 있을지가 문득 궁금하다.


나는 2014년부터 학부를 다녔는데 15년쯤부터 딥러닝 얘기를 슬슬 조금씩 들었었다. 그러다가 16년에 CNN 가지고 style transfer 하는 논문 (사진 찍으면 고흐 등 여러 유명 화가들의 화풍으로 바꿔주는 것) 을 우연히 보고 처음 충격을 받았고, 비슷한 시기에 이세돌 vs 알파고 챌린지 매치로 딥러닝이 대중적으로도 확 뜨고 그랬던 것 같다 (쓰고 보니 이때 이미 초년생은 아니고 고학번이었네...).

아무튼 그 때는 내가 범접할 수 없는 최첨단 기술이라고만 생각했고, 기본적인 퍼셉트론 러닝, 즉 비선형 합성함수로 공간에 선 긋는 것부터 마치 물리 공부하듯이 수식으로만 차근차근 공부했던 기억이 있다. 미디어나 소셜 미디어에서 소개되었던 딥러닝으로 할 수 있는 수많은 마법같은 일들도, 그러한 기초적인 예제들로부터 차원만 크게 키우면 대체로 가능한 것으로서 근본적인 질적 차이가 미약하다는 것은 후술하듯이 나중에야 알았다.


그런데 어느날 동아리 방에서 회원분이 바로 그 style transfer를 코딩으로 직접 구현 및 실행하고 있는 걸 보게 되었다. 근데 그럼에도 불구하고 그 때는 그분이 정말 특출나다고만 생각했지 (실제로 엄청 뛰어난 분이긴 했다), 소스 코드가 있을 경우 그냥 다운받아 돌려보면 되는 것이라고는 생각을 잘 못했었다.

전기전자세미나 같은 세미나 수업에서 교수님들께서 multi-layer perceptron을 가지고 딥러닝 설명해 주실 때도, 우리를 위해 대단히 쉬운버전으로 이야기해 주시는 줄 알았는데, 핵심 알고리즘이 정말로 그게 전부일 거라고는 생각 못했던것 같다.


그러다가 딥러닝에 대해 좀 더 제대로 공부를 해 보게 된 것은 2018년 초에 14학번 동기인 형들이랑, 의예과 학생들 몇 명이랑 Goodfellow 책으로 스터디를 하면서다. 지금 봐도 이론적으로 불필요하게 깊게 들어가지는 않으면서, 딥러닝에 대해 다들 동의할 만한 주요 이슈들을 extensive하게 잘 다룬 책이다.

딥러닝이 오히려 일반적인 컴퓨터 알고리즘에 비해 아날로그적인 직관에 소구하는 부분이 훨씬 많고 (물론 그러한 직관이 misleading할 수는 있지만 적어도 진입장벽의 측면에서는) 저변이 무척 넓어질 수 있겠다는 것을 그때 확실히 느꼈다. 일단 어떤 종류의 과제에 대해 어떤 식으로 동작하는지 대략적인 이해를 하면, 학습이라는 행위에 대한 수학적 직관과 고차원 공간에 대한 수학적 직관을 바탕으로 결과를 나름대로 interpret하고 이런저런 개선을 해 보는 게 가능하니까 말이다.


암튼 딥 러닝은 지난 몇년간도 그랬지만 최근 1년간에는 정말로 엄청나게 빠르게 발전하고 있는 트렌드인데 (특히 생성모델 쪽으로), 요즘 이쪽 분야에 관심이 있는 학부생들의 경우 이러한 발전을 어느 정도 선에서 관심을 갖고 수용하고 있을지가 궁금하다.

즉 시간적으로만 보면 내가 학부때 기본적인 fully connected NN이랑 CNN 같은걸 접하고 최첨단 기술이라고 생각했던 거랑, 이들이 트랜스포머랑 디퓨전 모델 같은 새로운 아키텍쳐들 보면서 느끼는 거랑 비슷할 텐데, 지금은 저변이 훨씬 넓어지고 그 가능성이 차고 넘치게 증명되고 있는 상황이다 보니 받아들이는 게 훨씬 더 빠르진 않을까 이런 생각이다. 한편으로는 반대로, 최신의 모델들이 워낙 커다랗고 고도화되어 있다 보니 배경 지식이 많이 필요해서 오히려 거리가 멀게 느끼지는 않을까 생각도 든다.


아무튼 딥러닝 기초를 익히기 위해 최소한으로 필요한 수학적 배경은 다변수 미적분 (+선대) 과 함께 약간의 집합론적 사고(?) 인 듯하다. 후자는 어떻게 불러야 될지 몰라서 집합론적 사고라고 부르는 건데 정확한 표현은 아닌것 같고, 주어진 양이 수학적으로 어느 공간에 살고 있는 것인지, 그리고 주어진 함수가 어느 공간에서 어느 공간으로 가는 것인지 등을 따져볼 수 있는 능력을 말한다. 딥러닝 이론 공부에서 뭔가 헷갈릴 때엔 늘 이런 걸 생각해 보면 도움이 된다.

이에 더해서, 탁상공론에 그치지 않고 실제 트레이닝 과정이 어떻게 이뤄지고 어느정도의 비용이 드는지에 대해 감각을 얻으려면 실습을 많이 해보는 수밖에 없을테고 말이다. 나도 보다 실질적인 연구에 관여되면서 이러한 감각을 얻을 기회를 가져보면 좋겠다는 생각이다.

Facebook에서 이 글 보기: 링크

Saturday, February 11, 2023

이론물리학의 변방에서: 기초학문 위기 속 진로 고민과 개인적 푸념

명지대 물리학과 폐지 예정 보도가 이번주 내내 소소한 이슈였다.


연구 꿈나무들 사이에선, 국내에서 학계 근처에 자리를 잡는 게 점점 더 급속히 어려워진다는 비관적인 (그리고 거의 확실한) 예상이 이미 공기처럼 당연하게 자리잡고 있기는 하다.

그런데도 막상 명지대 정도로 이름 있는 학교에서 물리학과 (그리고 수학과, 철학과, 바둑학과) 를 없앤다는 보도가 나오니 상당히 마음이 건드려지기는 한다. 물론 학생들과 교수님들은 반대가 우세하다고 하니 아직 어떻게 될지는 모르는 것이지만, 컨설팅을 받고있는 재단쪽이 의지가 강력한 모양이다.


앞으로 학생 인구 감소 때문에 이런 일이 더욱 많아질 것이고 순수학문으로 분류되는 수학, 물리학 그리고 소위 문사철 쪽이 제일 취약할 것이라는 게 일반적인 의견인 듯하다. 대학의 본령은 순수학문인데 어떻게 이걸 없앨 수 있냐는 주장은 지금 아무것도 아닌 내 위치에서 하기엔 너무 거창한 것 같고... 그냥 통계물리학이라는 방법론적 배경을 진로에 충분히 활용하면서 내 한몸 건사하고 사회적으로 1인분 몫을 하고 싶은 사람으로서 개인적인 씁쓸함이 우선 든다.

오히려 순수학문도 순수학문이지만, 수학 및 물리학과를 폐과함으로써 공학을 비롯해서 산업에 보다 직결된 분야 학생들의 기초역량 교육이 장기적으로 대단히 힘들어질 것이 더 실질적인 걱정이라면 걱정이다. 새로운 것을 창출하거나, 새롭지 않더라도 기존 것들의 퀄리티를 유지하고 한단계 업그레이드 시킬수있는 혁신력이 한국의 산업생태계에 필요한 시점이다. 이러한 혁신력은 트렌드를 따라가는 융합에서 나오는 것일 수도 있지만 오히려 기초적인 방법론적 역량에 대한 확실한 훈련, 그리고 기초적 윤리에 대한 인식 제고에서 나오는 면도 많다고 본다.

또한 다시 개인적 푸념으로 돌아오자. 이공계생 전반에 대한 기초역량 교육을 넘어서 물리학이라는 분야 자체로 봤을때도, 나는 이론물리학, 그 중에서도 특히 통계물리 분야가 비록 순수학문에 속할 수 있지만 약간만 옆으로 틀면 사회적 트렌드 주도와 이익창출에 기여해온 부분이 무척 많다고 생각하는데, 이걸 사람들이 잘 몰라주는 것 같아서 늘 아쉽다 (오히려 수학의 경우에는 금융계 잘 간다거나, 인공지능에 중요하다거나 하면서 이런 게 나름 알려져있는 것 같더라).

사실 요즈음은 우리 분야는 딱히 순수 이론물리에 속하는지도 잘 모르겠음. 이론물리학자들이 보면 너무 practical해서 변방에 속할 것이고, 즉각적인 산업응용을 염두에 둔 쪽에서 보면 또 너무 이론적이고. 그런 중간적 특성이 약점이기도 하지만 또 한편으로는 새로운 분야가 등장하고 성장하는 데에 기여할 수 있는 부분이 많기도 하고. 아무튼 기업이든 학교든, 국내든 국외든 우리 통계물리 분야의 강점을 잘 알아주는 곳이 많이 있다면 좋을 것 같고, 나도 잘 찾아봐야겠다.

오히려 부모님은 주변을 보니 결국 공부 오랫동안 꾸준히 하는 사람이 자리를 얻었었다며, 벌써부터 힘 빠지는 소리 하지 말고 너가 하고 싶으면 계속 해 보라고 권장하시기는 한다. 근데 그때와 지금은 또 많이 다를 텐데 싶기도 하고... 너 졸업할때면 교수님들이 많이 은퇴하시지 않냐고 하는데 이미 그 시기는 거의 끝났다고 알고 있기도 하고.

아무튼 아카데미든 아니든, 물리학 백그라운드를 구체적으로 살릴 수 있는 커리어패스에 대해 encourage하는 얘기가 거의 아무데서도 들리지 않다 보니 나라도 적극적으로 틈날 때마다 여러 재밌는 포지션들을 찾아보고 소개하고 그러는데, 그래도 점점 더 어려워지는 것은 사실인 듯하다.

예전부터 가졌던 내 고질적 문제점이 바로 시야에 들어오는건 많은데도 계속 하던것만 하려고 해서 정작 실제 선택의 폭이 좁고 질투와 불안감만 커진다는 건데... 이게 장기적으로 별로 안 좋은 것 같고, 좀더 넓게 생각할 필요가 있을듯하다.

Facebook에서 이 글 보기: 링크