MOF와 나노테크: 다학제 분야로서의 구획과 그 과학기술사회학

2025년에 노벨화학상을 받은 주제인 MOF(금속-유기 골격체)에 대해 뒤늦게 조금 접할 기회가 있었다.

MOF는 1g 안에 축구장 몇개 넓이의 표면적이 있는 새로운 종류의 물질군이라고 한다. 프랙탈을 소개할 때 유명한 '해안선'의 예시에서 보듯이 표면적이라는 것도 측정하기 나름이지만, 아마 분자~고분자 크기 입자들이 얼마나 달라붙을 수 있는지를 측정하는, 말하자면 유효 반응 단면적(?) 같은 것을 기준으로 한 게 아닐까 싶다.

근본적으로 다학제적이며 그 경계도 조금 모호한 나노과학이라는 분야에서 가장 유명한 격언을 꼽자면 아마도 리처드 파인만의 "There is plenty of room at the bottom", 즉 "바닥에는 아직 충분한 공간이 있다"일 것이다.

내가 영어 native 화자가 아니어서 정확하진 않으나, 여기서 room이 말하는 바는 아마도 '공학적 엔지니어링을 할 여지와 기회의 크기'인 것 같다. 그런데 만약 room을 그게 아니라 literally 물리적 공간의 크기로 생각한다면, 마치 도라에몽 주머니와도 같은 MOF가 바로 위 격언에 매우 잘 어울리는 예시가 아닐까 생각이 든다.

개인적 생각이지만 나노테크에 해당한다고 간주되는 여러 분야 및 대상들을 가장 넓게 묶어주는 특징은, 바로 전기적, 기계적, 재료적 성질 중에 둘 이상의 경계가 모호해진다는 것 아닐까 한다. 물론 이는 나 혼자서 생각해 본 것이라서 부정확하거나 예외가 있을수 있다.

내가 한때 관심 가졌던 과학기술학적 문제는 '사이버네틱스'(cybernetics)라는 것울 과연 '분야'로 보아야 하는지, 아니면 어떤 강령 하에 전개된 운동(movement)에 가깝게 보아야 하는지에 대한 문제였다. 나노테크에 대해서도 비슷한 생각을 해 볼 수 있다.

명백히 movement에 가까워 보이는 사이버네틱스에 비해 나노테크는 훨씬 더 '분야'에 가까운 듯하지만, 파인만의 유명한 격언과 몇 가지 계산들에 의해 주목받고, 에릭 드렉슬러가 큰 그림을 제시한 저술 《창조의 엔진》이 대중적으로도 히트를 치고 관료들에게도 어필되면서 미국 과학정책에 의해 드라이브가 걸린 일련의 구체적 과정이 있기는 하다.

그러나 내용적인 면에서 실제 나노테크의 실현은 드렉슬러가 제시한 경로대로 일어나지는 않았다는, 혹은 드렉슬러의 구상이 애초에 원리적으로 거의 불가능했다는 지적도 본 바 있다. 과학사적/과학사회학적으로도 살펴보기 흥미로운 주제가 아닐까 한다.

Facebook에서 이 글 보기: 링크

AI의 무색무취함과 적당함, 그리고 지식정보망의 형해화 가능성

AI로 논문을 쓸 때 가짜 인용 문제가 자주 논란이 된다.

연구 단계에서 논문 추천 받을 때라면 몰라도, 연구 결과를 논문으로 작성하는 단계에서는 내 연구와 관련이 되는 일부라도 직접 정확하게 읽고 cite 해야 하는 것 아닌가 싶다. 이런 생각이 드는 걸 보면 난 아무리 AI 시대를 재미있어한다고는 하지만 결국은 텍스트에 대한 고전적 개념을 매우 중요시하는 인간인 듯. 나아가서 앞으로는 자동화할 수 있는 읽기, 쓰기 및 계산도 '굳이 사람의 능력으로 해 보며' 인간의 그런 능력을 유지하는 것이 학자 집단의 역할이 될 수도 있다고 생각한다. 나도 그 중 하나가 될 수 있으려나.

어쩌면 참고문헌이라는 것은 이젠 정말로 '참고가 된 문헌'이라기보다는, 내 논문이 지식정보망의 어디쯤에 어떠한 맥락으로 위치해 있다는 것을 느슨하게 표명하는 장치 정도가 되어가는 것일지도 모르겠다.

물론 원래도 참고문헌에는 그런 기능이 당연히 있고 또한 그런 기능이 매우 중요하다. 실제로 scientometrics나 science of science에서 citation network를 통해 지식정보망과 지식의 발전경로를 파악하는 것은 매우 많이 하는 일이다.

근데 인간의 '쪼'가 들어가지 않고 느슨하게만 관련이 있는 '무색무취한', '적당한' 인용들이 AI 때문에 폭증하게 되면, 우리가 잘 인식하지 못하는 사이에 그렇게 재구성된 지식정보망의 질조차 종국에는 많이 떨어지지 않을까 싶다. 그런데 양이나 속도 면에서는 AI가 압도적이니, 결국 인류가 쌓아온 방식은 뒤안길로 금세 밀려나서 불필요한 것이 되고, 그런 느슨하고 적당한 방식이 압도하게 되지 않을까 걱정이 있다.

예컨대 분야 상으로는 내 연구와 크게 상관 없어 보이는 어떤 논문의 특정 부분에 큰 영감을 받아서 연구가 진행되었거나, 혹은 나중에 알고 보니 다른 분야의 논문에서 내 생각과 비슷하고 formal한 연관성도 있는 아이디어를 이미 제시한 부분이 있었을 때, AI가 과연 그런 인용을 자동으로 찾아낼 수 있을까? 그리고 그런 이례적인 경우들 외에도, 내 연구가 어느 지형 위에 놓여 있다고 표명하다 보면 '학맥'이라는 것이 자연스레 형성되게 되는데 AI가 분야의 유사성, 연구대상 유사성만을 바탕으로 정보를 취합하다 보면 그런 패러다임적인 것들이 형해화되지 않을까?

그리고 이 모든 것을 잘 한다고 하더라도, 논문 작성 단계가 아니라 논문 다 마무리하고 나서 형식을 갖추기 위해서 한다면 결국은 흉내가 아닐까? 독해력과 문제의식을 갖춘 사람이 봤을 때 그게 납득이 갈까? 이런 생각들이 든다.

물론 새로운 기술적 매체가 등장하면서 내용의 복제가 간편해지면 늘 거대한 양적 확대가 일어나고, AI 또한 의미론적인 영역으로까지 고도화된 복제 및 정보처리 장치라고 할 수 있으니, 이러한 적당하고 느슨한 인용이 더욱 발전하고 양적으로도 확대되면서 인간이 모르던 새로운 방식으로 지식의 구조가 떠오를 수도 있다. 그렇게 인간이 직접 자신의 정신을 개입시켜서 작성하는 텍스트의 가치가 낮아지는 것이, 나중에 나올 무언가를 위해 꼭 필요한 일일 수도 있기는 하다. 그러나 일단 지금 생각으로는 AI 특유의 '적당함', 그리고 인간의 안이함 때문에, 정보처리의 세밀함이 당분간은 계속 낮아지지 않을까 한다.

Facebook에서 이 글 보기: 링크

LG EXAONE에 대한 linear representation hypothesis 분석 실습

LG AI Research의 LLM인 EXAONE에 대해 linear representation hypothesis (LRH) 분석을 해보았다.

LRH (Kiho Park et al., ICML 2024)는 언어모델 속에서 개념들(영어=>독일어, 나라=>수도 등)이 벡터공간 속의 '방향'으로 일관성있게 (즉 어느 점에서 출발해도 똑같게) 대응된다는 가설이다. 이에 따르면 우리가 어떤 단어나 문장을 특정한 의미를 강하게 가지도록 edit하고 싶을 때, 해당하는 '방향'만 찾아서 그 방향으로 걸어가기만 하면 어느 시작점에서건 원하는 대로 편집이 가능하다.

머신러닝은 곧 의미, 피쳐, 표현에 대한 엔지니어링이고 그렇기 때문에 재미있고 성공적이라고 믿는 내 관점을 가장 단적으로 드러내어 주는 연구 같아서 개인적으로 매우 좋게 생각하고 있고, 실제로도 잘 알려진 논문이다 (여담이지만 1저자는 나의 중학교시절 자랑스러운 강동교육청 영재교육원 동기이기도 하다. 당시 학기말 프로젝트도 같은 조였던 기억이 난다). 이런 식의 생각은 사실 최소한 Word2Vec 때부터 현실화되기 시작했다 (king + (male - female) = queen). 그러나 저자들은 LRH의 정확한 정의를 상당히 clever하게 내리고, 다음으로 LLM이라는 극도로 scale-up 되었으며 (임베딩뿐 아니라) 생성 능력도 가지고 있는 시스템에 대해 LRH를 실제로 확인할 수 있는 방법을 제시한다. 이 방법에서 가장 중요한 것은 'causal inner product'로, 의미적으로 서로 상관없는 개념들이 모두 서로 수직 (내적이 0)하게 된다. 임베딩 공간과 언임베딩 (contextualization) 공간을 정렬시켜주는 이 내적은, 임베딩공간의 전체 vocabulary를 바탕으로 구성되는 어떤 행렬을 통해 매우 간단하게 실제로 찾아질 수 있다.

원래 논문에서는 Llama-2를 이용해서 연구를 진행했다. 그런데 EXAONE에 대해서 LRH를 확인하려니 (일단 로컬에 llm을 로드해보는것 자체가 처음이기도 했고) 사소하다면 사소하고 중요하다면 중요한 챌린지가 있었다. Llama-2와 EXAONE의 토큰화 전략이 다르므로, 논문에서 제공된 예시 단어 쌍들의 대부분은 EXAONE에서 여러 토큰으로 쪼개져있다. LRH는 single token에 대해 확인하도록 되어 있으므로, EXAONE에 대해 대부분의 단어는 invalid하여 매우 듬성듬성한 결과만이 나온다.

이를 해결하기위해, LLM(연구대상인 EXAONE 말고 assistant인 cursor를 통해 이용한한 다른 LLM)의 어휘력을 활용하여, 각 concept direction별로 아주 많은 수의 후보 단어 쌍을 얻고, 그 쌍들 중 양쪽 단어 모두가 EXAONE 토크나이저에 의해 single token으로 나타나는 경우만 골랐다. 그 결과, 원래 논문의 2000여 쌍보다는 현저히 적긴 하지만 303개 단어 쌍을 얻었고 여기서 LRH가 성공적으로 확인되었다.

그런데 그렇다면, LRH의 확인과 그 하에서의 문장 편집은 오로지 single token 단어들에 대해서만 수행될 수 있는 것인가? 여러 토큰으로 된 단어나, 아예 여러 단어로 된 phrase의 경우는? 이를 해결할 수 있는, 간단하면서도 LRH의 철학 및 LLM의 구조에 native한 아이디어를 가지고 있는데 아직 실제 테스트해보지는 못했다. (성공하면 추가 공유)

이 과정 전체에서, AI를 코딩 어시스턴트에 그치지 않고 단어 예시를 편리하고 방대하게 뽑아주는 조수로 사용한 경험도 재미있었다. '말에 대한 공학을 말로 하는', 내가 꿈꾸고 기대하던 시대가 일정 정도는 실제로 도래했다고 보인다.

LinkedIn에서 이 글 보기: 링크

Facebook에서 이 글 보기: 링크

2025년 한 해 결산

2025년 한 해 결산

<학업>

* 출판

- 2024년 7월부터 진행한 연구 1편 출판 (능동물질)

: Communications Physics 8, 288 (2025)

- 2023년 6월부터 논문 2편 준비 중 (정보이론 및 열역학)

* 학회참석 및 발표

- 2025 04: 한국물리학회 봄학술대회 (대전) 포스터발표

- 2025 06: FT Workshop (양평) 초청발표

- 2025 07

> STATPHYS29 (이탈리아 피렌체) 포스터발표

> Bocconi Univ (이탈리아 밀라노) Satellite 참석

: Learning and Optimization in High Dimensions

> NORDITA (스웨덴 스톡홀름) 포스터발표

: Fluctuations in Self-interacting and Learning Processes

- 2025 08: 고등과학원 계산과학 및 인공지능 Lecture Series 참석

- 2025 08: 통계물리분과 23회 통계물리워크샵 구두발표

- 2025 10: EAJSSP 2025 (서울 고등과학원) 포스터발표

- 2025 10: 한국물리학회 가을학술대회 (광주) 구두발표

- 2025 11: 9th QIT (제주) 참석

- 기타 정기 NEST meeting (고등과학원) 및 월례회 (분과)

* 지원사업수혜

- 한국연구재단 박사과정생연구장려금 1년형

: 비평형계에서 확률적 정보 흐름의 정량화 및 그 활용

* 수업조교: 2025-2 열과 통계물리

<투자>

* 투자자산 (KRW기준)

- 전체 수익률(총 투자자산/총투입액): 67.6%

- 1년 시간가중수익률(TWR): 약 43%

* 총자산 (KRW기준)

- 증가율(1년): 30.1%

- 투자수익 기여분(전체): 24.9%

<기타 활동>

* 전공설계지원센터 다전공 수기 공모전 입선

수기제목: <적성을 재조정하는 다전공, 지식 베이스캠프로서의 다전공>

eBook 출판 (ISBN: 9791198174710)

* 딥러닝 동아리 Deepest Season 17, 18 활동

- 발표주제

S17: Diffusion Schrödinger Bridge

S18: Flat minima, replica theory and mode connectivity

- 프로젝트 진행

S17: Deep neural representation geometry

S18: Operation of representations in large models

* ARKO 다원예술창작지원사업 <그늘 속 알고리즘> 참여

- <비전이 공간이 될 때: 그 두번째 이야기> 세미나 발표

- 한동석 작가 개인전 Ghost Frame (선유도 Hall1)

협업연구 참여: <예측되는 가상: 영상 예측 자기회귀 실습>

도록 작성: <기계적 지각의 틈새를 걷기, 데이터의 환영을 목격하기>

* 공연 (미숫가루 비강흡입 @skiing_corncaine)

- 01/25 CLUB 001 (with 샌드페블즈, 가톨릭관동대 밴드부)

- 01/26 딥퍼플 (with Warped Savior, 사바하, 지렁이 마조히즘, Marine black noodle, 곱창)

- 02/09 CLUB A.O.R (with 지렁이 마조히즘)

- 08/10 CLUB VICTIM (with Dear Demon, Liberalia, 서울스핏)

- 08/17 그림라이브하우스 (with 발렌티즈, 곱창, 뱀파이어호텔, 지렁이 마조히즘)

* PT: 연초에 받다가 헬스장 옮겨서 연말에 다시 시작

* 언클린 보컬 레슨: 한두 달 정도 받았고, 내년부터는 지인이 하는 레슨팀으로 옮겨서 배울예정

<문화생활>

* 독서모임

- 나는 소망한다 내게 금지된 것을 (양귀자)

- 도덕을 왜 자연에서 찾는가 (로레인 대스턴)

- 제7회 한국과학문학상 수상작품집

- 언어가 삶이 될 때 (김미소)

- 판타 레이 (민태기)

- 조선이 만난 아인슈타인 (민태기)

- 서사의 위기(한병철)

- 북한 과학환상문학과 유토피아 (서동수)

- 채식주의자 (한강)

* 공연 관람

- 03/15 내귀에도청장치

- 03/22 Abysmal lord, Caveman cult 내한 (폐허, 세균전, 피컨데이션 게스트)

- 04/06 LuciDream

- 08/15 Walpurgisnacht (Starrywave, 렘넌츠, madmans esprit)

- 11/08 Vektor 내한 (디아블로, 두억시니, 메서드 게스트)

- 12/07 SNUGO 부천아트센터 공연 (베토벤 교향곡 9번)

* 프로레슬링 (PWS Korea)

- 11/29 PWS Korea 서울메인쇼

- 12/20 PWS Korea 서울메인쇼

* 영화

- 플로우

- 모노노케히메 (재개봉)

- 나우 유 씨 미 3

- 주토피아 2

<내년 모토>

: 졸업에 집중, 진로 탐색, 일상의 단순화, 생활비 절약

- 끝 -

Facebook에서 이 글 보기: 링크

프로티나

지난 7월 말 코스닥 상장 이후 4개월여 만에 600%를 넘는 주가 상승세를 보이고 있는 프로티나(468530)는 윤태영 당시 KAIST 물리학과 교수(현재 서울대학교 생명과학부 교수)가 창업한 기술기업이다. 프로티나는 정제되거나 증폭되지 않은 단분자 상황에서의 단백질-단백질 상호작용(PPI)을 검출하고 분석하는 single-molecule protein interaction detection (SPID) 기술을 핵심으로 내세우고 있다.

윤태영 교수님은 고해상도 단분자 이미징 기법의 전문가로, 이러한 기법들을 이용하면 증폭된 벌크 물질로부터 나오는 평균적 신호 대신에, 시공간상에서 특정 위치를 점유하고 있는 실제 개별적인 생체분자들의 움직임과 상호작용을 관찰할 수 있다. 이러한 기법들을 통해 단백질의 접힘 경로를 직접 관찰하거나, DNA사슬을 형광 표지하여 그 내부의 자세한 구조적, 동적 정보를 재구성하는 등 생체고분자에 대한 해상도높은 분석이 가능하다. 프로티나의 창업도, 이러한 기술을 PPI 네트워크 구성에 활용했다고 보면 자연스럽다 (아래 그림).

PPI 네트워크는 말 그대로 생물계를 구성하고 기능을 하는 여러 단백질 종류들 간의 상호작용 여부를 연결망으로 표현한 것이다. 나도 2018-2019년에 PPI 네트워크 관련된 간단한 연구참여를 한 적이 있다 (아래 그림). 복잡계 물리 및 네트워크 과학의 전문가이신, 카이스트 물리학과 정하웅 교수님 연구실에서였다.

CRPS(복합부위통증증후군)에 관여하는 PPI 네트워크를 구성하고 정적인 분석을 하는 간단한 프로젝트였는데, 기존에 천식(asthma)에 대해 진행되었던 PPI 연구(S. Hwang et al., J. Theor. Biol. 2008)를 많이 참고해서 진행하였지만 해당 연구에서 사용한 HPRD라는 데이터셋보다 더욱 큰 STRING 데이터셋을 바탕으로 보다 풍부한 PPI 네트워크도 구성하였다 (아래 그림). 그리고 이 각각의 네트워크에 대한 구조 분석을 통해 CRPS에 가장 많이 관여할 것으로 생각되는 2개 수준(candidate / putative)의 후보 유전자를 목록화하였다. 웹에 공개된 여러 생물정보학 데이터 및 R, git bash 등으로 되어 있는 분석 도구도 다루어 보고, C/C++을 이용한 복잡 네트워크 분석 경험도 쌓아서 통계물리에 실질적으로 입문하는 계기가 된 소중한 경험이었다.

(이 글을 쓰면서 당시에 작성했던 보고서를 다시 읽어 보니 도메인 지식도 꽤 필요했을 것 같고 이것저것 익혀야 할게 많아 상당히 품이 많이 드는 일이었을 것 같은데, 반 년 정도 되는 기간 동안 다른 주제의 학사 학위논문과 병행하면서 어떻게 했는지 모르겠다. 그 기간은 진로 불확실성으로 인해 울적해하면서도, 통계물리 분야 대학원에 꼭 오고 싶어서 잠 줄여 가며 이것저것 준비를 했던 시기다. 그래서 내 인생에서 제일 밀도높게 보낸 시기 중에 하나이면서도, 긴 터널을 통과한 것처럼 유난히 기억이 흐릿한 때이기도 하다.)

다만 내가 이 프로젝트에서 진행했던 것은 생물정보학에서 흔히 하듯이 퍼블릭 데이터를 바탕으로 구성한 네트워크에서 degree (연결선 수)와 betweenness centrality (네트워크의 한쪽에서 다른 쪽으로 갈 때 특정 노드를 지날 수밖에 없다면 그 노드의 BC가 큼) 등의 지표를 이용한 정적인 구조 분석이다보니, 실제 생체 내에서 일어나는 biological pathway에 대한 정보를 알기 어렵다는 등의 한계는 있다. 이와 달리 프로티나의 핵심 기술인 SPID는 퍼블릭 데이터를 이용하는 것이 아니라 직접 단분자 실험과 검출을 해서 PPI 네트워크를 구성하는 것으로 보이는데, 이에 따라 pathway를 추론하는 정도를 넘어서 아예 상호작용 기전의 일부분을 단분자 수준에서 직접 확인하는 수준의 해상도를 가질 수 있어 보인다. 이러한 연구는 항체 약물 설계에서 후보물질을 효율적으로 선별하고 개선하는 데에 응용될 수 있다.

그렇다면 혹시 한때 KAIST 물리학과에 함께 소속되어 계셨던 윤태영 교수님과 정하웅 교수님이 협업하신 연구는 없을까? 찾아보니 Science (2019), Nano Letters (2021)로 2건이 검색되지만, 둘 모두 PPI 관련된 연구는 아닌듯하다. 만약에 PPI 네트워크 쪽에서 두 분이 협업하신 연구가 있었다면 나도 프로티나와 느슨하게나마 '근거있는 내적 친밀감'(?)을 가질 수 있었을 텐데, 농담이지만 아쉽다.

프로티나가 최근에 수주한 항체 약물 연구개발과제에 공동 참여하고 있는, AI 단백질 구조예측 및 설계의 대가이신 생명과학부 백민경 교수님이 해당 연구개발과제 하에서 생성형 항체 설계 도구를 개발 중인 것으로 알고 있다. AI를 이용한 de novo 항체단백질 설계와, 이에 대한 단일분자 수준의 빠른 실험적 검증이 결합되면 제약 분야 특유의 어렵고 긴 과정을 많이 단축할 수 있을 듯해서 앞으로도 기대가 된다.

Facebook에서 이 글 보기: 링크

[Deepest S18 Seminar] Geometry of solution space: Flat minima, replica theory and mode connectivity

    Last Saturday, I hosted a seminar at Deepest (an SNU student deep learning club). I mainly focused on theoretical topics related to the loss function landscape in deep learning and the concept of flat minima, and briefly covered some additional topics on global geometry.

    The loss function \(L\left(\theta; \{x_\mu\}_{\mu=1}^P\right)\) is a function of numerous weights \(\theta$\) of a neural network, and the "landscape" of this function is determined by the dataset \(\{x_\mu\}_{\mu=1}^{P}\). S. Hochreiter proposed that, models that lie in 'flat minima' of the landscape generalize better (S. Hochreiter and J. Schmidhuber, NIPS (currently NeurIPS) 1994).

    The geometric intuition supporting this argument is simple: in order to make the loss landscape not distorted too much under a dataset change (training set -> test set), the model should lie on a broad region of the loss. This also agrees with the discussion on model complexity in the context of statistics and information theory, which says that simple models generalize better (ICLR 1995).

    In fact, one can show that maximum a posteriori (MAP) inference is equivalent to the minimization of cross-entropy loss while keeping the model simple (L2 regularization when \(-\ln P(\theta)\propto \theta^{2}\)). This is exactly what we do at deep learning. Moreover, this is also equivalent to the idea of minimum description length (MDL), which states that the total number of bits needed to identify the model and data should be as small as possible.

    The authors show that finding flat minima (whose loss values of the neighborhood are similar across as large as possible volume) is also linked to MDL. They further suggest a gradient descent method which is intentionally biased to prefer that kind of minima, which leads to good generalization.

    Research on flat minima is still continued in contemporary deep learning era. Nowadays it is widely accepted that, SGD natively prefers flat minima without adding any bias. There are also a few works rigorously connecting flat minima with generalization performance based on the PAC-Bayes framework.

    Another active line of research analyzes the global geometry of the disordered solution space of deep learning using statistical physics (E Gardner, J. Phys. A: Math. Gen. (1988)). They start from a simple perceptron model with random data, but they have been extended to more realistic architectures and datasets. In this paradigm, the frequently appearing factor \(\alpha=P/N\) (\(P\): data size, \(N\): model size) is crucial for the collective behavior of the neural network. For example, for random dataset, when α is small (large), the space of solutions tends to be connected (fragmented), which can be roughly related to flat minima. Moreover, at the limit where \(\alpha\) is finite but \(N,P\) goes to infinite, an accurate explicit formula of train loss for practical dataset (MNIST, etc.) is obtained.

    Lastly, this method can theoretically reproduce the renowned '(linear) mode connectivity' (PRL 2023) which is empirically reported in deep learning at the late 2010s, and furthermore predict that the structure of the connected region is star-shaped.

See this post on LinkedIn: link

See this post on Facebook: link

(국문)

    지난 11월 15일(토요일)에 서울대학교 딥러닝 동아리 Deepest에서 세미나를 호스팅했습니다. 딥러닝의 손실함수(loss function) 지형과 flat minima에 대한 이론적 주제를 자세히 다루었고, 보다 광역적인 구조에 대한 몇 가지 추가 주제도 소개하였습니다.

    손실함수 \(L\left(\theta; \{x_\mu\}_{\mu=1}^P\right)\)는 신경망 연결의 수많은 가중치 \(\theta\)를 정의역으로 갖고, 이 함수의 모양, 즉 "지형"(landscape)은 데이터셋 \(\{x_\mu\}_{\mu=1}^{P}\)에 따라 다르게 결정됩니다. 손실함수 지형 위의 한 점을 선택하는 것은, 신경망 가중치들이 확정되므로 모델을 확정하는 것과 같습니다. 대표적인 시계열 처리 모델인 LSTM의 제안자이기도 한 Sepp Hochreiter는 NIPS (현 NeurIPS) 1994에서, 손실함수 지형의 flat minima (평탄한 최소점) 에 위치한 모델이 일반화(generalization) 성능이 좋을 것이라고 제안하였습니다 (S. Hochreiter and J. Schmidhuber, NIPS 1994).

    이 논의의 근거가 되는 기하학적 직관은 간단합니다. 데이터셋이 training set에서 test set으로 바뀔 때에 그럼에도 불구하고 손실함수 지형이 덜 뒤틀리려면, 따라서 원래 모델에서 평가되었던 손실함수 값이 많이 바뀌지 않으려면 (즉 일반화를 잘 하려면) 모델은 지형의 널찍한 영역에 있어야 한다는 것입니다. 아래에서 MDL 개념을 바탕으로 보다 자세히 쓰겠지만, 이는 통계학 및 정보이론에서 model complexity와 관련하여 논의된, '단순한 모델일수록 일반화를 잘 한다'는 논의와도 일관적입니다 (J. Schmidhuber, ICLR 1995).

    베이즈 추론 맥락에서 최대사후확률(maximum a posteriori, MAP) 추론이, cross-entropy loss를 최소화하면서도 모형을 간단하게 유지하는 것(\(-\ln P(\theta)\propto \theta^{2}\)일 때 L2 regularization)과 동등합니다. 이것은 다름이 아니라 딥러닝에서 우리가 많이 하는 일입니다. 상상 속에 존재하는 매끄러운 data distribution과 달리 실제로 기계에게 주어지는 것은 개별적인 샘플들(즉 델타함수 분포)뿐임을 고려하면, 이렇게 simple model을 추구하는 것은 일반화에 매우 중요하다고 하겠습니다. 그런데 더 나아가서, 이것은 모형을 고르는 원리 중의 하나인 miminum description length (MDL), 즉 모델과 데이터를 기술하기 위한 비트 수의 총량이 가능한 한 작아야 한다는 원리와도 동치입니다.

    저자들은 flat minima를 찾는 것, 즉 최소점 중에서 그 주변에 자기 자신과 같은 loss 값을 갖는 점들의 부피가 가능한 한 많은 최소점을 찾는 것 역시 MDL과 관련됨을 보입니다. 더 나아가서, 그러한 minima를 선호하도록 의도적으로 bias된 새로운 gradient descent 방법을 제안하고 이를 통해 일반화를 잘 하는 모델을 찾을 수 있다는 것을 확인합니다.

    Flat minima와 관련된 연구는 딥 러닝이 정보기술의 전면에 등장한 현대에도 계속되고 있습니다. 최근에는 SGD가 별도의 의도적인 편향 없이도 그 특유의 통계학적, 동역학적 특성에 의해 native하게 flat minima를 선호하는 경향이 있다는 것이 상당히 널리 받아들여집니다. SGD는 단순히 batch size를 줄여서 최적화 과정을 효율화할 뿐 아니라, 그 결과로 보다 더 좋은 minima에 도달할 수 있게 해 준다는 것입니다. 최근에는 flat minima와 일반화 성능을 PAC-Bayes 프레임워크를 이용해서 보다 엄밀하게 연관짓는 일들도 있습니다.

    전통이 있으면서 현재까지도 활발한 또다른 연구의 흐름은, 딥 러닝의 무질서한(disordered) 해 공간의 광역적 구조를 통계역학을 이용해서 분석하는 것입니다 (E Gardner, J. Phys. A: Math. Gen. (1988)). 이러한 이론적 연구들은 주로 간단한 단일 퍼셉트론 및 랜덤 데이터셋과 같은 간단한 상황에서 출발했지만, 점점 보다 복잡하고 사실적인 상황들에 대해 적용되며 딥러닝에서 나타나는 현상을 상당히 잘 설명해냅니다. 이 패러다임에서는 \(\alpha=P/N\)라는 팩터(\(P\): 데이터셋 크기, \(N\): 모델 크기)가 자주 중요하게 등장합니다. 특히 \(\alpha\)를 유한하게 유지하되 \(N,P\) 모두 무한대로 보내는 극한에서 (수백~수천 차원에서 이미 실제 실험 결과들과도 꽤 잘 맞는 경우가 많습니다) 신경망의 많은 중요한 성질이 통계역학적으로 예측됩니다.

    이를테면, 랜덤 데이터셋에서, \(\alpha\)가 작을수록 퍼셉트론 분류 문제의 해들(보다 사실적인 신경망에서는 region with low loss)들이 서로 연결된 경향이 있고, \(\alpha\)가 클수록 해들이 쪼개져 있는(fragmented) 경향이 있습니다. 이는 통계역학 맥락에서 각각 replica symmetry (RS) 및 그 breaking (RSB)에 대응됩니다. Flat minima와의 관계도 생각해 볼 수 있습니다. 물론 flat minima는 국소적인 개념이고 RS/RSB는 훨씬 광역적인 개념이므로 일대일 대응시키기는 어렵지만, rough한 관계는 있을 것이라고 기대하고 Franz-Parisi entropy 등을 통해 보다 광범위하게 확인해야 할 것입니다.

    마지막으로, 이 통계역학적 방법은 2010년대 후반부터 딥 러닝 이론 커뮤니티에서 경험적으로 많이 보고된 '(linear) mode connectivity'를 이론적으로 재현해내기도 합니다. 이는 손실함수 지형 상에서 작은 loss 값을 갖는 영역들이 평평한 직선 경로를 통해 매우 넓게 연결되어 있다는 관찰을 뜻합니다. 그리고 나아가서, 이러한 연결 구조가 별 모양이라는 새로운 이론적 예측도 하며 (B. L. Annesi et al., PRL 2023), 이러한 예측을 보다 실제적인 신경망에서 확인하려는 시도도 이어지고 있습니다.

하버드 물리학과 한국인 교수님들과의 인연 아닌 인연

이번에 삼성 종합기술원(SAIT) 원장으로 오신다는 박홍근 교수님은 하버드 대학교 물리학과에 계신 한국계/한국인 교수님 4인 (김필립, 박홍근, 정수연, 노승한) 중 한 분이시다. 공교롭게 4인 중 내 입장에서 유일하게 어떤 연구를 하시는지 잘 모르고 직접 뵌 적도 없는 분이라서 궁금했는데, 이번에 한국과 인연이 다시 생기게 되셨다. 원래는 화학자에 가깝게 트레이닝받으신 것 같지만 분야가 나노과학 쪽이다 보니 화학/물리학 구분 크게 없이 그룹 내에서 퀀텀, 생체 등 다양한 주제의 연구를 하시고, 소속도 화학과, 물리학과 양쪽에 되어 계시는 모양이다.

수 년 전에 Sompolinsky의 포닥 제자이자 저명한 신경과학/AI 학자인 Sebastian Seung을 삼성리서치에 영입했던 것처럼, 삼성그룹이 미국에서 융합적인 STEM 연구를 하는 한국계/한국인 교수를 연구 조직 임원으로 모시는 인사를 가끔 하는 것 같다. 그런 맥락에서 이번 인사는 앞으로 어떻게 평가될지 궁금하다.

하버드에 계신 다른 세 분과의 인연 아닌 인연도 말해보자면...

- 김필립 교수님: 그래핀 및 위상부도체 관련 업적으로 워낙 저명한 세계적 학자이신데, 2013년 한국 KAOS재단 <공간, 위상, 물질> 토크 콘서트에서 박형주 교수님, 김민형 교수님과 함께 그래핀에 대해 강연하실 때 직접 보러 갔고 질문도 했었다. 그때는 난 고등학생... KAOS재단은 물리학과 출신인 인터파크 이기형 창업자가 출연한 과학문화 관련 재단인데, 2012년 출범이라고 되어 있는 걸 보면 내가 갔던 <공간, 위상, 물질>이 아마도 굉장히 초창기 행사 중에 하나였을 것이다.

- 노승한 교수님: 우리 비평형 통계물리 분야의 연구자이시고 현재 세부전공(active matter)까지 동일해서 서울대에서나, 국제 학회에서나 꽤 자주 뵙는다.

- 정수연 교수님: 이 분도 맨 위에 언급한 Sebastian Seung처럼 신경망의 통계물리학 쪽 대가인 Haim Sompolinsky의 포닥 제자이시고, 통계물리 기반으로 인공신경망 및 실제 뇌에서의 neural representation과 그 성능을 정량화하고 응용하는 쪽 일을 하신다. 23년경부터 정수연 교수님의 논문들에 관심 갖기 시작해서 공부해 뒀다가, 지난 여름에 고등과학원에 강연을 오실 때에 미리 이메일 드려서 강연 끝나고 잠깐 말씀 나눴는데, 내가 말씀드려 본 것들(hierarchy / category / compositionality 등)이 모두 좋은 아이디어이고 좋은 연구 방향이지만, 대부분 교수님 그룹에서 이미 최근에 하고 있고 곧 결과가 나올 거라고 하셔서 뿌듯하면서도 아쉬웠다. 여담으로, 물리학과는 아니지만 함돈희 교수님이라는 분도 하버드에 계시는데 (만28세에 하버드 교수가 되신 것으로 유명), 내가 입학하기 전인 2013년 여름학기에 서울대 전기정보공학부 방문해서 '양자역학의 응용' 강의를 하셨는데, 1-2년 넘게 지나도 몇몇 선배들에게 회자될 정도로 굉장히 강의가 좋았던 모양이다. Facebook에서 이 글 보기: 링크

한동석 작가 개인전 고스트프레임Ghost Frame 협업연구 참여

지난 2023년에, 한국문화예술위원회(ARKO, Art Council Korea) 다원예술지원사업에 선정된 한동석 작가님의 <다이빙 미러Diving Mirror> 프로젝트 참여의 일환으로 쇼케이스 <비전이 공간이 될 때When Vision becomes Space>에서 발제를 하고(본 블로그의 쇼케이스 소개 게시물: 링크), <표현 재조합 기계로서 딥러닝의 기술미학적 쟁점들>이라는 제목으로 발제문을 작성하였습니다(본 블로그의 발제문 소개 게시물: 링크).

해당 문제의식을 발전시켜, 올해에도 ARKO 다원예술창작산실의 지원을 받은 한동석 작가님의 개인전 <고스트 프레임Ghost Frame>에 참여하였습니다. 이번에도 지난번과 같은 제목의 쇼케이스에 참여하여 발제하였고, 전시 준비 과정에서 딥러닝의 매체성에 관련된 자문과 비평 글 작성을 진행하였습니다. 그뿐만 아니라 이번에는 직접 진행한 컴퓨터비전 실습 내용을 2분 가량의 영상으로 정리하여 전시공간에 상영하는 기회도 가질 수 있었습니다. 영상화 작업은 안소희 작가님께서 도와주셨습니다.

이 프로젝트에서는 패턴, 의미, 표현을 정량화하고 연산하는, 디지털에 근거한 새로운 아날로그 신호처리 장치로서 딥러닝이 가지는 특유의 매체성을 미학적으로 탐구하고자 하였습니다. 실습과제에서는 영상 예측 모델에 자기회귀적 구조를 도입하여 '있을법하지만 원본 없는' 가상을 만들어내고, 이러한 가상 화면들의 속성과 실패 양상을 통해 비전 모델들이 움직임, 형상, 시간 등을 어떻게 지각하는지 드러내고자 하였습니다.

아래에 세미나 및 전시를 홍보했던 소셜미디어 포스트, 전시 공간 방문 후기 및 관련 링크들을 옮겨둡니다. 준비 중인 전시 도록 또한 완성 시 링크할 예정입니다.

링크드인에서 이 게시물 보기: 링크

Last year, I participated in an art–technology project funded by ARKO (Arts Council Korea, 한국문화예술위원회). The project drew on my background in statistical physics and philosophical aesthetics, as well as my interest in deep learning as a new form of analog media sustained by the digital world—one that quantifies and operates on patterns and representations.

The project included an interdisciplinary showcase <When Vision Becomes Space: The Second Seminar>, and a solo exhibition <Ghost Frame> by media artist Han Dong Seock. I hosted a session at the seminar and participated in the exhibition, which was held at Hall1 on Seonyudo Island in Seoul.

Below is a brief explanation of my contribution to the exhibition. I developed an experimental computer vision practice that turns autoregressive video prediction into an aesthetic probe, using failure and overgeneralization to reveal how vision models “perceive” human motion, form, and time. The results were crafted into a two-minute video.

See this post at LinkedIn: link

_________________________________________________________________

<비전이 공간이 될 때: 두번째 세미나 When Vision becomes Space: the Second Seminar>

최근에 참여중인 다원예술 프로젝트 협업의 일환으로 <비전이 공간이 될 때: 두번째 세미나>가 오늘 다중지성의 정원 zoom 공간에서 진행됩니다. 정신이 없어서 다소 홍보가 늦었네요.

재작년 <비전이 공간이 될 때> 세미나에서는 딥러닝의 매체성, 그리고 딥러닝이 만들어내는 불완전한 시공간 및 중간적 시공간들에 대해서 기술미학 관점의 발제문을 작성하고 발표했었습니다. 올해는 이 내용과 관련지어 진행해본 기초적인 컴퓨터비전 실습결과와 함께하는, 소박하지만 조금 더 생생한 디스커션을 준비하였습니다. 제 발표 이외에도, 각기 다른 분야의 협업자 선생님들께서 각자의 부문에서 더욱 재미있는 결과들을 보여주실 예정입니다.

그리고 이번에는 오늘자 세미나에서 이론적인 내용을 소개하는 데에 그치지 않고, 10월 17일부터 11월 2일까지 선유도역 인근 Hall1에서 <고스트 프레임 Ghost Frame>이라는 제목으로 전시까지 진행하게 되었습니다. 한동석 작가님의 개인전이지만 저도 전시장 복층 공간에 작은 영역을 할당받아, 컴퓨터비전의 경계를 탐색하는 실습결과를 간단하게 디스플레이 해둘 예정입니다.

_________

전시 《고스트 프레임 Ghost Frame》(한동석展 / HANDONGSEOCK / 韓東奭 / media)의 일환으로 10월 5일 일요일 오후 2시반 줌 세미나가 열립니다.

관심 있는 누구나 참여 가능합니다.

⠀

□ 세미나 소개

일시: 2025.10.5.일요일_2:30pm / 다중지성의 정원 온라인 세미나 공간

10월 5일 오후 2:30에 개최될 『비전이 공간이 될 때, 두 번째 세미나』는 2023년에 있었던 『비전이 공간이 될 때』를 이어 진행됩니다. “다중지성의 정원”과 협력하여 온라인으로 진행되는 본 세미나에서는 『고스트 프레임』 작가를 포함한 서로 다른 분야에서 활동하는 7명이 모여 각자의 주제를 발표합니다. 주로 본 프로젝트의 협업자들로 구성된 발표자들이 펼치는 서로 다른 주제는, 곧 이어 Hall1에서 진행될 전시 『고스트 프레임』을 구심점으로 모입니다.

다중지성의 정원 Facebook 홍보 게시물: 링크

neolook 게시물: 링크

오용재 Facebook 게시물: 링크

_________________________________________________________________

<고스트 프레임 Ghost Frame>

오늘(10월 17일)부터 11월 2일까지 선유도역 인근 Hall1에서 진행되는 한동석 작가님 개인전 『고스트 프레임(Ghost Frame)』에 과학기술 자문 및 비디오 실습 역할로 참여하였습니다. 전시 포스터와 함께, 안소희 작가님이 편집 맡아 주신 제 작업의 스틸 일부와 리플렛을 공유합니다.

협업자로서 제가 담당한 영상 예측 자기회귀 실습은 전체 전시의 한 부분으로서 전시공간 복층 쪽에 있고, 컴퓨터비전 특유의 지각방식이 만들어내는 환영들에 대해 탐구한 리포트에 가깝습니다. 1층(지층)에 이번 전시의 메인이 되는, 더 흥미로운 인터랙티브 전시 내용들이 많이 있습니다.

자세한 내용은 neolook 링크(아래)를 참고해주시고 혹시 관심이 있다면 많이 보러와주세요. 제 작업 부분은 허락을 거쳐 추후 유튜브 등에 아카이빙할 계획도 있습니다.

_________

고스트 프레임 Ghost Frame

한동석展 / HANDONGSEOCK / 韓東奭 / media

2025_1017 2025_1102

이 사업/작품은 2025년 한국문화예술위원회

다원예술창작산실의 지원을 받았습니다.

This project/work was supported with the support of

『2025 ARKO Partners Multidisciplinary Art』.

관람시간 / 12:00pm~08:00pm

홀원

Hall 1

서울 영등포구 양평로22마길 8 1층

@hallinfo2020

『고스트 프레임』 전은 컴퓨터 비전으로 재구성된 카메라 옵스큐라 공간을 탐구합니다. 관객이 걸으면 영상과 음악은 관객을 따라 움직이고, 걸음을 멈추면 영상과 음악은 관객의 위치를 떠나 새롭게 전개됩니다. 음악이 8마디에 이를 때만 장면이 전환됩니다. 관객을 쫓는 Hall1의 이미지는 인간이 더 이상 외부 세계의 관찰자가 아니라, 이미지 속에서 끊임없이 위치를 부여받는 '관찰의 대상'임을 암시합니다. 이는 카메라 옵스큐라 공간 안에서 달라진 인간의 위상을 드러냅니다. 최대 5명이 동시에 참여하는 이 인터랙티브 구성에서 각자의 시점은 서로 겹쳐지고, 누군가 멈추는 순간 개인적 시점은 사라지며 현재를 벗어난 이미지가 재생됩니다. 전시는 '무위(無爲)'를 통한 도약을, 끊임없이 진보하는 시스템 너머로의 이탈을 상상합니다. ■ 한동석

_________

예측되는 가상: 영상 예측 자기회귀 실습

『고스트 프레임』 展 협업자 오용재

동영상이라는 형식은 시간에 따른 이미지의 연쇄로 이해할 수 있다. 여기서 나타나는 패턴을 컴퓨터 비전기술을 통해 포착하는 비교적 고전적인 기법은 시계열 데이터를 처리하기에 적합한 LSTM 구조에, 이미지 특유의 공간적 상관성을 효과적으로 추출하는 합성곱(convolution) 구조를 결합한 ConvLSTM 신경망이다. 본 실습에서 사용한 PhyDNet 신경망은 여기에 PhyCell 구조를 추가하여 관성, 연속성, 변형의 국소성 등 물리적 움직임의 규칙을 학습한다. 이로써 공간 상에서의 움직임이 동영상으로 주어졌을 때 그 미래 프레임을 예측할 수 있다.

홉필드(Hopfield) 네트워크라는 고전적인 예시에서 보듯이, 신경망은 주어진 데이터를 국소적 신경 상호작용의 가중치들에 의해 형성되는 집단적 안정 상태로 패턴화하여 기억하는 아날로그 물리계이며 이는 현대의 딥 러닝 모델에서도 근본적으로 다르지 않다. 신경망의 학습은 상호작용의 가중치를 조절함으로써 물리계의 상태를 에너지 함수의 안정적인 골짜기로 이끄는 과정이며, 이 과정에서 데이터로부터 취합되고 추출된 시공간적 패턴들은 신경망 가중치 속에 분산적으로 각인된다. 프레임 예측은 이렇게 ‘정적인 수(數)로 기억된 동적 정보’를 불러내는 과정이라고 할 수 있다.

본 실습에서는 사람의 움직임에 관한 동영상 데이터로 위처럼 PhyDNet을 학습시킨 후 자기회귀적으로 구동하여, 예측의 형식을 빌려 본래의 영상 길이보다 더욱 긴 환영적 영상을 출력하게 하였다. 이러한 세팅에서는 모호하거나 지나치게 짧은 입력이 주어질 때 신경망이 기존에 학습한 패턴을 과잉 적용하여 일으키는 오류와, 학습 부족에 의한 불완전성 등이 크게 증폭된다. 이때 화면은 현실과는 거리가 있지만 여전히 일정한 시각적 문법을 따르는 낯선 가상으로 변모한다.

이러한 신경망이 인식하고 만들어내는 형체는 신경망 가중치 속에 분산적으로 각인된 상호작용이 재생산하는 패턴들이며 여기에는 의미, 원근, 깊이 등이 결여되어 있다. 이때 사람의 형상과 움직임은, 신경망 속에서 특정한 형태로 반복적으로 발생했다가 사라지는 일종의 결함 구조나 집단적 여기(勵起) 구조의 출력물로서 등장하게 된다. 이러한 환영들은 특정 과업에 대해 훈련된 신경망이 패턴 학습 및 텍스쳐 처리 기계로서 세계를 지각하는 방식과 그 한계를 음각적으로 드러낸다.

neolook 게시물: 링크

오용재 Facebook 게시물: 링크

실습결과(예측되는 가상: 영상 예측 자기회귀 실습): Youtube에서 보기

_________________________________________________________________

<전시 현장 방문 후기>

전시 두번째 날쯤 직접 가본 <고스트 프레임> 전시 공간은 독특한 분위기로 잘 꾸며져 있었다. 전시공간인 Hall1 자체를 point cloud로 따서 움직이는 영상으로 만들어 천장과 바닥에 프로젝션해 두고, 옆면은 형체를 흐릿하게 하는 반사판 같은 걸 깔아두어서, 공간이 실제보다 연장되어 있고 무언가 흐물흐물한 느낌이 났다. 고전적 광학장치인 카메라 옵스큐라 안에 맺히는 상들이 형성하는 모호하고 특별한 공간을 현대적 매체와 인터랙티브/컴퓨터비젼 기술을 통해 재사유한다는 취지에 어울리는 분위기였다.

1층에서는 우물을 중심으로 한 관객의 동선이 뒤쪽 위성안테나 모양의 커다란 나무 스크린에 원으로 나타나고, 관객 주변의 바닥에도 관객의 위치가 빛의 덩어리로 표시된다. 잔물결에 반사되는 빛의 이미지도 때때로 바닥면을 훑는다. 그리고 멀티채널 스피커로 된 음악이 여러 사람들의 집합적 동선에 반응하여 변화한다. 방문했던 날에는 아직 음악이 100% 의도대로 작동하고 있지는 않다고 하셨는데, 동선에 반응하는 느낌은 충분히 잘 전달되는 것 같았다. 지금은 의도대로 작동하지 않을까 한다.

전시장의 전면에 있는 반투명 스크린에는 회전하는 수평선의 이미지와, 전시공간을 촬영하여 편집한 영상이 중첩되어 표출된다. 스크린 뒤로는 계단과 그 위의 복층구조가 흐릿하게 보이는데, 계단을 따라 2층으로 올라가볼 수 있다. 여기에는 작가님이 나를 포함한 이번 전시의 과학기술관련 협업자들이 작은 아이디어를 직접 실현해볼수 있게 공간을 내주셨다. 올라가면 내 영상실습 작업과, 언어모델을 활용한 다른 협업자의 작업이 있다.

내 쪽 작업은 인터랙티브는 아니고 이미 만들어져 고정된 3분 가량의 영상으로, 바닥에 가까이 닿게 프로젝션 해두었다. 학습된 기계가 모호한 입력에 대해 만들어내는 환영들을 자기회귀적 영상 예측을 통해 증폭해서, 컴퓨터비전 특유의 시공간 지각과 그 매끄럽지 않은 이음매들을 보여주고자 했다.

실습 설명 자료도 인쇄해서 붙이고 왔는데 (이게 이 날 방문의 본 목적), 종이에 블루 펄 처리가 되어있어서 밝은 곳에서 보면 정말 예쁘지만 사진으로도 잘 안 담기고 어두운 전시 현장에서도 잘 안 보이는 점이 아쉽다.

뒤편의 노트북에 있는 언어모델 관련 인터랙티브 작업에서는, 1층 공간을 내려다보는 구도의 영상과, 관객이 직접 입력하는 (때로는 부조리할 수도 있는) 질문을 입력받아 언어모델을 통해 점층적으로 환영적 문장을 만들어낸다.

아무쪼록 느슨하게나마 거의 2년간 논의를 지켜보며 참여해 왔는데 이런 가시적인 형태의 산물로 마주하니 신기하기도 하고, 예술가 분들의 날카로운 직관과 세심한 감각에 자주 놀라기도 하고 이래저래 보람찬 경험이었다.

Facebook에서 이 글 보기: 링크

- 끝 -

_________________________________________________________________

<추가: 도록 출판 소식 (2026.01.16)>

작년 하반기 동안 작게나마 참여했던 한동석 작가님 개인전 <고스트 프레임>의 도록이 한국문화예술위원회 다원예술창작산실의 지원으로 발간되었다고 합니다. 어제 인쇄본을 받아 보았는데 품질도 좋고 멋지게 나온 것 같습니다.

설치 및 미디어 작품도 공연예술처럼 현장성은 좋지만 보존이 근본적으로 어렵기에 아쉬운 면이 있는데, 손에 만질수 있는 형태로 도록이 나오니 뭔가 보람차게 느껴집니다. 문예위의 이름이 찍혀 있지만 어떤 정식 출판물로서 ISBN이 있거나 그런 건 아닌 것 같습니다. adocs에 분량 전체 공개되어 있습니다 (링크).

제가 참여한 부분뿐만 아니라, 전시 전반에 대해 <기계적 지각의 틈새를 걷기, 데이터의 환영을 목격하기>라는 제목으로 글도 한 편 작성하여 수록하였습니다. 저도 참여한 전시이기 때문에 반쯤은 소개글, 반쯤은 비평글이 되겠네요.

Facebook에서 이 글 보기: 링크 _________________________________________________________________

한국연구재단 박사과정생연구장려금 선발 소식

이번 한국연구재단 박사과정생연구장려금(1년형) 지원사업에 <비평형계에서 확률적 정보 흐름의 정량화 및 활용>이라는 주제로 지원하여 선정되었다. 대학원생 신분으로 연구책임자가 되어 연구비를 직접 집행해 볼 수 있는 몇 안되는 기회인 것 같고, 연구계획서 작성하는 과정 자체도 많이 도움이 되었다.

너무 거창한 비전보다는 실제로 내가 쌓아올리고 있던 연구 계획과 그 기대 효과를 바탕으로 썼기 때문에 실현 가능성에서 좋은 평가를 받은 것 같고, 사업 특성상 학위연구목표 및 진로계획과의 연계가 충분히 구체적인지도 평가를 받지 않았을까 싶다. 물론 열심히 쓰기도 썼지만 이번에 선발과제 수를 1,200개 내외로 예년보다 크게 늘린 덕에 운이 좋기도 했을 듯하다.

이번 연구는 능동물질을 비롯한 미시적 기계들에서 나타나는 이례적인 집단 현상들을 열역학 제2법칙이 '국소적으로' 위반되는 것으로 보고, 큰 편차 이론(large deviation theory)을 통해 그 위반을 증폭시키거나 약화시켜 보면서 제2법칙 위반의 동역학적 구조를 체계적으로 탐색하고자 하는 연구이다. 하고자 하는 일은 꽤 명료하지만 왜인지 기존에 직접 시도된 바는 많지 않다.

직접 쌓아올려 애정을 가진 주제를 내 이름 앞으로 된 연구과제를 통해 수행해 볼 수 있어서 기쁘면서도 어깨가 무겁다. 연구 장비 구입, 인건비, 학술교류 참석 및 진행 등을 과제 취지에 맞게 잘 집행하면서, 연구 프로세스가 1년간 계획대로 잘 이루어질 수 있게 해야겠다.

Facebook에서 이 글 보기: 링크

[논문 소개] Phase separation of chemokinetic active particles

My second paper, "Phase separation of chemokinetic active particles," is now published in Communications Physics.

Active matter refers to systems composed of constituents (active particles) that consume energy and exhibit motility at the individual level. Examples include swarming bacteria, synthetic colloidal particles with catalytic coating on one side, or molecular motors that move along scattered cytoskeletal tracks.

Because these systems generate persistent fluxes at the microscopic level, they are inherently out of equilibrium and display collective phenomena that are impossible in equilibrium materials. For instance, in the Vicsek model (1995), which was proposed to model flocking behavior and initiated the field of active matter, globally ordered phases emerge even in two dimensions. This type of long-range order is forbidden in equilibrium systems by the Mermin–Wagner theorem.

Even in the absence of alignment interactions, active systems can exhibit non-equilibrium phase separation due to clustering induced by purely repulsive interactions. A well-known example is Motility-Induced Phase Separation (MIPS), where regions of low and high particle density spontaneously separate. This is often likened to bumper cars that collide and cannot escape from the jammed regions.

In most theoretical models, the motility of active particles is treated as a fixed system parameter, typically as a constant self-propulsion speed. However, in reality, such motility must be sustained by some source of energy — some form of fuel, which is subject to local consumption and finite-rate diffusion. This naturally leads to the possibility of local fuel depletion, which reduces the particles' speed in that region. In this work, we ask: what happens when the motility of active particles isn’t just a fixed system parameter, but a dynamic quantity that depends on locally consumed chemicals?

This effect can be considered as a minimal scenario of 'chemokinesis' — the lesser-investigated cousin of chemotaxis — where particles change their 'speed' in response to chemical concentration, rather than their 'direction' in response to chemical gradient.

Indeed, there can be more 'intelligent' scenario of chemokinesis, where a cell intentionally adjusts its speed (e.g., through cellular signaling mechanism) depending on the concentration of a certain chemical species. Our theory does not distinguish those two: they might be differ in the spatiotemporal scales of chemical consumption and diffusion, which can be covered by our theory.

Instead, we explore two distinct scenarios of chemical consumption: the Basal Metabolic Regime (BMR) and the Active Metabolic Regime (AMR). In both cases, we assume that the local speed of particles is proportional to the local concentration of chemical fuel. However, the rate at which the fuel is consumed differs between the two regimes, especially when particles become trapped in clusters.

In the Basal Metabolic Regime (BMR) which is our first scenario of chemical consumption, where chemical is consumed even when particles are stuck each other, leading to stronger depletion inside the cluster and enhanced cluster growth. In this regime, even immobile particles continue to deplete fuel, leading to deeply quenched interiors of clusters and promoting further aggregation. In effect, this enhances MIPS-like clustering.

However, in the Active Metabolic Regime (AMR), chemical is consumed only when the active particles actually experience their displacement, i.e., when they truly move. In this case, the local rate of consumption depends not only on particle density but also on actual particle velocity. Therefore, within dense clusters where mobility is suppressed, the fuel is saved. Therefore, when a chance arises, particles near the boundary can escape more easily due to higher available fuel.

This suppresses the clustering and gives rise to intriguing oscillatory and motile patterns for the AMR— a fuel–mobility feedback that is sensitive to the spatiotemporal scale of diffusion. Small clusters can become stabilized and static, or they can continually appear, disappear, or move around, depending on whether the system allows the fuel depletion to be replenished in time. If not, the imbalance persists and drives dynamic restructuring.

We first demonstrated these effects using particle-based simulations, and then derived a coarse-grained continuum model for the particle density via standard coarse-graining techniques. The linear stability analysis of the continuum theory (through the analysis on the signs of system eigenvalues) confirmed similar predictions observed in simulations.

The continuum framework, free from the noise caused by discrete particle movements (going into and out of the clusters), allowed for a cleaner observation of collective behaviors. To ensure these effects were not artifacts of specific inter-particle forces, we also ran simulations with an alternative model where interactions were governed by quorum sensing—particles reduce their speed in response to high local density rather than direct mechanical repulsion. These simulations produced phase diagrams qualitatively consistent with theoretical expectations.

Where my first paper focused on the flow of 'energy' in active systems, this work sheds light on the flow of 'material' which diffuses through space and unevenly consumed by the particles. In contrast to our first study, which assumed strict chemostatting (uniform global fuel supply) to explore the thermodynamics of energy injection, the present work foregrounds the materiality of the fuel, emphasizing how its local depletion and limited diffusivity affect system behavior. More broadly speaking, this study reveals how uneven resource availability, and the feedback from the active agents, shapes collective behavior in nonequilibrium systems.

This project is a collaboration with Euijoon Kwon, whose sharp modeling and simulation insights were central to its publication. I am pleased that this work has found its place in Communications Physics, a fully open-access journal launched in 2018.

See this post on LinkedIn: link

See this post on Facebook: link

(국문)

제 두번째 논문인 "Phase separation of chemokinetic active particles"(화학운동성 능동 입자들의 상분리)가 Communications Physics에 출판되었습니다.

능동 물질이란 개별 구성요소의 수준에서 에너지를 소모하고 운동성을 가지는 일군의 물질들로, 헤엄치는 박테리아의 군집, 한쪽 면에만 촉매가 칠해진 인공 콜로이드 입자들의 모임, 흩뿌려진 세포 골격 위를 운동하는 분자 크기 모터 (molecular motor) 등이 그 예시입니다.

이들은 개별 입자 수준에서 흐름을 형성하여 평형으로부터 벗어나 있으므로, 일반적인 평형 물질에서는 불가능한 집단현상을 나타냅니다. 예를 들어서 새들의 몰려다니는 운동(flocking)을 모사하기 위해 제안되었으며 능동물질 분야의 효시가 된 Vicsek model (1995)에서는 2차원에서도 전역적으로 정렬된 상이 나타나는데, 이는 평형 상태의 물질에서는 Mermin-Wagner theorem에 의해 금지되는 종류의 질서입니다.

또한 정렬효과가 없을 때에도, 입자들 간에 척력만 작용하는데도 클러스터가 생겨서 저밀도 영역과 고밀도 영역이 나누어지는 '운동성에 의한 상분리(Motility-induced Phase Separation, MIPS)'와 같은 능동물질 고유의 현상이 나타납니다. 이 현상은 흔히 범퍼카들이 충돌한 상태에서 서로 빠져나가지 못하는 것에 비유됩니다.

능동물질에서 운동성의 크기(즉 능동 입자의 디폴트 속력 값)는 흔히 상수로 주어진 것으로 모델링되나, 실제로는 그러한 운동성을 꾸준히 만들어낼 수 있는 어떤 원인, 즉 연료가 있을 것입니다. 연료의 확산 속도는 유한하므로, 어떤 지점 주변에서 연료가 국소적으로 많이 소모되어 사라진다면 그 지점 근처에서는 능동입자들의 속력이 느려질 것입니다. 즉, 각 지점에서 대략적으로 연료 농도와 입자들의 자체 추진 속력이 비례한다고 생각할 수 있습니다.

이를 미니멀한 형태의 화학운동성 (chemokinesis) 으로 생각할 수 있습니다. 물론 이렇게 연료의 국소적 고갈에 의한 자연스러운 효과 외에도, 박테리아의 경우 세포의 신호 처리 작용에 의해 특정 화학물질 농도를 감지하여 속력을 바꾸는 현상도 가능할 것입니다. 저희의 이론은 기본적으로는 이 두 가지를 구분하지 않으며 (물론 현상의 스케일 차이가 있을 수 있습니다) 이 글에서는 섞어서 사용하겠습니다.

화학물질의 농도 '기울기'에 반응하여 입자들의 운동 '방향'이 바뀌는 화학주성(주화성, chemotaxis)은 능동물질 분야에서 최근에 활발히 연구되었습니다. 입자의 자체추진 속력이 상수일때 나타나는 기본적인 MIPS와 비교할때, 단일 클러스터가 성장하는 대신에 유한한 크기로 다수의 클러스터가 유지되고, 심지어 진동(생성, 소멸을 특정 시간 스케일에서 반복)하거나 특정 방향으로 운동(motile band)하는 등 흥미로운 현상들이 나타납니다. 그러나 화학물질의 농도 자체에 따라 입자들의 운동 '속력'이 바뀌는 화학운동성의 효과는 저희가 아는 한 그동안 이론적으로 연구되지 않았습니다.

저희는 화학운동성을 직관적으로 비교적 쉽게 이해 가능한 두 가지(BMR/AMR)의 시나리오로 압축하였습니다. 먼저 화학물질의 농도에 자체추진 속력이 비례하는 건 공통적이지만, 입자들이 클러스터 안에서 서로 뭉쳐서 실질적으로 움직이지 못할 때 연료 소모의 방식에 차이점이 있습니다.

먼저 Basal metabolic regime (BMR)의 경우는, 클러스터 내부에서 움직이지 못할 때에도 화학물질이 계속 소모됩니다. 이러한 상황에서는 클러스터 내부에 연료 고갈이 심해져서 입자들이 더 움직이지 못하게 되므로, 디폴트 MIPS에 비해 클러스터가 더 효과적으로 성장하게 됩니다.

반면 Active metabolic regime (AMR)에서는 입자들이 실질적으로 움직일 때에만 화학물질이 소모됩니다. 즉, 국소적인 연료 소모율이 입자들의 밀도뿐 아니라 그 지점 근처의 입자들의 실제 속도에도 비례하게 됩니다. 따라서 클러스터 내부에서 입자들이 어차피 잘 움직이지 못하는 상황에서는 연료가 save되게 되며, 기회가 되면 클러스터 표면 근처에서 입자들이 빠른 속력으로 빠져나갈 수 있어, 클러스터 성장이 억제됩니다.

더욱 흥미롭게도, AMR에서는 연료 확산의 시공간적 눈금과 연료 소모율을 잘 선택함으로써, 작은 클러스터들이 안정화되어 가만히 있게 할 수도 있는 반면, 끊임없이 생성/소멸되거나 움직이게 할 수도 있습니다. 이는 입자의 연료소모를 연료의 확산 속도가 충분히 빨리 따라가느냐, 그렇지 못하느냐와 관련되어 있으며, 후자의 경우 이 불일치가 지속적으로 해소되지 못하여 클러스터들의 운동으로 이어지게 됩니다.

먼저 입자 기반의 시뮬레이션으로 이러한 현상들을 확인한 뒤, 거칠게 묶기 (coarse-graining) 를 통해 입자들의 밀도에 대한 연속체 관점의 방정식을 얻어, 시뮬레이션과 이론 양쪽 (이론의 경우 고유값의 부호 분석) 에서 유사한 결과를 확인했습니다.

특히 연속체에서는 개별 입자의 활발한 클러스터 출입에 따른 노이즈의 효과가 없으므로 여러 집단현상의 가능성을 훨씬 깨끗하게 관찰할 수 있었습니다. 이러한 현상들을 입자기반에서도 더 깨끗하게 보기 위해서, 입자들이 역학적 척력이 아닌 quorum sensing (주변에 다른 입자들이 많으면 속력을 줄임) 을 통해 상호작용하는 모형에서도 시뮬레이션하여, 이론적으로 예상되는 phase diagram과 유사한 결과를 관찰했습니다.

이 연구는 제 첫 번째 논문의 두 시나리오 (stuck되어야 연료 소모 / 움직여야 연료 소모) 를 조금 더 사실적으로 만들어서, 집단현상에 주는 영향까지 관찰해 보자는 문제의식에서 출발하였습니다. 첫 번째 논문은 능동물질계에 관여된 '에너지의 흐름'으로부터 열역학을 기술하는 데 집중하여 전 공간에서 연료를 strict하게 chemostatted한 반면, 이번 연구는 확산되거나 국소적으로 소모되는 연료의 물질성을 보다 구체적으로 고려하므로, '물질의 흐름'이 비평형계에 주는 효과를 연구한 것으로 생각할 수 있습니다. 더 확장하자면, 자원의 불균일한 분포에 가해지는 음성/양성 피드백이 시스템의 집단현상에 미치는 영향을 연구했다고 생각할 수 있습니다.

이번 연구의 진행은 함께 연구하는 권의준 학생의 탁월한 이론적 모형화 및 풀이, 전산 시뮬레이션에 핵심적인 도움을 받았습니다. 2018년에 만들어진 오픈액세스 저널 Communications Physics에 게재하게 된 것을 기쁘게 생각합니다.

- 끝 -