AI로 논문을 쓸 때 가짜 인용 문제가 자주 논란이 된다.
연구 단계에서 논문 추천 받을 때라면 몰라도, 연구 결과를 논문으로 작성하는 단계에서는 내 연구와 관련이 되는 일부라도 직접 정확하게 읽고 cite 해야 하는 것 아닌가 싶다. 이런 생각이 드는 걸 보면 난 아무리 AI 시대를 재미있어한다고는 하지만 결국은 텍스트에 대한 고전적 개념을 매우 중요시하는 인간인 듯. 나아가서 앞으로는 자동화할 수 있는 읽기, 쓰기 및 계산도 '굳이 사람의 능력으로 해 보며' 인간의 그런 능력을 유지하는 것이 학자 집단의 역할이 될 수도 있다고 생각한다. 나도 그 중 하나가 될 수 있으려나.
어쩌면 참고문헌이라는 것은 이젠 정말로 '참고가 된 문헌'이라기보다는, 내 논문이 지식정보망의 어디쯤에 어떠한 맥락으로 위치해 있다는 것을 느슨하게 표명하는 장치 정도가 되어가는 것일지도 모르겠다.
물론 원래도 참고문헌에는 그런 기능이 당연히 있고 또한 그런 기능이 매우 중요하다. 실제로 scientometrics나 science of science에서 citation network를 통해 지식정보망과 지식의 발전경로를 파악하는 것은 매우 많이 하는 일이다.
근데 인간의 '쪼'가 들어가지 않고 느슨하게만 관련이 있는 '무색무취한', '적당한' 인용들이 AI 때문에 폭증하게 되면, 우리가 잘 인식하지 못하는 사이에 그렇게 재구성된 지식정보망의 질조차 종국에는 많이 떨어지지 않을까 싶다. 그런데 양이나 속도 면에서는 AI가 압도적이니, 결국 인류가 쌓아온 방식은 뒤안길로 금세 밀려나서 불필요한 것이 되고, 그런 느슨하고 적당한 방식이 압도하게 되지 않을까 걱정이 있다.
예컨대 분야 상으로는 내 연구와 크게 상관 없어 보이는 어떤 논문의 특정 부분에 큰 영감을 받아서 연구가 진행되었거나, 혹은 나중에 알고 보니 다른 분야의 논문에서 내 생각과 비슷하고 formal한 연관성도 있는 아이디어를 이미 제시한 부분이 있었을 때, AI가 과연 그런 인용을 자동으로 찾아낼 수 있을까? 그리고 그런 이례적인 경우들 외에도, 내 연구가 어느 지형 위에 놓여 있다고 표명하다 보면 '학맥'이라는 것이 자연스레 형성되게 되는데 AI가 분야의 유사성, 연구대상 유사성만을 바탕으로 정보를 취합하다 보면 그런 패러다임적인 것들이 형해화되지 않을까?
그리고 이 모든 것을 잘 한다고 하더라도, 논문 작성 단계가 아니라 논문 다 마무리하고 나서 형식을 갖추기 위해서 한다면 결국은 흉내가 아닐까? 독해력과 문제의식을 갖춘 사람이 봤을 때 그게 납득이 갈까? 이런 생각들이 든다.
물론 새로운 기술적 매체가 등장하면서 내용의 복제가 간편해지면 늘 거대한 양적 확대가 일어나고, AI 또한 의미론적인 영역으로까지 고도화된 복제 및 정보처리 장치라고 할 수 있으니, 이러한 적당하고 느슨한 인용이 더욱 발전하고 양적으로도 확대되면서 인간이 모르던 새로운 방식으로 지식의 구조가 떠오를 수도 있다. 그렇게 인간이 직접 자신의 정신을 개입시켜서 작성하는 텍스트의 가치가 낮아지는 것이, 나중에 나올 무언가를 위해 꼭 필요한 일일 수도 있기는 하다. 그러나 일단 지금 생각으로는 AI 특유의 '적당함', 그리고 인간의 안이함 때문에, 정보처리의 세밀함이 당분간은 계속 낮아지지 않을까 한다.
Facebook에서 이 글 보기: 링크
