LLM-Wiki: 지식이 축적되는 AI 작업 환경 만들기

저자: Joon An (안준용), 고려대학교

Last Update: 2026년 8월 5일

들어가며

대화형 AI로 좋은 답을 받아 실제로 써먹고도 반년 뒤에는 그 답이 어디 있는지 알 수 없는 경우가 흔하다. 당시에는 분명 도움이 되었지만 다시 찾으려면 어느 대화에 있었는지부터 헤매게 된다. 대화는 시간순으로 쌓이고 지식은 주제와 관계로 조직되므로 쌓이는 것과 축적되는 것은 서로 다른 일이 된다. 이 책은 그 사이를 메우는 작업 방식을 다룬다. 주제는 대화가 끝난 뒤에 무엇을 남길 것인가다. LLM-Wiki는 사람이 방향을 정하고 AI 에이전트가 읽고 갱신할 수 있도록 폴더와 Markdown 문서로 구성한 지속적인 작업 기억이다. 폴더 하나, 텍스트 파일 몇 개, 그리고 그 안에서 무엇을 어떻게 다룰지 정한 규칙이면 시작할 수 있다.

이 책의 구성

책은 세 부분으로 나뉘고 세 부분은 같은 순환을 서로 다른 책임의 크기로 다룬다. 파트 1은 코딩 경험이 없어도 읽을 수 있고 대상은 연구자를 넘어 학생, 교사, 기획자, 행정 담당자, 창작자처럼 파일과 지식을 다루는 사람 전부다. 열네 장을 마치면 도구를 고르고 권한을 정하고 자신의 관심사에 맞는 위키를 만들고 자료 한 건을 끝까지 넣고 이미 가지고 있는 논문을 한 번에 들이고 보충 자료의 표를 분석에 쓰고 질문에 근거로 답하고 그 답을 다시 위키에 되돌릴 수 있다. 파트 2는 연구를 시작한 학생을 위한 과정이다. 이 도구가 무엇을 대신해 주지 않는지를 먼저 짚고 논문 한 편을 분야의 역사와 현재 논쟁 속에서 읽는 법에서 출발해, 남의 방법을 자기 설계로 바꾸고 다른 사람과 판단을 맞추고 자신의 근거로 과학적 주장을 쓰는 데까지 간다. 파트 3은 여러 사람과 프로젝트를 동시에 책임지는 연구책임자를 위한 것으로, 학생 지도, 공동연구, 그랜트 생애주기, 예약 자동화, 행정 서류 처리를 하나의 운영 기억으로 잇는다.

읽는 방법

파트 1은 순서대로 읽는다. 각 장이 앞 장에서 만든 것을 쓰기 때문이다. 파트 2와 3은 필요한 장부터 읽어도 되지만 파트 1의 3장에서 9장까지를 건너뛰면 나머지가 공중에 뜬다. 각 장에는 20분에서 30분이면 끝나는 실습이 하나씩 있다. 실습을 건너뛰고 읽으면 이 책은 개념 설명서로 남고 실습을 하면 마지막 장에 도달했을 때 자기 위키가 하나 생긴다. 뒤쪽을 권한다.

장별 구성

이 책이 약속하지 않는 것과 사람의 몫

이 방식이 주는 것은 추적 가능성이다. 틀린 정리를 넣으면 틀린 정리가 축적되고 검증하지 않은 요약을 정본으로 삼으면 그 오류가 이후의 모든 종합에 들어간다. 어떤 주장이 어느 근거에서 나왔는지 되짚을 수 있다는 것이 이익이고 그 위에서 정확성을 만드는 일은 사람의 몫으로 남는다. LLM-Wiki와 에이전트로 많은 논문을 읽고 정리하는 일은 자동화할 수 있다. 이 책은 그 자동화를 만드는 방법에 상당한 지면을 쓴다. 그 내용을 이해하고 근거에 입각해 주장하는 주체는 사람이다. 두 논문의 결과가 어긋날 때 그것이 진짜 모순인지 조건의 차이인지 판단하는 일, 어느 근거가 결론을 떠받칠 만큼 강한지 재는 일, 그리고 그 판단이 틀렸을 때 책임을 지는 일이 여기에 속한다. 에이전트는 후보를 모아 오고 형식을 맞추고 빠진 것을 알려 주지만 무엇을 믿을지는 정해 주지 않는다. 이 구분을 흐리면 이 방식이 오히려 위험해진다. 정리된 문서가 늘어날수록 그 안의 문장이 검증을 거친 것처럼 보이기 때문이다. 위키가 잘 만들어져 있을수록 읽는 사람은 그것을 더 쉽게 믿고 그래서 잘못된 정리 하나가 더 멀리 퍼진다. 축적된 것을 사람이 검증해야 신뢰가 생긴다. 이 책이 절차와 검증에 많은 지면을 쓰는 이유가 여기에 있다.