AI에게 장기 메모리(Long-Term Memory)가 생긴다는 것은 단순한 ‘기능 추가’를 넘어, AI가 ‘단발성 도구’에서 ‘지속적인 파트너’로 진화한다는 것을 의미합니다.
현재 대부분의 LLM(대규모 언어 모델)은 대화창을 닫거나 일정 분량(컨텍스트 윈도우)이 넘어가면 이전 내용을 잊어버리는 ‘휘발성’을 가지고 있습니다. 장기 메모리는 이 한계를 극복하는 핵심 열쇠입니다.
모델은 과거의 상호작용, 사용자의 선호, 행동 패턴 등을 저장하고, 이를 기반으로 새로운 환경이나, 과제에 직면했을 때 참조하여 스스로를 조정하거나, 발전할 수 있는 가능성을 기대해볼 수 있습니다. 이것은 마치 인간의 경험을 통해 인지 능력을 발달 시키는 것과 매우 유사합니다.
AI에게 장기 메모리가 필요한 구체적인 이유에 대해 자유롭게 이야기 해보겠습니다.
1. 개인화의 실현
장기 메모리가 없다면 사용자는 매번 새로운 대화를 시작할 때마다 자신의 배경 상황, 선호도, 제약 사항을 다시 설명해야 합니다.
- 배경 지식의 축적: AI가 사용자의 직업, 가족 관계, 건강 상태, 취미 등을 기억한다면, “점심 메뉴 추천해줘”라는 단순한 질문에도 “요즘 다이어트 중이시니 샐러드 맛집인 A곳은 어떠세요?”라고 답할 수 있습니다.
- 스타일 적응: 사용자가 선호하는 말투, 글쓰기 스타일, 코드 작성 규칙 등을 기억하여 교정 없이도 즉시 원하는 결과물을 만들어냅니다.
2. 연속성과 맥락 유지
인간의 관계는 ‘지난번에 했던 이야기’ 위에서 쌓여갑니다. 장기 메모리는 AI와의 대화가 끊기지 않고 이어지게 만듭니다.
- 프로젝트의 연결: 며칠, 혹은 몇 달에 걸쳐 진행되는 장기 프로젝트를 수행할 때, AI가 지난달에 논의했던 기획 의도와 변경 이력을 기억하고 있다면 업무 효율이 비약적으로 상승합니다.
- 성장하는 AI: 사용자와의 상호작용을 통해 AI가 학습하고, 사용자의 피드백을 기억하여 시간이 지날수록 ‘나를 더 잘 아는’ 존재로 성장합니다.
3. 효율성과 비용 절감
현재는 AI에게 복잡한 작업을 시키기 위해 방대한 양의 배경 정보(프롬프트)를 매번 입력해야 합니다. 이는 사용자의 시간을 낭비할 뿐만 아니라, 토큰 비용(AI 사용료)을 증가시키는 원인이 됩니다.
- 중복 설명 제거: “지난번에 말한 그 프로젝트 있잖아” 한마디로 수십 페이지의 배경 설명을 대체할 수 있습니다.
- 정확도 향상: 과거의 성공과 실패 사례를 기억함으로써, 똑같은 실수를 반복하지 않고 더 나은 해결책을 제시합니다.
4. 심리적 유대감과 신뢰 형성
단순한 정보 검색을 넘어, AI를 멘토나 친구, 심리 상담사로 활용하는 경우 장기 메모리는 필수적입니다.
- 정서적 연결: “지난주에 아프다고 했던 건 좀 괜찮아지셨나요?”와 같은 AI의 안부 인사는 사용자와의 정서적 유대감을 형성합니다.
- 신뢰성: 자신의 말을 기억해 주는 대상에게 인간은 더 큰 신뢰를 느낍니다. 이는 AI 에이전트가 금융, 건강 등 민감한 영역을 다룰 때 매우 중요합니다.
고려해야 할 점
장기 메모리는 강력한 기능이지만, 동시에 개인정보 보호 이슈를 동반합니다. 그 보호를 위해서 통제할수 있는 권한을 갖는 것도 중요합니다.
- 데이터 보안: 나의 내밀한 정보를 AI가 영구히 저장한다는 것에 대한 불안감이 있을 수 있습니다.
- 망각할 권리: 사용자가 원할 때 특정 기억을 삭제하거나, 메모리 기능을 끄는 등 사용자가 AI의 기억을 통제할 수 있는 기능이 반드시 병행되어야 합니다.
이러한 기억을 AI 에게 부여하기 위해 사용할수 있는 기술적 장치에 대해서 이야기 해보려고 합니다.
주요 기술 방법론
1. 벡터데이터베이스
현재 AI 장기 메모리 구현의 표준(Standard)에 가까운 방식입니다. 인간의 기억이 ‘연상 작용’으로 작동하듯, 의미적 유사성(Semantic Similarity)을 기반으로 정보를 저장하고 검색합니다.
작동 원리 (Embedding & Search): 사용자의 대화 내용을 AI가 이해할 수 있는 숫자 배열(Vector)로 변환(Embedding)합니다. (예: “배고프다” $\rightarrow$ [0.1, -0.5, 0.8 ...])
이 벡터를 데이터베이스에 저장합니다.
나중에 사용자가 “점심 뭐 먹지?”라고 물으면, 이 질문을 벡터로 변환한 뒤 기존에 저장된 벡터들 중 거리가 가장 가까운(유사한) 기억을 찾아냅니다. (예: 과거에 저장된 “나는 스시를 좋아해”라는 기억 벡터가 호출됨)
대표 기술/DB: Pinecone, Milvus, ChromaDB, Weaviate: AI 메모리 전용으로 설계된 고성능 벡터 DB들입니다.
pgvector: 기존의 유명한 관계형 DB인 PostgreSQL에 벡터 검색 기능을 추가한 플러그인입니다.
핵심 기술: RAG (Retrieval-Augmented Generation)
벡터 DB에서 찾아낸 과거 기억 조각을 현재 질문의 프롬프트 앞단에 ‘참고 자료’처럼 붙여서 AI에게 전달하는 기술입니다.
2. 그래프 데이터베이스
벡터 DB가 ‘뉘앙스와 맥락’을 기억한다면, 그래프 DB는 ‘팩트와 관계(Fact & Relationship)’를 명확하게 기억하는 데 사용됩니다. 이를 지식 그래프(Knowledge Graph)라고 합니다.
작동 원리 (Nodes & Edges): 정보를 ‘개체(Node)’와 ‘관계(Edge)’로 구조화하여 저장합니다.
예를 들어, 사용자가 “우리 딸 민지는 딸기를 못 먹어”라고 말하면, 다음과 같이 저장됩니다.
(User) --[HAS_CHILD]--> (Minji)
(Minji) --[ALLERGIC_TO]--> (Strawberry)
이후 “민지 간식 뭐 줄까?”라고 물으면, AI는 ‘민지’ 노드와 연결된 ‘알레르기’ 관계를 추적하여 “딸기는 피하세요”라고 정확히 답할 수 있습니다.
장점: 할루시네이션(거짓 정보)을 줄이고, 복잡한 인물 관계나 업무 프로세스를 정확히 기억하는 데 탁월합니다.
대표 기술/DB: Neo4j, Amazon Neptune
3. 키-값(Key-Value) 및 관계형 데이터베이스 (Traditional DB)
가장 전통적인 방식이지만, 대화의 이력(History) 관리나 사용자 설정을 저장하는 데는 여전히 필수적입니다.
작동 원리:
세션 관리: 대화가 진행되는 동안의 ‘단기 기억(Short-term Memory)’을 유지하기 위해 최근 대화 10~20개를 Redis 같은 초고속 인메모리 DB에 저장합니다.
사용자 프로필: 이름, 나이, 구독 등급 같은 정형화된 데이터는 SQL(MySQL, PostgreSQL)에 저장하여 확실하게 관리합니다.
최근의 VectorDB & GraphDB & Redis(In-Memory) 기술을 이용한 기억에 대한 처리를 한 사례들이 나오고 있습니다.
더불어 이 기억의 영역을 담당하는 별도의 서비스가 제공되고 있으므로, LLM 모델을 이용하여 간단한 에이전트를 만들수 있는 사용자라면 간단하게 이 메모리 서비스를 연결하여 그동안 나와의 수많은 인터렉션을 기반으로 나에게 최적화된 모델을 경험할 수 있게 됩니다.
다음 포스트에서 이런 부류의 서비스에 대해서 포스팅해보겠습니다.