[태그:] LLM
-
RAG 시스템, 어떻게 평가해야 할까? — RAGAS로 정량적 품질 검증
들어가며 LLM의 할루시네이션을 극복하기 위한 대안으로 RAG(Retrieval-Augmented Generation)가 나왔지만, RAG에서도 어떻게 설정하는가에 따라 품질이 극명하게 갈립니다. 결국 RAG(Retrieval-Augmented Generation)를 구축해서 벡터 DB 검색과 LLM 답변 생성이 정상적으로 동작하는 걸 확인했다고 해서 끝이 아니란 이야기 입니다. “답이 그럴듯하게 나온다”와 “답이 실제로 정확하고 근거가 있다”는 전혀 다른 이야기이기 때문입니다. RAG는 두 단계로 구성됩니다. 이 두 단계가 유기적으로…
-
RAG(Retrieval Augmented Generation)의 성능을 획기적으로 높이는 9가지 전략 – 1/3
RAG(Retrieval-Augmented Generation) 시스템은 LLM의 할루시네이션을 줄이고 정확한 정보를 제공하기 위한 핵심 방법론입니다. 그러나 실제 구현 시 검색 품질 저하나 LLM의 과도한 창의성으로 인해 원하는 결과를 얻지 못하는 경우가 많습니다. 질문에 따라 참고를 위해 RAG에서 검출된 문서를 보면, 의아한 결과가 종종 발생됩니다. 또한 제한된 검출 문서내에서 LLM이 답변해주기 충분한 정보량을 제공하지 못하였을 때 응답의 결과가 좋지…