요즘 LLM을 이용한 정보검색인 RAG(Retrieval-Augmented Generation, 검색 증강 생성)라는 방식에 관심이 커지고 있습니다. 다량의 텍스트 데이터 LLM에 질문해서 답을 구할 때 단순히 모든 문서를 통째로 붙여주는 방식은 속도, 정확도에서 여러 가지 이슈가 발생합니다. 이에 대한 가장 간단한 방법으로, 벡터로 임베딩한뒤 벡터 DB에 넣어 빠른 속도로 많은 데이터를 조회할 수 있습니다. 이번에는 그중에서도 가볍고 많이 사용하는 Chroma DB를 이용하여 문서 검색 시스템을 만들어보겠습니다. 3줄 요약사용자의 질문을 컴퓨터가 이해하는 벡터 타입으로 변환한다Chroma DB에서 가장 유사한 문장을 찾는다해당 문장을 LLM에 전달 후 근거를 바탕으로 답변을 생성한다. 벡터 DB란 무엇..
