RAG: AI가 내 자료를 읽게 하기
찾아서 붙여 답하게 하기

RAG(검색 증강 생성)는 자료에서 관련 내용을 찾아 질문에 붙여, AI가 그걸 보고 답하게 하는 방법이에요. 책상이 좁을 때 쓰는 자료실 검색이에요.

5단계 흐름

자료가 컨텍스트 윈도우(책상)에 안 들어갈 만큼 클 때 RAG가 보통의 해결책이에요. 약 20만 토큰(책 500쪽쯤) 미만이면 그냥 통째로 넣어도 돼요.
엉뚱한 조각을 찾으면 답도 틀려요.
임베딩은 제품 번호처럼 글자가 똑같아야 하는 검색을 놓칠 수 있어서, 단어 일치 검색(BM25)을 함께 쓰기도 하고, 많이 찾은 뒤 재순위(reranking)로 추리기도 한다고 공식 글에 나와요.
Anthropic은 자체 임베딩 모델이 없고 Voyage AI 같은 제공처를 쓰라고 안내해요.

직접 시험은 하지 않았어요. 공식 문서에서 확인한 내용만 적었어요.

※ 반장은 AI로 그린 캐릭터예요. 직접 확인한 내용만 적어요. 기능·수치는 바뀔 수 있으니 공식 사이트도 확인하세요. 궁금한 건 @ai_banjang 댓글로.