AI 활용

RAG 뜻, AI가 자료를 찾아보고 답하는 방식

목차 보기

RAG는 AI가 답하기 전에 관련 자료를 찾아, 그 내용을 참고해 답을 만들도록 하는 방식입니다. Retrieval-Augmented Generation의 약자로 보통 ’검색 증강 생성’이라고 부릅니다. 검색한 자료를 답변의 근거로 더한다는 뜻으로 이해하면 됩니다. AWS의 RAG 설명 (2026년 10월 15일 확인)

예를 들어 AI가 우리 매장의 반품 조건을 모른다면 안내문을 찾아 읽게 할 수 있습니다. 모델이 이미 배운 내용만으로 답하게 하는 대신, 지금 질문에 필요한 자료를 함께 보여주는 것입니다.

안내문을 찾아 답하는 예시

다음은 설명을 위한 가상 매장입니다. 안내문에 ’미개봉 제품은 구매 후 14일 이내 반품 접수’라고 적혀 있다고 해봅시다. 숫자와 조건은 이해를 위한 가상 값입니다.

사용자가 ’미개봉 제품은 언제까지 반품할 수 있어?’라고 묻습니다. RAG를 사용하는 시스템은 대략 다음 흐름으로 처리할 수 있습니다.

  1. 자료를 찾습니다. 검색 대상으로 준비된 안내문에서 반품 조건과 관련된 부분을 가져옵니다.
  2. 질문과 자료를 함께 전달합니다. AI가 원래 질문뿐 아니라 찾은 안내문도 참고하게 합니다.
  3. 답을 만듭니다. 안내문을 바탕으로 조건을 설명합니다. 출처를 표시하도록 구성했다면 원문 위치도 함께 보여줄 수 있습니다.

이 과정에서 글을 읽고 답을 만드는 AI 모델을 LLM, 즉 대규모 언어 모델이라고 부릅니다. RAG는 새로운 모델 이름이 아니라, 모델이 답할 때 참고자료를 가져오는 방식을 설명합니다. AWS의 자료 검색·답 생성 과정

같은 질문도 어떤 문서를 찾았는지에 따라 달라집니다

최신 안내문에는 14일, 예전 안내문에는 7일이라고 적혀 있다면 어떨까요?

찾은 자료 달라지는 점 확인할 것
현재 안내문 14일이라는 현재 조건을 근거로 답할 수 있음 적용일과 미개봉 등 예외 조건
구버전 안내문만 찾음 이미 바뀐 7일 조건으로 답할 수 있음 최신 문서가 검색 대상에 반영됐는지
관련 자료를 못 찾음 이 자료만으로는 반품 기간을 확인할 수 없음 근거 부족을 알리는지, 확인 경로가 있는지

RAG를 쓴다는 말만으로 최신 문서를 찾았다고 볼 수는 없습니다. 문서가 바뀌었다면 검색 대상도 갱신돼야 합니다. 검색된 내용이 틀리거나 부족하면 답도 잘못될 수 있습니다. AWS의 검색 자료 갱신 안내, Google Cloud의 검색 자료와 답변 품질 설명 (2026년 10월 15일 확인)

자료를 못 찾았을 때 ’확인할 수 없다’고 답하도록 구성하는 것도 중요합니다. RAG 자체가 모르는 답을 지어내지 못하게 막는 보증은 아닙니다.

회사 문서를 새로 학습시키는 것과는 다릅니다

RAG는 질문할 때 필요한 자료를 가져와 참고하게 합니다. 새 안내문을 모델에 다시 학습시킨 뒤 답하는 방식은 아닙니다. 그래서 문서가 자주 바뀌는 사내 안내, 제품 매뉴얼, 고객지원 자료 등에 활용할 수 있습니다. AWS의 외부 지식 활용 설명

모델을 예시 데이터로 추가 학습시키는 방법은 파인튜닝이라고 부릅니다. RAG와는 역할이 다릅니다. 다만 둘을 함께 사용할 수도 있으므로 반드시 하나만 골라야 하는 관계는 아닙니다. IBM의 RAG·파인튜닝 구분 (2026년 10월 15일 확인)

한 문서를 한 번 요약하려는 일이라면 그 문서를 직접 전달하는 방법부터 볼 수 있습니다. 여러 문서에서 질문마다 필요한 부분을 찾아야 한다면 RAG가 왜 쓰이는지 이해하기 쉽습니다.

찾은 자료도 AI가 한 번에 참고할 수 있는 범위를 사용합니다. 문서 전체를 무한히 넣을 수 있다는 뜻은 아닙니다. 자료의 양과 문맥 길이가 어떻게 다른지는 AI 토큰의 뜻에서 이어볼 수 있습니다.

MCP와 RAG는 같은 것일까

둘 다 외부 자료가 등장해서 헷갈리지만, 설명하는 대상이 다릅니다.

용어 설명하는 것
RAG 질문에 관련된 자료를 찾아 답의 근거로 사용하는 방식
MCP AI 앱이 외부 자료·도구와 요청과 결과를 주고받는 연결 규칙

MCP로 연결한 도구에서 자료를 가져와 답에 참고할 수 있습니다. 하지만 모든 RAG가 MCP를 사용하는 것은 아니고, MCP 도구는 자료 조회 외의 동작도 제공할 수 있습니다. 연결의 뜻과 필요한 상황은 MCP 설명에서 다룹니다.

또한 자료를 한 번 찾아 답하는 흐름과, 중간 결과를 보며 추가 검색이나 다른 행동을 선택하는 흐름은 다를 수 있습니다. 후자의 작업 방식을 이해하려면 AI 에이전트의 뜻을 함께 읽어볼 수 있습니다.

RAG로 만든 답은 어떻게 확인할까

답의 표현이 자연스러운지보다 어떤 원문에서 어떤 조건을 가져왔는지를 봅니다. 가상 반품 안내의 ’14일’만 맞아도 미개봉이라는 조건이 빠지면 안내가 달라집니다.

  • 출처가 질문과 관련된 문서인지 봅니다.
  • 적용일과 버전이 현재 상황에 맞는지 확인합니다.
  • 숫자뿐 아니라 대상·예외·조건도 원문과 대조합니다.
  • 근거가 없을 때 확인된 내용과 모르는 내용을 구분하는지 봅니다.

출처 링크가 있다는 사실만으로 답이 맞는 것은 아닙니다. 문서를 잘못 찾거나 읽을 수 있기 때문입니다. 원문과 대조하는 방법은 AI가 쓴 글의 사실 확인에서 예시로 이어집니다.

직접 자료를 넣어 이 과정을 따라가고 싶다면 노트북LM 사용 순서의 가상 안내문과 변경 공지를 사용해볼 수 있습니다. 현재 조건과 자료에 없는 답을 구분하는 질문·대조 기준을 함께 제공합니다.