AI 활용

AI 토큰 뜻, 대화 길이와 사용량 한도 이해하기

목차 보기

AI 토큰은 AI가 글을 처리할 때 사용하는 작은 조각입니다. 토큰 하나가 단어 전체일 수도 있고, 단어의 일부나 문자일 수도 있습니다. 그래서 글자 수나 단어 수와 정확히 같지 않습니다. Google의 토큰 설명 (2026년 10월 15일 확인)

AI 가격표에서 ’입력 100만 토큰’을 봤다면 질문 100만 번이라는 뜻이 아닙니다. 대화 길이 안내에서 토큰을 봤다면 한 번에 처리할 자료의 양을 이야기하는 것입니다. 무엇을 세는 단위인지와 어떤 제한인지를 나눠 보면 헷갈림이 줄어듭니다.

토큰 하나는 몇 글자일까

모든 AI에서 통하는 고정 글자 수는 없습니다. 글을 토큰으로 나누는 기능을 토크나이저라고 부르며, 모델이 사용하는 방식에 따라 같은 문장도 토큰 수가 달라질 수 있습니다.

예를 들어 ’새 제품의 설명을 요약해줘’라는 한국어 문장의 정확한 토큰 수를 알려면 사용할 모델의 집계 기능으로 확인해야 합니다.

영어 문장에서 쓴 대략적인 환산식을 한국어 문서에 그대로 적용하는 것도 피합니다. Anthropic 역시 모델의 토크나이저가 바뀌면 이전 모델에서 센 값을 그대로 재사용하지 말고, 사용할 모델 기준으로 다시 세라고 안내합니다. Claude 토큰 집계 안내 (2026년 10월 15일 확인)

질문은 짧은데 왜 읽을 양이 많을까

다음은 이해를 돕기 위한 가상 요청입니다.

첨부한 제품 설명서에서 보증 조건만 찾아 표로 정리해줘.

요청 문장은 짧지만 첨부한 설명서는 길 수 있습니다. AI가 답할 때 참고하는 이전 대화나 작업 지침도 있을 수 있습니다. 내가 방금 쓴 한 줄만 읽는다고 생각하면 실제 입력량과 차이가 생깁니다.

구분 이 요청에서 해당하는 것
입력 토큰 요청, 참고하는 설명서와 대화·지침 등 AI가 받는 정보
출력 토큰 AI가 새로 만드는 표와 설명

첨부 파일이 있다고 반드시 파일 전체가 매번 같은 방식으로 들어가는 것은 아닙니다. 서비스가 관련 부분을 검색하거나 내용을 압축할 수도 있습니다. 이미지·PDF 등도 모델과 처리 방식에 따라 집계되므로 파일의 페이지 수만으로 정확한 토큰 수를 알기는 어렵습니다. Google의 파일·대화 토큰 집계, Claude의 입력 집계 범위

자료를 찾아 필요한 부분을 붙여 답하게 하는 방식은 RAG에서 예시로 설명합니다.

토큰 수·문맥 길이·사용량 한도는 다릅니다

세 가지를 하나의 ’남은 토큰’으로 생각하면 제한 메시지를 잘못 해석하기 쉽습니다.

개념 뜻 확인할 질문
토큰 수 입력이나 출력의 양을 세는 단위 이번 요청은 무엇을 얼마나 처리하나?
문맥 길이 한도 한 번에 참고하고 생성할 수 있는 범위 이 자료와 답변을 한 번에 다룰 수 있나?
시간별 사용량 한도 일정 기간 안에 서비스를 사용할 수 있는 양 이 기간에 더 사용할 수 있나?

컨텍스트 윈도우는 문맥 길이의 범위를 말합니다. 모델이 답을 만들 때 참고할 수 있는 작업 공간에 가깝습니다. 이전 대화와 자료뿐 아니라 새로 만들 답도 이 범위를 사용하며, 출력 한도는 별도로 정해질 수 있습니다. Claude의 문맥 창 설명 (2026년 10월 15일 확인)

시간별 사용량 한도는 한 대화의 길이와 다릅니다. Claude의 공식 안내도 일정 기간의 사용량과 한 대화의 길이 제한을 나눠 설명합니다. 한 대화가 짧아도 그동안 여러 작업을 했다면 사용량 한도에 걸릴 수 있습니다. 반대로 사용량이 남아 있어도 한 번에 너무 많은 자료를 넣을 수는 없습니다. 사용량과 길이 한도 구분

따라서 ’주간 사용량이 남았다’는 표시를 ’이 대화에 그만큼 더 긴 문서를 넣을 수 있다’는 뜻으로 읽으면 안 됩니다.

토큰은 비용과 어떻게 연결될까

API는 프로그램에서 AI를 불러 쓰는 연결 방식입니다. API 가격표에는 입력과 출력의 토큰당 단가가 따로 나오는 경우가 있습니다. 같은 요청 한 번이어도 읽을 자료와 생성할 답의 양이 다르면 비용이 달라질 수 있습니다. 실제 계산에는 캐시, 도구 사용 등 해당 제공자의 과금 항목도 확인해야 합니다. Google의 API 토큰·비용 안내

월 구독 서비스의 사용량 화면은 API 가격표와 다른 기준입니다. 구독 한도의 퍼센트를 고정 토큰 수나 남은 질문 횟수로 바꾸지 않습니다. 소모량은 모델과 기능, 대화 길이와 작업의 복잡도에 영향을 받을 수 있습니다. Claude 사용량 안내

실제 플랜과 결제 방식을 고르려면 클로드 요금제와 Codex 요금제에서 비교할 수 있습니다. 이 글은 토큰이라는 단위를 이해하는 데 집중합니다.

긴 자료를 다룰 때는 무엇을 확인할까

제한이 생기면 먼저 메시지가 자료의 길이 문제인지, 일정 기간의 사용량 문제인지 봅니다. 사용량 초기화를 기다리는 일과, 한 요청의 자료 범위를 줄이는 일은 서로 다른 해결 방법입니다.

설명서 전체가 필요하지 않다면 ’보증 조건이 있는 부분’처럼 필요한 범위를 정합니다. 답은 표 하나면 충분한지, 추가 설명도 필요한지 함께 말하면 결과를 확인하기 쉽습니다. 다만 중요한 조건을 빼서 짧게 만드는 것은 피합니다.

대화가 길어지면 서비스가 이전 내용을 요약하거나 문맥을 관리할 수 있습니다. 길어졌다는 이유만으로 항상 처음 내용을 모두 잊는다고 단정하지 않습니다. 또한 길이 한도 안에 들어간 자료라도 내용을 잘못 읽을 수 있습니다. Claude의 문맥 관리 안내

보증 조건 표를 받았다면 원문 위치와 예외 조항까지 맞는지 대조합니다. 토큰 수를 정확히 세는 것과 답이 정확한 것은 별개의 문제입니다. 원자료와 확인하는 순서는 AI가 쓴 글의 사실 확인에서 이어볼 수 있습니다.