대학생, 커리어
AI 하네스가 토큰을 많이 쓰는 이유: 에이전트가 일하는 방식과 줄이는 법
한눈에 추천
AI 하네스는 모델에 도구와 기억을 붙여 일이 끝날 때까지 여러 바퀴를 돌리는 바깥 틀입니다. 바퀴마다 지금까지의 대화와 도구 결과를 통째로 다시 보내기 때문에, 한 번 묻고 끝나는 채팅보다 토큰을 몇 배 씁니다. 루프 그림 보기
- 질문 하나라면 채팅으로 충분합니다. 도구를 부르며 여러 바퀴를 돌 일이 없습니다(입사전 판단).
- 여러 파일을 고치거나 명령을 돌린다면 에이전트(하네스)를 씁니다. Anthropic 측정으로 채팅의 약 4배 토큰을 씁니다. 숫자로 보기
- 큰 조사를 나눠 맡긴다면 멀티 에이전트가 결과는 좋지만 채팅의 약 15배입니다. Anthropic 도 일의 값어치가 늘어난 비용을 감당할 만큼 클 때 쓰라고 적었습니다.
요약
- Anthropic 은 2025년 6월 엔지니어링 글에서 에이전트가 채팅보다 토큰을 약 4배, 멀티 에이전트 시스템은 약 15배 쓴다고 밝혔습니다.
- 같은 글에서 BrowseComp 평가의 성능 차이 80%를 토큰 사용량 하나가 설명했습니다. 토큰을 더 쓰는 만큼 결과가 좋아지는 구조입니다.
- Claude Code 공식 문서 기준 기업 배포 개발자 한 명의 평균 비용은 활동일 하루 약 13달러이고, 사용자의 90%는 하루 30달러 아래입니다.
- 줄이는 방법은 창에 들어가는 짐을 줄이는 것입니다. 작업이 바뀌면 대화를 비우고, 긴 로그는 하위 에이전트에 맡겨 요약만 받고, 매번 붙는 설명서를 짧게 둡니다. 줄이는 법
AI 하네스(에이전트 하네스)가 어떻게 동작하고 왜 토큰을 많이 쓰는지를 Anthropic 엔지니어링 글과 Claude Code, Claude API 공식 문서로 정리했습니다. AI 에이전트 토큰 사용량이 채팅의 몇 배인지, Claude Code 토큰이 많이 나오는 까닭, 컨텍스트 엔지니어링으로 줄이는 방법을 차례로 봅니다. 공식 문서에 없는 해석은 "입사전 판단"으로 표시했습니다.
숫자와 설명은 2026-10-17에 Anthropic 엔지니어링 글 네 편과 Claude Code, Claude API 공식 문서를 직접 열어 확인했습니다. 특정 제품을 권하는 글이 아니고, 제품 이름은 출처를 밝히려고만 씁니다.
하네스가 뭔가요
AI 모델 혼자서는 글을 읽고 쓰기만 합니다. 손발과 기억을 붙여 일을 끝까지 시키는 바깥 프로그램이 하네스입니다.
모델은 말, 하네스는 말에 채우는 마구와 마차라고 보면 쉽습니다.
말은 혼자서도 잘 달리지만 짐을 나르거나 목적지까지 가려면 마구를 채우고 마차를 달아야 합니다. AI 모델도 혼자서는 글을 읽고 쓰기만 합니다. 파일을 열거나 명령을 실행하려면 그 손발을 붙여 주는 프로그램이 필요하고, 그 프로그램을 하네스라고 부릅니다.
에이전트는 환경에서 받은 결과를 보고 도구를 다시 부르며 반복하는 모델입니다.
Anthropic 은 미리 정한 코드 경로로 모델과 도구를 엮은 것을 워크플로, 모델이 스스로 과정과 도구 사용을 정하는 것을 에이전트로 나눴습니다. 하네스는 모델에게 도구 목록을 건네고, 모델이 부른 도구를 실제로 실행하고, 결과를 다시 넣어 주는 일을 합니다.
하네스는 기억도 맡습니다. 대화가 창을 넘치면 요약해 줄이고, 다음 세션을 위해 진행 기록을 남깁니다.
Anthropic 의 오래 도는 에이전트 글은 하네스가 요약 압축(compaction) 같은 컨텍스트 관리를 한다고 설명합니다. 새 세션은 앞 세션을 기억하지 못해서, 진행 파일과 git 기록을 남겨 다음 세션이 이어받게 했습니다. 같은 글은 압축만으로는 충분하지 않았다고도 적었습니다.
코딩 에이전트, 조사 에이전트, 브라우저 에이전트처럼 이름은 달라도 "모델 호출, 도구 실행, 결과 붙이기"를 되풀이하는 뼈대는 같다고 봅니다.
이 페이지의 숫자는 Anthropic 측정과 Claude Code 문서 기준입니다. 다른 회사 하네스의 토큰 사용량은 이번에 공식 문서로 확인하지 않았습니다.
하네스는 이렇게 한 바퀴씩 돕니다
- 요청
사람이 할 일을 적습니다. 예: 이 버그를 고쳐 줘.
- 모델이 생각
지금까지 쌓인 대화 전체를 읽고 다음에 할 일을 정합니다.
- 도구 부르기
파일 읽기, 검색, 명령 실행처럼 하네스가 건넨 도구를 부릅니다.
- 결과 붙이기
하네스가 도구를 실제로 실행하고 결과를 대화 끝에 붙입니다.
- 다시 보내기
붙인 결과까지 포함한 대화 전체를 모델에게 다시 보냅니다. 여기서 토큰이 쌓입니다.
- 답
더 할 일이 없다고 모델이 판단하면 바퀴를 멈추고 답합니다.
요청을 보낼 때마다 짐이 커집니다 예시 그림
- 매번 붙는 설명서(시스템 지시, 도구 목록, 지시 파일)
- 대화와 모델의 생각
- 쌓인 도구 결과(읽은 파일, 검색, 명령 출력)
같은 일을 할 때 채팅과 견준 토큰 사용량
- 4배에이전트가 채팅보다 쓰는 토큰근거 Anthropic, 멀티 에이전트 조사 시스템
- 15배멀티 에이전트 시스템이 채팅보다 쓰는 토큰근거 Anthropic, 멀티 에이전트 조사 시스템
- 80%BrowseComp 성능 차이 중 토큰 사용량 하나가 설명한 몫근거 Anthropic, 멀티 에이전트 조사 시스템
- 13달러기업 배포 개발자 평균, 활동일 하루. 90%는 30달러 미만근거 Claude Code 공식 문서, 비용 관리
- 0.1배캐시에서 다시 읽는 입력 값(기본 입력 대비)근거 Claude API 공식 문서, 프롬프트 캐싱
토큰을 많이 쓰는 까닭 다섯
모두 "창에 들어가는 짐이 커진다"는 한 가지 이야기입니다. 비유를 먼저 두고 근거를 붙였습니다.
요청마다 대화 전체를 다시 보냅니다.
비유말할 때마다 처음부터 지금까지 녹음을 다 틀어 주는 것과 비슷합니다.
Claude Code 문서는 요청마다 대화 전체를 보내고, 토큰 비용이 컨텍스트 크기에 비례한다고 설명합니다. 같은 질문이라도 긴 세션 끝에서 하면 앞에 쌓인 대화만큼 더 듭니다.
도구 결과가 대화에 쌓입니다.
비유장 볼 때마다 받은 영수증을 버리지 않고 가방에 계속 넣는 것과 같습니다.
도구를 한 번 쓸 때마다 그 결과를 실은 요청이 한 번 더 나갑니다. 읽은 파일, 검색 결과, 명령 출력이 모두 대화에 남아 다음 바퀴의 짐이 됩니다. Anthropic 은 오래된 도구 결과를 지우는 것을 가장 안전하고 가벼운 압축 방법 가운데 하나로 꼽았습니다.
매번 붙는 설명서가 있습니다.
비유회의를 열 때마다 사내 규정집을 처음부터 다시 읽어 주는 셈입니다.
시스템 지시, 도구 목록, CLAUDE.md 같은 프로젝트 지시 파일은 세션 시작 때마다 실립니다. MCP 서버를 많이 켜 두면 도구 정의도 늘어납니다. Claude Code 문서는 지금은 도구 이름만 먼저 싣고 쓸 때 정의를 불러온다고 적었습니다.
생각 토큰은 출력 요금으로 셉니다.
비유답만이 아니라 연습장에 쓴 계산 과정까지 돈을 내고 받는 셈입니다.
확장 사고(thinking)를 켜면 모델이 답하기 전에 쓰는 생각도 출력 토큰으로 청구되고, 요청 하나에 수만 토큰이 될 수 있다고 Claude Code 문서에 적혀 있습니다.
하위 에이전트와 에이전트 팀은 각자 창을 씁니다.
비유일을 여러 사람에게 나눠 맡기면 사람마다 자료집을 따로 복사해 줘야 하는 것과 같습니다.
하위 에이전트와 워크플로도 각자 요청을 보냅니다. Claude Code 문서는 에이전트 팀이 plan 모드에서 일반 세션보다 약 7배 토큰을 쓰고, 팀원마다 자기 컨텍스트 창이 있어 대략 인원 수에 비례한다고 적었습니다.
그래도 하네스를 쓰는 이유
토큰은 낭비가 아니라 일을 해내는 데 드는 재료에 가깝습니다. 다만 같은 내용을 되풀이해 보내는 몫은 캐시로 줄일 수 있습니다.
토큰을 많이 쓰는 만큼 결과가 좋아지는 일이 많습니다.
Anthropic 의 BrowseComp 평가에서 성능 차이의 80%를 토큰 사용량 하나가 설명했고, 도구 호출 횟수와 모델 선택까지 세 요인을 합치면 95%였습니다. 멀티 에이전트는 각자 별도 창을 써서 에이전트 하나의 창에 다 담지 못하는 일에 토큰을 더 쓸 수 있게 하는 방식입니다.
지연과 비용을 내주고 더 나은 결과를 얻는 거래입니다.
Anthropic 은 에이전트 시스템이 대개 시간과 돈을 더 쓰는 대신 일을 더 잘 해낸다고 보고, 가장 단순한 방법부터 찾고 필요할 때만 복잡하게 만들라고 권했습니다. 에이전트를 아예 만들지 않는 것이 답일 수도 있다고 적었습니다.
앞에서 보낸 부분은 캐시가 싸게 만들어 줍니다.
비유자주 꺼내는 책은 책상 위에 두면 다시 찾는 값이 쌉니다. 다만 자리를 오래 비우면 치워집니다.
프롬프트 캐싱은 앞부분이 같은 요청을 다시 보낼 때 저장해 둔 결과를 씁니다. 캐시에서 읽는 값은 기본 입력의 0.1배이고, 처음 저장할 때는 5분 수명이면 1.25배, 1시간 수명이면 2배를 냅니다. 기본 수명은 5분이고, 너무 짧은 프롬프트는 캐시되지 않습니다.
오래 쉬었다 돌아오면 캐시를 놓쳐 전체를 다시 처리합니다.
Claude Code 문서 기준 캐시 수명은 구독 계정 1시간, API 키 기본 5분입니다. 이 시간을 넘겨 보낸 첫 메시지는 대화 전체를 다시 처리합니다. 세션을 켜 둔 채 기다리기만 할 때 드는 배경 작업 비용은 세션당 보통 0.04달러 미만입니다.
토큰 줄이는 법
Claude Code 공식 문서가 권하는 방법 가운데, 다른 하네스에도 그대로 옮겨 쓸 만한 것만 골랐습니다.
작업이 바뀌면 대화를 비웁니다.
Claude Code 의 /clear 는 비용이 들지 않습니다. 앞 작업의 파일과 로그를 들고 다음 작업을 하지 않게 됩니다.
요약할 때는 남길 것을 말해 줍니다.
/compact 는 대화를 요약해 줄이지만 요약 자체도 큰 요청입니다. 남길 내용을 지정하면 필요한 것만 남습니다.
구체적으로 요청합니다.
막연한 요청은 모델이 넓게 훑느라 파일을 많이 엽니다. 파일 이름, 함수 이름, 끝났다고 볼 기준을 같이 적습니다.
매번 실리는 지시 파일은 짧게 둡니다.
CLAUDE.md 는 세션마다 실리므로 200줄 이하를 권합니다. 특정 작업에만 필요한 지시는 필요할 때만 불려 오는 스킬로 옮깁니다.
안 쓰는 도구 서버는 끕니다.
MCP 서버를 켜 두면 도구 목록이 늘어납니다. 같은 일을 하는 명령줄 도구가 있으면 그쪽이 더 가볍다고 문서는 적었습니다.
시끄러운 일은 하위 에이전트에 맡기고 요약만 받습니다.
테스트 실행, 긴 로그 읽기처럼 출력이 많은 일은 하위 에이전트 창에서 하고 결과 요약만 메인 대화로 가져옵니다.
로그는 걸러서 넣습니다.
훅으로 ERROR 줄만 남기면 수만 토큰짜리 로그가 수백 토큰으로 줄어든다는 예시가 문서에 있습니다.
일에 맞는 모델을 고릅니다.
간단한 일까지 가장 큰 모델로 돌릴 필요는 없습니다. 생각 토큰도 필요한 만큼만 씁니다.
계획부터 보고, 엇나가면 일찍 멈춥니다.
plan 모드로 무엇을 할지 먼저 확인하고, 방향이 틀리면 Esc 로 바로 멈춥니다. 테스트 같은 검증 기준을 주면 같은 일을 여러 번 되풀이하지 않습니다.
컨텍스트 엔지니어링: 창을 아껴 쓰는 기술
컨텍스트 엔지니어링은 모델이 답을 만드는 동안 창 안에 어떤 토큰을 넣고 뺄지 고르고 유지하는 일입니다. Anthropic 은 창에 토큰이 많아질수록 모델이 그 안의 내용을 정확히 떠올리는 힘이 떨어진다고 보고(context rot), 주의력도 한정된 예산처럼 아껴 써야 한다고 설명합니다. 그래서 토큰을 줄이는 일이 돈만이 아니라 품질 문제이기도 합니다.
- 요약 압축
비유두꺼운 회의록을 한 장 요약으로 바꾸기
창이 차 갈 때 대화를 요약해 새 창에서 이어 갑니다(compaction).
- 창 밖 노트
비유책상 옆 메모장
할 일 목록이나 진행 기록을 파일로 남겨 두고 필요할 때 다시 읽습니다. 오래 도는 에이전트는 진행 파일과 git 기록으로 다음 세션에 넘깁니다.
- 하위 에이전트
비유심부름을 보내고 결과만 듣기
깊게 파는 일은 깨끗한 창을 가진 하위 에이전트가 하고, 메인에는 짧은 요약만 돌려줍니다.
- 필요할 때 읽기
비유책을 통째로 들고 다니지 않고 책 위치만 적어 두기
파일 경로 같은 식별자만 들고 있다가 필요한 순간에 도구로 읽습니다(just-in-time).
- 도구 결과 지우기
비유다 본 영수증 버리기
이미 쓴 오래된 도구 결과를 창에서 지웁니다.
지원자에게는 무슨 뜻인가
AI 에이전트를 만드는 자리에 지원한다면 알아 둘 점입니다. 공고가 요구하는 기술과 공부 순서는 AI 에이전트 개발자 커리큘럼에 있습니다.
AI 에이전트 개발 공고가 컨텍스트 관리와 비용 최적화 경험을 묻는 까닭은 같은 기능이라도 창에 무엇을 넣느냐에 따라 비용과 품질이 몇 배 달라지기 때문이라고 봅니다.
에이전트 하나가 채팅의 몇 배를 쓰고 사용자가 늘면 그만큼 원가가 커집니다. 모델을 잘 부르는 것보다 창을 잘 관리하는 사람이 서비스 원가를 지킵니다.
포트폴리오에는 "한 작업에 토큰을 얼마나 썼고 무엇으로 줄였는지"를 숫자로 남기면 면접에서 이야기할 거리가 생깁니다.
예를 들어 로그를 걸러 넣기 전과 뒤의 입력 토큰, 하위 에이전트로 나눈 뒤 메인 창 크기, 캐시 적중 전후 비용처럼 직접 잰 값을 적습니다.
면접 준비 질문으로는 "긴 대화가 왜 품질을 떨어뜨리나", "하위 에이전트를 언제 쓰고 언제 안 쓰나", "캐시가 깨지는 경우는"을 권합니다.
자주 묻는 질문
- AI 하네스(에이전트 하네스)가 무엇인가요?
- 모델 바깥에서 도구 목록을 건네고, 모델이 부른 도구를 실제로 실행하고, 그 결과를 다시 모델에게 넣어 주며 일이 끝날 때까지 반복시키는 프로그램입니다. 대화가 창을 넘치면 요약해 줄이는 컨텍스트 관리도 맡습니다. 모델이 말이라면 하네스는 마구와 마차입니다.
- 하네스를 쓰면 왜 토큰을 많이 먹나요?
- 한 번 묻고 끝나지 않고 여러 바퀴를 돌기 때문입니다. 바퀴마다 지금까지의 대화, 도구 결과, 시스템 지시와 도구 목록을 통째로 다시 보냅니다. Anthropic 은 에이전트가 채팅보다 토큰을 약 4배, 멀티 에이전트 시스템은 약 15배 쓴다고 밝혔습니다.
- 같은 질문인데 긴 세션에서 하면 왜 더 드나요?
- 요청마다 대화 전체를 보내고 토큰 비용은 컨텍스트 크기에 비례하기 때문입니다(Claude Code 공식 문서). 긴 세션 끝에서 한 질문에는 앞에 쌓인 파일 내용과 로그가 함께 실립니다. 작업이 바뀌면 /clear 로 비우는 편이 쌉니다.
- 프롬프트 캐시는 무엇이고 얼마나 아껴 주나요?
- 앞부분이 같은 요청을 다시 보낼 때 저장해 둔 처리 결과를 쓰는 기능입니다. Claude API 문서 기준 캐시에서 읽는 값은 기본 입력의 0.1배이고, 처음 저장할 때는 5분 수명이면 1.25배, 1시간 수명이면 2배입니다. 수명을 넘기면 다시 전체를 처리합니다.
- 하위 에이전트를 쓰면 토큰이 줄어드나요, 늘어나나요?
- 메인 대화의 창은 줄고 전체 토큰은 늘 수 있습니다. 하위 에이전트는 자기 창에서 따로 요청을 보내고 메인에는 요약만 돌려주므로, 메인 창이 시끄러운 로그로 차지 않습니다. 다만 하위 에이전트가 쓴 토큰도 모두 비용입니다. Claude Code 문서는 에이전트 팀이 일반 세션의 약 7배를 쓴다고 적었습니다.
- /compact 와 /clear 는 무엇이 다른가요?
- /compact 는 지금까지의 대화를 요약해 짧게 만든 뒤 이어 가고, 요약을 만드는 것 자체가 큰 요청이라 비용이 듭니다. /clear 는 대화를 비우고 새로 시작하며 비용이 들지 않습니다. 같은 일을 이어 가면 /compact, 다른 일로 넘어가면 /clear 가 맞습니다.
- 멀티 에이전트는 언제 쓰나요?
- 여러 갈래를 동시에 조사해야 하고 한 에이전트의 창에 다 담기지 않는 큰 일에 씁니다. Anthropic 측정으로 채팅의 약 15배 토큰을 쓰고, 같은 글은 일의 값어치가 늘어난 비용을 감당할 만큼 커야 한다고 적었습니다. 파일 몇 개를 고치는 일은 에이전트 하나로 충분합니다.
- Claude Code 를 쓰면 보통 하루에 얼마가 드나요?
- Claude Code 공식 문서 기준 기업 배포에서 개발자 한 명의 평균은 활동일 하루 약 13달러, 한 달 150~250달러이고, 사용자의 90%는 하루 30달러 아래입니다. 쓰는 모델, 세션 길이, 하위 에이전트 사용에 따라 달라집니다.
이 페이지가 다루지 않는 것
- 4배, 15배, 80%는 Anthropic 이 자기 조사 시스템과 BrowseComp 평가로 잰 값입니다. 일의 종류와 모델이 다르면 값도 달라집니다.
- 비용 숫자와 줄이는 법은 Claude Code 공식 문서 기준입니다. 요금 단가는 바뀌므로 실제 값은 각 서비스의 공식 가격표를 봅니다.
- 다른 회사 하네스(코딩 에이전트, 브라우저 에이전트)의 토큰 사용량은 이번에 공식 문서로 확인하지 않았습니다. 같은 뼈대라는 문장은 입사전 판단입니다.
- 특정 제품을 권하는 글이 아닙니다. 제품 이름은 숫자의 출처를 밝히려고만 썼습니다.
근거 자료
- Anthropic Engineering, How we built our multi-agent research system 2025-06-13 게시, 2026-10-17 원문 확인
- Anthropic Engineering, Building effective agents 2024-12-19 게시, 2026-10-17 원문 확인
- Anthropic Engineering, Effective context engineering for AI agents 2025-09-29 게시, 2026-10-17 원문 확인
- Anthropic Engineering, Effective harnesses for long-running agents 2025-11-26 게시, 2026-10-17 원문 확인
- Claude Code 공식 문서, Manage costs effectively 2026-10-17 원문 확인
- Claude API 공식 문서, Prompt caching 2026-10-17 원문 확인
블로그, 커뮤니티 글, 유튜브, 뉴스 기사는 출처로 쓰지 않았습니다. 원문 문장은 옮기지 않고 우리 말로 새로 썼습니다.
이어서 볼 것: 에이전트를 만드는 개발자가 되려면 AI 에이전트 개발자 커리큘럼, 브라우저를 대신 다루는 AI 도구를 고르려면 AI 브라우저 비교.