caveman: минус треть токенов за счёт того, что агент меньше читает

Каждый лишний токен — это деньги. Когда агент читает весь файл, чтобы поменять одну строку, а потом отвечает тремя абзацами там, где хватило бы строки, счёт растёт незаметно. У проекта caveman на это очень прямолинейный взгляд, вынесенный прямо в девиз: «зачем много токен, когда мало токен тоже трюк».

За шуткой стоит серьёзная инженерия — и один пункт, из-за которого мы советуем не торопиться со встраиванием.

Это два разных продукта

Первое, что путает: под одним именем живут две разные вещи, с разными лицензиями и разной степенью вмешательства в вашу работу.

Навык — это оригинальная идея, с которой проект начинался. Агент отвечает в сжатом «пещерном» стиле: короткие фразы, без вводных и вежливых оборотов. Код, команды и тексты ошибок при этом остаются точными — сокращается именно болтовня вокруг них. В примере из документации обычный ответ на 69 токенов превращается в 19.

Прокси — это вторая версия и совсем другая история. Он встаёт между вашим агентом и провайдером, и сжимает то, что уходит в запросе, с возможностью точного восстановления. Пароли и токены доступа проходят насквозь, ответы не меняются.

Что говорит бенчмарк

Цифра, которую проект выносит в заголовок: 33,2% меньше входных токенов по данным самого провайдера. Условия у неё указаны честно — фиксированный прогон Claude Code, 54 запуска, и все 18 проверок на точность ответа пройдены.

С чего начать — не с установки

Самое полезное здесь можно сделать, ничего не подключая к рабочему процессу. Команда caveman learn читает историю ваших сессий, которая и так лежит на диске, и показывает, куда уходят токены. Локально, только на чтение, без регистрации.

npm install -g @caveman-ai/cli
caveman setup --install
caveman learn

Отчёт полезен сам по себе, даже если дальше вы ничего не поставите: он показывает, насколько глубоко каждая сессия уходила в окно контекста и во что это обходилось за месяц.

Если хочется попробовать экономию — начинать разумнее с навыка. Он ничего не перехватывает:

npx skills add JuliusBrussee/caveman

И только потом, если результат понравился, подключать прокси:

caveman claude

Лицензия — главная причина осторожности

Здесь придётся вчитаться, потому что от этого зависит, можно ли строить на инструменте что-то своё.

1. 1

   MIT — свободная часть

   Навык, SDK, командная строка, клиентские библиотеки. С этим можно делать что угодно, включая коммерческое использование.

2. 2

   BSL-1.1 — ядро

   Движок, прокси, механизм сжатия, MCP-сервер. Исходники можно читать, форкать и поднимать у себя для собственного трафика — включая продакшн. Но это не открытая лицензия в привычном смысле.

3. 3

   Что запрещено

   Предоставлять это третьим лицам как хостируемый или встроенный сервис без коммерческой лицензии. То есть построить на нём свой продукт для клиентов — нельзя без договорённости.

4. 4

   Что будет потом

   Каждая версия под BSL автоматически становится Apache-2.0 через четыре года после выпуска или к 21 июня 2030 года — что наступит раньше.

Почему стоит подождать

Инструмент работает, экономия реальная, документация подробная, а команда caveman learn полезна даже без установки остального. Это сильные стороны.

Но три вещи заставляют подождать. Ядро под несвободной лицензией — а это именно та часть, которая даёт основную экономию. Проекту меньше полугода, при этом он уже выпустил вторую версию с полной сменой архитектуры: темп впечатляет, но устоявшимся его не назовёшь. И прокси по определению встаёт в середину вашего рабочего процесса — точка отказа там, где раньше её не было.

Разумный путь: запустить caveman learn и посмотреть отчёт, попробовать навык под MIT, а прокси оставить на потом — когда проекту исполнится год и станет видно, куда он движется.