caveman
114kРежет расход токенов примерно на треть. Работает, но ядро под несвободной лицензией — прочитайте условия до того, как встраивать.
Сверили заявленный бенчмарк со своим запуском: расход токенов упал примерно на треть, цифры сходятся.
В цифрах
меньше расход токенов
Что это
caveman сокращает то, что агент вычитывает из проекта, ещё до того, как это попадёт в модель. За счёт этого расход токенов снижается примерно на треть.
Идея в том, что экономить выгоднее на входе: чем меньше лишнего попадает в контекст, тем дешевле каждый шаг агента. Это пригодится тем, кто платит за токены или упирается в лимиты и хочет растянуть их без смены модели.
Как устроено
context
Урезает то, что агент вычитывает из проекта, до того как это уйдёт в модель.
Знать до установки
Ядро распространяется под несвободной лицензией. Для коммерческого проекта это вопрос к юристу, а не к разработчику: прочитайте условия до того, как встраивать.
Читать разбор
Мы разобрали этот инструмент подробно — что он умеет, где подводные камни и кому подойдёт.
Комментарии