Контекстное окно в чате Ассистента

В контекстное окноМаксимальный объем информации в токенах, который модель может учесть в рамках одного запроса каждой модели в чате Ассистента входят:

• сообщения в чате — ваши вопросы, в том числе с контекстом задачи, и ответы Ассистента;
• сведения о доступных инструментах ТестОпс, инструментах внешних MCP-серверов, а также результаты их использования;
• контекст компании, проекта и агентов;
• встроенные правила работы Ассистента.

Размер контекстного окна в чате Ассистента

Размер контекстного окна задается отдельно для каждой модели в настройках интеграции с ИИ-провайдером. Если поле не заполнено, используется размер по умолчанию — 64000 токенов.

Важно

Управление размером контекстного окна по умолчанию доступно только в серверной версии ТестОпс.

Чтобы изменить размер контекстного окна по умолчанию, измените конфигурационные файлы ТестОпс в зависимости от вашего типа развертывания:

1. В файле values.yaml добавьте в секцию env.open параметр ALLURE_CHAT_COMPRESSION_MAXTOKENS (или в секцию, где задаются переменные окружения сервиса testops), например:

   env:
     open:
       ALLURE_CHAT_COMPRESSION_MAXTOKENS: 64000

2. Сохраните изменения и перезапустите ТестОпс.

Сжатие контекста в чате Ассистента

Сжатие контекста — это автоматическое сокращение истории чата Ассистента, когда она перестает помещаться в заданный размер контекстного окна. При сжатии Ассистент преобразует историю в краткое резюме и далее работает на его основе, чтобы уложиться в допустимый объем токенов.

Совет

Подробнее об индикаторе заполненности контекстного окна см. Работа в чате Ассистента → Заполненность контекстного окна в чате Ассистента.

Сжатие контекста начинается при отправке сообщения в чат, когда контекстное окно заполнено до заданного уровня. По умолчанию этот уровень составляет 80% от размера контекстного окна.

Важно

Управление сжатием контекста доступно только в серверной версии ТестОпс.

При необходимости порог сжатия контекста можно изменить, используя параметры:

• ALLURE_CHAT_COMPRESSION_TRIGGERPERCENTAGE — процент заполнения контекстного окна, при достижении которого выполняется сжатие (по умолчанию: 80);
• ALLURE_CHAT_COMPRESSION_CHARSPERTOKEN — среднее количество символов на один токен (по умолчанию: 4.0), используется для приблизительного подсчета токенов в тексте.

Чтобы изменить параметры сжатия контекста, измените конфигурационные файлы ТестОпс в зависимости от вашего типа развертывания:

1. В файле values.yaml добавьте параметры в секцию env.open (или в секцию, где задаются переменные окружения сервиса testops):

   env:
     open:
       ALLURE_CHAT_COMPRESSION_TRIGGERPERCENTAGE: 80
       ALLURE_CHAT_COMPRESSION_CHARSPERTOKEN: 4.0

2. Сохраните изменения и перезапустите ТестОпс.