Контекст
Контекст — это весь текст, который языковая модель учитывает при генерации ответа: история диалога, присланные файлы, системные инструкции. У каждой модели есть ограничение на объём контекста в токенах; когда диалог становится слишком длинным, ранние сообщения «выпадают», и модель может забыть, о чём шла речь.
В длинных сессиях работы с ИИ-агентом над кодом нехватка контекста — частая причина, почему агент «забывает» про уже сделанные правки.
Обновлено: