Токен
Токен — это кусочек текста (часть слова, слово или знак), которым языковая модель измеряет объём входящего запроса и ответа. Стоимость обращения к модели считается по токенам, поэтому длинный диалог или большой файл кода обходятся дороже короткого. Когда ИИ-агент «ходит по кругу», он расходует токены на каждую попытку.
Не путать с токеном авторизации (OAuth-токеном) — это разные понятия, совпадает только слово.
Обновлено: