Контекстное окно

Контекстное окно — максимальный объём текста (в токенах), который нейросеть может обработать за один запрос. Чем больше контекстное окно, тем более длинные и сложные задачи модель выполняет.

Для мониторинга бренда это имеет прямое значение: при RAG-запросах нейросеть включает в контекст фрагменты из найденных документов. Большое контекстное окно позволяет включить больше источников — и ваш контент с большей вероятностью попадёт в итоговый ответ.

Современные флагманские модели поддерживают от 128K до 1M+ токенов, что эквивалентно нескольким книгам.