Что такое Context Window (контекстное окно)?
Context Window (контекстное окно) — это максимальный объём текста, который модель искусственного интеллекта может учитывать за один раз при ответе. Сюда входят ваш запрос, предыдущая переписка, загруженный документ и ответ самой модели.
Простыми словами: представьте рабочий стол студента. На него помещается лишь определённое количество листов. Он может написать ответ, глядя на то, что лежит на столе, но не видит листов, которые не поместились. «Рабочий стол» искусственного интеллекта — это контекстное окно.
Как работает Context Window
- Размер измеряется в токенах. Модель считает текст не словами, а более мелкими частями (токенами). Длинное слово может состоять из нескольких токенов.
- Всё собирается в одном месте. LLM (большая языковая модель) помещает в окно запрос, предыдущие сообщения и документы вместе и пишет ответ на основе этой информации.
- Ответ тоже занимает место. Ответ, который пишет модель, тоже входит в это окно. По мере того как разговор затягивается, свободного места остаётся всё меньше.
- Когда окно заполняется, возникают проблемы. В зависимости от инструмента старые сообщения могут сокращаться, не учитываться или новый текст может не приниматься. Поэтому в длинном разговоре инструмент может «забыть» то, что вы говорили раньше.
- Размер окна разный. У разных моделей контекстное окно отличается и со временем меняется, поэтому конкретное число нужно проверять в официальной документации инструмента.
Большое окно позволяет модели учитывать больше информации одновременно, но это не гарантирует, что ответ всегда будет верным.
Практическое значение и применение Context Window
- Анализ длинных документов: модель с большим окном может за один раз прочитать длинную статью или фрагмент книги и сделать краткое изложение.
- Длинный разговор: в таких инструментах, как ChatGPT, то, что инструмент учитывает предыдущие сообщения, возможно благодаря контекстному окну.
- Программирование: передать модели большой файл с кодом и попросить найти ошибку.
- Образование: отправить конспект урока вместе с вопросом и получить объяснение.
Практические советы:
- Когда переходите к новой теме, начните новый разговор.
- Повторяйте важную информацию, когда она нужна.
- В начале длинной беседы кратко повторите важное, о чём говорили раньше.
- Разбивайте очень длинные документы на части и пишите чёткий запрос (Prompt Engineering).
Вывод
Context Window — это «рабочий стол» искусственного интеллекта: он определяет, сколько информации модель может видеть одновременно. Пользователь, который знает это понятие, понимает, когда инструмент может потерять прежние сведения, и строит запросы с учётом этого. Большое окно — преимущество, но оно не защищает от неверных ответов, поэтому результат всё равно нужно проверять.
Чтобы на практике узнать, как работают модели искусственного интеллекта, и научиться создавать на их основе проекты: курс по инженерии искусственного интеллекта (AI Engineering)
Часто задаваемые вопросы
Что такое Context Window?
Context Window — это максимальный объём текста, который модель искусственного интеллекта может учитывать за один раз при ответе.
Почему искусственный интеллект забывает то, что я говорил раньше, в длинном разговоре?
Потому что если разговор становится больше контекстного окна, инструмент может сокращать старые части или не учитывать их. Начать новый разговор и повторить важную информацию — значит снизить эту проблему.
Связанные термины
- (будет добавлено позже)
Полезные внешние источники
- Large language model — Wikipedia — общее объяснение больших языковых моделей (на английском языке)
- Context windows — документация Anthropic — техническое объяснение контекстного окна (на английском языке)

