Как работает LLM

Зачем это нужно

Когда понимаешь, как LLM думает, ты меньше веришь каждому красивому ответу на слово, задаешь более точные запросы и быстрее замечаешь ошибки, особенно в фактах и свежих новостях.

Теория

LLM не «знает» мир как человек. Она генерирует текст по шагам: на каждом шаге выбирает следующий токен (кусочек слова или целое слово), который статистически лучше подходит к предыдущему тексту. Поэтому ответ часто звучит уверенно и правдоподобно.

Но правдоподобно не всегда значит верно. Иногда модель «достраивает» несуществующие факты — это называют галлюцинацией. Ещё важно помнить: модель обучали на очень большом наборе данных (по сути, на огромной части публичного интернета и других текстов), но знания фиксируются до определенной даты. То есть в самой модели реальность как будто «заморожена» на момент последнего обновления данных.

Ещё важный момент: в модель уходит не только твой последний вопрос. Обычно туда попадает сразу несколько частей: системный промпт (скрытые правила поведения модели), твое текущее сообщение и контекст диалога (что уже было сказано выше в этом чате). Поэтому ответ зависит не только от одной последней фразы, но и от всей «истории» разговора.

Почему английский часто работает лучше

Исторически в обучающих данных было больше качественных текстов на английском, поэтому раньше ответы на английском заметно выигрывали. Сейчас для обычных задач разница часто небольшая, и большинству пользователей в русском интерфейсе уже комфортно.

Практика

Задание 1

1. Открой Gemini.
2. Отправь запрос: «Кто сейчас глава Ирана?»
3. Попроси модель добавить 2–3 источника с датами публикации.
4. Проверь, есть ли в ответе ссылки и можно ли по ним руками сверить факт.

Задание 2

1. В этом же чате задай правило: «С этого момента переводи все мои сообщения: с русского на английский и с английского на русский. Ничего не добавляй от себя.»
2. После этого отправь сообщение: «Кто сейчас глава Ирана?»
3. Посмотри, что модель, скорее всего, не ответит на вопрос по сути, а переведет фразу.
4. Напиши коротко своими словами, почему так произошло. Подсказка: модель учла правила и контекст этого чата, а не только последний вопрос.

Как понять, что всё получилось

• Ты увидел разницу между фактическим запросом и режимом «переводчик» в одном и том же чате.
• Ты понял, что на ответ влияет накопленный контекст диалога.
• Ты можешь объяснить, почему иногда нужно начать новый чат, чтобы убрать старые инструкции.

Проверь себя

Дополнительно

На практике в одном продукте часто работает не одна, а несколько моделей: основная отвечает на вопрос, а отдельная (обычно проще) может проверять безопасность, формат и риски в тексте перед показом пользователю.

И ещё полезный прием: в творческих и сложных задачах нормально сразу давать вторую итерацию, даже не разбирая первый ответ подробно, например: «перепроверь себя» или «это слабо, переделай лучше». Часто второй ответ лучше, потому что модель заново оценивает свой черновик, исправляет явные слабые места и уточняет формулировки по твоей обратной связи.