Галлюцинации нейросети: почему ИИ путает факты о вашем бренде

Представьте сцену. Человек выбирает подарок, заходит в ChatGPT и спрашивает: «Можно ли вернуть товар, если он не подошёл, в интернет-магазине mysite.com?» Бот отвечает без запинки: «Да, у mysite.com действует 30-дневный возврат без объяснения причин, деньги возвращают в течение трёх рабочих дней». Звучит убедительно, с конкретными цифрами. Проблема в одном: на сайте написано «14 дней, только для неиспользованного товара в оригинальной упаковке», а возврат денег занимает до двух недель. Человек приходит с этим ответом в руках — и магазину приходится не продавать, а оправдываться.

Это не единичный глюк и не баг конкретной модели. То же самое происходит, когда спрашивают про цену тарифа, совместимость продукта с чем-то ещё, срок гарантии или даже просто «в какой отрасли вы работаете». Если вы ни разу не спрашивали крупную нейросеть «расскажи о компании [название вашего бренда]» — попробуйте, и удивитесь: часть фактов в ответе может быть просто придумана — слита из описания похожей компании, устаревшего кэша или усреднённого представления о «типичном магазине такого профиля».

В индустрии это называют галлюцинацией — не в психиатрическом смысле, а в смысле: модель выдаёт текст, который выглядит как факт, но фактом не является. Важная деталь: ИИ не «врёт» в человеческом понимании — он не знает, что ошибается, и не пытается никого обмануть. Он делает именно то, для чего создан: генерирует правдоподобное продолжение текста. Разница между «правдоподобно» и «правда» — это и есть то, что бизнесу стоит понимать прежде, чем доверять ИИ-ответам о себе.

Языковая модель — это не база данных с фактами и не поисковик с индексом страниц. По сути это статистический механизм предсказания следующего слова (точнее, токена) на основе огромного массива текста, который она видела при обучении. Когда вы спрашиваете «сколько стоит тариф X у компании Y», модель не «идёт проверять» — она генерирует последовательность слов, которая статистически похожа на то, как в её обучающих данных обычно отвечают на подобные вопросы про подобные компании. Если в данных реально был прайс-лист компании Y — повезло, ответ может оказаться точным. Если нет — модель всё равно сгенерирует ответ, потому что «я не знаю» для неё тоже всего лишь один из вариантов продолжения текста, причём статистически куда менее вероятный, чем связный, уверенный ответ с цифрой.

Отсюда ключевой вывод: тон ответа не связан с его точностью. Модель формулирует «я абсолютно уверен, что это так» и для фактов, которые помнит дословно, и для фактов, которые по сути досочинила по аналогии — одинаково гладко, одинаково уверенно. У человека неуверенность часто слышна в голосе; у языковой модели нет встроенного индикатора «это я точно знаю» против «это я, скорее всего, выдумал» — если её специально не попросить явно оценить уверенность, а даже тогда сама оценка может быть неточной.

Галлюцинации усиливаются в трёх предсказуемых ситуациях. Первая — малоизвестные темы: если про вашу компанию в интернете мало текста (несколько страниц сайта, пара упоминаний), модели банально не на чем строить ответ, и она «достраивает» недостающее по аналогии с более известными конкурентами или типичным представителем отрасли. Небольшой локальный бизнес страдает от этого сильнее крупного бренда просто потому, что про крупный бренд в обучающих данных на порядки больше текста. Вторая — недавние изменения: если вы подняли цены на прошлой неделе, запустили новый тариф или поменяли условия доставки, модель с фиксированной датой среза обучения физически не может об этом знать — она отвечает тем, что «помнит», а помнит она состояние дел на момент сбора данных, иногда многомесячной давности. Третья — точные числа и даты: модели в принципе хуже запоминают конкретные цифры, чем общий смысл текста, потому что при сжатии миллиардов примеров в веса нейросети точные значения — самое «дорогое» для точного воспроизведения; сгенерировать правдоподобную, но не ту цифру статистически и дешевле, и вероятнее.

Один из способов снизить галлюцинации — не заставлять модель отвечать по памяти, а дать ей сначала найти релевантный документ (например, страницу вашего сайта) и уже на его основе сформулировать ответ. Этот подход называется RAG (retrieval-augmented generation, генерация с подключением поиска) — подробно мы разбирали его в статье «RAG простыми словами». Если коротко: вместо экзамена по памяти модели разрешают принести с собой учебник — актуальную страницу с ценами, FAQ или документацией — и отвечать, опираясь на неё, а не на то, что она когда-то «прочитала» при обучении.

ChatGPT с включённым поиском, Perplexity, Copilot и Google AI по умолчанию всё активнее работают именно так: сначала ищут, потом генерируют ответ на основе найденных страниц, часто со ссылкой на источник. Это ощутимо снижает долю чистых выдумок — особенно по темам, которые плохо представлены в обучающих данных, но хорошо задокументированы на вашем сайте прямо сейчас.

Но RAG — это смягчение проблемы, а не её устранение. Во-первых, модель всё равно может исказить цифру при пересказе: прочитать «от 990 ₽» и написать «около 1000 ₽», прочитать «14 дней» и написать «две недели, иногда больше». Во-вторых, поиск может найти не ту страницу — устаревший кэш, страницу конкурента с похожим названием, статью стороннего агрегатора с неточным описанием ваших условий. Какую именно страницу система сочтёт заслуживающей цитирования — отдельный вопрос; логику отбора источников мы разбирали в статье «Как ИИ-системы выбирают источники». В-третьих, не каждый запрос вообще запускает поиск — часть вопросов модель по-прежнему пытается закрыть по памяти, особенно если вопрос сформулирован расплывчато или без явного триггера на свежие данные.

Грамотная выдача источников снижает риск, но не обнуляет его: «подготовить сайт для ИИ» один раз и забыть не выйдет. Нужно регулярно проверять, что именно модели говорят — по каждому конкретному факту, а не только по факту вашего существования в ответе.

Галлюцинации распределены неравномерно по темам. На одни вопросы ИИ почти всегда отвечает корректно (общее описание сферы деятельности, крупные публичные факты), другие — регулярно превращает в лотерею. Вот типичные зоны риска.

Чем более узкая, свежая и численно точная информация — и чем меньше о ней вообще написано в открытом интернете — тем выше риск, что ИИ её выдумает, а не вспомнит.

Самый быстрый способ понять масштаб проблемы — не читать очередную статью про галлюцинации (хотя спасибо, что читаете эту), а спросить у трёх-четырёх ИИ-систем, что они знают о вас. Ниже — шаблон, который можно скопировать и вставить в ChatGPT, Perplexity, Gemini или Copilot почти без изменений.

Отвечай только по своим внутренним знаниям, без веб-поиска, если его можно отключить.

1. Расскажи, чем занимается компания [название] и в каком городе/регионе она работает.
2. Назови её текущие цены или тарифы на [конкретный продукт/услугу].
3. Опиши условия возврата, гарантии или отмены заказа.
4. Сравни её с [конкурент 1] и [конкурент 2] — в чём ключевые отличия.
5. Для каждого пункта выше отдельно укажи: насколько ты уверен в ответе и что из этого может быть устаревшим или неточным.

После ответа я сверю каждый пункт с официальным источником и отмечу расхождения.

Повторите тот же набор вопросов в режиме с включённым поиском, если он доступен, и сравните два ответа между собой. Расхождение между «ответом по памяти» и «ответом с поиском» само по себе полезный сигнал: оно показывает, какие факты о вас система не может достать из обучающих данных и вынуждена искать заново при каждом запросе. Если в обоих режимах ответ одинаково неверный — это более тревожный случай: значит, даже поиск не находит правильный актуальный источник, который можно было бы процитировать.

Многие компании, начиная следить за присутствием в ИИ-ответах, сперва проверяют простую вещь: «нас вообще называют, когда спрашивают про нашу нишу?» Это разумный первый шаг, но его недостаточно. Упоминание с неверной ценой или выдуманным условием возврата может навредить сильнее, чем отсутствие упоминания вообще — потому что пользователь получает не пустоту, а ложную уверенность, причём от имени вроде бы нейтрального источника. Разница между простым упоминанием бренда, точной цитатой вашей страницы и ссылкой-источником разобрана в статье «Упоминания, цитирования и ссылки — в чём разница».

Значит, мониторинг видимости в ИИ должен проверять не только факт появления бренда в ответе, но и содержание самого ответа — конкретные цифры, формулировки, сравнения с конкурентами. Разовая проверка вручную («я спросил ChatGPT, вроде всё ок») почти ничего не гарантирует: ответ на тот же вопрос может отличаться у разных моделей, меняться со временем и зависеть от формулировки запроса. Регулярное отслеживание конкретных, заранее заданных промптов по вашей тематике — подход, который мы подробно разбирали в статье «Как измерить видимость бренда в ответах ИИ» — превращает случайные находки в управляемый процесс.

Именно для этого в SEO Control есть модуль AI Control: он прогоняет заданный набор промптов через реальные ChatGPT, Perplexity, Copilot, Gemini и Google AI на регулярной основе и сохраняет не только факт упоминания, но и текст самого ответа с историей изменений — чтобы заметить, если модель вдруг начала путать вашу цену, политику возврата или сравнение с конкурентом, раньше, чем это заметит клиент.

Судиться с чат-ботом бессмысленно, а жаловаться в поддержку разработчика модели по одному неверному ответу — долго и обычно безрезультатно. Рабочий путь другой: сделать так, чтобы у ИИ физически было меньше поводов выдумывать, и регулярно проверять, что он всё-таки говорит.

• Опубликуйте точные факты в явном, легко извлекаемом виде — цены, условия возврата, характеристики товара — в FAQ, таблицах и структурированных блоках, а не только внутри длинных маркетинговых абзацев; это снижает нагрузку на «догадки» модели. Общие принципы такой подготовки разобраны в AI Readiness.
• Указывайте дату последнего обновления на ключевых страницах (цены, тарифы, условия) — это сигнал и пользователю, и ИИ-системам, какая версия информации актуальна.
• Проверяйте регулярно, а не разово: прогоняйте один и тот же набор вопросов о себе через несколько ИИ-систем с периодичностью — корректный месяц назад ответ мог устареть уже сегодня.
• Сравнивайте ответ о себе с ответом о прямых конкурентах — если ИИ путает вас между собой, это сигнал, что описания слишком похожи и нужно усилить уникальные формулировки и факты.
• Если нашли явную ошибку — исправьте её в первую очередь у себя (на сайте, в структурированных данных, в профилях на внешних площадках, которые индексируются); у большинства ИИ-систем нет прямого канала «исправьте этот один факт», зато есть постепенное исправление по мере переиндексации и дообучения.
• Ведите простой журнал расхождений: дата проверки, вопрос, что ответил ИИ, что на самом деле верно. Через несколько проверок станет видно, какие темы для вас — системная зона риска, а какие были разовой случайностью.