Галлюцинация — это ответ, который выглядит правильным и правдой не является. Языковая модель не проверяет факты: она продолжает текст так, чтобы продолжение звучало складно, поэтому выдуманная цена выходит такой же гладкой фразой, как настоящая.
Лечится это не выбором модели, а устройством вокруг неё: отвечать только по найденным документам, показывать ссылку на источник, передавать вопрос человеку там, где документа нет, и проверять ответ перед отправкой.
Суть: почему «не знаю» даётся труднее, чем выдумка #
Модель — продолжатель текста. Она получает вопрос и подбирает следующее слово, потом ещё одно, каждый раз то, которое лучше ложится в начатую фразу. Внутри нет справочника, где можно посмотреть вашу цену, и нет сигнала «вот этого я не знаю».
Отсюда первое следствие: уверенность тона и верность факта тут не связаны. Строка «доставка по Москве — 500 рублей, два рабочих дня» собирается по тем же правилам, что и строка с вашей настоящей ценой. Разницы в тексте нет — ни интонации сомнения, ни оговорки.
Второе следствие — про «не знаю». В текстах, на которых модель училась, за вопросом почти всегда идёт ответ: статьи, форумы, инструкции, переписка. Признание «не могу ответить» почти никто не публикует. Для модели ответ — привычная форма, отказ — редкая, и без прямого указания она выберет привычную.
Третье: модель не отличает вопрос об устройстве мира от вопроса о вашей компании. Про доставку вообще она знает много — из тысяч чужих магазинов. Этого хватает, чтобы собрать правдоподобный ответ про ваш, не имея о нём ни одного факта.
Поэтому «какая модель меньше врёт» — не тот вопрос. Сильная модель аккуратнее формулирует, но ваших цен не знает так же, как слабая. Про то, на что выбор модели действительно влияет, — в статье о выборе нейросети.
Разбор: что выдумывается чаще всего #
Галлюцинации распределены неравномерно. Врёт модель там, где от неё ждут короткого конкретного факта — такого, который легко придумать и трудно сразу проверить.
Цены, скидки, пороги #
Самая частая выдумка и самая дорогая. Модель называет круглое число, добавляет «от» или «при заказе свыше», и ответ выглядит как выдержка из прайса. Сотрудник пересказывает это клиенту, и клиент считает названное условием компании.
Сроки #
«Обычно два-три рабочих дня», «в течение недели». Фраза звучит как опыт, а взята из общего представления о том, сколько это занимает у кого-то ещё. На нестандартном объёме она расходится с реальностью в разы.
Возврат, гарантия, отмена #
Здесь модель подменяет ваши условия усреднёнными: четырнадцать дней, товарный вид, чек. В договорных услугах она не угадывает почти никогда — там условия написаны конкретно под вас.
Ссылки и адреса страниц #
Модель достраивает адрес по образцу: раз есть раздел «Доставка», значит, есть и страница с адресом вроде /dostavka. Выглядит убедительно, открывается ошибкой.
Названия документов и пункты регламента #
Самый неприятный случай в корпоративной работе. «Согласно пункту 5.3 положения о командировках» — пункта с таким номером может не быть вовсе, а положение называться иначе. Сотрудник ссылается на него в письме, и ошибка уходит дальше по переписке.
Общее у всех этих случаев одно: ошибку видно только тому, кто знает правильный ответ. А обращаются к ассистенту как раз те, кто не знает.
Что снижает риск #
Работающих приёмов немного, и они дают эффект только вместе.
Отвечать только по найденным документам. Вопрос сначала уходит в поиск по вашим материалам, найденное подставляется в запрос к модели, и модель получает прямое указание отвечать по нему и ничего не добавлять. Так она перестаёт быть источником фактов и становится тем, кто складывает ответ из ваших. Сама схема разобрана в статье что такое RAG, а её части — в статье про устройство RAG-системы.
Показывать ссылку на источник. Каждый ответ сопровождается ссылкой на документ, из которого он собран. Это не украшение: источник превращает проверку в один щелчок. Сотрудник открывает документ, видит нужный абзац и либо убеждается, либо сразу замечает расхождение.
Передавать человеку там, где документа нет. Отсутствие ответа должно быть разрешённым исходом, а не неудачей: если в материалах ничего не нашлось, правильное поведение — сказать об этом и позвать сотрудника. Настраивается это заранее — порогом, ниже которого найденное не считается ответом, и списком запрещённых тем.
Проверять ответ перед выдачей. Готовый текст сверяется с найденными документами до того, как его увидит человек: цифры, цены, ссылки, номера пунктов. Не сошлось — ответ правится или не отправляется. Это последний рубеж, и он нужен именно потому, что предыдущие три не дают стопроцентной защиты.
Чего в списке нет — дообучения модели на ваших документах. Против галлюцинаций приём работает плохо: выученное растворяется в общих знаниях модели, выдумка от него не отличается, а ссылку на источник брать уже негде. Когда дообучение всё-таки имеет смысл — в статье RAG или дообучение модели.
И то, что недооценивают чаще всего: все четыре приёма упираются в качество материалов — противоречивых документов ни один из них не исправит. Как собрать базу, чтобы такого не было, — в статье про базу знаний.
Как это устроено у нас #
Мы собираем базу знаний компании и ассистента, который отвечает сотрудникам по документам и даёт ссылку на документ-источник. Против выдумок в нём работают три вещи.
Поиск гибридный — по смыслу и по словам одновременно. Поиск по смыслу спотыкается на артикулах и номерах приказов, поиск по словам не находит документ, где то же самое названо иначе. Вместе они дают меньше случаев «ничего не нашлось» — а сочинять модель начинает именно в них.
Чего нет в документах, ассистент не придумывает, а передаёт человеку. Это поведение по умолчанию, а не настройка, которую можно забыть включить.
Проверка фактов перед отправкой. Это тот самый последний рубеж, и у нас с ним вышла поучительная история. Сначала проверка работала грубо: нашла в готовом ответе ссылку, которой нет в документах, — весь ответ в брак, человек получает «уточню и вернусь». Это оказалось хуже самой галлюцинации: верное объяснение на три абзаца пропадало из-за одной строки в конце, и сотрудник оставался без ответа, который у системы был.
Теперь проверка правит ровно то, что не сошлось. Выдуманный адрес страницы заменяется на настоящий из найденного документа, а если настоящего нет — ссылка убирается, и ответ доходит без неё. Цифра, которой нет в источнике, вычёркивается вместе с фразой. Остальной текст остаётся. Принцип получился простой: чинить строку, а не выбрасывать ответ; целиком — только когда на непроверенном факте держится весь ответ.
Серверы в России, персональные данные обезличиваются до отправки в модель. По умолчанию работаем на GigaChat и YandexGPT, можно и на модели внутри вашей сети — документы компании за пределы её контура уходить не обязаны.
Как проверять: не обещания, а поведение #
Фраза «у нас ассистент не галлюцинирует» не значит ничего, кем бы она ни была сказана. Проверяется это одним способом — вопросами, ответов на которые в загруженных документах заведомо нет. На вопросах из документов прилично выглядит любая система, разница видна только за их границей.
Соберите список из десяти таких вопросов до демонстрации. Рабочие заготовки:
- условие, которого у вас не бывает: «дайте рассрочку на год»;
- услуга или товар, которых нет в прайсе;
- пункт регламента с выдуманным номером: «что написано в пункте 7.4»;
- цена для случая, который у вас всегда считается индивидуально;
- срок на объём, который вы никогда не делали;
- документ, который вы не оформляете;
- вопрос про отдел, чьи документы на пилот не загружали.
Хороший ответ выглядит так: прямо сказано, что в документах этого нет, предложено передать вопрос человеку, и ни одной цифры не названо. Плохой — любой конкретный ответ, а ещё обороты «как правило» и «обычно это занимает»: почти всегда признак того, что ответ взят из общих представлений.
Отдельно проверьте ссылки руками: откройте три-четыре из тех, что ассистент дал на обычных вопросах. Ссылка должна открываться и вести в документ, где действительно написано то, о чём шла речь. Ссылка в ошибку означает, что проверки перед выдачей нет, и это говорит о системе больше любой презентации.
Гарантия точности в процентах — повод насторожиться: посчитать такую цифру можно только на каком-то наборе вопросов, а набор выбирает тот, кто обещает. Мы таких гарантий не даём. Вместо них на пилоте есть проверка на сорока вопросах, и вопросы в списке ваши, а не наши. Готовых кейсов внедрения у заказчиков у нас пока нет — услуга молодая, и проверять нас стоит тем же списком, что и любого другого.
Сколько стоит и от чего зависит #
Проверка фактов, ссылки на источник и передача человеку — не отдельные опции, а часть работы. Платите вы за сбор базы и внедрение. Цены на 23 октября 2026 года:
| Что | Стоимость и срок |
|---|---|
| Аудит: карта документов, с какого отдела начать | Бесплатно, 30 минут |
| Пилот: один отдел, до 300 документов, проверка на 40 вопросах | от 150 000 ₽, 3–4 недели |
| Внедрение: несколько отделов, права доступа, автообновление, 1С, Битрикс24, Диадок | от 500 000 ₽, 6–10 недель |
| Сопровождение: обновление базы, контроль ответов, отчёт по вопросам | от 40 000 ₽ в месяц |
Цена и срок зависят от количества документов, числа отделов и числа источников, из которых базу придётся собирать и потом обновлять. Подробнее о составе работ — на странице корпоративной базы знаний.
Если проект такого размера велик, есть платформа по подписке: от 7 000 ₽ в месяц плюс настройка от 15 000 ₽. Базу на платформе собираем мы, запуск занимает от 3 до 10 дней. Приёмы против выдумок те же, масштаб меньше: без прав доступа по отделам и без интеграций с учётными системами.
Где это не работает #
Совсем галлюцинации не исчезают. Задача решается не до нуля, а до другого качества ошибок: вместо крупных и незаметных остаются мелкие и видимые. Обещание нуля — реклама.
Проверка сверяет ответ с документом, а не с реальностью. Если регламент устарел, ассистент даст ответ, верный по источнику и неправильный по жизни, и ссылка это подтвердит. Лечится обновлением базы, а не моделью: раз в месяц просмотреть вопросы без ответа и поправить документы.
Противоречия в документах. Два документа с разными условиями — проверка пропустит любой из двух ответов, оба подтверждены источником. Разбирать расхождения приходится людям, обычно при сборе базы.
Расчёты и выводы из нескольких условий. Сложить скидку, надбавку за срочность и срок по трём правилам сразу модель может неверно, даже если все исходные цифры нашла правильно. Такое лучше отдавать калькулятору или сотруднику, а ассистенту оставлять поиск правил.
Толкование. «Подходит ли наш случай под пункт 4.2» — не вопрос к ассистенту: он покажет пункт и смежные, решение за человеком. Это не дефект, а граница.
Чего у нас нет совсем: распознавания голоса в корпоративном ассистенте и интеграции с SAP. Если задача закрывается одной инструкцией на стене или поиском по общей папке, ассистент не нужен — дешевле навести порядок в файлах.
Частые вопросы #
Что такое галлюцинации нейросети простыми словами? #
Это выдуманный ответ, который выглядит как настоящий. Модель не врёт намеренно: она продолжает текст правдоподобно, и выдумка получается такой же гладкой, как правда. Опасность не в самой ошибке, а в том, что по виду ответа её не отличить.
Почему нейросеть не отвечает «не знаю»? #
Потому что в текстах, на которых она училась, за вопросом почти всегда идёт ответ, а отказ встречается редко. И внутри нет механизма, который отличал бы «знаю» от «не знаю»: фразу модель собирает одинаково уверенно в обоих случаях. «Не знаю» задаётся правилами снаружи — отвечать только по найденным документам, а когда их нет, передавать вопрос человеку.
Можно ли избавиться от галлюцинаций полностью? #
Нет. Можно сделать так, что ответы строятся только по вашим документам, каждый идёт со ссылкой на источник, а сомнительные места правятся перед отправкой — тогда остаточные ошибки становятся редкими и заметными. Полной гарантии эта технология не даёт, и обещания в процентах стоит считать рекламой.
Поможет ли более сильная модель или дообучение на наших документах? #
Сильная модель аккуратнее формулирует и лучше следует указаниям, но ваших цен и регламентов не знает — выдумывать будет так же. Дообучение растворяет документы в общих знаниях модели: ответ похож на правду, а проверить его по источнику уже нельзя. Работает другое — поиск по документам перед каждым ответом.
Как быстро заметить, что ассистент выдумал ответ? #
По ссылке на источник. Если ссылки нет — заметить нельзя никак, и это главный довод в пользу того, чтобы требовать её в каждом ответе. Со ссылкой проверка занимает несколько секунд: открыть документ и найти нужный абзац.
Как проверить это до того, как платить за внедрение? #
На аудите и пилоте, своими вопросами. Составьте список из десяти вопросов, ответов на которые в документах нет, и смотрите не на формулировки, а на поведение: признаёт ли ассистент отсутствие ответа, зовёт ли человека, открываются ли ссылки. Система, которая честно говорит «этого в документах нет», полезнее той, которая отвечает всегда: первой можно верить, когда она отвечает по делу.
