Как проверить ответы ИИ по базе знаний: тест на источники
Проверка ответов ИИ по базе знаний начинается с замороженного набора вопросов и заранее известных правильных ответов. Показываю протокол на четыре случая и правило честного отказа.

Проверка строится на фиксированном наборе вопросов и заранее известных правильных ответах. Для каждого ответа смотрите три вещи: совпадают ли факты с документом, ведёт ли ссылка на конкретный фрагмент и что агент делает, когда ответа в базе нет.
Он делает честный отказ.
Илья Чумаченков — запись сообщества, 00:52:08
Фактическая ошибка, отсутствие источника и выход за рамки
- Фактическая ошибка — ответ противоречит утверждённому документу базы.
- Факт без источника — ответ может быть верным, но ссылка не ведёт к подтверждающему фрагменту или её нет.
- Выход за рамки — вопрос вне базы; правильный исход — честный отказ и запрос новых документов.
- Неподтверждённое общее утверждение — отдельная категория. Возможно верное, но не опирающееся на базу суждение нельзя приравнивать к ложному.
Спикер рекомендует начать с небольшой выборки документов и проверить качество ответов до того, как база вырастет. Это снижает объём ручной сверки: вы проверяете не всю базу, а представительный набор случаев.
Набор контрольных вопросов
До проверки зафиксируйте формулировки вопросов, ожидаемые факты и версию базы. При обновлении документов создаётся новая версия набора, а старая остаётся для сравнения. Менять вопросы под новый ответ нельзя, иначе тест теряет смысл.
- Вопрос с прямым ответом в одном документе.
- Вопрос, требующий сведений из двух утверждённых документов.
- Вопрос, ответа на который в базе нет.
- Вопрос с конфликтующими или устаревшими источниками.
По словам спикера, ответ должен содержать ссылку на первоисточник и, когда это нужно, на предыдущий диалог. В его схеме запросы о продукте, продажах и правовых вопросах направляются к соответствующим частям базы. Для проверки из этого следует простое требование: ссылка открывает именно тот фрагмент, который подтверждает сказанное.
Добавьте проверку составного вопроса с частично известным ответом. Вымышленный учебный пример: в базе утверждены дата и формат встречи, но цена не указана. Заранее задайте правило для такого случая. Если помощнику разрешён частичный ответ, он сообщает подтверждённые сведения с источником, а по цене объясняет, какого документа не хватает. Отдельно проверьте, не подставилась ли стоимость другой встречи. Правильная дата не делает весь ответ подтверждённым.
Заполненный протокол проверки ответа
| Вопрос | Ожидаемые факты | Ответ агента | Ссылка и фрагмент | Вердикт | Найденный пробел |
|---|---|---|---|---|---|
| Частота отчёта по проекту | Каждую пятницу, регламент проекта, пункт 3 | Каждую пятницу | Регламент проекта, пункт 3 | Верно | Нет |
| Ответственный за согласование письма | Автор и руководитель направления по двум документам | Только автор | Инструкция автора | Неполный ответ | Не учтён регламент согласования |
| Срок запуска нового продукта | Ответа в базе нет | Запуск 15 декабря | Ссылки нет | Нет основания в базе | Нужен утверждённый план |
| Размер бюджета на новый период | Новый бюджет не утверждён | 18 процентов от выручки | Бюджет прошлого периода | Устаревший источник | Нужен утверждённый документ |
Как читать протокол. Ошибка в факте — повод проверить актуальность источника, найденный фрагмент и правила ответа. Исправляйте документ, только если неверен сам источник. Отсутствие ссылки при верном ответе — пробел в подготовке базы, а не повод хвалить ответ. Если помощнику разрешено отвечать только по базе, ответ без опоры на неё нарушает это правило, даже когда сам факт верен. Такой случай отделяйте от фактической ошибки.
При расхождении сначала найдите его причину. Правильный документ не попал в ответ — проверьте поиск и доступность источника. Найден актуальный раздел, но вывод ему противоречит — разберите правила ответа. Два действующих документа дают разные условия — передайте вопрос владельцу материалов и дождитесь согласования. Исправление формулировки ответа не устраняет конфликт в самой базе.
Честный отказ и повторный тест после обновления
По словам спикера, при отсутствии ответа в базе агент должен сообщить, что материала нет, и запросить новые документы. Отказ без объяснения и запроса бесполезен: читатель не понимает, чего не хватает.
Повторный тест проводят на том же наборе вопросов после обновления базы. Сравнивают не общее впечатление, а каждый вопрос: что исправилось, что осталось, не появилось ли новых ошибок. В записи отдельно упоминаются валидация ответа и цитирование при настройке агента, но внутреннее устройство системы в статье не разбирается.
Сохранённые вопросы полезны для повторной проверки исправления, но постепенно добавляйте отдельные новые формулировки с тем же смыслом. Помощник должен находить основание и для непривычного вопроса. Храните результаты двух проверок раздельно: исправились ли прежние ошибки и справляется ли система с новыми случаями. Так удачный ответ на знакомую фразу не станет единственным основанием для расширения базы. Для нового случая заранее подтвердите ожидаемый ответ в документе: эталон не должен подстраиваться под формулировку помощника.
Чем проверка ответов агента отличается от проверки обычного текста, разобрано в статье как проверять материалы ИИ перед публикацией. Правила работы команды описаны в материале регламент использования ИИ в маркетинговой команде.
Если хотите показать свой набор контрольных вопросов и получить замечания, приходите в сообщество CMO.PRO.


