Проверка источников и фактов в ИИ-ответах для библиотекарей

Генеративный ИИ может за несколько секунд составить список литературы, объяснить термин, подготовить справку или черновик ответа читателю. Но связный и уверенный текст еще не означает, что сведения в нем достоверны.

Для библиотеки это особенно важно: пользователь обычно воспринимает полученную справку или подборку как уже проверенную. Поэтому ИИ в библиотеке лучше использовать как инструмент подготовки черновика. Перед передачей читателю этот черновик нужно разобрать на проверяемые элементы и подтвердить во внешних источниках.

Общие риски и принципы такой работы разобраны в материале ЛаЛаЛани «Проверка информации от ИИ: инструкция для библиотекарей». Здесь сосредоточимся именно на проверке готового ИИ-ответа.

Нейросети могут ускорить подготовку тематических подборок, поиск литературы, справок и инструкций, текстов для сайта, объяснений терминов и материалов для мероприятий.

Уровень проверки зависит от задачи. Список идей для встречи можно использовать как основу для дальнейшей работы. Библиографическую справку, сведения о нормативных требованиях или статистику нельзя передавать пользователю без сверки.

Подробнее о том, почему убедительный ответ модели может содержать ошибки и выдуманные сведения, рассказывает материал «Проверка ChatGPT: промпты против ошибок и выдумок».

Не оценивайте длинный ответ целиком по принципу «звучит правдоподобно». Отдельно отметьте факты, даты, числа, имена, названия организаций, определения, цитаты, библиографические описания, ссылки на исследования и выводы.

Так проверка информации становится управляемой: для каждого утверждения понятно, какое подтверждение нужно найти. Особенно полезно отделять факты от интерпретаций модели. Фраза может быть логичной, но строиться на неверной дате или слишком широком выводе.

Если генеративный ИИ предлагает книгу, статью, исследование или документ, сначала найдите их независимо от ответа модели.

Сверьте автора, точное название, год, издательство или журнал, а при наличии — DOI, ISBN и другие идентификаторы. Проверьте запись в электронном каталоге, ЭБС или подходящей научной базе. Полное и аккуратно оформленное описание само по себе не доказывает существование публикации.

Если источник не удается найти независимо от ИИ, не переносите его в готовую библиографию или справку.

Найденный источник еще не подтверждает текст модели. Откройте первоисточник и найдите фрагмент, на который должен опираться вывод. Проверьте контекст, смысл и дату публикации.

ИИ может сослаться на реальную работу, но расширить вывод авторов или связать с ней утверждение, которого в публикации нет. Поэтому проверка источников включает два разных вопроса: существует ли публикация и действительно ли она подтверждает нужный тезис.

Для более подробной работы с научными первоисточниками пригодится материал «Поиск достоверной информации при работе над научной статьей: основы фактчекинга».

Повторно проверьте даты, числа, статистику, названия организаций и должностей, действующие правила, нормативные сведения и характеристики цифровых сервисов.

Предпочтение стоит отдавать первичным и авторитетным источникам: официальным сайтам, нормативным документам, каталогам, ЭБС и научным базам. Сведения могли быть точными на момент публикации источника, но устареть к моменту подготовки справки.

При выборе цифровых ресурсов можно дополнительно использовать инструкцию «Как проверять качество цифровых образовательных ресурсов: инструкция для библиотекарей»: она помогает оценивать авторство, актуальность и надежность цифрового контента.

Проверка фактов не заканчивает работу. Искусственный интеллект может использовать термин неточно, смешивать близкие понятия или превращать интерпретацию в утверждение.

Заменяйте оценки на проверяемые характеристики. Вместо «самый надежный ресурс» лучше указать, кто поддерживает ресурс, какой контент в нем представлен и по каким признакам его можно оценить.

Такой же контроль нужен и в специализированных задачах. Например, в статье «Что такое нейросетевые описания книг и стоит ли библиотеке их использовать» показана ситуация, когда ИИ создает текст, а библиотекарю необходимо оценить его перед использованием.

Модель может помочь выделить спорные места, подготовить поисковые запросы или структурировать найденные сведения. Но сообщение «Информация проверена» не заменяет фактчекинг во внешних источниках.

Рабочая последовательность проста: ИИ готовит черновик → библиотекарь выделяет утверждения → проводит проверку фактов и источников → уточняет формулировки → использует результат.

Перед публикацией или передачей читателю проверьте: выделены ли все фактические утверждения; сверены ли даты, числа, имена и названия; существуют ли указанные публикации; совпадают ли библиографические данные; подтверждает ли источник нужный тезис; актуальны ли сведения; корректны ли профессиональные термины; отделены ли факты от интерпретаций; убраны ли необоснованно категоричные формулировки; понятно ли, на какие источники опирается итоговый материал.

Для фиксации проверки подойдет простая таблица: «Утверждение → Источник, предложенный ИИ → Источник найден → Факт подтвержден → Информация актуальна → Итоговая формулировка». Она особенно полезна при объемных справках и подборках.

Риск возрастает, если считать наличие ссылки доказательством существования публикации, повторно спрашивать ту же модель вместо обращения к первоисточнику, не проверять дату материала или переносить сгенерированную библиографию без сверки каждой позиции.

Достоверность информации также нельзя определять по стилю ответа. Уверенная формулировка ничего не говорит о качестве информационной основы.

Информационная грамотность при работе с генеративным ИИ начинается с простой установки: модель помогает подготовить материал, но не заменяет источник. Профессиональная задача библиотекаря — установить, откуда взялись сведения, проверить их и сформулировать итог так, чтобы читатель мог понять и при необходимости проверить информационную основу ответа.