ИИ и информация

Правда ли это сказано в источнике? Проверяем цитаты ИИ

Отличайте точные слова от пересказа, сохраняйте оговорки и записывайте, где можно проверить каждую цитату.

Помощник написал красивую фразу, поставил её в кавычки и добавил ссылку. Страница посвящена нужной теме, но такой фразы там нет. Подходящая ссылка не превращает формулировку помощника в слова источника.

Purdue OWL разделяет дословную цитату и пересказ: в обоих случаях нужно указывать источник. NIST также относит выдуманные сведения и ссылки к рискам генеративного ИИ. Поэтому проверять нужно сам текст, а не только наличие ссылки рядом с ним.

Разберите короткий пример

Представим объявление, придуманное для этого примера: «Мастерская начинается в 10:00, кроме пятницы, когда начало в 11:00».

Фраза о том, что пятничное занятие начинается на час позже, передаёт смысл, но является пересказом. Её нельзя выдавать за точные слова объявления. Цитата, в которой оставили только начало в 10:00 и скрыли пятничное исключение, тоже может ввести в заблуждение.

Попросите помощника отделить скопированные отрывки от собственных пояснений. Самостоятельно откройте оригинал, сравните слова, числа, пропуски и соседние предложения. Вместе со ссылкой сохраните номер страницы, заголовок раздела или другой ориентир.

Устраните расхождения до использования

Если приведённые слова не находятся, уберите цитату или замените её проверенным пересказом с указанием источника. Не подбирайте другую страницу только для того, чтобы оправдать выдуманную формулировку.

Переведённый отрывок обозначьте как перевод и сохраните оригинал для сверки. Если текст получен из скана, сравните его и с изображением страницы: распознавание может изменить цифру или потерять отрицание.

Источники и подробности

  1. Purdue OWL — Quoting, paraphrasing and summarizing
  2. NIST — Generative AI Profile, section 2.2

Источники подтверждают технические объяснения. Примеры и предлагаемые проверки подготовлены для этой статьи.