ИИ и информация

В чек-листе ИИ правильные действия могут стоять не по порядку

Как проверить условия, порядок действий и остановку при ошибке в инструкции, которую составил ИИ.

Помощник предлагает навести порядок в файлах: удалить старую папку, скопировать документы в архив, проверить архив. Все действия знакомые. Но порядок делает план непригодным: первый шаг может уничтожить то, что понадобится на втором.

Аккуратный нумерованный список остаётся черновиком. NIST относит уверенно сформулированные ошибочные ответы к известным рискам ИИ. Пример ниже — практический способ разобрать инструкцию, а не метод работы с файлами, предписанный NIST.

Для каждого шага запишите условие

Попросите помощника указать три вещи: что должно быть готово до действия, как проверить успех и что делать при неудаче. Затем самостоятельно просмотрите эти условия.

Для небольшой папки с заметками к мастерской последовательность может быть такой:

1. Определить исходную папку и место назначения, оставив исходники нетронутыми. 2. Скопировать файлы и дождаться завершения без сообщений об ошибках. 3. Сравнить ожидаемый список файлов с содержимым папки назначения и открыть документы именно оттуда. 4. Сохранить исходники, пока не устранены пропуски и проблемы с чтением копий.

Для важного архива нужны подходящий способ резервного копирования и более тщательная проверка. Несколько открывшихся документов не подтверждают сохранность всех данных в большой коллекции.

Предусмотрите остановку

Сначала пройдите инструкцию на ненужных учебных файлах. Что произойдёт, если на диске закончится место или один файл не скопируется? Продолжать очистку после неполного копирования нельзя.

Удаление не должно автоматически завершать такой список. Это отдельное решение после проверки копии и выяснения, нужно ли ещё хранить исходники. Слово «скопировано» в ответе помощника само по себе не подтверждает, что файлы существуют.

Источники и подробности

  1. NIST — Generative AI Profile, section 2.2

Источники подтверждают технические объяснения. Примеры и предлагаемые проверки подготовлены для этой статьи.