IA e información

Una lista de IA puede tener los pasos correctos en el orden equivocado

Revisa los requisitos previos, las comprobaciones y los puntos de parada antes de seguir un procedimiento generado por IA.

Un asistente propone ordenar los archivos así: borra la carpeta antigua, copia los archivos al destino y comprueba la copia. Las acciones resultan conocidas, pero el orden falla: puede eliminar lo que necesita el paso siguiente.

Una lista numerada y bien presentada sigue siendo un borrador. NIST describe las respuestas incorrectas expresadas con seguridad como un riesgo de la IA. El ejemplo siguiente es una propuesta práctica para revisar procedimientos, no un método de gestión de archivos establecido por NIST.

Añade una condición a cada paso

Pide al asistente que indique qué debe existir antes de cada acción, cómo se comprobará el resultado y qué hacer si falla. Después, revisa tú esas condiciones.

Para una carpeta pequeña de notas de un taller, una secuencia razonable sería:

1. Identificar la carpeta de origen y el destino, conservando el origen intacto. 2. Copiar los archivos y esperar a que termine sin errores notificados. 3. Comparar la lista de archivos esperados con el destino y abrir los documentos copiados allí. 4. Conservar el origen mientras se resuelven los archivos ausentes o ilegibles.

Para un archivo importante, utiliza un proceso de copia de seguridad adecuado y comprobaciones más completas. Abrir unos documentos no demuestra que todos los datos de una colección grande se hayan conservado.

Define cuándo detenerse

Prueba primero con archivos de muestra que puedas descartar. ¿Qué ocurre si el destino se llena o no se puede copiar un archivo? Continuar con la limpieza no es una respuesta válida a una copia incompleta.

No añadas el borrado como cierre automático. Decídelo aparte, después de verificar la copia y las necesidades de conservación. Que el asistente escriba «copiado» no demuestra que los archivos existan.

Fuentes y lecturas

  1. NIST — Generative AI Profile, section 2.2

Las fuentes respaldan las explicaciones técnicas. Los ejemplos y las comprobaciones propuestas son orientación editorial.