Простыми словами
Представьте приложение с моделью, которая получает данные и выдаёт прогноз, ответ или действие. Важно понимать не только итог модели, но и какие данные, ограничения и проверки привели к нему, потому что уверенный результат всё равно может оказаться неправильным. Так модель остаётся частью контролируемого процесса, а её результат можно проверить, ограничить и пересмотреть. Поэтому модель проверяют на новых данных и ошибках, а не только на примерах, которые она уже видела.
Пример при разработке
В проекте команда фиксирует практику «Регрессионное тестирование промптов» как отдельное правило, добавляет автоматическую проверку и наблюдаемый критерий результата.
Это редакционный пример применения, а не часть определения или доказательство концепции.Формальное определение
Изменения промпта проверяются на фиксированном наборе сценариев, чтобы выявлять ухудшения до выпуска.
Механизм действия
Для «Регрессионное тестирование промптов» команда задаёт явные границы, проверяемый контракт и сигнал, по которому видно соблюдение или нарушение правила.
Пример в работе
Использовать «Регрессионное тестирование промптов» как термин без владельца, критерия и проверки реального поведения.
Связать «Регрессионное тестирование промптов» с конкретным риском, тестом или метрикой и пересматривать правило при изменении контекста.
Ограничения
Практика «Регрессионное тестирование промптов» решает ограниченную задачу и не заменяет анализ всей системы, проверку исходных допущений и измерение побочных эффектов.
Источник
NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, 2024.