Простыми словами
Представьте сервис, которому приходится хранить пароли, ключи или другие чувствительные данные. Ошибка здесь опасна тем, что один украденный секрет может открыть доступ к гораздо большей части системы. Так внешние данные и права проходят проверку до того, как смогут изменить состояние системы или получить доступ к защищённым ресурсам. Поэтому главное - заранее ограничить возможный ущерб и проверить, что лишний доступ или опасный ввод не проходят незаметно.
Пример при разработке
В проекте команда фиксирует практику «Удаление персональных данных до inference» как отдельное правило, добавляет автоматическую проверку и наблюдаемый критерий результата.
Это редакционный пример применения, а не часть определения или доказательство концепции.Формальное определение
Персональные и секретные данные маскируются или минимизируются до передачи внешней или общей модели.
Механизм действия
Для «Удаление персональных данных до inference» команда задаёт явные границы, проверяемый контракт и сигнал, по которому видно соблюдение или нарушение правила.
Пример в работе
Использовать «Удаление персональных данных до inference» как термин без владельца, критерия и проверки реального поведения.
Связать «Удаление персональных данных до inference» с конкретным риском, тестом или метрикой и пересматривать правило при изменении контекста.
Ограничения
Практика «Удаление персональных данных до inference» решает ограниченную задачу и не заменяет анализ всей системы, проверку исходных допущений и измерение побочных эффектов.
Источник
NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, 2024.