SYSTEM ATLASЗагрузка материала

Slo задержки: сессия агента

Agent Session Latency SLO

Для «сессия агента» это целевой предел задержки для полного агентного шага или сценария с отдельным учётом инструментов и модели.

Простыми словами

Например, в проекте практика «Slo задержки: сессия агента» оформляется как проверяемое правило: автоматический тест или метрика фиксирует соблюдение границы, а нарушение блокирует выпуск либо включает безопасный режим. Поэтому результат проверяют на данных и отдельной выборке, а не только на впечатляющем примере - иначе модель может выглядеть убедительно и при этом ошибаться на реальных случаях.

Пример от @Vibeclakr

Пример при разработке

В проекте практика «Slo задержки: сессия агента» оформляется как проверяемое правило: автоматический тест или метрика фиксирует соблюдение границы, а нарушение блокирует выпуск либо включает безопасный режим.

Это редакционный пример применения, а не часть определения или доказательство концепции.

Формальное определение

Для «сессия агента» это целевой предел задержки для полного агентного шага или сценария с отдельным учётом инструментов и модели.

Механизм действия

Для «Slo задержки: сессия агента» назначают ответственного, задают границы и понятный признак нарушения. В тесты, выпуск или эксплуатационный контроль.

Пример в работе

Нерабочий подход

Повторять термин «Slo задержки: сессия агента», не объяснив, где он применяется, кто отвечает и по какому признаку видно результат.

Системный подход

Для «Slo задержки: сессия агента» назвать конкретный риск, добавить проверку и заранее определить, когда правило нужно пересмотреть.

Ограничения

Практика «Slo задержки: сессия агента» закрывает один конкретный риск и не заменяет проверку соседних отказов, безопасности, данных и пользовательских последствий.

Источник

NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 2024.

Первоисточник