Пример при разработке
Сервис отказал в кредите и показывает: «При том же профиле, но меньшей долговой нагрузке решение изменилось бы». Пользователь видит конкретное условие, а не только итоговый балл.
Это редакционный пример применения, а не часть определения или доказательство концепции.Механизм действия
Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на условия, ограничения, взаимодействия и наблюдаемые последствия. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.
Пример в работе
Сразу приклеить к ситуации название принципа и выбрать решение, не проверив его условия и границы применимости.
Сначала описать конкретную ситуацию, затем проверить условия принципа и только после этого выбирать действие. После изменения сравнить ожидаемый результат с фактическим.
Ограничения
«Контрфактическое объяснение» объясняет только часть происходящего в области «Машинное обучение». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.
Источник
Sandra Wachter; Brent Mittelstadt; Chris Russell, “Counterfactual Explanations without Opening the Black Box”, 2017.