Простыми словами
Например, модель распознаёт товары на обучающих фото, но проверяется на новых снимках с другим светом. Хороший результат только на тренировочных данных не означает полезность. Поэтому результат проверяют на данных и отдельной выборке, а не только на впечатляющем примере - иначе модель может выглядеть убедительно и при этом ошибаться на реальных случаях.
Пример при разработке
Модель распознаёт товары на обучающих фото, но проверяется на новых снимках с другим светом. Хороший результат только на тренировочных данных не означает полезность.
Это редакционный пример применения, а не часть определения или доказательство концепции.Механизм действия
Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на условия, ограничения, взаимодействия и наблюдаемые последствия. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.
Пример в работе
Решение принимают без учета механизма «Обобщение», оценивая только ближайший эффект.
Перед изменением проверяют, как «Обобщение» влияет на ограничения, стимулы, зависимости и вторичные последствия.
Ограничения
«Обобщение» объясняет только часть происходящего в области «AI и машинное обучение». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.
Источник
Tom M. Mitchell. Machine Learning. 1997. ISBN 9780070428072.