Простыми словами
Например, нужно передать сообщение по шумному каналу и понимать, сколько полезной информации реально доходит до получателя. Поэтому этот инструмент используют, чтобы сравнивать количество информации, неопределённость или цену передачи - без контекста одна формула не говорит, какое инженерное решение лучше.
Механизм действия
Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на исходные параметры, ограничения модели и измеряемые величины. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.
Пример в работе
Решение принимают без учета механизма «Взаимная информация», оценивая только ближайший эффект.
Перед изменением проверяют, как «Взаимная информация» влияет на ограничения, стимулы, зависимости и вторичные последствия.
Ограничения
Взаимная информация измеряет статистическую зависимость, но не её направление и не причинность; оценка по конечным данным может быть сильно смещена.
Источник
Claude E. Shannon, “A Mathematical Theory of Communication”, 1948.