SYSTEM ATLASЗагрузка материала

Самообучение без разметки

Self Supervised Learning

Создает обучающие сигналы из структуры самих данных.

Механизм действия

Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на условия, ограничения, взаимодействия и наблюдаемые последствия. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.

Пример в работе

Нерабочий подход

Сразу приклеить к ситуации название принципа и выбрать решение, не проверив его условия и границы применимости.

Системный подход

Сначала описать конкретную ситуацию, затем проверить условия принципа и только после этого выбирать действие. После изменения сравнить ожидаемый результат с фактическим.

Ограничения

«Самообучение без разметки» объясняет только часть происходящего в области «Машинное обучение». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.

Источник

Ting Chen et al., “A Simple Framework for Contrastive Learning of Visual Representations”, 2020.

Первоисточник