SYSTEM ATLASЗагрузка материала

Retrieval-Augmented Generation

Retrieval-Augmented Generation (RAG)

Внешний поиск дополняет генерацию актуальным и проверяемым контекстом.

Простыми словами

Представьте человека, который перед ответом открывает нужные документы, а не полагается только на память. RAG сначала находит релевантные материалы и передаёт их генеративной модели, поэтому ответ можно сделать актуальнее и связать с источником.

Механизм действия

Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на условия, ограничения, взаимодействия и наблюдаемые последствия. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.

Пример в работе

Нерабочий подход

Применять локальное решение без проверки контекста, ограничений и вторичных последствий.

Системный подход

Сначала определить механизм, затем выбрать минимальное изменение и измерить результат.

Ограничения

«Retrieval-Augmented Generation» объясняет только часть происходящего в области «AI и машинное обучение». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.

Источник

Patrick Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”, 2020.

Первоисточник