smartphone.uaТехнології. Досвід. Вибір.

RAG (пошук із доповненням): як ШІ відповідає за документами

Пошук із доповненням (RAG, Retrieval-Augmented Generation) - це підхід, за якого ШІ перед відповіддю шукає релевантну інформацію в документах, базі знань чи інтернеті і використовує знайдене як основу для відповіді.

RAG - іспит з відкритими підручниками

Простими словами

Іспит із закритими підручниками - це звичайна модель: відповідає з пам'яті і може щось наплутати. Іспит із відкритими підручниками - це RAG: спершу знаходиш потрібну сторінку, потім відповідаєш. Помилок менше, і можна вказати, звідки взяв інформацію.

Як це працює

  1. Документи заздалегідь розбивають на шматочки і індексують для швидкого пошуку.
  2. Коли ти ставиш питання, система шукає найбільш схожі за змістом шматочки.
  3. Знайдені фрагменти додають до промпту разом із твоїм питанням.
  4. Модель формує відповідь, спираючись на ці фрагменти, і часто дає посилання на джерела.
  5. Якщо нічого релевантного не знайдено, хороша система так і скаже.

Як працює пошук із доповненням

Де ти це побачиш

RAG працює в чат-ботах із пошуком в інтернеті, в асистентах, які відповідають за твоїми файлами чи поштою, у ботах підтримки магазинів і банків, у корпоративних базах знань. Коли бот показує посилання-виноски біля речень - швидше за все, це RAG.

Чи важливо це при виборі

Так, якщо тобі потрібні точні відповіді з актуальною інформацією. Обирай сервіси, які показують джерела, і відкривай їх. RAG помітно зменшує галюцинації, але не прибирає їх повністю: модель може неправильно зрозуміти знайдений фрагмент.

Міфи

  • Міф: RAG робить модель розумнішою. Насправді: Модель та сама, просто їй дають шпаргалку з потрібними фактами.
  • Міф: Якщо є посилання, відповідь точно правильна. Насправді: Модель може неправильно переказати джерело. Посилання треба відкривати.

Часті питання

Чим RAG відрізняється від донавчання?

RAG дає моделі інформацію в момент запиту, донавчання змінює саму модель.

Чи можна зробити RAG за своїми конспектами?

Так, деякі сервіси дозволяють завантажити файли і ставити питання по них.

Чому RAG іноді дає застарілу відповідь?

Якщо база документів давно не оновлювалася, модель спирається на старі дані.

Пов'язані терміни

Галюцинації ШІ, Контекстне вікно, Велика мовна модель, Донавчання моделі

← Терміни