W klasycznym RAG wyszukiwanie zdarza się raz, przed odpowiedzią, i zawsze tak samo. W agentic RAG model sam decyduje, czy szukać, czego szukać i czy szukać jeszcze raz.
Na czym polega różnica
Klasyczny RAG to stała ścieżka: pytanie, wyszukanie, doklejenie fragmentów, odpowiedź. Wyszukiwanie jest wykonywane niezależnie od tego, czy jest potrzebne, i zawsze na podstawie oryginalnego pytania.
W agentic RAG wyszukiwanie jest narzędziem w pętli agenta. Model może je pominąć, gdy zna odpowiedź, przeformułować zapytanie, gdy pierwsza próba nic nie dała, wykonać kilka wyszukiwań na różne aspekty pytania i ocenić, czy zebrany materiał wystarcza.
Co to daje
Lepsze radzenie sobie z pytaniami złożonymi, wymagającymi kilku różnych wyszukiwań. Możliwość poprawienia zapytania po nieudanej próbie. Oszczędność tam, gdzie wyszukiwanie jest zbędne.
Co to kosztuje
Każde wyszukiwanie to osobny obrót pętli, więc rosną i koszt, i opóźnienie. Pojawia się też ryzyko zapętlenia: model, który nie znajduje odpowiedzi, potrafi powtarzać wyszukiwania z minimalnie zmienianym zapytaniem. Limit liczby wyszukiwań w jednym przebiegu jest tu zabezpieczeniem obowiązkowym.
Kiedy wybierać co
Przy pytaniach jednoznacznych i bazie o przewidywalnej strukturze klasyczny RAG jest tańszy i bardziej powtarzalny. Agentic RAG zaczyna się opłacać przy pytaniach złożonych, przy kilku źródłach do przeszukania i tam, gdzie sformułowanie użytkownika często nie odpowiada językowi dokumentów.