Klasyczny RAG dobrze odpowiada na pytania, których odpowiedź leży w jednym fragmencie. Gorzej radzi sobie z pytaniami, na które odpowiedź trzeba złożyć z wielu miejsc naraz.
Czym jest GraphRAG
Podejście, w którym z dokumentów wydobywa się najpierw encje i relacje między nimi, budując graf wiedzy. Wyszukiwanie nie polega wtedy wyłącznie na podobieństwie fragmentów, lecz na poruszaniu się po powiązaniach: od encji do encji, od relacji do relacji.
Jakie pytania to rozwiązuje
Pytania globalne, dotyczące całego zbioru: jakie są główne wątki w tych dokumentach, jak podmiot A wiąże się z podmiotem C przez pośredników, co się zmieniło między wersjami. Wyszukiwanie po podobieństwie zwróci na nie kilka fragmentów, z których żaden nie zawiera odpowiedzi, bo odpowiedź nie istnieje w żadnym pojedynczym miejscu.
Koszt
Zbudowanie grafu wymaga przetworzenia całego zbioru modelem, żeby wydobyć encje i relacje. To koszt jednorazowy, ale znaczący, a przy zmianach treści częściowo się powtarza. Utrzymanie jest droższe niż w klasycznym RAG.
Kiedy ma sens
Przy zbiorach o gęstej strukturze powiązań — dokumentacji korporacyjnej, aktach spraw, badaniach, bazach produktowych z zależnościami. Przy zwykłej bazie artykułów, gdzie pytania dotyczą pojedynczych tematów, nakład zwykle się nie zwraca.
Warto to traktować jako uzupełnienie, nie zamiennik: wiele wdrożeń łączy graf z wyszukiwaniem hybrydowym, wybierając ścieżkę zależnie od typu pytania.