Klasyczne podejście do wiedzy zewnętrznej w agentach to preload: załaduj wszystko co może być potrzebne do okna kontekstu przed startem zadania. Just-in-time retrieval odwraca tę logikę — agent pobiera wiedzę w momencie gdy konkretny krok jej wymaga.
Dlaczego JIT retrieval jest naturalny dla agentów
Pętla agenta jest z natury iteracyjna. Agent wykonuje krok, obserwuje wynik, decyduje co dalej. Pobranie danych to jedna z możliwych akcji w każdej iteracji — nie operacja jednorazowa na starcie. „Pobierz to, czego ten krok wymaga” wpisuje się naturalnie w agent loop.
Przewagi nad prelodem
Okno kontekstu pozostaje szczupłe — trafia do niego tylko to, co w danym momencie potrzebne. Dane są świeże — pobrane w chwili potrzeby, nie minuty temu. Nie traci się budżetu na dokumenty które mogą okazać się niepotrzebne.
Jakość JIT to jakość retrievalu
Jeśli agent pobiera dane na żądanie, jakość całego systemu zależy od trafności retrievalu — czy wyszukiwarka semantyczna zwraca właściwe fragmenty, czy zapytanie jest dobrze sformułowane. Retrieval staje się krytyczną warstwą architektury, a nie pomocniczym narzędziem.