Agent działający przez wiele kroków akumuluje historię: co zapytał, co narzędzia zwróciły, jakie decyzje zapadły. Bez interwencji ta historia rośnie liniowo z każdą iteracją — aż wypełni okno i dalsze działanie stanie się niemożliwe lub bardzo drogie.
Czym jest kompakcja kontekstu
Kompakcja to zastąpienie starszej części historii agenta jej streszczeniem. Zamiast trzymać w oknie pełną transkrypcję wszystkich kroków, agent (lub zewnętrzny komponent) generuje skrótowy opis: jakie decyzje zapadły, jaki jest aktualny stan, co jest istotne dla dalszego działania. Streszczenie zajmuje ułamek miejsca oryginalnej historii.
Różnica od standardowego RAG
Wiedza zewnętrzna (dokumenty, dane) jest zawsze dostępna do pobrania ponownie. Historia własnych kroków agenta jest ulotna — istnieje tylko w oknie bieżącej sesji. Kompakcja chroni właśnie ten rodzaj informacji: nie wiedzę o świecie, lecz ślad tego, co agent już zrobił.
Strategia: co zachować, co skompaktować
Świeże kroki (ostatnie N iteracji) pozostają w pełnej formie — są najprawdopodobniej najistotniejsze. Starsze kroki zastępuje streszczenie obejmujące decyzje, ustalenia i aktualny stan. Bardzo stare kroki mogą zostać usunięte całkowicie, jeśli streszczenie wystarczająco je pokrywa.