Few-shot w praktyce — jak dobierać przykłady, żeby model robił to, co chcesz
Jeden dobry przykład mówi modelowi więcej niż akapit instrukcji. Pięć złych — zjada budżet i uczy nie tego. Z pięciu warstw okna została nam ostatnia: przykłady. Few-shot, czyli pokazanie modelowi kilku wzorców „o, takiej odpowiedzi oczekuję” zamiast opisywania...
Kompaktowanie kontekstu — jak agent nie gubi wątku przy długich przebiegach
Retrieval pobierzesz na nowo. Historię własnych kroków agent ma tylko raz. W poprzednim wpisie ustaliliśmy, że wiedzę z zewnątrz najlepiej pobierać na żądanie — bo zawsze możesz sięgnąć po nią ponownie. Ale jest część kontekstu, która tej własności nie ma. To historia...
Retrieval jako składanie kontekstu — just-in-time kontra wszystko na raz
Co wrzucić do kontekstu, a co odciąć — anatomia okna agenta
Okno to nie jeden tekst. To pięć warstw walczących o to samo miejsce. W poprzednim wpisie ustaliliśmy, że okno kontekstu jest budżetem, nie workiem. Zostało pytanie, które każdy buduje sobie sam przy pierwszym agencie: skoro budżet jest skończony — co konkretnie do...
