Formatowanie wyników narzędzi i structured output — kontekst, który agent rozumie
Surowy dump z API to nie kontekst. To materiał, z którego dopiero trzeba kontekst zrobić. Cztery poprzednie wpisy odpowiadały na pytanie „co i ile” wrzucić do okna. Został ostatni wymiar: w jakiej formie. Bo nawet trafnie dobrany fragment, podany w złym...
Few-shot w praktyce — jak dobierać przykłady, żeby model robił to, co chcesz
Jeden dobry przykład mówi modelowi więcej niż akapit instrukcji. Pięć złych — zjada budżet i uczy nie tego. Z pięciu warstw okna została nam ostatnia: przykłady. Few-shot, czyli pokazanie modelowi kilku wzorców „o, takiej odpowiedzi oczekuję” zamiast opisywania...
Kompaktowanie kontekstu — jak agent nie gubi wątku przy długich przebiegach
Retrieval pobierzesz na nowo. Historię własnych kroków agent ma tylko raz. W poprzednim wpisie ustaliliśmy, że wiedzę z zewnątrz najlepiej pobierać na żądanie — bo zawsze możesz sięgnąć po nią ponownie. Ale jest część kontekstu, która tej własności nie ma. To historia...
Retrieval jako składanie kontekstu — just-in-time kontra wszystko na raz
