Model językowy może generować odpowiedzi z dwóch źródeł: wiedzy parametrycznej (to, co zapamiętał podczas treningu) lub wiedzy z kontekstu (to, co zostało mu dostarczone w oknie). Grounding to świadome opieranie odpowiedzi na tym drugim źródle.
Wiedza parametryczna vs. wiedza z kontekstu
Wiedza parametryczna jest stała, nieaktualna i nie weryfikowalna dla konkretnego przypadku. Wiedza z kontekstu jest dynamiczna, aktualna i sprawdzalna — możesz wskazać fragment z którego model skorzystał. Grounding oznacza, że odpowiedź wywodzi się z dostarczonych danych, nie z tego co model „pamięta”.
Grounding a halucynacje
Większość halucynacji to efekt sięgania po wiedzę parametryczną gdy nie ma lepszego źródła. Model wypełnia luki tym, co wydaje się prawdopodobne — co nie musi być prawdziwe. Gdy model ma ugruntwane dane w oknie i instrukcję żeby z nich korzystać, ryzyko halucynacji maleje.
Grounding w praktyce agentowej
Agent który ma odpowiedzieć na pytanie o aktualny stan zamówienia powinien pobrać te dane i odpowiedzieć na ich podstawie — nie zgadywać z treningu. Każde wywołanie narzędzia, każdy retrieval dokumentu to akt groundingu: zastępujesz domysł faktem pobranym w czasie rzeczywistym.