Przepuszczanie każdej produkcyjnej rozmowy przez sędziego LLM podwaja koszt każdej rozmowy. Dlatego nie oceniasz wszystkiego — próbkujesz, i to mądrze.
Czym jest sampling strategy
Sampling strategy to strategia doboru próbki konwersacji do oceny jakościowej w produkcji. Zamiast oceniać 100% ruchu (drogo i zbędnie), wybierasz reprezentatywny i celowany wycinek, który daje obraz jakości bez kosztu oceny wszystkiego.
Dwa rodzaje próbkowania
– Losowe — stały procent ruchu (np. 10%), żeby mieć reprezentatywny, ciągły puls ogólnej jakości,
– Celowane — 100% przypadków wysokiego ryzyka i niepewności: eskalacje, rozmowy o niskiej efektywności trajektorii, akcje nieodwracalne, nowe kategorie pytań.
Reguła
Losowe próbkowanie mówi „jak jest średnio”, celowane mówi „gdzie jest najgorzej”. Potrzebujesz obu — pierwsze wykrywa ogólny trend, drugie skupia ocenę tam, gdzie błąd kosztuje najwięcej.