Prośba o wywołanie narzędzia to tekst wygenerowany przez model. Nie jest poleceniem — jest danymi wejściowymi. Walidacja argumentów to miejsce, w którym pętla traktuje je zgodnie z tym, czym naprawdę są.
Czym jest walidacja argumentów
Sprawdzenie, przed wykonaniem, czy argumenty zaproponowane przez model są poprawne, dopuszczalne i mieszczą się w granicach uprawnień. Odbywa się w całości w pętli, poza modelem, i jest jedynym punktem, w którym da się zatrzymać wywołanie, zanim wywoła skutek.
Trzy poziomy sprawdzenia
Format: czy typy się zgadzają, czy wymagane pola są obecne, czy wartości mają dopuszczalny kształt. To wyłapuje halucynację strukturalną — zmyślone pole, nieistniejący parametr, wartość w złym formacie.
Istnienie: czy wskazany zasób naprawdę istnieje. Numer zamówienia wygenerowany przez model wygląda tak samo wiarygodnie jak prawdziwy — sprawdzenie w źródle prawdy jest najskuteczniejszym pojedynczym zabezpieczeniem przed halucynacją.
Uprawnienia i granice: czy ten agent, w tym kontekście, ma prawo wykonać tę operację na tym zasobie, i czy mieści się ona w limitach — kwotowych, ilościowych, czasowych.
Dlaczego prompt tego nie zastąpi
Instrukcja w prompcie przesuwa rozkład prawdopodobieństwa, ale niczego nie gwarantuje. Model może zignorować zasadę, może ją źle zrozumieć, może zostać do jej złamania nakłoniony treścią pobraną z zewnątrz. Walidacja w kodzie nie podlega perswazji.
Co zrobić z odrzuconym wywołaniem
Najlepszą reakcją jest zwrócenie modelowi konkretnego komunikatu: co zostało odrzucone i dlaczego. Model potrafi wtedy poprawić argumenty albo wybrać inną drogę. Ciche odrzucenie prowadzi zwykle do zapętlenia, bo z perspektywy modelu nic się nie zmieniło.