Agent, który powtarza ten sam krok w kółko, nie jest zepsuty. Robi dokładnie to, co przewiduje mechanizm — a wygląda jak awaria, bo koszt rośnie, a postępu nie ma.
Czym jest zapętlenie
Zapętlenie to sytuacja, w której agent wykonuje kolejne obroty pętli, nie zbliżając się do zakończenia zadania. Najczęściej przybiera trzy postacie: powtarzanie tego samego wywołania z tymi samymi argumentami, oscylowanie między dwoma narzędziami albo drobne modyfikowanie argumentów w nadziei na inny wynik.
Dlaczego się zdarza
Model nie ma pamięci między wywołaniami — widzi wyłącznie kontekst. Jeśli wynik narzędzia nie zawiera informacji, której model szuka, sytuacja przy kolejnym obrocie wygląda niemal identycznie jak poprzednio, więc model podejmuje niemal identyczną decyzję. Do tego dochodzi losowość próbkowania, która sprawia, że drobne odchylenia dają wrażenie postępu tam, gdzie postępu nie ma.
Częstą przyczyną jest też narzędzie zwracające pustą odpowiedź bez wyjaśnienia. Model nie odróżnia „nie znaleziono” od „zapytaj inaczej” i próbuje ponownie.
Jak wykrywać
Najprostsza metoda to porównywanie kolejnych wywołań: jeśli nazwa narzędzia i argumenty powtarzają się dwa lub trzy razy, pętla powinna zareagować. Bardziej odporne podejście liczy powtórzenia w oknie kilku ostatnich obrotów, bo oscylacja między dwoma wywołaniami nie da dwóch identycznych kroków pod rząd.
Co zrobić po wykryciu
Trzy sensowne reakcje: przerwać i zwrócić to, co udało się ustalić; wstrzyknąć do kontekstu jawną informację, że dany krok został już wykonany i dał ten wynik; albo eskalować do człowieka. Najgorsza reakcja to milczące kontynuowanie — bo kosztuje i nie kończy się niczym.