Pamiętacie ScanDisk? Niebieskie okno, mrugające sektory, i po dwudziestu minutach skanowania pytanie: „Znaleziono utracone klastry. Przekształcić w pliki czy zwolnić?”.
To okno mówiło prawdę. Odzywało się raz na całe skanowanie, więc o żadnym zmęczeniu nie było mowy. Człowiek patrzył. Czytał. I nadal nie miał żadnej podstawy do decyzji, bo żeby ją podjąć, trzeba rozumieć tablicę alokacji plików. Więc wciskał domyślne i szedł zrobić herbatę.
Czym jest awaria kompetencji
Tryb awarii nadzoru w którym punkt kontrolny działa poprawnie pod każdym względem projektowym — pokazuje prawdę, odzywa się rzadko, zostaje przeczytany uważnie — a mimo to nie chroni, bo pytanie trafiło do kogoś kto nie jest w stanie na nie odpowiedzieć.
To nie jest niedbalstwo ani zmęczenie. To jest niedopasowanie pytania do kompetencji adresata.
Czym różni się od zeszklonego zatwierdzania
Zeszklone zatwierdzanie bierze się z częstotliwości i cofa się gdy monitów jest mniej. Awaria kompetencji nie zależy od częstotliwości — pojedyncze, rzadkie, doskonale opisane pytanie nadal pozostaje bez odpowiedzi, jeśli człowiek nie ma wiedzy żeby je ocenić.
Rozróżnienie ma konsekwencję praktyczną. Na zeszklone zatwierdzanie działa redukcja liczby pytań. Na awarię kompetencji nie działa nic co robisz z pytaniem — trzeba zmienić jego adresata.
Dlaczego dotyczy agentów szczególnie
Agent działa na wielu warstwach naraz: pakiety, sieć, system plików, zewnętrzne API, uprawnienia. Człowiek nadzorujący ma kompetencje w jednej lub dwóch z nich.
Okno „agent chce wykonać npm install left-pad@1.3.0” spełnia parytet informacji w całości — pokazuje dokładnie to co agent zamierza zrobić. A deweloper i tak nie ma jak ocenić, czy ta konkretna wersja nie została przejęta wczoraj wieczorem. Zgoda zostaje formalnie udzielona, decyzja faktycznie nie zapada.
Trzy drogi wyjścia
Przeniesienie decyzji do systemu który potrafi ją podjąć: skaner podatności, lista dozwolonych wersji, silnik reguł biznesowych. Maszyna odpowiada na pytania o fakty sprawdzalne automatycznie.
Przeniesienie decyzji do innego człowieka: pytanie o marżę idzie do kontrolera finansowego, nie do magazyniera. To jest rozdzielenie obowiązków zastosowane do nadzoru nad agentem.
Usunięcie pytania i zastąpienie go ograniczeniem uprawnień. Jeśli agent nie powinien instalować pakietów spoza listy, nie pytaj — odbierz mu tę możliwość. Pytanie da się przekliknąć, brakującego uprawnienia nie.
Jak ją rozpoznać
Sygnałem jest odsetek odrzuceń bliski zeru przy jednoczesnym braku skarg na liczbę monitów. Ludzie nie klikają odruchowo, bo pytań jest mało — po prostu zawsze wybierają domyślną odpowiedź, bo nie mają czym wybrać innej.
Drugi sygnał: gdy zapytasz nadzorującego, na jakiej podstawie zatwierdził, odpowiada opisem operacji zamiast oceny ryzyka. Powtarza to co zobaczył, bo nic więcej nie mógł z tym zrobić.