Węzeł zatwierdzenia

Element grafu wykonania zatrzymujący przebieg do czasu decyzji człowieka. Jedyny typ węzła, którego niezawodność spada wraz z użyciem — im więcej krawędzi przez niego przechodzi, tym mniej znaczy każde przejście.

W Polsce nazywane też:

punkt zatwierdzeniabramka decyzyjnaczłowiek w grafiepunkt kontrolny

W opisach grafów wykonania punkt zatwierdzenia przez człowieka wymieniany jest obok agentów, funkcji i routerów jako pełnoprawny typ węzła. Na tym zwykle się kończy — a to jest jedyny typ węzła o właściwościach, których nie ma żaden inny.

Czym jest węzeł zatwierdzenia

Element grafu wykonania, który zatrzymuje przebieg i czeka na decyzję człowieka, zanim wykonanie przejdzie dalej.

Trzy właściwości odróżniające go od pozostałych węzłów

Przepustowość, której nie da się skalować. Węzeł obliczeniowy zwielokrotnisz, agenta uruchomisz w pięciu kopiach, człowieka nie. Dołożenie drugiego nie daje tego samego węzła, tylko dwa różne, z różną oceną tej samej sprawy.

Opóźnienie liczone w godzinach, nie sekundach. Wszystko, co da się zrobić przed tym węzłem, powinno zdarzyć się przed nim — po nim zaczyna się kolejka.

Niezawodność malejąca z użyciem. Funkcja wywołana czterdziesty raz działa identycznie jak za pierwszym. Człowiek zapytany czterdziesty raz — nie.

Zależność, którą warto zapisać wprost

Im więcej krawędzi przechodzi przez węzeł zatwierdzenia, tym mniej znaczy każde pojedyncze przejście. Węzeł odzywający się przy każdej operacji komunikuje dokładnie to samo co brak węzła — z tą różnicą, że produkuje przy tym wpis w logu, z którego wynika, że ktoś podjął decyzję.

Kiedy ten węzeł zarabia na swój koszt

Przy nieodwracalności — wysłanie, usunięcie, płatność, publikacja, zmiana uprawnień. Przy rozstrzygnięciu wartościującym, którego graf nie umie podjąć: nie „czy to poprawne”, tylko „czy tego chcemy”. Przy wymogu zewnętrznym, gdy regulacja albo umowa wskazuje człowieka jako decydenta.

Poza tymi trzema przypadkami warto sprawdzić, czy węzła nie da się zastąpić granicą infrastrukturalną — ta jest tańsza i nie degraduje się z użyciem.

Graf wykonaniaTopologia systemu agentowego, w której węzły wykonują pracę, krawędzie ograniczają dozwolone przejścia, a wybór krawędzi zapada w czasie działania. Cztery elementy: węzły, krawędzie, stan wspólny i granice uprawnień.Ślad audytowy agentaRejestr działań agenta prowadzony poza jego zasięgiem, pozwalający odtworzyć co zostało wykonane, na czyją autoryzację i na jakiej podstawie. Ślad prowadzony przez samego agenta nie jest śladem audytowym — jest jego autobiografią.Parytet informacjiWłasność punktu kontrolnego w której człowiek widzi w momencie decyzji dokładnie to co wie agent. Okno zgody chroni dokładnie tyle ile prawdy pokazuje — jeśli agent zna skutek którego nie wyświetla, pętla nadzoru jest rozerwana mimo że formalnie istnieje.Przeciążenie zgodąPokazanie kilku zatwierdzeń naraz albo jednego zbiorczego zamiast serii — tak że nie sposób przejrzeć żadnego z osobna. Zgoda zbiorcza o całą sekwencję ukrywa tę jedną akcję która jest groźna.Zeszklone zatwierdzanieOdruchowe akceptowanie próśb agenta o zgodę bez czytania ich treści. Okno pokazuje prawdę, człowiek i tak klika "akceptuj" — bo robił to dziś czterdzieści razy i za każdym razem było w porządku. Lekarstwem nie jest lepsze okno tylko mniejsza liczba okien.Człowiek w pętliModel nadzoru nad agentami AI w którym człowiek zatwierdza kluczowe decyzje przed ich wykonaniem — równowaga między autonomią agenta a kontrolą użytkownika nad jego działaniami.