Ślad audytowy agenta

Rejestr działań agenta prowadzony poza jego zasięgiem, pozwalający odtworzyć co zostało wykonane, na czyją autoryzację i na jakiej podstawie. Ślad prowadzony przez samego agenta nie jest śladem audytowym — jest jego autobiografią.

W Polsce nazywane też:

rejestr działań agentalog akcji agentadziennik audytowyścieżka audytu

Po incydencie zostaje linia: 14:32:07 — action approved by user@company.

Tę linię wytwarza identycznie przemyślana decyzja i odruchowe kliknięcie. Zapisuje zdarzenie, a opisuje je językiem zarezerwowanym dla osądu.

Czym jest ślad audytowy agenta

Rejestr pozwalający odtworzyć co agent wykonał, na czyją autoryzację, na jakich danych i w jakiej kolejności. Jego wartość nie bierze się z kompletności, tylko z niezależności — musi powstawać poza procesem który opisuje.

Dlaczego agent nie może prowadzić własnego rejestru

Kontrola wewnętrzna rozdziela wykonanie od zapisu właśnie po to, żeby wykonawca nie mógł ukryć własnego błędu. Agent który wykonuje operację i jednocześnie pisze log ma obie funkcje naraz.

Przejęty przez wstrzyknięcie instrukcji agent nie tylko zrobi coś innego niż zamierzał użytkownik — opisze to tak, jak każe mu wstrzyknięta instrukcja. Rejestr prowadzony przez agenta nie jest śladem audytowym, tylko jego autobiografią.

Co powinien zawierać

Rozwiniętą postać operacji zamiast jej etykiety: ścieżkę po rozwiązaniu dowiązań, faktycznego adresata, rzeczywisty zakres uprawnień. Bez tego log dokumentuje to samo co pokazało okno, łącznie z jego nieprawdą.

Źródło danych na których agent oparł decyzję, z identyfikatorem dokumentu i datą modyfikacji.

Tożsamość autoryzującego wraz z podstawą jego uprawnienia — nie samo „zatwierdzone przez”, tylko rolę z której to zatwierdzenie wynikało.

Czas reakcji człowieka, bo to jedyna dostępna maszynowo miara tego, czy zatwierdzenie było decyzją. Trzysta milisekund między wyświetleniem a kliknięciem to nie jest osąd.

Wartość dowodowa a zeszklone zatwierdzanie

Wpis „zatwierdzone przez użytkownika” ma wartość dowodową tylko wtedy, gdy da się wykazać że zatwierdzenie było decyzją. Inaczej ślad audytowy dokumentuje zeszklone zatwierdzanie i przypisuje je człowiekowi.

To jest niewygodna konsekwencja dobrze prowadzonego rejestru: im lepszy audit trail przy złym projekcie nadzoru, tym precyzyjniej wskazuje osobę która kliknęła, i tym skuteczniej przesuwa ryzyko z organizacji na nią.

Ograniczenie

Ślad audytowy nie zapobiega niczemu. Jest narzędziem odtwarzania, nie kontroli. Organizacja która ma dobry rejestr i słabe uprawnienia będzie dokładnie wiedziała, jak doszło do szkody której nic nie powstrzymało.

Powiązane pojęcia

Nieodwracalność operacjiWłaściwość operacji której skutku nie da się wycofać po tym, jak stał się widoczny na zewnątrz systemu. Podstawowe kryterium decydujące o tym, które działania agenta wymagają zgody człowieka, a które wystarczy zalogować z możliwością cofnięcia.Rozdzielenie obowiązkówZasada kontroli wewnętrznej rozdzielająca autoryzację, wykonanie i zapis operacji między różne podmioty. Przeniesiona na agentów oznacza, że kto konfiguruje agenta, kto z nim pracuje i co prowadzi ślad audytowy nie mogą być tym samym.Parytet informacjiWłasność punktu kontrolnego w której człowiek widzi w momencie decyzji dokładnie to co wie agent. Okno zgody chroni dokładnie tyle ile prawdy pokazuje — jeśli agent zna skutek którego nie wyświetla, pętla nadzoru jest rozerwana mimo że formalnie istnieje.Zeszklone zatwierdzanieOdruchowe akceptowanie próśb agenta o zgodę bez czytania ich treści. Okno pokazuje prawdę, człowiek i tak klika "akceptuj" — bo robił to dziś czterdzieści razy i za każdym razem było w porządku. Lekarstwem nie jest lepsze okno tylko mniejsza liczba okien.Rodowód danychŚledzenie pochodzenia, transformacji i przepływu danych przez systemy — krytyczne dla agentów AI żeby odpowiedzi były oparte na wiarygodnych, aktualnych danych z właściwych źródeł. Metoda detekcji hallucynacji: twierdzenia bez udokumentowanego retrieval są podejrzane.