Przeciążenie zgodą

Pokazanie kilku zatwierdzeń naraz albo jednego zbiorczego zamiast serii — tak że nie sposób przejrzeć żadnego z osobna. Zgoda zbiorcza o całą sekwencję ukrywa tę jedną akcję która jest groźna.

W Polsce nazywane też:

zgoda zbiorczaprzeciążenie zatwierdzeniamiakceptacja hurtowa

Kiedy agent wykonuje sekwencję operacji, projektant staje przed wyborem: pytać o każdą osobno czy o całą serię naraz. Oba warianty mają swoją wadę i oba prowadzą do tego samego skutku, jeśli zrobić je bez zastanowienia.

Czym jest przeciążenie zgodą

Pokazanie użytkownikowi kilku zatwierdzeń jednocześnie albo jednego zbiorczego zamiast serii — tak że nie sposób przejrzeć żadnego z osobna. Jeden z mechanizmów przez które kontrola zatwierdzania przestaje być kontrolą, wyróżniony w taksonomii zagrożeń dla Model Context Protocol.

Jak wygląda w praktyce

Zgoda zbiorcza: jedno pytanie o dziesięć operacji, z których dziewięć jest rutynowych a jedna wysyła dane na zewnątrz. Człowiek zatwierdza całość, bo dziewięć widocznych elementów wygląda normalnie.

Zgody równoległe: kilka okien naraz albo lista dwudziestu pozycji do zaakceptowania jednym przyciskiem. Przejrzenie każdej z osobna wymagałoby czasu którego nikt nie ma, więc nie przegląda się żadnej.

Napięcie projektowe

Odpowiedź „rozbijaj zgodę na pojedyncze akcje” jest poprawna tylko do pewnego momentu. Rozbicie dziesięciu operacji na dziesięć pytań podnosi liczbę monitów, a liczba monitów sama w sobie obniża czujność — prowadząc do zeszklonego zatwierdzania.

Właściwe rozstrzygnięcie nie polega na wyborze jednego z dwóch wariantów, tylko na doborze granulacji według ryzyka: operacje rutynowe i odwracalne zgrupowane, operacje nieodwracalne albo wychodzące poza obszar roboczy pokazane osobno i wyróżnione.

Status

Pojęcie branżowe, opisane w taksonomii MCP-38 jako consent overload — jeden z czterech mechanizmów obchodzenia kontroli human-in-the-loop.

Powiązane pojęcia

Nieodwracalność operacjiWłaściwość operacji której skutku nie da się wycofać po tym, jak stał się widoczny na zewnątrz systemu. Podstawowe kryterium decydujące o tym, które działania agenta wymagają zgody człowieka, a które wystarczy zalogować z możliwością cofnięcia.Obcięty kontekst zgodySkrócenie opisu operacji w oknie zatwierdzania tak że informacja istotna dla decyzji nie mieści się w widoku — formalnie dostępna, praktycznie niewidoczna. Naruszenie parytetu informacji przez układ interfejsu, bez kłamstwa w treści.Parytet informacjiWłasność punktu kontrolnego w której człowiek widzi w momencie decyzji dokładnie to co wie agent. Okno zgody chroni dokładnie tyle ile prawdy pokazuje — jeśli agent zna skutek którego nie wyświetla, pętla nadzoru jest rozerwana mimo że formalnie istnieje.Zeszklone zatwierdzanieOdruchowe akceptowanie próśb agenta o zgodę bez czytania ich treści. Okno pokazuje prawdę, człowiek i tak klika "akceptuj" — bo robił to dziś czterdzieści razy i za każdym razem było w porządku. Lekarstwem nie jest lepsze okno tylko mniejsza liczba okien.Człowiek w pętliModel nadzoru nad agentami AI w którym człowiek zatwierdza kluczowe decyzje przed ich wykonaniem — równowaga między autonomią agenta a kontrolą użytkownika nad jego działaniami.