Systemy ostrzegania mają wbudowany paradoks: im więcej sytuacji obejmują, tym częściej się odzywają, a im częściej się odzywają, tym mniej znaczy każde pojedyncze ostrzeżenie.
Czym jest zmęczenie alertami
Spadek reakcji na powiadomienia wywołany ich nadmiarem — użytkownik zaczyna odrzucać ostrzeżenia odruchowo, łącznie z tymi które są trafne i istotne.
Skąd wiadomo że to działa tak a nie inaczej
Najszerzej opisane w badaniach nad klinicznymi systemami wspomagania decyzji. Systemy ostrzegające o interakcjach lekowych generowały tyle powiadomień, że personel medyczny zaczął je zamykać bez czytania — w tym te które wskazywały na realne zagrożenie.
Kluczowy wniosek dla każdego kto projektuje nadzór: problemem nie była jakość ostrzeżeń tylko ich liczba. Ostrzeżenia były merytorycznie poprawne. Nie były czytane, bo było ich za dużo.
Przeniesienie na agenty AI
Agent odtwarza ten sam mechanizm w krótszym czasie. Asystent kodujący potrafi wygenerować w ciągu godziny tyle próśb o zgodę, ile system szpitalny w ciągu dnia pracy. Próg po którym człowiek przestaje czytać zostaje przekroczony szybciej i mniej zauważalnie.
Konsekwencja projektowa
Liczba monitów jest parametrem bezpieczeństwa, nie tylko wygody użytkownika. Wzrost liczby próśb o zgodę tydzień do tygodnia jest regresją bezpieczeństwa nawet wtedy gdy żadna pojedyncza prośba nie jest błędna. Warto to mierzyć razem z resztą telemetrii agenta.
Status
Pojęcie ustalone, z własną literaturą — najobszerniejszą w medycynie i w monitoringu bezpieczeństwa IT, gdzie opisuje się je także jako zmęczenie zgłoszeniami.