Zespoły bezpieczeństwa od lat opisują ataki językiem taktyk i technik. ATLAS przenosi tę konwencję na systemy sztucznej inteligencji.
Czym jest ATLAS
MITRE ATLAS to prowadzona przez MITRE baza wiedzy o taktykach, technikach i przypadkach ataków na systemy sztucznej inteligencji, zbudowana według tej samej konwencji co macierz ATT&CK. Jest bazą żywą, aktualizowaną w miarę pojawiania się nowych technik i udokumentowanych incydentów.
Jak jest zorganizowana
Wzdłuż osi poziomej stoją taktyki, czyli etapy ataku — od rozpoznania, przez uzyskanie dostępu, po osiągnięcie celu. Pod każdą taktyką znajdują się techniki, czyli konkretne sposoby jej realizacji.
Ta struktura pozwala opisać atak jako ścieżkę, a nie jako pojedynczą podatność — i to jest jej główna wartość przy systemach agentowych, gdzie szkoda rzadko powstaje w jednym kroku.
Czym różni się od list OWASP
Lista OWASP odpowiada na pytanie, co może pójść źle w mojej aplikacji. Jest krótka, uporządkowana według wagi i służy jako lista kontrolna.
ATLAS odpowiada na pytanie, jak przebiega atak. Jest obszerny, opisowy i służy do rozpisywania scenariuszy oraz projektowania ćwiczeń zespołu atakującego.
Nie zastępują się nawzajem. Przy modelowaniu zagrożeń dla agenta naturalna kolejność to lista OWASP jako punkt wyjścia i ATLAS jako źródło konkretnych scenariuszy do przetestowania.
Dla kogo
Przede wszystkim dla zespołów bezpieczeństwa i audytu. Zespół budujący agenta częściej skorzysta z listy dziesięciu ryzyk; ATLAS staje się przydatny wtedy, gdy trzeba udowodnić, że zabezpieczenia faktycznie działają.
