Twój wniosek kredytowy został odrzucony. Masz prawo wiedzieć dlaczego. Twoje CV nie przeszło pierwszego etapu rekrutacji. Masz prawo wiedzieć na jakiej podstawie. Twoja polisa ubezpieczeniowa kosztuje więcej niż sąsiada z podobnym profilem. Masz prawo wiedzieć dlaczego.
W erze AI te „dlaczego” coraz częściej to odpowiedź modelu językowego lub systemu ML. Prawo do wyjaśnienia nakłada na firmy obowiązek dostarczenia tych odpowiedzi w sposób zrozumiały — nawet gdy system jest złożony.
Czym jest right to explanation
Right to explanation to prawo osoby fizycznej do uzyskania zrozumiałego wyjaśnienia decyzji podjętej przez zautomatyzowany system AI wpływającej na tę osobę — zakorzenione w GDPR Art. 13-15 i Art. 22, wzmocnione przez AI Act wymogi transparentności — obejmujące logikę decyzji, główne czynniki które na nią wpłynęły i przewidywane konsekwencje.
Co to wyjaśnienie musi zawierać
GDPR nie wymaga ujawnienia pełnego algorytmu (to jest tajemnica handlowa) — ale wymaga „znaczących informacji o logice” i „znaczeniu oraz przewidywanych konsekwencjach”.
Sądy i regulatorzy interpretują to jako: jakie główne czynniki wpłynęły na decyzję, jak każdy z nich przyczynił się do wyniku, co osoba mogłaby zmienić żeby uzyskać inny wynik.
Przykład dla decyzji kredytowej: „Wniosek odrzucono głównie ze względu na: historię spłat (35% wagi), aktualne zobowiązania (25%), długość historii kredytowej (20%), pozostałe czynniki (20%). Najistotniejszy czynnik: 2 opóźnienia w spłacie w ciągu ostatnich 12 miesięcy.”
Wyzwania techniczne
Duże modele językowe i sieci neuronowe są trudno interpretowalane (XAI — Explainable AI to aktywne pole badań). Dla systemów ML używanych do decyzji wysokiego ryzyka firma musi zainwestować w metody wyjaśnialności: SHAP values, LIME, feature importance — metody które przekształcają decyzję black box na zrozumiałe czynniki.
Dla agentów RAG: wyjaśnienie może obejmować które dokumenty były brane pod uwagę przy decyzji — data lineage jako komponent wyjaśnienia.
Eksplainability jako competitive advantage
Firmy które inwestują w wyjaśnialność AI przed regulacyjnym przymusem budują zaufanie klientów i unikają ryzyka prawnego. UODO w Polsce może egzekwować Art. 13-15 GDPR — kary do 4% globalnego obrotu. Proaktywna wyjaśnialność jest tańsza niż reaktywna compliance po decyzji regulatora.