Deepfake to w rozumieniu AI Act wygenerowane lub zmanipulowane przez AI treści obrazowe, dźwiękowe lub wideo, które przypominają istniejące osoby, obiekty, miejsca lub zdarzenia i mogłyby błędnie uchodzić za autentyczne.
Podmioty stosujące mają obowiązek ujawniać, że takie treści zostały sztucznie wygenerowane lub zmanipulowane (z niuansami m.in. dla treści artystycznych). Konstrukcyjnie kategoria dotyczy przedstawiania rzeczy istniejących w sposób mylący co do autentyczności — abstrakcyjna ilustracja wygenerowana przez AI to inna półka niż fotorealistyczne 'nagranie’ realnej osoby mówiącej rzeczy, których nie powiedziała. Hasło ma charakter informacyjny, nie stanowi porady prawnej.