WebAssembly

Binarny format kodu wykonywanego przez przeglądarkę z wydajnością zbliżoną do natywnej. Dla modeli AI pełni rolę ścieżki zapasowej tam, gdzie nie ma dostępu do karty graficznej — wolniejszej od WebGPU, ale działającej praktycznie wszędzie.

W Polsce nazywane też:

WebAssemblyWASMkod binarny w przeglądarce

JavaScript jest wygodny i zbyt wolny do liczenia. WebAssembly powstało po to, żeby przeglądarka mogła wykonywać kod przygotowany wcześniej, blisko prędkości natywnej.

Czym jest WebAssembly

WebAssembly to binarny format instrukcji wykonywany przez środowisko uruchomieniowe przeglądarki, będący celem kompilacji dla języków takich jak C, C++ czy Rust. Działa w piaskownicy, na tych samych zasadach bezpieczeństwa co reszta strony, i osiąga wydajność zbliżoną do kodu natywnego.

Rola przy modelach AI

Biblioteki inferencyjne kompiluje się do WASM, dzięki czemu ten sam silnik napisany w C++ działa w przeglądarce bez przepisywania. Rozszerzenie SIMD, pozwalające wykonywać jedną operację na wielu liczbach naraz, dodatkowo przyspiesza mnożenie macierzy.

Wobec WebGPU

WASM liczy na procesorze, WebGPU na karcie graficznej. Przy modelach językowych różnica jest zwykle rzędu dziesięciokrotnej i wynika wprost z liczby rdzeni oraz przepustowości pamięci.

Przy małych modelach — embeddingach, klasyfikatorach, rozpoznawaniu mowy — różnica bywa nieistotna, bo zadanie kończy się i tak w ułamku sekundy.

Dlaczego warto go mieć mimo wszystko

Bo działa wszędzie. WASM jest wspierany przez wszystkie liczące się przeglądarki od lat, niezależnie od systemu operacyjnego i sterowników graficznych. WebGPU takiej gwarancji nie daje.

Właściwa architektura funkcji opartej na lokalnym modelu to zatem WebGPU jako ścieżka podstawowa i WASM jako zapasowa — a nie odwrotnie i nie tylko jedna z nich.

Powiązane pojęcia

ONNXOtwarty format zapisu modeli uczenia maszynowego, pozwalający wyeksportować model z jednego środowiska treningowego i uruchomić go w innym. W praktyce najczęstszy nośnik grafu obliczeniowego — także dla modeli uruchamianych w przeglądarce.Transformers.jsBiblioteka JavaScript uruchamiająca modele uczenia maszynowego bezpośrednio w przeglądarce, na warstwie środowiska uruchomieniowego ONNX z akceleracją WebGPU. Obsługuje nie tylko modele językowe, ale też embeddingi, rozpoznawanie mowy, syntezę mowy i zadania wizyjne.WebGPUStandard W3C dający stronom internetowym dostęp do karty graficznej użytkownika, zarówno do grafiki, jak i do obliczeń ogólnego przeznaczenia. Dla modeli językowych oznacza możliwość uruchomienia inferencji lokalnie z akceleracją sprzętową, bez wysyłania czegokolwiek na serwer.Agent brzegowyAgent AI działający na urządzeniu końcowym lub lokalnym serwerze edge — minimalizujący latencję przez eliminację round-tripu do chmury, działający offline i redukujący koszty transmisji. Apple Intelligence, Cloudflare Workers AI, NVIDIA Jetson jako przykłady implementacji.Lokalny model językowyModel językowy uruchamiany lokalnie — bez zewnętrznego API — zapewniający prywatność danych, działanie offline i przewidywalne koszty. Llama, Mistral, Phi jako popularne modele. Ollama jako de facto standard dla developerów.