Słownik Webflux Agentic Web
Wnętrze modelu

zamrożone wagi

Parametry modelu ustalone na koniec treningu i niezmieniane podczas odpowiadania. Ten sam plik obsługuje wszystkich użytkowników jednocześnie — dlatego model nie uczy się z rozmowy, nie zapamiętuje poprawek i nie może zostać spersonalizowany bez osobnego treningu.

W Polsce nazywane też:

zamrożone wagiwagi modeluparametry modeluplik z wagami

Plik z wagami to miliardy liczb ustalonych na koniec treningu. Od tej chwili nie zmienia się nic — ani podczas twojej rozmowy, ani podczas cudzej.

Czym są zamrożone wagi

Zamrożone wagi to parametry modelu utrwalone po zakończeniu treningu i wykorzystywane w trybie tylko do odczytu podczas odpowiadania. Odpowiadanie nie modyfikuje ich w żaden sposób — jest wyłącznie przepuszczeniem danych przez ustaloną strukturę.

Dlaczego muszą być zamrożone

Ten sam plik obsługuje jednocześnie wszystkich użytkowników dostawcy. Jest wczytany raz do pamięci akceleratora i czytany przy każdym tokenie każdej z dziesiątek równoległych rozmów. Zapis czegokolwiek oznaczałby zapis w danych, z których w tej samej chwili korzysta ktoś inny.

Co to znaczy praktycznie

Model nie uczy się z twojej rozmowy. Poprawienie go — „nie, to jest błędne, zapamiętaj” — działa w obrębie jednej sesji, bo poprawka siedzi w kontekście. Następna rozmowa zacznie od tego samego miejsca.

Model nie jest spersonalizowany. Wszystko, co wygląda na znajomość twoich preferencji, zostało doklejone do kontekstu z zewnętrznej bazy.

Model można zmienić tylko osobnym treningiem — dostrajaniem albo pełnym przetrenowaniem — a to jest proces offline, kosztowny i wykonywany przez właściciela modelu.

Skąd bierze się odczucie, że model się zmienia

Bo maszyneria wokół niego się zmienia. Dostawca aktualizuje instrukcję systemową, podmienia wariant modelu w puli, zmienia precyzję wag albo runtime. Etykieta zostaje ta sama, zachowanie nie.

Powiązane pojęcia

bezstanowość modeluModel nie przechowuje niczego między wywołaniami — wagi są zamrożone i współdzielone przez wszystkich użytkowników jednocześnie. Wrażenie ciągłości rozmowy powstaje przez wysyłanie całej historii od nowa przy każdej turze, jako zwykłego tekstu.przepustowość pamięciIlość danych, jaką sprzęt przepycha między pamięcią a rdzeniami w ciągu sekundy. Przy generowaniu odpowiedzi to ona, a nie moc obliczeniowa, wyznacza sufit prędkości — bo każdy pojedynczy token wymaga przeczytania wszystkich wag modelu.trening wstępnyPierwszy i najkosztowniejszy etap treningu: model przewiduje kolejny token na ogromnym zbiorze tekstów, bez etykiet i ludzkich ocen. Daje model bazowy znający język, ale nie zachowanie asystenta. Wiedza z pretrainingu jest zamrożona na dacie odcięcia danych.transformerArchitektura sieci neuronowej oparta na mechanizmie uwagi, opisana w 2017 roku i stanowiąca podstawę dzisiejszych dużych modeli. Przetwarza całą sekwencję równolegle, co umożliwiło trening na dużą skalę. Wagi są zamrożone po treningu — model nie zapisuje niczego podczas rozmowy.Dostrajanie modeluDostosowanie pretrenowanego modelu językowego do specyficznej domeny przez dodatkowe trenowanie — modyfikuje jak model się zachowuje (styl, format, terminologia). Fine-tuning = jak model odpowiada. RAG = co model wie. Dla większości enterprise: zacznij od RAG + prompt engineering.Pamięć agentaMechanizmy przechowywania i odzyskiwania informacji przez agenta AI poza granicami pojedynczej sesji — umożliwiające ciągłość kontekstu i personalizację — przez kombinację pamięci krótkoterminowej (okno kontekstu) i długoterminowej (zewnętrzne bazy wektorowe). Fundament agentów które poprawiają się w czasie.