Archiwa Maszyneria modelu T2

Nie płacisz za model — płacisz za miejsce w kolejce

przez Łukasz | wrz 22, 2026 | Agentic Web, Maszyneria modelu T2

Cennik API wygląda jak cennik produktu, a jest cennikiem czasu na karcie. Dwie kolumny, wejście i wyjście, różnica trzy- do pięciokrotnej — i żadna z tych liczb nie mówi o modelu. Mówią o tym, ile miejsca zajmujesz w partii i jak długo je blokujesz. To zamknięcie toru...

Prompt caching — dlaczego ta sama prośba raz kosztuje trzy razy mniej

przez Łukasz | wrz 22, 2026 | Agentic Web, Maszyneria modelu T2

Jest jedna optymalizacja, która potrafi ściąć rachunek za API o dwie trzecie, nie wymaga zmiany modelu ani frameworka i mieści się w jednej decyzji o kolejności tekstu. Jest też jedna rzecz, która ją unieważnia — i prawie każdy popełnia ten błąd przynajmniej raz. W...

Ten sam mechanizm, dwieście osób w kolejce

przez Łukasz | wrz 22, 2026 | Agentic Web, Maszyneria modelu T2

Twoja prośba nie jest obsługiwana sama. Dzieli kartę z kilkudziesięcioma innymi i to nie jest oszczędność dostawcy — to jedyny sposób, żeby rachunek w ogóle się domknął. Wszystko, co odczuwasz jako dziwactwa API, wynika z tej jednej decyzji: kolejka, wahania czasu...

Za HTTP — co dzieje się z prośbą po drugiej stronie

przez Łukasz | wrz 21, 2026 | Agentic Web, Maszyneria modelu T2

Między twoim fetch a pierwszym bajtem odpowiedzi stoi sześć warstw, z których tylko jedna jest modelem — a i ona dzieli się na dwie fazy o zupełnie różnym charakterze. Przez cztery poprzednie artykuły oglądaliśmy mechanizm na własnym urządzeniu, gdzie wszystko było...

Nie płacisz za model — płacisz za miejsce w kolejce

Prompt caching — dlaczego ta sama prośba raz kosztuje trzy razy mniej

Ten sam mechanizm, dwieście osób w kolejce

Za HTTP — co dzieje się z prośbą po drugiej stronie

Ostatnie wpisy

Najnowsze komentarze

Czego szukasz?

Szanujemy Twoją prywatność

Nie płacisz za model — płacisz za miejsce w kolejce

Prompt caching — dlaczego ta sama prośba raz kosztuje trzy razy mniej

Ten sam mechanizm, dwieście osób w kolejce

Za HTTP — co dzieje się z prośbą po drugiej stronie

Ostatnie wpisy

Najnowsze komentarze

Ustawienia cookies