W pierwszym artykule kod z aneksu pokazywał rozkład prawdopodobieństwa: pięciu kandydatów na jeden token, każdy ze swoją liczbą. Zostawiliśmy go tam bez ciągu dalszego. Teraz pytanie, które się wtedy nasuwało: skoro model zwraca rozkład, to kto właściwie wybiera jedno...
Weź dwa modele o zbliżonej liczbie parametrów, od dwóch różnych dostawców. Zadaj im to samo pytanie. Jeden odpowie w trzech zdaniach, drugi w trzech akapitach. Jeden odmówi, drugi nie. Jeden zacznie od zastrzeżeń, drugi od konkretu. Różnica prawie nigdy nie leży w...
„Zamek był zardzewiały.” Przeczytałeś to i już wiesz, że nie chodzi o budowlę. Wiesz dzięki jednemu słowu, które stoi obok. Gdyby zamiast „zardzewiały” było „otoczony fosą”, to samo słowo znaczyłoby coś zupełnie innego. W poprzednim artykule...
Wpisz w dowolną wyszukiwarkę semantyczną „auto”, a znajdzie ci dokumenty o samochodach. Nie dlatego, że ktoś ręcznie wpisał synonimy. Te dwa słowa nie mają wspólnego rdzenia, nie mają wspólnej odmiany, a mimo to maszyna traktuje je jako bliskie. To jest jedyne...
W artykule pierwszym padło zdanie, że model dostaje ciąg tokenów. Teraz pytanie, które zadaje się samo: skąd te tokeny się biorą i kto je robi. Odpowiedź jest zaskakująco prozaiczna. Robi je zwykły algorytm, który niczego się nie nauczył i nigdy się nie nauczy. A mimo...
Większość nieporozumień wokół modeli językowych bierze się nie z tego, czego o nich nie wiemy, ale z tego, co błędnie zakładamy. Że gdzieś sprawdzają. Że coś pamiętają. Że wykonują polecenia. Nie robią żadnej z tych rzeczy. Robią jedną i tylko jedną — i cała reszta...
