Dostrajanie modelu

Dostosowanie pretrenowanego modelu językowego do specyficznej domeny przez dodatkowe trenowanie — modyfikuje jak model się zachowuje (styl, format, terminologia). Fine-tuning = jak model odpowiada. RAG = co model wie. Dla większości enterprise: zacznij od RAG + prompt engineering.

W Polsce nazywane też:

dostrajanie modelufine-tuning modelutrenowanie domenyadaptacja modelu AI

Ogólny model językowy wie dużo o wszystkim. Agent który musi działać w wąskiej domenie — medycznej terminologii, prawniczym języku, specyficznej domenie technicznej — może wymagać modelu który „rozumie” tę domenę lepiej niż wynika z ogólnego treningu.

Fine-tuning to proces dostosowania ogólnego modelu do specyficznej domeny lub stylu przez dodatkowe trenowanie na curated danych. Ale nie zawsze jest właściwą odpowiedzią.

Czym jest fine-tuning

Fine-tuning to proces dostosowania pretrenowanego modelu językowego do specyficznego zastosowania przez dodatkowe trenowanie na wyselekcjonowanym zbiorze danych — modyfikujący wagi modelu tak żeby lepiej odpowiadał specyficznej domenie, stylowi lub formatowi — alternatywa lub uzupełnienie dla RAG i prompt engineering.

Kiedy fine-tuning, kiedy RAG

To jest jedno z kluczowych pytań w projektowaniu agentów. Reguła ogólna:

Fine-tuning jest właściwy gdy chcesz zmienić jak model się zachowuje (styl, format, ton, specjalistyczny język). „Agent powinien zawsze odpowiadać w formacie JSON” lub „Agent powinien używać medycznej terminologii”.

RAG jest właściwy gdy chcesz dać modelowi dostęp do aktualnej, specyficznej wiedzy. „Agent powinien znać aktualny cennik produktów” lub „Agent powinien znać wewnętrzne procedury firmy”.

Dlaczego: fine-tuning „wbudowuje” wiedzę w wagi modelu — nie można jej aktualizować bez re-trenowania. RAG dostarcza wiedzę dynamicznie w czasie rzeczywistym — można aktualizować dokumenty bez zmiany modelu.

Kiedy oba razem

Fine-tuning + RAG jest potężną kombinacją: fine-tuning uczy modelu jak odpowiadać w danej domenie (styl, format, terminologia), RAG dostarcza aktualną wiedzę domenową. Agent medyczny: fine-tuning na medycznych rozmowach → agent zna terminologię, RAG na aktualnych wytycznych klinicznych → agent ma aktualne informacje.

Koszt i złożoność

Fine-tuning wymaga: curated dataset (setki-tysiące przykładów), czas na trenowanie (godziny-dni zależnie od infrastruktury), expertise ML do oceny wyników. OpenAI, Anthropic i Azure oferują fine-tuning API które obniżają barierę techniczną — ale koszt danych i ewaluacji pozostaje.

Dla większości use cases enterprise: zacznij od RAG + prompt engineering. Fine-tuning gdy RAG+prompting nie wystarczają i masz zasoby do zbudowania i utrzymania pipeline trenowania.