Oldal címe
LLM desztillációs pipeline tesztelése és finomhangolása
Címlapos tartalom
A projekt célja egy olyan desztillációs pipeline tesztelése és finomhangolása, amely képes az LLM-ek széleskörű tudását egy hatékonyabb, domain specifikus modellbe desztillálni. A modellt hatékonyabbá teszi a csökkentett paraméter szám, csökkentett kimeneti szótár, és a feladatból adódó esetlegesen kisebb kontextus hossz. A projekt később használható lesz agentic workflow-ban specifikus, terhelt node-ok hatékonyabbá tételére, vagy domain/task specifikus modellek létrehozására.