AI Engineer · AI

Kleine Modellen, Grote Resultaten: Een Financieel Agent Trainen voor Minder dan $500 — Charles Dickens, Snorkel AI

Een model met 4 miljard parameters, getraind met RL voor minder dan $500, versloeg zijn broer met 235 miljard parameters op echte financiële vragen. Charles Dickens, onderzoekswetenschapper bij Snorkel AI, deelt hoe Snorkel en UC Berkeley's Sky Computing Lab een klein model trainden om een veel groter model te verslaan. Werkend vanuit SEC 10-K-aanvragen, bouwden ze FinQA, een dataset voor financiële vraagbeantwoording met door experts gevalideerde antwoorden, en ontdekten dat zelfs geavanceerde modellen hallucineerden.

Introductie van de bron.