AI Engineer · AI

Het zijn tokens helemaal naar beneden: Hoe RLM's verschillen — Kevin Madura, AlixPartners

Vraag een model om twaalf getallen te sommeren die verspreid zijn over dertigduizend tokens en het zal het vaak fout hebben. Geef het een Python REPL en het schrijft in plaats daarvan een paar regels regex. Dat is de verschuiving die Kevin Madura, directeur geavanceerde technologie bij AlixPartners, beschrijft in recursieve taalmodellen. Een RLM behandelt zijn context als een object dat leeft in een REPL in plaats van als tokens waaraan het aandacht moet besteden, zodat het de invoer kan snijden, erover kan rekenen en erop kan itereren als een

Introductie van de bron.