Framework

ROUTE Het model-portfolio

ROUTE is een discipline van vijf vaardigheden voor het besturen van een mix van taalmodellen: Register, Doel-typering, Uitvoeringsbeleid, Tracken, Evolueren. Register catalogiseert elk model met mandaat, kostenklasse, privacyklasse en uitfaseringsstatus. Doel-typering benoemt wat een taak echt vereist voordat je een model kiest. Uitvoeringsbeleid schrijft de routeringsregels, cascades en fallbacks. Tracken meet kosten, latentie en kwaliteit per route. Evolueren promoveert, degradeert en neemt op een cadans uit bedrijf. Een leaderboardkeuze is een collectie. ROUTE is een portefeuille.

De zetten
5

Wanneer je het gebruikt

Gebruik het wanneer elke taak het vlaggenschipmodel raakt en de rekening later komt. Als het team niet kan benoemen welk model welk werk doet, heb je geen routeringsbeleid. Je hebt een standaardkeuze.

De zetten

  1. 01

    Register

    Catalogiseer elk model met mandaat, kostenklasse, privacyklasse en uitfaseringsstatus, zodat niets onbeheerd draait.

  2. 02

    Doel-typering

    Benoem wat de taak vereist (redeneerdiepte, formaat, latentie, kwaliteit, privacy) voordat je een model kiest.

  3. 03

    Uitvoeringsbeleid

    Schrijf de routeringsregels, cascades en fallbacks die bepalen welk model welk verzoek afhandelt.

  4. 04

    Tracken

    Meet kosten, latentie en kwaliteit per route, zodat een verspillingspatroon zichtbaar wordt vóór de factuur.

  5. 05

    Evolueren

    Promoveer, degradeer en neem uit bedrijf op een cadans, zodat een deprecatie een geplande release is, geen scramble.

Het boek

Nu verkrijgbaar

Het model-portfolio

Hoe je LLM's als strategische bedrijfsmiddelen routeert, combineert en bestuurt

Open het boek

Verwante frameworks

Artikelen op deze site

Begrippen

Geen AI-stack-slide van een leverancier, geen product voor de kapitaalmarkt en geen PORTFOLIO-acroniem. ROUTE is het benoemde systeem in Het model-portfolio, nu verkrijgbaar in het Engels en het Nederlands als paperback, hardcover en Kindle.

Citatie

ROUTE (Het model-portfolio). Len P. van der Hof, Systemen voor het strategische zelf. https://lenvanderhof.com/nl/frameworks/route/

Markdown voor LLMs