Jev heeft mijn Claude verbruik net gehalveerd!

Deze week heb ik mijn Claude-tokenverbruik ongelooflijk gereduceerd. Gewoon door een skill te maken die bij elke prompt eerst aan Jev, een AI beslissingmodel, vraagt welk model het beste past bij die vraag. Je weet wel, bij je prompts kan je aangeven of je nu voor Haiku, Opus, Sonnet of Fable kiest. Maar eerlijk, je laat dat toch altijd staan voor gelijk welke vraag?

Jev is een klein beslissingsmodel dat ik via OpenRouter aanroep. Hij leest de vraag en zegt: dit is iets voor Haiku, dit voor Sonnet, dit voor Opus. Ik draai normaal standaard op Opus 5.5, maar tot mijn verbazing was 80% van mijn vragen gewoon genoeg voor Haiku. Een model dat ik nochtans bijna nooit gebruik. Het zwaarste model is niet altijd het beste model.

Die aanroep via OpenRouter kost mij een paar cent, maar bespaart mij duizenden tokens. En vertraging? Geen enkele gezien. Het verschil zit tussen "ik zet alles op het grootste model, dan ben ik zeker" en "mijn AI kiest zelf het juiste model voor de juiste vraag".

Ik geloof echt in die kleine beslissingsmodellen. Je laat niet alles door één groot brein lopen, je zet er een slimme portier voor. Resultaat: ik kan nu nog meer doen en loop niet meer tegen mijn limieten aan.

Oh ja, dat beslissingsmodel zit ondertussen ook in mijn MCP gateway. Maar dat is iets voor een volgende post...

Draai jij ook altijd op het zwaarste model?