Det regner i Bergen, og jeg har brukt morgenen på å lese en bloggpost om en modell som ikke kan skrive en eneste setning. Det høres ut som en begrensning. Jeg tror det er poenget.
Sydney Runkle i LangChain «Building a Harness with Jev», skrevet sammen med Hunter Lovell om to helt konkrete mønstre du kan stjele til din egen agent i ettermiddag.
I et verksted er de fleste verktøyene til for å fjerne materiale. Stemjern, høvel, sag. Men det verktøyet jeg tar ned fra veggen oftest, lager ingenting i det hele tatt. Vateret sier bare ja eller nei, og litt om hvor mye du bommer. Det er raskt, det er billig, og du bruker det femti ganger i løpet av en jobb der du bruker høvelen fem.
Jev er et vater.
TypeSafe AI lanserte modellen 15. september og kaller kategorien System One models – navnet er lånt fra Kahnemans raske, intuitive System 1, mens dagens resonnerende LLM-er hører hjemme i det langsomme System 2. (DataCamp skriver at selve modellnavnet kommer fra økonomen William Stanley Jevons. Jeg har ikke funnet det bekreftet hos TypeSafe selv.)
Modellen genererer ikke tekst. Du sender den en state – en supportsak, en loggrad, en meldingshistorikk, hva som helst – og et sett med questions. Den svarer med typede verdier og kalibrerte sannsynligheter. Tre spørsmålstyper finnes:
Choice – velg blant definerte alternativer
Score – plasser på en ordnet skala
Noul – ja/nei, med sannsynligheten for at påstanden er sann
Alle spørsmål i én forespørsel evalueres parallelt mot samme state. LangChain siterer TypeSafes dokumentasjon på at flere spørsmål knapt påvirker responstiden – du betaler bare tokens for selve spørsmålene.
Det er her det blir interessant, og ikke først og fremst fordi det er raskt. Det er interessant fordi det er en annen type verktøy. Ingen JSON å parse. Ingen fare for at modellen begynner å forklare seg når du ba om en kategori. Gyldige svar er definert i skjemaet før kallet går ut.
LangChain har lagt ut en førsteparts-integrasjon, langchain-typesafe, som eksponerer Jev gjennom TypeSafeClassifier. Du sender state og questions til .invoke() og får klassifiseringer tilbake i stedet for en chat-respons. State kan være tekst, strukturerte data eller LangChain-meldinger, så du kan kalle den fra en node, et tool eller en middleware-hook med konteksten agenten allerede sitter på.
Men det er de to middleware-eksemplene i posten som er den egentlige oppskriften.
ModelRouterMiddleware lar Jev vurdere forespørselen og velge modell etter kriterier du selv definerer. LangChains eget eksempel setter opp «fast» for oppslag og lokale endringer, «powerful» for arkitektur og høye innsatser, med instruksjonen om å velge den billigste modellen som kan gjøre jobben. Ruteren velger ut fra siste brukermelding og holder valget gjennom kjøringen – og sannsynlighetene ligger tilgjengelig i agent-staten etterpå.
AutoModeMiddleware er den jeg har tenkt mest på. Den bruker Jev til å vurdere tool calls for risiko, og blokkerer kallet før verktøyet kjører. To linjer kode for å sette en port foran bash.
Og her kommer observasjonen LangChain gjør, som jeg synes er den viktigste setningen i hele posten: coding harnesses som Claude, Codex og Cursor har allerede en eller annen form for klassifisering av farlige handlinger før de utføres – det er en stor del av grunnen til at folk har begynt å stole på dem. Men det steget har til nå ligget låst inne i de lukkede delene av harnesset. Nå som det finnes en billig og rask klassifiserer, kan alle bygge det samme mønsteret inn i sine egne agenter.
Det er en åpning av noe som har vært en konkurransefordel. Den slags skjer ikke så ofte at man bør la være å legge merke til det.
LangChain skriver at TypeSafe rapporterer opptil 200x raskere inferens og 400x lavere kostnad enn sammenlignbare LLM-er på klassifiseringsoppgaver. Legg merke til formuleringen: LangChain videreformidler selskapets egne tall og gjør det tydelig.
DataCamps gjennomgang gir litt mer kjøtt på beinet, og også her er alt hentet fra TypeSafes egne evalueringer: rundt 67,8 % treffsikkerhet på en benchmark med fire arbeidsflyter, mot 67,9 % for GPT-5.6 Terra, 74,1 % for Sol og 73,1 % for Opus 5. Kostnad per sak oppgis til omtrent $0,0004 mot $0,03–0,18 for de andre, og latens til 0,4 sekunder mot 10–38. Prisen skal være $0,042 per million input-tokens, med output gratis.
Så noen forbehold, og de er ikke småtterier:
Arbeidsflytene i benchmarken er skrevet av TypeSafes eget model capabilities-team, og fasitsvarene kommer fra OpenAI- og Anthropic-modeller. TypeSafe sier dette selv – det er ryddig gjort – men det betyr at ingen uavhengig reproduksjon foreligger ennå. DataCamps konklusjon er at man bør lese paritet på treffsikkerhet som lovende, ikke avgjort. Jeg slutter meg til det.
Selskapet innrømmer også at det ikke kan bevise at prisingen ikke er subsidiert. Modellen ligger bak venteliste i early access. Og den er proprietær, hostet, med ett endepunkt hos én leverandør.
Det siste er verdt å si høyt, gitt hvordan denne bloggen pleier å ende: Jev er ikke et verktøy du eier. Det er et verktøy du leier, fra en leverandør som nettopp hentet inn en større seedrunde og ikke har rukket å bevise hverken prismodell eller varighet. Forbes skal ifølge tredjepartsdekning ha omtalt en verdsettelse rundt $200M – jeg har ikke fått bekreftet det tallet mot primærkilden, så behandle det som et rykte med hyggelig innpakning.
Her er hullet i vateret, og det er ikke teknisk.
Jev gir deg et tall. Den gir deg ikke en begrunnelse. Det finnes ingen naturlig språklig forklaring på hvorfor en sak fikk den scoren den fikk – bare sannsynligheten, og en kalibrert tillit til den.
For ruting av supporthenvendelser er det helt greit. For å bestemme om en bash-kommando får kjøre er det mer enn greit. Men i det øyeblikket en slik klassifiserer står i beslutningsveien for noe som angår en person – en søknad, en prioritering, en flagging – blir fraværet av begrunnelse et problem lenge før det blir et teknisk problem.
Jeg er ingen jurist, og jeg skal ikke late som jeg vet hvor grensene går i praksis. Men retningen i europeisk regelverk har lenge vært mot mer forklaring, ikke mindre, og norske virksomheter får AI-forordningen via EØS med den forsinkelsen vi etter hvert kjenner godt. Den forsinkelsen er ikke en utsettelse av problemet. Den er en periode der du rekker å bygge noe du siden må bygge om.
Den praktiske løsningen finnes allerede i materialet: bruk den raske klassifisereren i rutingslaget, og send alt som er flagget eller usikkert videre til en modell som kan skrive ned hvorfor. Kalibreringen er det som gjør den overleveringen ren – du kan rute på en terskel. Jeg fant forøvrig ingen norsk dekning av lanseringen da jeg søkte. Det pleier å bety at vi snakker om dette om tre uker.
Elyra CLI har allerede smart model routing. Elyra Conductor er bygget rundt prinsippet om at den er host, not agent – den orkestrerer, men resonnerer aldri selv, og eier ingen nøkler. Så AutoMode-mønsteret traff noe jeg har gått rundt og tenkt på uansett: hvor skal risikovurderingen av et bash-kall bo, i et terminal-først verktøy der brukeren har sine egne nøkler og jeg ikke har telemetri?
Svaret jeg lander på etter denne lesningen er at mønsteret er verdt å ta med seg, mens leverandøren er valgfri.
Det er ingenting i AutoMode-ideen som krever at klassifisereren heter Jev. Den krever en rask, billig komponent som svarer ja eller nei med en sannsynlighet, før verktøyet kjører. Det kan være en hostet System One-modell. Det kan være en liten lokal modell. Det kan i mange tilfeller være tretti linjer med regler du faktisk forstår. Poenget er porten, ikke portvakten.
Å gjøre en proprietær, ventelistegated API til en obligatorisk avhengighet i et verktøy som selger seg på bring-your-own-keys og fravær av telemetri, ville vært å rive ut gulvet for å installere et fint teppe. Men å legge inn et grensesnitt der en eller annen klassifiserer kan stå – det er bare godt håndverk.
Det er sånn de gode nyhetene fra Silicon Valley ofte ser ut når de har ligget noen dager: ikke et produkt du må kjøpe, men et mønster du kan kopiere.