Sebastien Rousseau

LLM-AGENTER

Verifiera agenters handlingar innan de körs: JevActs beslutsspärr

De flesta agentloopar kör ett verktygsanrop i samma ögonblick som modellen föreslår det, och JevActs resultat tyder på att en billig, sannolikhetsbaserad kontrollpunkt precis före exekveringen kan göra verktygsanvändande agenter mer tillförlitliga, även om vinsterna varierar kraftigt mellan benchmarks.

12 min läsning
Banner for: Verifiera agenters handlingar innan de körs: JevActs beslutsspärr

De flesta agentloopar kör ett verktygsanrop i samma ögonblick som modellen föreslår det, och JevActs resultat tyder på att en billig, sannolikhetsbaserad kontrollpunkt precis före exekveringen kan göra verktygsanvändande agenter mer tillförlitliga, även om vinsterna varierar kraftigt mellan benchmarks.

Sammanfattning för beslutsfattare

  • LLM-agenter utför allt oftare handlingar med verkliga konsekvenser via externa verktyg, men handlingarna exekveras ofta utan oberoende verifiering av att policyn följs eller att uppgiften är slutförd.
  • JevAct kompilerar en domänpolicy offline till frågor, regler, exekverbara tillståndskontroller och vid behov en checklista för överlämning.
  • Under körning kontrollerar kod fakta i verktygens register, medan Kev, en Jev-liknande beslutsmodell med öppen källkod, besvarar frågor som beror på samtalet.
  • Jämfört med en ReAct-harness på τ²-bench (Airline, Telecom) och BFCL är vinsterna konsekventa på Telecom och för BFCL:s lyckande i alla tre körningar, och mer blandade på Airline.
  • Författarnas egen inramning är försiktig: resultaten tyder på att strukturerade beslutsmodeller i kombination med exekverbar verifiering kan förbättra tillförlitligheten.

Problemet: exekveringen följer direkt på förslaget #

En agent som bokar en flygresa, avbokar en order eller ändrar en kontoinställning gör något som inte i tysthet kan göras ogjort. Det obekväma är hur lite som står mellan modellens förslag och effekten. Många agentloopar exekverar ett föreslaget verktygsanrop så snart modellen har producerat det. Ingen kontrollerar oberoende om handlingen följer domänens policy, eller om en uppgift som agenten anser vara klar faktiskt är klar.

Det gapet är utgångspunkten för "Think Before You Act: Decision Gate for LLM Agents", ett arXiv-preprint från 2026 av Iftach Shoham, Yuval David och kollegor på IBM, som introducerar JevAct. Iakttagelsen är inte ny, men den är värd att säga rakt ut eftersom så mycket agentverktyg fokuserar på att göra den föreslående modellen bättre. ReAct-agenter varvar resonemang med verktygsanvändning, och det mönstret har blivit en vanlig baslinje. Reflektionsmetoder som Self-Refine och Reflexion lägger till kritik och återkoppling för att förbättra senare förslag eller försök, utan att uppdatera modellens vikter. Hur användbart det än är verifierar de metoderna inte i sig en enskild handling mot en domänpolicy omedelbart före exekveringen. Den kontroll JevAct bryr sig om sitter på en annan plats i loopen: efter att ett förslag finns och innan det verkställs.

Vad JevAct är #

JevAct är en harness som kontrollerar utvalda förslag före exekvering. Det beskrivs som ett ramverk för verifiering under körning som fångar upp utvalda agenthandlingar och möjliggör korrigering driven av återkoppling. Det fungerar oberoende av den underliggande agentmodellen och kräver inga ändringar i modellens parametrar eller verktyg. I den utvärderade uppsättningen förblir agentens LLM, grundprompt och verktyg oförändrade.

Arkitektoniskt utökar JevAct harnessen för en ReAct-agent genom att lägga in ett selektivt kontrollsteg mellan förslag och exekvering. Ordet "selektivt" är viktigt. Ramverket granskar inte varje meddelande; det riktar in sig på särskilda slags handlingar. Två definieras i artikeln. Ett skrivanrop förändrar miljön, till exempel genom att boka, avboka eller ändra en inställning. En överlämning avslutar agentens försök, antingen genom att föra över användaren till en människa eller genom att säga till användaren att inget mer kan göras. Skrivanrop är där en policyöverträdelse gör skada; överlämningar är där en agent kan ge upp för tidigt. Ramverkets uttalade mål att identifiera potentiellt ogiltiga handlingar och för tidigt avslutade uppgifter motsvarar de två kategorierna.

När en kontroll fallerar blockeras förslaget inte bara. Kontrollerna kan skjuta upp exekveringen och begära ett omarbetat förslag från LLM:en med tillfällig återkoppling, inom en fast budget för omarbetningar. Ett godkänt förslag går vidare. Ett flaggat förslag går tillbaka till agenten med riktad återkoppling och en begränsad chans att omarbeta. Och arbetsfördelningen förblir tydlig: agenten föreslår fortfarande handlingar, och Kev väljer dem inte.

Två slags evidens, en spärr #

Designen vilar på en uppdelning mellan det som kan verifieras deterministiskt och det som inte kan det. JevAct kombinerar deterministisk verifiering av fakta om verktygens tillstånd med probabilistisk bedömning av samtalskontexten. Under körning kontrollerar kod fakta som finns i verktygens register, och Kev besvarar frågorna som beror på samtalet.

Uppdelningen är förnuftig. Vissa policyvillkor är fakta som ligger i ett verktygs register, och ett program kan läsa dem utan någon modells omdöme. Andra villkor finns i vad användaren och agenten sa till varandra, något som ingen databasfråga kan avgöra. Genom att låta kod hantera det första och en modell det andra ställs modellen bara frågor som kod inte kan besvara.

Offline-halvan är det som gör detta praktiskt att beskriva. En kompilator omvandlar en domänpolicy till frågor, regler, exekverbara kontroller av verktygens tillstånd och vid behov en checklista för överlämning. JevAct kompilerar alltså domänpolicyer till exekverbara tillståndskontroller och strukturerade frågor som utvärderas av en prefill-only-beslutsmodell. Författarna säger att de lägger grunden för ett arbetsflöde som kompilerar domänpolicyer till frågor, beslutsregler, exekverbara tillståndskontroller och checklistor för överlämning till en beslutsmodellsspärr. Det är ett återhållsamt sätt att uttrycka det, och jag tar det för vad det är: påståendet gäller grunden för ett arbetsflöde, inte en färdig produkt.

Varför en beslutsmodell i stället för en LLM-domare #

Det uppenbara alternativet är en LLM-domare som läser förslaget och skriver ett utlåtande. Artikelns invändning är praktisk. Fritextförklaringar från en sådan domare måste fortfarande tolkas innan en spärr kan agera på dem, och att fatta beslutet med en frontiermodell är dyrt. En spärr behöver ett beslut, inte en uppsats.

Beslutsmodeller är byggda för det. Jev introducerade beslutsmodeller som returnerar typade val, poäng och sannolikheter i stället för genererad text. De returnerar val och sannolikheter för fasta frågor, vilket gör tröskelbaserade kontroller enkla. Modellen som JevAct använder är prefill-only och producerar sannolikhetsbaserade bedömningar utan att förlita sig på LLM-generering. Kev är en Jev-liknande beslutsmodell med öppen källkod, placerad i ett separat verifieringssteg innan utvalda handlingar verkställs.

Det finns en hake, och författarna säger det själva. Beslutsmodellens sannolikheter är inte garanterat kalibrerade eller korrekta, så deras värde måste testas i agentloopen i stället för att tas för givet. Den meningen ramar in hela den empiriska delen. Den centrala frågan är om en beslutsmodell kan fungera som en verifierare med sannolikhetströskel vid sidan av exekverbara kontroller av verktygens tillstånd. Det är en fråga som ska besvaras experimentellt, och det är i experimentet de intressanta detaljerna finns.

Relaterad forskning om beslutsmodeller ger en blandad bild av varför den testningen spelar roll. Li et al. rapporterar konkurrenskraftiga resultat för preferenser och evidensgrundad faktakorrekthet men svagare prestanda när härledning krävs. Rao och Callison-Burch rapporterar blandade resultat med bedömningsmallar och överlappande fel med LLM-domare. En beslutsmodell som är stark på vissa bedömningsuppgifter och svagare på andra är precis den sortens komponent man vill para ihop med deterministiska kontroller snarare än lita på ensam.

Hur jämförelsen genomfördes #

JevAct jämförs med en ReAct-harness som använder samma agent-LLM i båda grupperna. Uppgifterna omfattar Airline och Telecom i τ²-bench samt funktionsanrop i flera turer i BFCL. Att hålla agent-LLM:en konstant i båda grupperna är rätt kontroll för frågan som ställs: varje skillnad kommer från harnessen, inte från en starkare eller svagare föreslående modell.

Artikeln redovisar sina resultat med pass^3-värden från tabell 2, tillsammans med lyckande minst en gång. De två måtten drar åt olika håll, och kontrasten mellan dem visar sig vara informativ. Lyckande i alla tre körningar belönar en agent som gör rätt varje gång. Lyckande minst en gång belönar en agent som gör rätt vid något försök. En verifierare som fångar felaktiga handlingar borde hjälpa det första måttet mer tillförlitligt än det andra, och resultaten passar den läsningen, men artikeln säger bara att mönstret på BFCL stämmer med mer upprepbar prestanda på vissa uppgifter, så resten markerar jag som tolkning snarare än resultat.

Vad siffrorna visar #

På Telecom förbättrar alla åtta agenter både lyckande minst en gång och lyckande i alla tre körningar. Det är artikelns renaste resultat: inga undantag bland de testade agenterna, på något av måtten.

På BFCL förbättras alla nio agenter i lyckande i alla tre körningar, men resultaten för minst en gång är blandade. Läs det noga. På BFCL stiger det striktare måttet för varje testad agent, med 0,1 till 9,6 procentenheter; det mildare måttet förbättras för fyra agenter och försämras för fem. Om det som räknas är att en agent beter sig korrekt varje gång är det den gynnsamma riktningen. Om det som räknas är huruvida ett nytt försök till slut kan lyckas är nyttan inte belagd här.

Airline är den svaga punkten. Effekterna på Airline är mindre och varierar mellan agenter. Resultatsammanfattningen talar om särskilt konsekventa vinster på Telecom och BFCL, medan prestandan på Airline är mer blandad. En grundare som läser detta bör inte avrunda det uppåt till "förbättrar allt". Författarna redovisar förbättrad tillförlitlighet hos agenter över flera modeller och benchmarks, men på Airline är vinsterna mindre och blandade, och de säger att resultaten inte belägger enhetliga vinster. Artikeln varnar för att med 50 Airline-uppgifter flyttar en enda uppgift ett resultat med 2 procentenheter, så små skillnader bör läsas försiktigt; utöver det tänker jag inte gissa varför Airline beter sig annorlunda.

Den samlade läsningen är försiktig hos författarna själva: resultaten tyder på att en kombination av strukturerade beslutsmodeller och exekverbar verifiering kan förbättra tillförlitligheten hos verktygsanvändande LLM-agenter. "Tyder på" är rätt verb. Det är ett lovande resultat, inte ett bevis.

Vad jämförelsen isolerar, och vad den inte isolerar #

En begränsning förtjänar mer vikt än den brukar få. Eftersom JevAct lägger till kompilerade kontroller och möjligheter till omarbetning utvärderar jämförelserna hela harnessen, inte domaren isolerat. Det är ett viktigt förbehåll för den som hoppas kunna dra slutsatsen att beslutsmodellen gör grovjobbet. Vinsterna kan komma från Kevs sannolikheter, från de exekverbara tillståndskontrollerna, från de extra chanserna att omarbeta eller från någon kombination. Huvudjämförelserna skiljer inte dem åt.

Jag menar att det inte så mycket är en brist som en ärlig beskrivning av vad en systemartikel kan visa. Frågan författarna ställer, om en beslutsmodell kan fungera som en verifierare med sannolikhetströskel vid sidan av exekverbara kontroller av verktygens tillstånd, besvaras på parets nivå, eftersom "vid sidan av" finns i själva frågan. Men den som avgör var arbetsinsatsen ska läggas bör ha det i minnet. Bygger du något liknande kan du inte utifrån denna evidens dra slutsatsen att beslutsmodellen ensam skulle bära förbättringen, eller att kodkontrollerna ensamma skulle göra det.

Det betyder också att förbehållet om kalibrering kvarstår. Sannolikheterna är inte garanterat kalibrerade eller korrekta, och resultatet på harnessnivå tar inte bort den osäkerheten. Det visar att uppsättningen som helhet hjälpte på de benchmarks som testades.

Var detta hamnar bland andra skyddsdesigner #

JevAct ansluter till en trång samling angreppssätt för att skydda agenters handlingar, och skillnaderna är lärorika. GuardAgent använder en separat agent för att generera och exekvera verifieringskod utifrån användardefinierade skyddskrav. Zwerdling et al. kompilerar företagspolicyer till exekverbara skydd som kontrollerar efterlevnad före verktygshandlingar. AgentSpec representerar körtidsbegränsningar som utlösare, predikat och verkställande åtgärder. ShieldAgent härleder verifierbara regler ur policydokument.

Andra lutar sig mot modeller för själva verifieringen. ToolSafe använder en inlärd skyddsmekanism för att bedöma föreslagna verktygsanrop och returnera återkoppling, medan PolicyGuard och PolicyGuide använder modellbaserade verifierare för policyefterlevnad och vägledning i arbetsflöden. CaMeL tar en annan väg och upprätthåller säkerheten genom att skilja betrott kontrollflöde från obetrodd data.

Mot den bakgrunden är JevActs särskiljande val dess specifika kombination. Liksom forskningslinjen som kompilerar till exekverbara skydd omvandlar det policy till kontroller av verktygens tillstånd. Liksom de modellbaserade verifierarna använder det en modell för bedömningar som kod inte kan göra. Det som tillkommer är en beslutsmodell som returnerar sannolikheter för fasta val, använd under körning innan utvalda handlingar exekveras, med återkoppling för omarbetning. Förslagen lämnas till ReAct-LLM:en och Kev placeras i ett separat verifieringssteg innan utvalda handlingar verkställs.

Varför designen är värd att följa #

Min uppfattning är att den mest användbara idén här inte är Kev i sig utan disciplinen i uppdelningen. Fråga kod det som kod kan besvara. Fråga en modell bara det som beror på samtalet. Håll den som föreslår och den som verifierar åtskilda, så att modellen som kontrollerar en handling inte är den som föreslog den. Och gör verifierarens utdata till en sannolikhet mot en tröskel, så att spärren är en jämförelse snarare än en text som någon måste tolka.

Designen gör också de svaga punkterna läsbara. Om en kontroll slår fel kan man fråga om det var en tillståndskontroll eller en samtalsfråga. Om trösklarna är fel är de siffror som går att granska. Artikelns egen varning om att sannolikheterna behöver testas i loopen är rätt instinkt, och det är en bättre hållning än att anta att en verifierare fungerar för att den låter förnuftig.

De ojämna resultaten är snarast betryggande när det gäller ärligheten i redovisningen. Ett ramverk som påstod enhetliga vinster överallt skulle förtjäna mer misstro än ett som visar åtta av åtta på Telecom, nio av nio för BFCL:s lyckande i alla tre körningar, blandade resultat för minst en gång på BFCL och varierande effekter på Airline. Mönstret ger praktiker något att planera kring: den starkaste evidensen gäller tillförlitlighet över upprepade körningar, och den svagaste finns i den domän där effekterna varierar mellan agenter.

Vad man ska göra med detta #

För tekniska läsare är slutsatsen arkitektonisk. Agentens LLM, grundprompt och verktyg förblir oförändrade i JevAct, så verifieringslagret är något man lägger runt en agent snarare än något man tränar in i den. För grundare är den praktiska läsningen smalare än rubriken. Artikeln redovisar förbättrad tillförlitlighet över flera modeller och benchmarks, med Airline mer blandat, och dess jämförelser utvärderar hela harnessen snarare än domaren isolerat. Huvudjämförelserna belägger inte vilken komponent som står för förbättringen, även om artikelns ablationsstudie på Airline tyder på att programmatisk verifiering förklarar en stor del av den i den miljön.

Den öppna frågan är artikelns egen centrala fråga: om en beslutsmodell kan fungera som en verifierare med sannolikhetströskel vid sidan av exekverbara kontroller av verktygens tillstånd, när dess sannolikheter, som författarna påpekar, inte är garanterat kalibrerade eller korrekta. Resultaten på Airline, där effekterna är mindre och varierar mellan agenter, är det första stället att titta på. Om den variationen beror på kontrollerna, trösklarna eller policyerna som kompileras lämnar de redovisade resultaten öppet, och det är det experiment jag helst vill se härnäst.

Vanliga frågor #

Vad är JevAct? JevAct är ett ramverk för verifiering under körning från forskare på IBM som fångar upp utvalda agenthandlingar, nämligen skrivanrop och överlämningar, före exekvering. Ett flaggat förslag går tillbaka till agenten med riktad återkoppling och en begränsad chans att omarbeta. Agentens LLM, grundprompt och verktyg förblir oförändrade.

Vad gör Kev i JevAct? Kev är en Jev-liknande beslutsmodell med öppen källkod som besvarar fasta frågor med sannolikheter i stället för genererad text. I JevAct besvarar den frågorna som beror på samtalet, medan kod kontrollerar fakta som finns i verktygens register. Kev väljer inte handlingar; agenten föreslår dem fortfarande.

Hur utvärderades JevAct? Artikeln jämför JevAct med en ReAct-harness som använder samma agent-LLM i båda grupperna. Uppgifterna omfattar Airline och Telecom i τ²-bench samt funktionsanrop i flera turer i BFCL, och lyckandet redovisas både som minst en gång över tre körningar och som lyckande i alla tre körningar.

Förbättrade JevAct varje agent på varje benchmark? Nej. På Telecom förbättrades alla åtta agenter på båda måtten, och på BFCL förbättrades alla nio i lyckande i alla tre körningar medan resultaten för minst en gång var blandade. Effekterna på Airline var mindre och varierade mellan agenter, och författarna säger att resultaten inte belägger enhetliga vinster.

Visar artikeln att beslutsmodellen ensam driver vinsterna? Nej. Eftersom JevAct lägger till kompilerade kontroller och möjligheter till omarbetning utvärderar huvudjämförelserna hela harnessen, inte domaren isolerat. Författarna påpekar också att beslutsmodellens sannolikheter inte är garanterat kalibrerade eller korrekta.

Referenser #

Senast granskad .

Återpublicera denna artikel

Kopiera format för Medium

# Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau

> Originally published at [https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/](https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/)

JevAct kontrollerar utvalda handlingar från LLM-agenter före körning. Mot ReAct med samma modell var vinsterna jämna på Telecom och BFCL, blandade på Airline.

Read the full article on sebastienrousseau.com: https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/

Kopiera format för Mastodon

Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau

JevAct kontrollerar utvalda handlingar från LLM-agenter före körning. Mot ReAct med samma modell var vinsterna jämna på Telecom och BFCL, blandade på Airline.

https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/

Kopiera formaterat för LinkedIn

Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau

JevAct kontrollerar utvalda handlingar från LLM-agenter före körning. Mot ReAct med samma modell var vinsterna jämna på Telecom och BFCL, blandade på Airline.

Här är de viktigaste strategiska lärdomarna:

- Problemet: exekveringen följer direkt på förslaget. En agent som bokar en flygresa, avbokar en order eller ändrar en kontoinställning gör något som inte i tysthet kan göras ogjort.
- Vad JevAct är. JevAct är en harness som kontrollerar utvalda förslag före exekvering.
- Två slags evidens, en spärr. Designen vilar på en uppdelning mellan det som kan verifieras deterministiskt och det som inte kan det.
- Varför en beslutsmodell i stället för en LLM-domare. Det uppenbara alternativet är en LLM-domare som läser förslaget och skriver ett utlåtande.

Hur hanterar din organisation de utmaningar som beskrivs i denna artikel?

→ https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/

#LlmAgenter #VerifieringAvAgenter #VerifieringUnderKörning #Beslutsmodeller #VerktygsanvändandeAgenter

Sebastien Rousseau | CC-BY-4.0
Citera den här artikeln

Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau

JevAct kontrollerar utvalda handlingar från LLM-agenter före körning. Mot ReAct med samma modell var vinsterna jämna på Telecom och BFCL, blandade på Airline.

BibTeX

@online{rousseau2026verifiera,
  author  = {Rousseau, Sebastien},
  title   = {{Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau}},
  year    = {2026},
  url     = {https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/},
  urldate = {2026}
}

RIS

TY  - GEN
AU  - Rousseau, Sebastien
TI  - Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau
PY  - 2026
UR  - https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/
ER  -

Vancouver

Rousseau S. Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau. sebastienrousseau.com. 2026 Nov 18. Available from: https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/

Chicago

Rousseau, Sebastien. "Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau." sebastienrousseau.com. November 18, 2026. https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/.

APA

Rousseau, S. (2026, November 18). Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau. sebastienrousseau.com. https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/

Återpublicera den här artikeln

Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau

JevAct kontrollerar utvalda handlingar från LLM-agenter före körning. Mot ReAct med samma modell var vinsterna jämna på Telecom och BFCL, blandade på Airline.

Den här artikeln är licensierad under Creative Commons Attribution 4.0 International. Återpublicering kräver attribution till den kanoniska URL:en.

Verifiera agenters handlingar innan de körs: JevActs beslutsspärr — Sebastien Rousseau

JevAct kontrollerar utvalda handlingar från LLM-agenter före körning. Mot ReAct med samma modell var vinsterna jämna på Telecom och BFCL, blandade på Airline.

Originally published at https://sebastienrousseau.com/sv/2026-11-18-verifiera-agenters-handlingar-innan-de-kors/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.