Da Jev a una classe di decision model: la rapida diffusione

Jev, Clef, la Decisions API di OpenAI e Microsoft‑Decision‑1 sono passati, in sole tre settimane, da prototipi sperimentali a una vera e propria classe di modelli: i decision model. Questi modelli non generano più testo, ma restituiscono probabilità a frazioni di centesimo, consentendo di trasformare la soglia di confidenza in una regola di processo aziendale da firmare.

La soglia tra automazione, modello più grande e intervento umano diventa così una regola di processo da approvare, mentre i test indipendenti richiedono la verifica della calibrazione sui propri dati.

Un caso d'uso tipico

Una richiesta di assistenza entra nel sistema di ticketing e, prima che una persona la legga, il software deve già sapere se è urgente, a quale reparto va e quanto è grave. Oggi molte aziende affidano queste microdecisioni a un modello linguistico interrogato più volte, con una frase da interpretare a ogni passaggio. Dal 15 settembre, giorno in cui la startup TypeSafe ha presentato Jev, quelle risposte possono arrivare come numeri, in poche centinaia di millisecondi e a un costo misurato in centesimi per milione di token, cioè per milioni di frammenti di testo letti dal modello.

Il contagio: da startup a stack standard

In poco più di tre settimane la formula è stata ripresa da Cloudflare, da AWS e da Perplexity, poi da OpenAI e da Microsoft. I decision model, costruiti per scegliere tra risposte ammesse invece di generare frasi, sono diventati una categoria riconosciuta.

Ai4business ha già raccontato il funzionamento di Jev e i relativi costi; quello che la categoria porta dentro le aziende riguarda l’organizzazione più della tecnologia, perché trasforma la fiducia di un modello in una soglia numerica, e una soglia numerica dentro un processo è una regola che qualcuno deve scrivere, firmare e rivedere.

Le radici di TypeSafe

TypeSafe è guidata da Diogo Almeida, che ha lavorato in OpenAI sui metodi di addestramento con feedback umano da cui è nato ChatGPT. Almeida ha chiamato la propria famiglia di modelli “System One Models”, con un rimando esplicito al pensiero veloce descritto da Daniel Kahneman: ai grandi modelli linguistici il ragionamento lento e costoso, ai decision model le migliaia di scelte rapide che un software compie ogni ora.

Il nome Jev deriva da William Stanley Jevons, l’economista che nell’Ottocento osservò come l’efficienza nell’uso di una risorsa finisca per farne crescere il consumo. La citazione riflette le ambizioni del prodotto.

Implementazioni e compatibilità

Il 1 ottobre Cloudflare ha pubblicato Clef e Clef‑flash, con pesi scaricabili sotto licenza Apache 2.0 e piena compatibilità con l’interfaccia di Jev, al punto che si possono sostituire l’uno all’altro senza riscrivere l’applicazione. Sotto c’è un dettaglio tecnico che spiega la velocità del contagio: Clef poggia su un modello Qwen da 27 miliardi di parametri tenuto congelato, a cui Cloudflare ha aggiunto un piccolo strato addestrato a valutare le alternative invece di scrivere testo. Lo stesso schema, ridotto a 1,9 miliardi di parametri, è alla base di Strands Decider, rilasciato negli stessi giorni da Strands Labs, l’incubatore legato ad AWS.

Perplexity ha messo in rete pplx‑decider con pesi aperti, e il 6 ottobre OpenAI ha aperto in beta pubblica la Decisions API, basata su GPT‑6 Luna. Tre giorni dopo è arrivata Microsoft.

Microsoft‑Decision‑1 e i primi casi d’uso interni

Venerdì 9 ottobre Satya Nadella ha presentato Microsoft‑Decision‑1, post‑addestrato a partire da Qwen 3.5 da 9 miliardi di parametri, disponibile su Foundry e OpenRouter e destinato, secondo l’azienda, a essere ricostruito su modelli propri e di OpenAI. Lo stesso giorno a16z ha annunciato un investimento in TypeSafe.

Il lancio di Microsoft porta anche i primi casi d’uso interni dichiarati: Xbox Research lo ha usato per ricondurre oltre 10 000 commenti aperti a temi prestabiliti, con una qualità paragonabile a GPT‑6 ma a un costo duecento volte inferiore; il team di Copilot lo utilizza per il controllo di qualità delle risposte dei propri agenti.

Standardizzazione e protocolli

Ventiquattro giorni separano l’annuncio di Jev da quello di Redmond, e quando un’idea viene ripresa da Cloudflare, da AWS e adottata da OpenAI e Microsoft nello stesso mese, smette di essere la scommessa di una startup e diventa un componente dello stack, l’insieme di strumenti con cui si costruiscono gli agenti.

Al modello si passa uno stato, ossia il contenuto da valutare (un ticket, una transazione, l’esito di un passaggio di un agente), insieme a domande che hanno risposte ammesse. TypeSafe ha definito tre primitive che gli altri hanno adottato quasi senza variazioni:

Costi e latenza: il nuovo paradigma economico

Con l’eliminazione della generazione, i listini diventano aggressivi. Per milione di token in ingresso i costi sono:

A questi prezzi il paradosso di Jevons diventa una previsione di consumo: ogni passaggio che prima non valeva una chiamata a un modello linguistico ora la vale.

Le latenze variano a seconda di chi misura:

Nel confronto Jev resta davanti solo su due benchmark, When2Call e BRIGHT. Sono misure di un concorrente su un indice costruito dal concorrente: utili per gli ordini di grandezza, ma poco più.

Affidabilità, calibrazione e soglie operative

La promessa più citata, “un modello che non può allucinare”, va letta nel senso ristretto che TypeSafe le attribuisce: Jev non può inventare una quarta risposta quando ne sono ammesse tre né produrre un formato sbagliato, ma può scegliere con sicurezza la risposta errata. Lo schema rigido elimina l’errore di forma e lascia intatto l’errore di merito, che per un’azienda è quello che costa.

Una probabilità da sola non decide niente. Diventa utile quando guida una decisione. Lo schema più diffuso prevede tre fasce:

I valori sono esempi; la loro definizione spetta al responsabile del processo, non a chi scrive il codice, perché ogni spostamento modifica costi, tempi di risposta e responsabilità.

Esempi di impatto economico

In un servizio clienti un falso allarme costa qualche minuto a un operatore; in un controllo antiriciclaggio una transazione sospetta lasciata passare costa una segnalazione mancata. La stessa soglia di 0,95 produce rischi totalmente diversi. Alzarla aumenta il carico umano e i costi di manodopera; abbassarla aumenta l’automazione ma può far passare più errori non visti. Nessuna delle due scelte è valida senza conoscere il costo di ciascun tipo di errore, dato che sta nei conti dell’azienda, non nei benchmark del fornitore.

Conseguenze organizzative e governance

La soglia ha un proprietario, tipicamente il responsabile del processo. Cambiarla equivale a cambiare una procedura, quindi va versionata e approvata formalmente. Poiché la distribuzione dei casi in ingresso si sposta nel tempo, anche la quota di decisioni che finisce in ciascuna fascia va controllata a scadenze fisse.

Chi lavora sulla supervisione umana richiesta dall’AI Act per i sistemi ad alto rischio riconoscerà nella fascia 0,70 – 0,95 il punto esatto in cui quella supervisione deve essere progettata, altrimenti si rischia di perderla in un file di configurazione.

Calibrazione come fondamento

Tutto lo schema poggia su una proprietà cruciale: la calibrazione. Un modello è calibrato quando, dichiarandosi sicuro al 90 %, ha ragione circa nove volte su dieci. TypeSafe persegue la calibrazione con un metodo di post‑addestramento chiamato RLCD (reinforcement learning for calibrated decisions), ripreso anche da Cloudflare.

Le prime verifiche esterne, arrivate a meno di un mese dal lancio, confermano che i modelli mantengono la coerenza tra probabilità dichiarata e accuratezza reale, ma la verifica deve essere continua: ogni cambiamento di dati di ingresso può alterare la distribuzione delle risposte e richiedere una ricalibrazione.

Prospettive future

Il decision model sta rapidamente passando da novità di nicchia a componente standard dello stack di intelligenza artificiale aziendale. La capacità di trasformare la fiducia del modello in una soglia numerica firmata rende possibile l’integrazione con processi di compliance, audit e governance.

Nel medio‑termine, con l’espansione dei modelli di base (Qwen 3.5, GPT‑6, ecc.) e l’abbassamento dei costi di token, ci si attende una proliferazione di microdecisioni automatizzate in settori tradizionalmente manuali: finanza, sanità, logistica e customer care. Tuttavia, il valore competitivo rimarrà nella capacità delle aziende di definire soglie adeguate, monitorarne l’efficacia e mantenere una supervisione umana mirata.

In sintesi, la soglia di confidenza non è più una semplice metrica tecnica, ma una vera e propria procedura aziendale, con proprietario, versionamento, approvazione e revisione periodica. I decision model rendono questo processo operativo, veloce ed economicamente sostenibile, aprendo la strada a una nuova era di automazione intelligente e responsabile.