Scegliere il modello IA: quanto costa, quanto dura, quanto è facile cambiarlo.
Il modello è la parte di un'applicazione con intelligenza artificiale (IA) che cambia più in fretta: escono versioni nuove, i prezzi si muovono, i servizi vengono ritirati. Per l'azienda contano tre cose: il costo dell'intero servizio, per quanto tempo funzionerà e quanto costa cambiare strada. Il risultato di una classifica pubblica viene dopo.
Partire dal compito
Qual è il modello meno costoso che soddisfa in modo affidabile i requisiti di questo compito?
Prima chiarisco qualità minima, tempo di risposta, numero di richieste, privacy e continuità. Il fornitore è una delle scelte successive. Un modello eccellente in generale può essere inadatto a un'attività specifica; uno più piccolo può bastare, se lo dimostrano prove rappresentative.
La valutazione organizzativa ed economica precede questa scelta. La qualità tecnica delle risposte richiede invece un lavoro distinto di sviluppo e verifica.
Il costo dell'intero servizio
Il prezzo del modello, che si paga in base all'uso, è una voce del conto. Vanno aggiunti preparazione dei dati, infrastruttura, tentativi ripetuti, verifiche fatte da persone, controllo e manutenzione. Un server proprio richiede hardware e qualcuno che lo gestisca; con un uso scarso o irregolare un servizio a consumo può risultare più conveniente.
I prezzi dei servizi a consumo sono espressi in token, le unità di testo che il modello legge e scrive. Il listino però non dice quanti token servono per ottenere un risultato utile: dipende dal compito, dalla lunghezza dei documenti forniti, dai passaggi del flusso, dai tentativi e dalle correzioni, e cambia da modello a modello. Alcuni modelli "ragionano" prima di rispondere: quel testo di ragionamento si paga come output anche quando non viene mostrato, quindi il conto non coincide con ciò che si legge nella risposta. Uno studio sugli agenti di programmazione (otto modelli, compiti reali di correzione del software) ha rilevato che esecuzioni diverse dello stesso compito consumano token con differenze fino a 30 volte, e che più token non garantiscono più precisione. Non esiste una formula che porti dal prezzo per token al costo del risultato: si misura caso per caso, su prove con le richieste reali, e si rifà quando cambiano modello, dati o flusso.
Nel sondaggio McKinsey del maggio 2026, il 93% dei 75 rispondenti qualificati riportava uno sforamento del budget IA. Il campione non rappresenta tutte le aziende, ma richiama l'attenzione sui costi dell'adozione su scala.
Un caso reso noto nell'ottobre 2026: secondo 404 Media, che ha letto una comunicazione interna, dal 1° ottobre Accenture paga per ogni dipendente 29 dollari al mese di Claude; oltre quella cifra la spesa va addebitata a un progetto o a un gruppo di lavoro. Alcuni dipendenti arrivavano a spendere fino a 1.000 dollari al mese. Accenture non ha spiegato pubblicamente la decisione, ma il caso mostra quanto possa variare la spesa da persona a persona con lo stesso strumento, e una risposta possibile: legare il costo all'attività che lo genera, dove si può confrontare con il risultato.
Un flusso può instradare attività diverse verso modelli diversi: maggiore capacità dove il problema lo richiede, modelli più economici o specializzati per passaggi ben definiti. Ogni percorso deve rispettare i vincoli sui dati e superare le stesse verifiche di qualità.
Valutare anche la scelta di aspettare
Nel mio giudizio, anche la non adozione merita una valutazione: un concorrente potrebbe automatizzare un'attività o sviluppare competenze prima di noi. Questo è uno scenario strategico da esaminare, non una previsione valida per tutte le imprese.
Propongo una prudenza attiva: sperimentare su un perimetro limitato, misurare valore e costi, mantenere competenze e decidere su evidenze proprie. Un progetto può essere rinviato o scartato se il beneficio non giustifica investimento e rischi.
Servizio esterno, cloud riservato o server proprio
Un modello "aperto" (open-weight) si può scaricare ed eseguire su macchine proprie. Non significa gratuito, né libero da condizioni d'uso, né per forza conveniente; e lo stesso modello si può usare anche tramite un servizio esterno.
Epoch AI, nell'analisi del maggio 2026, rileva dal gennaio dello stesso anno un ritardo medio di circa quattro mesi dei migliori modelli aperti rispetto ai migliori modelli proprietari, sul proprio indice. È un risultato del periodo e della misura scelta: non dice che siano equivalenti su ogni compito.
Servizio esterno a consumo
Servizi come OpenRouter, le API di OpenAI o le API gestite dei provider cloud possono offrire accesso semplice ai modelli e capacità scalabile. Possono essere adatti se le condizioni di trattamento dei dati sono compatibili con il progetto e se conta ridurre il lavoro operativo.
Vanno verificati costi, conservazione e localizzazione dei dati, uso per l'addestramento e accordi applicabili. Con un intermediario come OpenRouter conta anche quale fornitore esegue il modello, soprattutto se l'instradamento può cambiare. Le API gestite in cloud possono offrire opzioni diverse di rete e area geografica: il livello di privacy non si deduce dal solo nome del servizio.
Risorse cloud riservate
Un'altra possibilità è eseguire un modello su risorse cloud dedicate, per esempio macchine con schede grafiche dedicate (GPU) su Azure o AWS. Questo offre più controllo su modello, rete e accessi, ma richiede di gestire l'esecuzione e di sostenere i costi dell'infrastruttura. Anche qui, privacy e conformità dipendono dalla configurazione e dagli accordi applicabili.
Server in azienda
Un modello su infrastruttura propria può aumentare il controllo sul percorso dei dati, ma richiede hardware, aggiornamenti, monitoraggio e manutenzione. La memoria GPU limita i modelli utilizzabili; tempi e capacità dipendono anche dalla potenza di calcolo, dalla lunghezza delle richieste e dagli utenti simultanei. Prima di scegliere questa strada vanno misurati tempi di risposta e carico sull'hardware previsto, con prove rappresentative.
La conseguenza pratica: costruire il sistema in modo da poter cambiare modello quando conviene, senza spendere per questa libertà più di quanto il progetto giustifichi.
Quanto a lungo deve funzionare?
Con un modello eseguito su macchine proprie, una configurazione può essere mantenuta finché soddisfa i requisiti. Non occorre cambiare modello a ogni nuova uscita; restano necessari aggiornamenti di sicurezza e manutenzione dei componenti.
Un servizio esterno ha un altro ciclo di vita: OpenAI e Anthropic pubblicano le date in cui i modelli vengono ritirati. Occorre distinguere una migrazione obbligata, perché il servizio scompare, da una migrazione conveniente, perché un'alternativa migliora qualità, costi o prestazioni.
Prevedo perciò il costo di rivalutare il sistema e un piano di continuità. L'indipendenza dal modello è un investimento: il suo valore cresce con la probabilità e il costo di doverlo sostituire.
Non restare legati a un fornitore
Tengo separata la parte che dipende dal fornitore del modello dal resto dell'applicazione: regole dell'azienda, permessi e dati restano fuori. Così sostituire il modello tocca una parte circoscritta. Non lo rende gratuito: modelli diversi si comportano in modo diverso, e vanno riprovati.
Organizzerei il sistema in parti con responsabilità distinte:
- 01Applicazione e dominio
Regole del prodotto, permessi e dati di cui l'applicazione resta responsabile.
- 02Flusso e strumenti
Passaggi, controlli, recupero delle informazioni e azioni consentite.
- 03Adattatore del modello
Formati, istruzioni, output strutturati e chiamate agli strumenti specifici del provider.
- 04Modello e ambiente di esecuzione
Il servizio esterno o il modello ospitato su risorse controllate.
È una proposta di progettazione, non un requisito universale. Gli adattatori riducono le dipendenze, ma i modelli differiscono nel comportamento: la migrazione richiede spesso modifiche a prompt, strumenti e gestione del contesto.
Cambiare modello: solo con prove
Prima di sostituire un modello confronto il vecchio e il nuovo sulle richieste reali dell'azienda e sui casi difficili, con criteri fissati prima: risposte corrette e aderenti alle fonti, compito portato a termine, tempi e costo per operazione, comportamento quando qualcosa va storto. Le prove vanno ripetute dopo ogni modifica a modello, dati o flusso. Una classifica pubblica serve a scegliere i candidati; non sostituisce la prova sull'applicazione.
Cosa chiedere a chi vi propone un modello
- Perché questo modello e non uno meno costoso? Con quali prove sui nostri casi?
- Qual è il costo mensile di tutto il servizio, non solo del modello? Misurato su prove con i nostri casi o stimato dal listino?
- Qual è il tetto di spesa mensile e chi decide cosa succede quando si supera?
- Fino a quando il fornitore garantisce questo modello, e cosa succede dopo?
- Quanto costerebbe passare a un altro modello o fornitore?
- Chi ripete le prove quando il modello cambia?
Fonti a supporto
Le fonti sostengono i fatti e i criteri di valutazione. La struttura architetturale e il confronto tra adozione e attesa sono mie proposte metodologiche; non sono risultati dimostrati per ogni progetto.
- Epoch AI — confronto open/closed (si apre in una nuova scheda): indice aggregato e periodo osservato; non confronto del singolo caso d’uso.
- McKinsey — costi dell’IA nelle aziende (si apre in una nuova scheda): sondaggio e criteri per scelta dei modelli e instradamento dei compiti.
- Anthropic — come funziona il ragionamento del modello (si apre in una nuova scheda): i token di ragionamento si pagano come output anche quando il testo non viene restituito.
- OpenAI — modelli di ragionamento (si apre in una nuova scheda): i token di ragionamento non sono visibili via API, ma occupano contesto e sono fatturati come output.
- Bai e colleghi — consumo di token degli agenti di programmazione (si apre in una nuova scheda): otto modelli su compiti reali; stesso compito, consumi fino a 30 volte diversi. Riguarda la programmazione, non ogni uso dell'IA.
- 404 Media — Accenture limita a 29 dollari al mese la spesa per Claude dei dipendenti (si apre in una nuova scheda): notizia basata su una comunicazione interna non pubblica; un singolo caso, senza le motivazioni dell'azienda. Articolo in parte riservato agli iscritti.
- The Next Web — sintesi della notizia di 404 Media (si apre in una nuova scheda): dettagli della comunicazione interna e reazioni dei dipendenti; fonte secondaria, leggibile per intero.
- OpenAI — deprecazioni API (si apre in una nuova scheda): annunci di ritiro e migrazione dei servizi.
- Anthropic — ciclo di vita dei modelli (si apre in una nuova scheda): stati e ritiro dei modelli disponibili via API.
- Microsoft — valutazioni RAG (si apre in una nuova scheda): esempio di misure su recupero delle informazioni e qualità delle risposte.
- OpenAI — controlli sui dati nelle API (si apre in una nuova scheda): uso dei dati, conservazione e opzioni disponibili.
- OpenRouter — privacy policy (si apre in una nuova scheda): trattamento dei dati e differenze tra i fornitori dei modelli.
- Microsoft — tipi di distribuzione dei modelli (si apre in una nuova scheda): localizzazione dell'elaborazione, prestazioni e modalità di pagamento.
- vLLM — configurazione della memoria per le richieste (si apre in una nuova scheda): relazione tra memoria GPU, lunghezza delle richieste e richieste simultanee.