Luca Morelli
Software engineer e analista
Team lead

Scegliere il modello IA: quanto costa, quanto dura, quanto è facile cambiarlo.

Il modello è la parte di un'applicazione con intelligenza artificiale (IA) che cambia più in fretta: escono versioni nuove, i prezzi si muovono, i servizi vengono ritirati. Per l'azienda contano tre cose: il costo dell'intero servizio, per quanto tempo funzionerà e quanto costa cambiare strada. Il risultato di una classifica pubblica viene dopo.

Partire dal compito

Qual è il modello meno costoso che soddisfa in modo affidabile i requisiti di questo compito?

Prima chiarisco qualità minima, tempo di risposta, numero di richieste, privacy e continuità. Il fornitore è una delle scelte successive. Un modello eccellente in generale può essere inadatto a un'attività specifica; uno più piccolo può bastare, se lo dimostrano prove rappresentative.

La valutazione organizzativa ed economica precede questa scelta. La qualità tecnica delle risposte richiede invece un lavoro distinto di sviluppo e verifica.

I prerequisiti: fattibilità di un progetto IA

Il costo dell'intero servizio

Il prezzo del modello, che si paga in base all'uso, è una voce del conto. Vanno aggiunti preparazione dei dati, infrastruttura, tentativi ripetuti, verifiche fatte da persone, controllo e manutenzione. Un server proprio richiede hardware e qualcuno che lo gestisca; con un uso scarso o irregolare un servizio a consumo può risultare più conveniente.

I prezzi dei servizi a consumo sono espressi in token, le unità di testo che il modello legge e scrive. Il listino però non dice quanti token servono per ottenere un risultato utile: dipende dal compito, dalla lunghezza dei documenti forniti, dai passaggi del flusso, dai tentativi e dalle correzioni, e cambia da modello a modello. Alcuni modelli "ragionano" prima di rispondere: quel testo di ragionamento si paga come output anche quando non viene mostrato, quindi il conto non coincide con ciò che si legge nella risposta. Uno studio sugli agenti di programmazione (otto modelli, compiti reali di correzione del software) ha rilevato che esecuzioni diverse dello stesso compito consumano token con differenze fino a 30 volte, e che più token non garantiscono più precisione. Non esiste una formula che porti dal prezzo per token al costo del risultato: si misura caso per caso, su prove con le richieste reali, e si rifà quando cambiano modello, dati o flusso.

Nel sondaggio McKinsey del maggio 2026, il 93% dei 75 rispondenti qualificati riportava uno sforamento del budget IA. Il campione non rappresenta tutte le aziende, ma richiama l'attenzione sui costi dell'adozione su scala.

Un caso reso noto nell'ottobre 2026: secondo 404 Media, che ha letto una comunicazione interna, dal 1° ottobre Accenture paga per ogni dipendente 29 dollari al mese di Claude; oltre quella cifra la spesa va addebitata a un progetto o a un gruppo di lavoro. Alcuni dipendenti arrivavano a spendere fino a 1.000 dollari al mese. Accenture non ha spiegato pubblicamente la decisione, ma il caso mostra quanto possa variare la spesa da persona a persona con lo stesso strumento, e una risposta possibile: legare il costo all'attività che lo genera, dove si può confrontare con il risultato.

Un flusso può instradare attività diverse verso modelli diversi: maggiore capacità dove il problema lo richiede, modelli più economici o specializzati per passaggi ben definiti. Ogni percorso deve rispettare i vincoli sui dati e superare le stesse verifiche di qualità.

Valutare anche la scelta di aspettare

Nel mio giudizio, anche la non adozione merita una valutazione: un concorrente potrebbe automatizzare un'attività o sviluppare competenze prima di noi. Questo è uno scenario strategico da esaminare, non una previsione valida per tutte le imprese.

Propongo una prudenza attiva: sperimentare su un perimetro limitato, misurare valore e costi, mantenere competenze e decidere su evidenze proprie. Un progetto può essere rinviato o scartato se il beneficio non giustifica investimento e rischi.

Servizio esterno, cloud riservato o server proprio

Un modello "aperto" (open-weight) si può scaricare ed eseguire su macchine proprie. Non significa gratuito, né libero da condizioni d'uso, né per forza conveniente; e lo stesso modello si può usare anche tramite un servizio esterno.

Epoch AI, nell'analisi del maggio 2026, rileva dal gennaio dello stesso anno un ritardo medio di circa quattro mesi dei migliori modelli aperti rispetto ai migliori modelli proprietari, sul proprio indice. È un risultato del periodo e della misura scelta: non dice che siano equivalenti su ogni compito.

Servizio esterno a consumo

Servizi come OpenRouter, le API di OpenAI o le API gestite dei provider cloud possono offrire accesso semplice ai modelli e capacità scalabile. Possono essere adatti se le condizioni di trattamento dei dati sono compatibili con il progetto e se conta ridurre il lavoro operativo.

Vanno verificati costi, conservazione e localizzazione dei dati, uso per l'addestramento e accordi applicabili. Con un intermediario come OpenRouter conta anche quale fornitore esegue il modello, soprattutto se l'instradamento può cambiare. Le API gestite in cloud possono offrire opzioni diverse di rete e area geografica: il livello di privacy non si deduce dal solo nome del servizio.

Risorse cloud riservate

Un'altra possibilità è eseguire un modello su risorse cloud dedicate, per esempio macchine con schede grafiche dedicate (GPU) su Azure o AWS. Questo offre più controllo su modello, rete e accessi, ma richiede di gestire l'esecuzione e di sostenere i costi dell'infrastruttura. Anche qui, privacy e conformità dipendono dalla configurazione e dagli accordi applicabili.

Server in azienda

Un modello su infrastruttura propria può aumentare il controllo sul percorso dei dati, ma richiede hardware, aggiornamenti, monitoraggio e manutenzione. La memoria GPU limita i modelli utilizzabili; tempi e capacità dipendono anche dalla potenza di calcolo, dalla lunghezza delle richieste e dagli utenti simultanei. Prima di scegliere questa strada vanno misurati tempi di risposta e carico sull'hardware previsto, con prove rappresentative.

La conseguenza pratica: costruire il sistema in modo da poter cambiare modello quando conviene, senza spendere per questa libertà più di quanto il progetto giustifichi.

Quanto a lungo deve funzionare?

Con un modello eseguito su macchine proprie, una configurazione può essere mantenuta finché soddisfa i requisiti. Non occorre cambiare modello a ogni nuova uscita; restano necessari aggiornamenti di sicurezza e manutenzione dei componenti.

Un servizio esterno ha un altro ciclo di vita: OpenAI e Anthropic pubblicano le date in cui i modelli vengono ritirati. Occorre distinguere una migrazione obbligata, perché il servizio scompare, da una migrazione conveniente, perché un'alternativa migliora qualità, costi o prestazioni.

Prevedo perciò il costo di rivalutare il sistema e un piano di continuità. L'indipendenza dal modello è un investimento: il suo valore cresce con la probabilità e il costo di doverlo sostituire.

Non restare legati a un fornitore

Tengo separata la parte che dipende dal fornitore del modello dal resto dell'applicazione: regole dell'azienda, permessi e dati restano fuori. Così sostituire il modello tocca una parte circoscritta. Non lo rende gratuito: modelli diversi si comportano in modo diverso, e vanno riprovati.

Organizzerei il sistema in parti con responsabilità distinte:

  1. 01Applicazione e dominio

    Regole del prodotto, permessi e dati di cui l'applicazione resta responsabile.

  2. 02Flusso e strumenti

    Passaggi, controlli, recupero delle informazioni e azioni consentite.

  3. 03Adattatore del modello

    Formati, istruzioni, output strutturati e chiamate agli strumenti specifici del provider.

  4. 04Modello e ambiente di esecuzione

    Il servizio esterno o il modello ospitato su risorse controllate.

È una proposta di progettazione, non un requisito universale. Gli adattatori riducono le dipendenze, ma i modelli differiscono nel comportamento: la migrazione richiede spesso modifiche a prompt, strumenti e gestione del contesto.

Cambiare modello: solo con prove

Prima di sostituire un modello confronto il vecchio e il nuovo sulle richieste reali dell'azienda e sui casi difficili, con criteri fissati prima: risposte corrette e aderenti alle fonti, compito portato a termine, tempi e costo per operazione, comportamento quando qualcosa va storto. Le prove vanno ripetute dopo ogni modifica a modello, dati o flusso. Una classifica pubblica serve a scegliere i candidati; non sostituisce la prova sull'applicazione.

Un esempio di flusso applicativo verificabile

Sicurezza delle applicazioni IA

Cosa chiedere a chi vi propone un modello

  • Perché questo modello e non uno meno costoso? Con quali prove sui nostri casi?
  • Qual è il costo mensile di tutto il servizio, non solo del modello? Misurato su prove con i nostri casi o stimato dal listino?
  • Qual è il tetto di spesa mensile e chi decide cosa succede quando si supera?
  • Fino a quando il fornitore garantisce questo modello, e cosa succede dopo?
  • Quanto costerebbe passare a un altro modello o fornitore?
  • Chi ripete le prove quando il modello cambia?

Fonti a supporto

Le fonti sostengono i fatti e i criteri di valutazione. La struttura architetturale e il confronto tra adozione e attesa sono mie proposte metodologiche; non sono risultati dimostrati per ogni progetto.

Ultimo aggiornamento dei contenuti:

State scegliendo un modello per un’applicazione?

Curriculum dettagliato e referenze su richiesta.