I LLM locali hanno un vantaggio che ChatGPT e Claude non possono eguagliare, ed è per questo che sto cambiando
Molto spesso, le persone suggeriscono un LLM locale come alternativa ai grandi chatbot AI come ChatGPT, Claude o Gemini perché è apparentemente gratuito. Non è necessario pagare un abbonamento. Basta scaricarlo ed eseguirlo.
E sebbene questo sembri un grande vantaggio all'inizio, ci sono altri benefici coinvolti. Un altro è, naturalmente, la privacy. Con un LLM locale, quando lavori esclusivamente sul tuo computer, il tuo materiale e il tuo lavoro non devono lasciare il computer, andare su un server e poi tornare. Nessuna terza parte raccoglie o memorizza le tue informazioni: rimangono interamente sul tuo dispositivo.
Ma a parte tutto questo, ho cominciato ad apprezzare i LLM locali per un altro vantaggio che offrono. Per metterlo in prospettiva, dobbiamo prima affrontare l'elefante nella stanza.
Le grandi aziende di intelligenza artificiale testeranno e perfezioneranno per sempre
A parte il modello, anche tu sei il prodotto
L'idea che un modello di IA sia un pezzo di software fisso nel giorno del rilascio è un'illusione. Questi modelli sono esperimenti dal vivo. I laboratori che li sviluppano modificano costantemente i parametri dietro le quinte. Questo include regolazioni nascoste dei prompt di sistema, test A/B e limitazioni del calcolo.
Il miglior esempio di questo che tutti noi abbiamo visto è presente in ChatGPT. Occasionalmente, quando usi ChatGPT, riceverai due risposte invece di una, e avrai la possibilità di scegliere quale sia migliore. Immagina se ci fosse una differenza netta tra le opzioni, e l'opzione A fosse chiaramente superiore. Cosa succederebbe se non ti chiedessero mai e mostrassero solo l'opzione B? Esattamente questo accade nella pratica.
La maggior parte del tempo, ogni utente vede una singola versione con un prompt di sistema specifico, un set di parametri e un livello di calcolo. Qualcun altro potrebbe vedere qualcosa di diverso. Invece di chiedere direttamente, il sistema deduce la soddisfazione basandosi sul comportamento: l'utente ha smesso? Era soddisfatto? Quali erano le semantiche della sua risposta? Tutto questo.
Quindi, anche se noti delle differenze, raramente ti rendi conto di far parte di un test dal vivo. Questi esperimenti sono costantemente in corso, su tutti gli utenti e le impostazioni. L'API non ti protegge da questo neanche.
Un altro esempio è Anthropic, l'azienda di AI etica. Ad aprile 2026 hanno ammesso di aver ridotto la potenza di calcolo sui loro modelli. Il 4 marzo hanno silenziosamente abbassato lo sforzo di ragionamento predefinito da alto a medio per ridurre i costi e il carico sui server a causa dell'aumento dei nuovi utenti. Il cambiamento è stato notato perché il calo di intelligenza era significativo, il che li ha costretti a ripristinarlo. Ma cosa sarebbe successo se non fosse stato notato, e invece avessi incolpato il tuo sistema? So che l'ho fatto io.
Ogni azienda di intelligenza artificiale fa questo
È un fatto
Questo comportamento non è limitato a una sola azienda e non è aneddotico. È stato documentato.
I ricercatori di Stanford e UC Berkeley hanno scritto un articolo intitolato Come sta cambiando nel tempo il comportamento di ChatGPT? Hanno eseguito benchmark sistematici di GPT-3.5 e GPT-4 di OpenAI utilizzando gli stessi endpoint API esatti per tre mesi.
Uno dei test che hanno eseguito per GPT-4 era identificare i numeri primi. L'accuratezza di GPT-4 nell'identificare i numeri primi è crollata catastroficamente dall'84% a marzo al 51% a giugno. Quindi, al momento in cui lo stavi utilizzando a giugno, identificava correttamente il numero solo metà delle volte.
Anche altre capacità ne hanno risentito. La capacità del modello di produrre codice eseguibile direttamente è diminuita significativamente perché il prompt del sistema era cambiato; ChatGPT favoriva sempre più il commento e la spiegazione rispetto alla programmazione effettiva. Anche il ragionamento a più passaggi è stato compromesso.
Quindi, anche se entrambi erano chiamati GPT-4, le versioni di marzo e giugno offrivano due esperienze molto diverse.
I fornitori di AI gestiscono un'attività
Massimizzare. Il valore. Per gli azionisti.
Questa è la realtà. Esce un nuovo modello — Claude Opus 5, ChatGPT 6, Gemini 4, qualunque esso sia. Vengono pubblicati i benchmark e sta battendo tutti gli altri modelli in ogni settore. Non ti fidi dei numeri dei benchmark, quindi provi il modello tu stesso. E sì, è davvero migliore. Quindi forse torni da Claude a ChatGPT, perché due mesi fa avevi lasciato ChatGPT per Claude, e ora le prestazioni di Claude sono diminuite. Lo fai. Ti diverti un mondo, ma poi dopo una settimana... le prestazioni calano di nuovo.
Entro una settimana, il GPT che stavi usando al suo massimo non è lo stesso. Al momento del rilascio, i fornitori mostrano il modello nella sua forma migliore: tutti i server funzionano a piena capacità, i limiti di calcolo sono temporaneamente sospesi, ogni risposta è ottimizzata. L'obiettivo è impressionarti e renderti dipendente.
Una volta che tu e io siamo coinvolti — abbiamo fatto il passaggio e acquistato i nostri abbonamenti — è un'altra storia perché hanno effettuato la vendita.
Questo accadrà sempre. E nessun fornitore di LLM è esente da questo. Gemini, ChatGPT, Claude. Tutti stanno ancora gestendo un'attività. E se c'è un modo per mantenere i clienti e fare soldi senza spenderne così tanto, lo prenderanno.
Un LLM locale è esente da questo
ed è per questo che dovresti cambiare
Questo è il punto in cui un LLM locale brilla: è uno che controlli veramente. Sì, se non hai un supercomputer, non sarà la stessa esperienza di un'IA cloud. Anche se hai un supercomputer, non sarà la stessa cosa. Semplicemente non c'è modo di eguagliare quello che, per esempio, OpenAI ha con tutte quelle server farm rispetto a quello che hai a casa.
Un modello locale sarà probabilmente più piccolo e meno preciso rispetto all'ultimo LLM cloud al massimo delle prestazioni. Tuttavia, ti offre stabilità e, con essa, affidabilità. Funziona sul tuo computer. Controlli il prompt di sistema, i parametri e l'allocazione del calcolo.
Quindi anche se il tuo modello è mediocre, rimarrà mediocre tra un anno. Non cambierà né peggiorerà né diminuirà né avrà alti e bassi. Sarà lo stesso modello mediocre.
Per chiunque sia serio riguardo all'IA, soprattutto quando i flussi di lavoro dipendono da essa, questa coerenza è inestimabile. Ecco perché sto costruendo una configurazione adeguata per fare un passaggio completo, e perché dovresti considerare di fare lo stesso.