Un modello linguistico da 0,8 miliardi di parametri, addestrato per l'italiano. Gira su CPU senza GPU e sa riconoscere le trappole, ammettere ciò che non sa e fare calcoli affidabili.
Mario-1 è un modello linguistico da 0,8 miliardi di parametri, costruito da YecoAI per parlare bene l'italiano. La sua caratteristica più concreta è che gira su un server normale, senza GPU: risponde in pochi secondi. La seconda è che non si limita a generare testo. Riconosce le domande con trappola, ammette quando non sa, tiene una conversazione per più turni e fa i conti in modo affidabile.
I modelli aperti di dimensioni ridotte sono quasi sempre pensati per l'inglese. Il vocabolario è spezzettato male sull'italiano, e l'attenzione al comportamento è minima. Il risultato è un modello che può essere perfetto nella grammatica e inutile nella sostanza: inventa un dato, si presenta come un altro assistente, cade in una domanda capziosa e non ammette di non sapere.
Mario-1 nasce al contrario. Il vocabolario è nativo italiano, quindi le parole comuni occupano meno token e le risposte arrivano prima. L'addestramento tratta il comportamento come parte del lavoro: chi è, cosa sa e cosa non sa conta quanto la conoscenza stessa.
Due fasi. Prima un pretraining su un corpus italiano, poi un fine-tuning mirato su dieci aree: matematica, geografia, storia, cultura, creatività, ironia, identità, trappole, limiti e conversazione. Ma il vero lavoro è stato nel modo di scegliere quale versione tenere.
Abbiamo provato tre strade per migliorare la release, cambiando una sola variabile alla volta: dosi di dati corrette, dati più puliti, addestramento più corto. Il risultato è stato sempre lo stesso. Ogni guadagno nelle aree di conoscenza costava un calo nel comportamento (conversazione, identità, limiti), e viceversa. Non è un problema di ricetta: è il limite di capacità di un modello da 0,8B. Per questo il prossimo passo richiede un base model più grande.
I piccoli modelli sbagliano l'aritmetica in modo sistematico, e spesso lo fanno due volte: sbagliano il calcolo, poi scrivono nella risposta un numero diverso da quello del proprio strumento. CALC risolve entrambe le cose a tempo di inferenza e a costo zero. Le espressioni vengono ricalcolate in un ambiente sicuro e la risposta viene riallineata al risultato corretto. Se il calcolo non è ricostruibile, il numero viene tolto invece di essere inventato. Effetto misurato: +2 punti sull'area matematica, senza toccare il modello.
Ogni area è valutata su 0-100, sul set ufficiale più le parafrasi. Il profilo è netto: il modello è forte dove conta l'identità e i limiti, più debole dove serve creatività e conversazione lunga. La media è circa 72.
Emma-6 ha 1,55 miliardi di parametri, quasi il doppio di Mario-1. Mario-1 vince sulla media ITA-Bench (39,9 contro 37,6) e su BoolQ e Belebele-it. Emma-6 resta avanti su ARC-Challenge, HellaSwag e TruthfulQA, dove le differenze sono piccole. Belebele-it non rientra nella media ITA-Bench.
Qwen2.5-0.5B-Instruct e Llama-3.2-1B-Instruct sono modelli di riferimento per la loro classe, addestrati su trilioni di token con budget stimati nell'ordine dei milioni di dollari. Mario-1 li supera su BoolQ e Belebele-it, e resta indietro sulla media ITA-Bench, dove Qwen2.5 è il migliore.
Un modello da 0,8B è utile solo se gira ovunque. Mario-1 è ottimizzato per l'inferenza su CPU: circa 30 token al secondo con 4-6 thread e meno di 1 GB di RAM. Portarlo in produzione ha richiesto di risolvere differenze sottili tra i framework nella gestione delle posizioni, del tokenizer e del formato di conversazione incorporato nel file finale. Il risultato è verificato: le risposte del modello servito sono identiche, parola per parola, a quelle del modello di riferimento interno.
Tutto il metodo costruito su Mario-1, cioè dataset verificati contro la contaminazione, doppia valutazione, soglie fissate in anticipo e ottimizzazioni di deploy, passa al prossimo modello YecoAI, costruito su un base model più grande. Lì le aree oggi al tetto possono crescere senza sacrificare il comportamento.
Un modello piccolo non deve essere un giocattolo: deve essere onesto su ciò che sa e su ciò che non sa.
Il nostro nuovo modello che trova e nasconde i dati personali nei testi. Più preciso della versione precedente e migliore di modelli molto più grandi, soprattutto in italiano. Ogni release è firmata digitalmente, così puoi verificarne l'autenticità.
Micro-LLM italiano da 118M parametri, addestrato con meno di €15, ~200 tok/s su CPU. Batte Minerva-350M (3× più grande) su BoolQ-IT.
Il nostro modello AI per EnderDevelopment, un fine-tuning di Qwen2.5-Coder-1.5B (Apache 2.0). Usato solo dentro il prodotto e non disponibile pubblicamente.