Mario-1: un modello italiano che gira su una CPU
Un modello linguistico da 0,8 miliardi di parametri, addestrato per l'italiano. Gira su CPU senza GPU e sa riconoscere le trappole, ammettere ciò che non sa e fare calcoli affidabili.
Micro-LLM italiano da 118M parametri, addestrato con meno di €15, ~200 tok/s su CPU. Batte Minerva-350M (3× più grande) su BoolQ-IT.

Presentiamo Yeco Flash Mini-IT v1, un modello linguistico decoder-only da 118,1M di parametri per l'italiano che dimostra un punto conteso: i modelli linguistici sovrani e utili non richiedono più budget frontier. Addestrato end-to-end con meno di €15 di tempo H100, Flash Mini-IT implementa un tokenizer BPE 32k custom progettato sulla morfologia italiana e un comportamento post-SFT che elimina le modalità di guasto tipiche dei modelli micro. Sulla suite ufficiale ITA-Bench (SapienzaNLP) risponde a BoolQ-IT con 62,5%, sopra Minerva-350M (60,7%), un modello 3× più grande con ~70B token di pretraining alle spalle. Modello, tokenizer e pipeline completa sono rilasciati in Apache 2.0 con model card esaustiva, limitazioni incluse.
L'italiano occupa una posizione scomoda nel panorama dei modelli aperti. I checkpoint multilingua più grandi lo trattano come una coda tra cento; i pochi modelli specializzati italiani (MINERVA, Fauno, Camoscio) stanno su 350M-7B parametri con scarsa documentazione delle loro economiche di training. Nel frattempo il costo di un singolo run di pretraining frontier supera il budget annuale della maggior parte dei gruppi di ricerca italiani. Il risultato è un vuoto: nessuna pipeline riproducibile e interamente documentata che mostri quanto costa un LLM italiano minimo e fino a dove arriva.
Flash Mini-IT è stato progettato come esattamente quel punto di riferimento. Ogni decisione di design, tokenizer, architettura, mixture di dati, schedule di training, è stata presa per massimizzare la qualità sull'italiano per euro di calcolo, e ogni numero di questo articolo è misurato su benchmark pubblici, non stimato. Dove il modello perde lo diciamo: la model card riporta i risultati per task completi, inclusi i task dove Minerva-350M vince chiaramente.
Il backbone è un transformer decoder-only in stile GPT-2: 12 layer, dimensione nascosta 768, 12 teste di attenzione, pre-LN e weight tying tra embedding di input e proiezione di output. Sopra il calcolo di attenzione standard aggiungiamo un context gate appreso, una scala modulata con sigmoid sui punteggi di attenzione, che stabilizza il training a questa scala e ha migliorato la validation loss nei primi ablation.
Il tokenizer è dove vive la maggior parte dell'ingegneria specifica per l'italiano. Un vocabolario BPE da 32.000 token è stato addestrato da zero su Wikipedia italiana, sostituendo il byte-level BPE di GPT-2 i cui merge erano ottimizzati per l'inglese. Il tokenizer risultante ha una fertility di 1,53 token per parola, una riduzione del 34% rispetto a GPT-2 sullo stesso corpus italiano. Meno token per parola significa contesto effettivo più lungo, meno calcolo di attenzione e generazione più veloce, un vantaggio composto che appare in ogni metrica downstream per unità di calcolo.
Il training è proceduto in due fasi, entrambe su una singola NVIDIA H100 affittata su Modal.
Valutazione: misurata, non stimata
Tutti i numeri dei benchmark provengono dai dataset ufficiali ITA-Bench (sapienzanlp/arc_italian, hellaswag_italian, boolq_italian, truthful_qa_italian, gsm8k_italian), valutati con l’harness ufficiale ITA-Bench per la valutazione di LLM su task italiani: accuratezza in percentuale, protocollo zero-shot, finestra di contesto 4k, media di 3 run. I punteggi di Emma-5 550M provengono dal medesimo setup; i valori di Minerva-350M sono quelli del paper (vedi nota sotto la tabella). Sono numeri misurati, non proiezioni.
Lettura onesta dei numeri: Flash Mini-IT vince BoolQ (62,5%, il miglior punteggio del modello nella suite, davanti al 60,7% di Minerva-350M nonostante i 3× di dimensione e ~70B token di pretraining di Minerva), mentre Minerva-350M resta avanti su ARC-Challenge (24,6% contro 23,0%), HellaSwag, TruthfulQA e GSM8K, e nella media delle cinque task (42,5% contro 36,1%). La versione chat (SFT v3) resta anch’essa al 36,1% di media. Il valore dell’SFT si vede nel comportamento più che in questi punteggi: un formato affidabile domanda → risposta → stop, eliminazione dell’eco della domanda e risposte chat strutturate.
| Task | Yeco Flash Mini-IT 118M | Emma-5 550M | Minerva-350M |
|---|---|---|---|
| ARC-Challenge | 23.0 | 22.0 | 24.6 |
| HellaSwag | 26.0 | 31.5 | 32.6 |
| BoolQ | 62.5 | 39.0 | 60.7 |
| TruthfulQA | 34.5 | 21.0 | 46.5 |
| GSM8K | 34.5 | 39.0 | 48.2 |
| Media cinque task | 36.1 | 30.5 | 42.5 |
I valori di Minerva-350M sono quelli del paper (N completo, possibile differenza di few-shot): stesso benchmark e stesso scoring, N diverso. Il paper di Minerva può usare un protocollo di valutazione diverso (numero di esempi few-shot, formato del prompt, normalizzazione del punteggio), quindi parte del divario può dipendere dal protocollo e non solo dai modelli. I confronti con i baseline sono quindi indicativi, non run certificati testa a testa: solo un run di Minerva-350M con il nostro protocollo esatto potrebbe chiudere il confronto. Sul comportamento generativo, il modello post-SFT produce in modo affidabile input → risposta → stop, ha perso il difetto dell’eco ("What is Windows → windows ["), e produce elenchi e prosa sensati su domande di conoscenza generale. I punti deboli sono documentati, non nascosti: l’auto-identificazione è incoerente, il richiamo fattuale a 118M di parametri / 1,25B token inventa dettagli, e il modello imita la forma del ragionamento passo-passo fallendo l’aritmetica.
Il formato di prompt SFT è un template di due righe, [CHAT] Utente: {domanda} / Assistente:, con generazione fermata su una sequenza fissa di quattro id token ([END]). Il checkpoint finale (models/best_v2.pt), il tokenizer (models/it_bpe_32k.json), la pipeline di training completa su Modal (train_v2.py), gli script di preparazione dati (scripts/prepare_v2_datasets.py) e l'harness di benchmark (run_real_itabench.py) vengono distribuiti insieme in Apache 2.0. Una chat GUI (chat_gui.py) è inclusa per la valutazione interattiva. Un dettaglio critico è documentato per chi replica: i token speciali di chat non sono nel file di vocabolario, non aggiungerli con add_special_tokens, gli id ≥ 32768 mandano in crash il modello.
La model card identifica tre leve, in ordine di impatto atteso: pretraining continuo su altri 2-3B token (Wikipedia + QA impaccati, stimato $4-6), l'unica leva che muove ARC/HellaSwag/TruthfulQA; dati di self-identity più aggressivi più un DPO leggero; e un run completo su lm-evaluation-harness con dataset completi per numeri certificati. Flash Mini-IT è volutamente un checkpoint vivo: ogni risultato qui sopra verrà superato man mano che la serie si addestra, e la model card è versionata per rendere ogni passo verificabile. Il modello fa parte della Yeco LLM Series, che raccoglie tutti i modelli YecoAI.
Un LLM italiano interamente documentato, dal tokenizer al benchmark, al prezzo di due pizze. Questo è il piano minimo riproducibile che mancava al dibattito sull'AI sovrana.
Un modello linguistico da 0,8 miliardi di parametri, addestrato per l'italiano. Gira su CPU senza GPU e sa riconoscere le trappole, ammettere ciò che non sa e fare calcoli affidabili.

Il nostro nuovo modello che trova e nasconde i dati personali nei testi. Più preciso della versione precedente e migliore di modelli molto più grandi, soprattutto in italiano. Ogni release è firmata digitalmente, così puoi verificarne l'autenticità.

Il nostro modello AI per EnderDevelopment, un fine-tuning di Qwen2.5-Coder-1.5B (Apache 2.0). Usato solo dentro il prodotto e non disponibile pubblicamente.