Ender-1
Modello proprietario da 3B addestrato sui dati di EnderDevelopment. In beta, in rollout su EnderDevelopment.
Product
Yeco Flash Mini-IT v1
Micro-LLM italiano da 118M parametri, addestrato con meno di €15, ~200 tok/s su CPU. Batte modelli 5× più grandi nei benchmark di logica italiana.
Abstract
Yeco Flash Mini-IT è un Proof of Concept di modello linguistico italiano proprietario, costruito e addestrato interamente in locale. Mentre i colossi del tech bruciano miliardi per modelli da trilioni di parametri, questa architettura da 118M parametri (118,1M misurati) dimostra che l'iper-specializzazione del codice e la pulizia dei dataset proprietari contano più della potenza bruta.
Record di efficienza
- 118M parametri (GPT-2 decoder-only + Context Gating, Pre-LN, weight tying)
- Addestrato con meno di €15 totali (pretraining ~$8,75 su H100 + SFT ~$4)
- Esecuzione locale su CPU: ~200 token/secondo su hardware consumer datato
- Tokenizer BPE 32k italiano custom, fertility 1,53 tok/word (−34% vs GPT-2)
Benchmark (misurati, ITA-Bench)
Punteggi misurati sui dataset ufficiali ITA-Bench (SapienzaNLP), log-likelihood normalizzata per scelta, N=200/task, seed 42 — non stimati.
- ARC-Challenge: 24,0% (Minerva-350M paper: 24,6%)
- HellaSwag: 27,5% (Minerva: 32,6%)
- BoolQ: 62,0% — batte Minerva-350M (60,7%)
- TruthfulQA: 34,5% · GSM8K: 32,0% · Media: 36,0%
Lettura onesta: sul bench multiple-choice il V2 è entro il rumore statistico (±3,5 punti/task) dal checkpoint pre-SFT. Il valore del V2 è comportamentale: formato domanda→risposta→stop affidabile, echo eliminato, risposte chat strutturate.
Licenza
Apache 2.0. Soggetto a rielaborazione: il modello è in iterazione attiva e i numeri possono cambiare con i prossimi rilasci.