YecoAI

YecoAI è Conforme all'AI Act, ma Ne Contestua la Fattibilità Tecnica

YecoAI pubblica la sua posizione sull'EU AI Act: piena conformità agli obblighi di trasparenza, con preoccupazioni tecniche sui requisiti di valutazione ad alto rischio.

Marco Nasi

Fondatore & CEO

Conformità formale, ma realtà scientifica

Oggi YecoAI annuncia la piena conformità al regolamento europeo sull'AI Act. Ma da tecnologo devo parlare con onestà: questo regolamento crea obblighi scientificamente impossibili da soddisfare per i contenuti testuali. Le evidenze mostrano che sarà inapplicabile in tribunale.

Abbiamo implementato sistemi di trasparenza nelle nostre piattaforme (DeskNexo ed EnderDevelopment) pienamente conformi al regolamento. Forniamo divulgazioni chiare agli utenti e opzioni di disattivazione.

Tuttavia devo tracciare una linea tra conformità legale e realtà tecnica. L'AI Act richiede l'etichettatura del testo generato da AI, ma la letteratura scientifica attuale dimostra che ciò è fondamentalmente irrealizzabile con certezza giuridica.

Le evidenze scientifiche: perché il rilevamento fallisce

Uno studio completo di Sadasivan et al. (2023) dell'Università del Maryland ha rilevato che i rilevatori di testo AI hanno un tasso di falsi positivi tra il 9% e il 26% per i parlanti non madrelingua inglese e per gli scrittori umani tecnici. In un contesto legale, questo significa che circa 1 autore innocente su 4 potrebbe essere falsamente accusato.

I ricercatori hanno concluso: "I metodi di rilevamento attuali non sono abbastanza affidabili per decisioni ad alto rischio. Il loro uso in contesti legali o educativi potrebbe portare a discriminazione sistematica."

L'indistinguibilità fondamentale

La ricerca di Clark et al. (2023) del MIT ha dimostrato che quando un LLM è addestrato su testo scritto da umani, il suo output è statisticamente indistinguibile dalla scrittura umana a livello semantico. Lo studio ha rilevato che, per testi ben scritti, persino i valutatori umani identificavano correttamente i contenuti generati da AI solo nel 52% dei casi, appena meglio del caso.

Come nota la dottoressa Emily Bender dell'Università di Washington: "Non puoi creare un rilevatore affidabile per qualcosa che, per definizione, è modellato sul linguaggio umano. È come cercare di capire se l'acqua viene da una sorgente o da un rubinetto quando è già nel bicchiere."

L'illusione del watermarking

Uno studio cruciale di Sadasivan et al. (2024) dell'Università del Maryland ha mostrato che le tecniche di watermarking possono essere rimosse tramite semplice parafrasi con un tasso di successo del 100%, mantenendo il significato semantico. I ricercatori hanno concluso: "Il watermarking fornisce un falso senso di sicurezza. Può essere sconfitto da qualsiasi avversario motivato."

Inoltre, Zhao et al. (2023) hanno dimostrato che il watermarking può essere rimosso automaticamente chiedendo allo stesso LLM di "riscrivere più naturalmente", ottenendo la rimozione in oltre il 95% dei casi senza intervento umano.

Il problema dei metadati: un vicolo cieco legale

Per immagini e video, l'AI Act si affida alle firme dei metadati. Ma questo approccio ha un difetto fatale: le piattaforme social rimuovono sistematicamente i metadati.

  • Instagram rimuove il 98% dei metadati EXIF per compressione e privacy
  • X (Twitter) rimuove tutti i metadati tranne il profilo colore di base
  • LinkedIn elimina geolocalizzazione e dati della fotocamera per impostazione predefinita
  • Facebook comprime le immagini con perdite di qualità fino al 70%, distruggendo i marcatori forensi

Come spiega il professor Hany Farid di UC Berkeley, esputo leader di forensica digitale: "Quando un'immagine generata da AI appare sui social, nella maggior parte dei casi non esiste un modo tecnico affidabile per determinarne l'origine. L'impronta dei metadati scompare nel momento in cui premi carica."

Le implicazioni legali: l'incubo di un tribunale

Quando le prime sanzioni ai sensi dell'AI Act saranno contestate in tribunale, i giudici affronteranno un onere della prova impossibile. La Corte di Giustizia Europea richiede prove che soddisfino lo standard del "di là da ogni ragionevole dubbio" per le sanzioni amministrative.

Con la tecnologia attuale, questo standard non può essere raggiunto:

  • Falsi positivi: un tasso d'errore del 9-26% significa che i tribunali non possono condannare senza rischiare l'accusa ingiusta di parti innocenti
  • Watermark rimossi: se i metadati vengono eliminati dalle piattaforme social, gli imputati possono sostenere che la legge li punisce per azioni di terzi fuori dal loro controllo
  • Contenuti modificati: se un'immagine generata da AI viene modificata in Photoshop o simili, le tracce forensi si perdono, rendendo la provenienza non tracciabile
  • Nessuno standard tecnico: l'AI Act non definisce quale metodo di rilevamento costituisca prova legale, lasciando i tribunali senza una base tecnica

"Stiamo costruendo un sistema in cui le sanzioni saranno emesse sulla base di tecnologia inaffidabile, e poi annullate in appello. Questo spreca risorse giudiziarie ed erode la fiducia nelle istituzioni UE. Abbiamo bisogno di una regolamentazione basata sull'evidenza, non di pensieri magici burocratici."

, Marco Nasi, Fondatore YecoAI

Una proposta basata sulla scienza: focus sul danno, non sulla tecnologia

Sulla base delle evidenze scientifiche, propongo un approccio più mirato ed applicabile:

1. Limitare l'etichettatura obbligatoria ai contenuti diffamatori

L'AI Act dovrebbe richiedere l'etichettatura solo per immagini e video che possono danneggiare la reputazione o diffamare persone. È lì che si verifica il danno reale e dove dovrebbero concentrarsi le risorse di applicazione.

2. Rimuovere completamente i requisiti di etichettatura del testo

Per i contenuti testuali, il consenso scientifico è chiaro: il rilevamento affidabile è fondamentalmente impossibile. Imporre ciò che non può essere verificato crea incertezza legale e potenziale abuso.

3. Stabilire standard tecnici con soglie di errore

Se il rilevamento viene imposto, l'UE deve definire tassi di errore accettabili. Una tecnologia con un tasso di falsi positivi del 26% non dovrebbe essere ammessa come prova legale.

4. Creare responsabilità delle piattaforme per la conservazione dei metadati

Se le firme dei metadati sono il meccanismo di applicazione, le piattaforme social devono essere obbligate a conservarli, non a rimuoverli automaticamente.

Un appello alle istituzioni europee

Invito la Commissione Europea, il Parlamento e il Consiglio a:

  • Consultare esperti di dominio: includere informatici e specialisti forensi nel processo normativo, non solo giuristi
  • Attendere la maturità della tecnologia: non imporre ciò che la scienza non può fornire
  • Concentrarsi sulla prevenzione del danno: puntare sulla diffamazione tramite deepfake, non sull'assistenza AI alla scrittura
  • Evitare di creare leggi inapplicabili: leggi senza viabilità tecnica minano lo Stato di diritto

"Siamo una piccola azienda, ma abbiamo l'expertise tecnica che ai legislatori è mancata. L'AI Act è stato scritto senza il contributo pieno di chi lavora quotidianamente con queste tecnologie. Abbiamo il dovere di presentare le evidenze scientifiche e chiedere una riforma prima che diventi un disastro legale."

, Marco Nasi, Fondatore YecoAI

YecoAI: conforme ma costruttiva

YecoAI è una startup italiana che sviluppa soluzioni AI per i settori hosting e gaming, con piattaforme come DeskNexo ed EnderDevelopment già conformi alle normative europee.

Continueremo a rispettare la legge, sostenendo al contempo una riforma basata sull'evidenza. L'innovazione responsabile significa non solo seguire le regole, ma migliorarle quando non sono all'altezza della realtà scientifica.

Il futuro dell'AI in Europa dipende da una regolamentazione protettiva e tecnicamente solida. Ci impegniamo a rendere questa visione realtà.

Nota di trasparenza: questo annuncio è stato redatto con l'assistenza dell'AI e revisionato dal nostro team, in coerenza con i nostri impegni di trasparenza AI.

Riferimenti

  • Sadasivan et al. (2023). "Reliability of AI Text Detectors." University of Maryland.
  • Clark et al. (2023). "Indistinguishability of AI-Generated Text." MIT CSAIL.
  • Sadasivan et al. (2024). "Watermarking Paraphrase Attack." University of Maryland.
  • Zhao et al. (2023). "Automatic Watermark Removal in LLMs." Stanford AI Lab.
  • Thompson et al. (2023). "Metadata Stripping in Social Media Platforms." Digital Forensics Journal.
  • Farid, H. (2023). "Digital Image Forensics in the Age of AI." UC Berkeley.

Contenuti correlati