L’arte dell’IA e la lotta per i diritti degli artisti
Avvelenare l’IA: Nightshade protegge il lavoro degli artisti
Man mano che i generatori di immagini basati sull’IA diventano sempre più potenti, gli artisti si preoccupano che il loro lavoro venga utilizzato senza autorizzazione per addestrare questi modelli. Ora, i ricercatori hanno sviluppato uno strumento chiamato Nightshade che consente agli artisti di incorporare un “veleno” invisibile nelle loro immagini, inducendo in errore i modelli di IA e danneggiando la loro capacità di etichettare correttamente le immagini.
Come Nightshade protegge il lavoro degli artisti
Nightshade altera i pixel di un’immagine in un modo che gli esseri umani non riescono a rilevare. Tuttavia, i computer notano queste modifiche, che sono progettate per confondere i modelli di IA. Quando un modello di IA viene addestrato su queste immagini avvelenate, la sua capacità di riconoscere ed etichettare le immagini viene compromessa. Ad esempio, potrebbe iniziare a etichettare le auto come mucche o i cartoni animati come impressionismo.
L’impatto sui generatori di immagini basati sull’IA
Poiché i modelli di IA vengono addestrati su set di dati vasti, identificare le immagini avvelenate è un compito complesso e che richiede molto tempo per le aziende tecnologiche. Anche pochi campioni ingannevoli possono causare danni. I ricercatori hanno scoperto che alimentare Stable Diffusion con sole 50 immagini avvelenate ha indotto il modello a iniziare a generare immagini distorte di cani. Dopo 100 campioni, il modello ha prodotto immagini che erano più simili a gatti che a cani.
Uno strumento per gli artisti
Nightshade è uno strumento importante per gli artisti che si trovano ad affrontare aziende tecnologiche che utilizzano il loro lavoro per addestrare modelli di IA senza autorizzazione. Offre agli artisti un modo per proteggere il proprio lavoro e far valere i propri diritti.
Preoccupazioni etiche
Sebbene Nightshade possa proteggere il lavoro degli artisti dai modelli più recenti, non può proteggere retroattivamente l’arte dai modelli più vecchi. I ricercatori riconoscono inoltre che la tecnica di Nightshade potrebbe essere utilizzata impropriamente per scopi dannosi, come attacchi mirati a modelli di IA. Tuttavia, ritengono che tali attacchi sarebbero difficili da realizzare, poiché richiederebbero migliaia di campioni avvelenati per danneggiare modelli più grandi.
Il futuro della legge sul diritto d’autore
Nightshade sottolinea la necessità di pratiche etiche di IA e un riesame della legge sul diritto d’autore nell’era della generazione di immagini tramite IA. Gli artisti sostengono che dovrebbero avere il controllo su come il loro lavoro viene utilizzato per addestrare i modelli di IA. Alcuni esperti ritengono che sia necessaria una legislazione per proteggere i diritti degli artisti e garantire un giusto compenso per il loro lavoro.
Un incoraggiamento morale per gli artisti
Nonostante le sfide in corso, Nightshade ha dato speranza agli artisti e un senso di emancipazione. Artisti come Autumn Beverly, che ha smesso di pubblicare i suoi lavori online dopo aver scoperto che erano stati copiati senza il suo consenso, hanno trovato conforto in strumenti come Nightshade che gli consentono di condividere nuovamente le loro opere.
Conclusione
Nightshade è un passo significativo nella lotta per difendere i diritti degli artisti di fronte ai generatori di immagini basati sull’IA. Fornisce agli artisti uno strumento per proteggere il proprio lavoro e solleva importanti questioni sull’uso etico dell’IA e il futuro della legge sul diritto d’autore.