Arta IA și lupta pentru drepturile artiștilor
Otravă pentru IA: Nightshade protejează munca artiștilor
Pe măsură ce generatoarele de imagini IA devin din ce în ce mai puternice, artiștii își fac griji că munca lor ar putea fi folosită fără permisiune pentru a antrena aceste modele. Acum, cercetătorii au dezvoltat un instrument numit Nightshade care permite artiștilor să încorporeze „otravă” invizibilă în imaginile lor, înșelând modelele IA și afectându-le capacitatea de a eticheta corect imaginile.
Cum protejează Nightshade munca artiștilor
Nightshade modifică pixelii unei imagini într-un mod pe care oamenii nu îl pot detecta. Cu toate acestea, computerele observă aceste modificări, care sunt concepute să deruteze modelele IA. Atunci când un model IA este antrenat pe aceste imagini otrăvite, capacitatea sa de a recunoaște și eticheta imaginile scade. De exemplu, ar putea începe să eticheteze mașinile drept vaci sau arta de desene animate drept impresionism.
Impactul asupra generatoarelor de imagini IA
Deoarece modelele IA sunt antrenate pe seturi vaste de date, identificarea imaginilor otrăvite este o sarcină complexă și care necesită mult timp pentru companiile de tehnologie. Chiar și câteva mostre înșelătoare pot provoca daune. Cercetătorii au descoperit că introducerea a doar 50 de imagini otrăvite în Stable Diffusion a determinat modelul să înceapă să genereze imagini distorsionate ale câinilor. După 100 de mostre, modelul a produs imagini care erau mai mult pisici decât câini.
Un instrument pentru artiști
Nightshade este un instrument important pentru artiștii care se confruntă cu companiile de tehnologie care își folosesc munca pentru a antrena modele IA fără permisiune. Acesta oferă artiștilor o modalitate de a-și proteja munca și de a-și afirma drepturile.
Preocupări etice
Cu toate că Nightshade poate proteja munca artiștilor de modelele mai noi, nu poate proteja retroactiv arta de cele mai vechi. Cercetătorii recunosc, de asemenea, că tehnica Nightshade ar putea fi utilizată în scopuri rău intenționate, cum ar fi atacuri țintite asupra modelelor IA. Cu toate acestea, ei cred că astfel de atacuri ar fi dificil de realizat, deoarece ar necesita mii de mostre otrăvite pentru a provoca daune modelelor mai mari.
Viitorul legii drepturilor de autor
Nightshade subliniază necesitatea unor practici etice ale IA și o reexaminare a legii drepturilor de autor în era generării de imagini IA. Artiștii susțin că ar trebui să aibă control asupra modului în care munca lor este folosită pentru a antrena modele IA. Unii experți consideră că este necesară o legislație pentru a proteja drepturile artiștilor și pentru a asigura o compensare echitabilă pentru munca lor.
Un stimulent moral pentru artiști
În ciuda provocărilor continue, Nightshade le-a oferit artiștilor speranță și un sentiment de împuternicire. Artiști precum Autumn Beverly, care a încetat să își posteze lucrările online după ce a descoperit că au fost copiate fără consimțământul ei, au găsit alinare în instrumente precum Nightshade care le permit să își împărtășească din nou munca.
Concluzie
Nightshade este un pas semnificativ în lupta pentru apărarea drepturilor artiștilor în fața generatoarelor de imagini IA. Acesta îi împuternicește pe artiști cu un instrument pentru a-și proteja munca și ridică întrebări importante cu privire la utilizarea etică a IA și viitorul legii drepturilor de autor.