ИИ-искусство и борьба за права художников
Отравление ИИ: Nightshade защищает работы художников
По мере того, как генераторы изображений на основе ИИ становятся все более мощными, художники начинают беспокоиться о том, что их работы будут использоваться без разрешения для обучения этих моделей. Теперь исследователи разработали инструмент под названием Nightshade, который позволяет художникам внедрять невидимый «яд» в свои изображения, вводя в заблуждение модели ИИ и нарушая их способность правильно маркировать изображения.
Как Nightshade защищает работы художников
Nightshade изменяет пиксели изображения таким образом, что люди не могут этого заметить. Однако компьютеры замечают эти изменения, которые предназначены для того, чтобы сбивать с толку модели ИИ. Когда модель ИИ обучается на этих отравленных изображениях, ее способность распознавать и маркировать изображения нарушается. Например, она может начать маркировать автомобили как коров или мультяшное искусство как импрессионизм.
Влияние на генераторы изображений на основе ИИ
Поскольку модели ИИ обучаются на огромных наборах данных, идентификация отравленных изображений является сложной и трудоемкой задачей для технологических компаний. Даже несколько вводящих в заблуждение образцов могут нанести вред. Исследователи обнаружили, что подача всего 50 отравленных изображений в Stable Diffusion заставила модель начать генерировать искаженные изображения собак. После 100 образцов модель создавала изображения, которые были больше похожи на кошек, чем на собак.
Инструмент для художников
Nightshade — это важный инструмент для художников, противостоящих технологическим компаниям, которые используют их работы для обучения моделей ИИ без разрешения. Он дает художникам способ защитить свои работы и отстоять свои права.
Этические проблемы
Хотя Nightshade может защитить работы художников от новых моделей, он не может защитить искусство от старых моделей задним числом. Исследователи также признают, что технология Nightshade может быть использована в злонамеренных целях, таких как целенаправленные атаки на модели ИИ. Однако они считают, что такие атаки будет трудно осуществить, поскольку для нанесения ущерба более крупным моделям потребуется тысячи отравленных образцов.
Будущее закона об авторском праве
Nightshade подчеркивает необходимость этических методов работы с ИИ и пересмотра закона об авторском праве в эпоху генерации изображений с помощью ИИ. Художники утверждают, что они должны контролировать, как их работы используются для обучения моделей ИИ. Некоторые эксперты считают, что для защиты прав художников и обеспечения справедливой компенсации за их работу необходимо законодательство.
Поддержка морального духа художников
Несмотря на продолжающиеся проблемы, Nightshade дал художникам надежду и чувство силы. Такие художники, как Отомн Беверли, которая перестала размещать свои работы в сети после того, как обнаружила, что они были скопированы без ее согласия, нашли утешение в таких инструментах, как Nightshade, которые позволяют им снова делиться своими работами.
Заключение
Nightshade — это значительный шаг в борьбе за защиту прав художников перед лицом генераторов изображений на основе ИИ. Он дает художникам инструмент для защиты их работы и поднимает важные вопросы об этическом использовании ИИ и будущем закона об авторском праве.
