Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как закон регулирует ценообразование Как закон регулирует ценообразование

Ценообразование: что на самом деле ограничивает государство и кто за этим следит

Inc.
Тот же Канье, только в профиль: каким получился альбом Vultures 1 Тот же Канье, только в профиль: каким получился альбом Vultures 1

Vultures от Канье звучит как альбом, записанный на пределе, из последних сил

Правила жизни
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
Google Deepmind: ИИ обладает способностью к самопознанию, нужно только правильно его спросить Google Deepmind: ИИ обладает способностью к самопознанию, нужно только правильно его спросить

Ученые предложили новую систему промтов, которую назвали «самопознание»

ТехИнсайдер
«Простая геометрическая фигура»: какую историю пережил «Черный квадрат» Малевича «Простая геометрическая фигура»: какую историю пережил «Черный квадрат» Малевича

История успеха наследия художника Казимира Малевича

Forbes
Что это было? Почему ученый отказалась от карьеры ради воспитания приемных детей Что это было? Почему ученый отказалась от карьеры ради воспитания приемных детей

Почему люди отказываются от карьеры ради воспитания приемных детей

СНОБ
Как жить с хронической болью: 9 советов Как жить с хронической болью: 9 советов

Что делать, если болезнь вылечить нельзя или боль не отпускает годами?

Psychologies
Финансовые платформы уже давно не выбор новаторов, а новый образ жизни Финансовые платформы уже давно не выбор новаторов, а новый образ жизни

Как сохранять вовлеченность клиентов в условиях повышенной волатильности

Деньги
Из пены морской Из пены морской

В первые за 60 лет отреставрировали важный памятник елизаветинского барокко

Собака.ru
Свежесть дыхания. Как убрать неприятный запах изо рта Свежесть дыхания. Как убрать неприятный запах изо рта

Причины неприятного запаха изо рта и способы с ним бороться

Лиза
Почему не стоит откладывать деньги на черный день: 3 принципа финансовой грамотности Почему не стоит откладывать деньги на черный день: 3 принципа финансовой грамотности

В чем заключается альтернативная система накоплений?

Psychologies
«Набрала 10 кг из-за него»: могут ли отношения стать причиной лишнего веса — мнение эксперта «Набрала 10 кг из-за него»: могут ли отношения стать причиной лишнего веса — мнение эксперта

Как эмоциональные трудности в отношениях могут привести к лишнему весу?

VOICE
Быть тигрицей: как новый сезон «Фарго» с Джуно Темпл стал манифестом против насилия Быть тигрицей: как новый сезон «Фарго» с Джуно Темпл стал манифестом против насилия

«Фарго» — идеальный пример того, как стоит обсуждать проблему домашнего насилия

Forbes
Когда случайно ступил в обуви мимо коврика: как отмыть полы от следов реагентов Когда случайно ступил в обуви мимо коврика: как отмыть полы от следов реагентов

Как очистить любой тип напольного покрытия подручными средствами от реагентов

ТехИнсайдер
Угроза автомобилям и шуруповертам: сможет ли Россия справиться с дефицитом лития Угроза автомобилям и шуруповертам: сможет ли Россия справиться с дефицитом лития

Когда и в каком объеме Россия сможет производить литий и грозит ли нам дефицит?

Forbes
Витамин юности: что такое ретинол Витамин юности: что такое ретинол

Ретинол: чем же он хорош для кожи и как эффективнее всего его использовать

Psychologies
Ноутбук или планшет с клавиатурой: что лучше Ноутбук или планшет с клавиатурой: что лучше

Может ли быть планшет равным соперником ноутбуку?

ТехИнсайдер
Грусть длиной в полгода: что такое «сезонная депрессия» и как ее распознать Грусть длиной в полгода: что такое «сезонная депрессия» и как ее распознать

Почему наступает «сезонная депрессия» и что можно сделать, чтобы ее победить

Forbes
Простота по-французски Простота по-французски

Десерты не должны быть чересчур сложными и концептуальными

Bones
Древовидный папоротник превратил отмирающие вайи в корни Древовидный папоротник превратил отмирающие вайи в корни

Древовидный папоротник научился получать больше азота из почвы

N+1
Сколько секса нужно для счастья? Сколько секса нужно для счастья?

Насколько часто нужно заниматься сексом?

Лиза
6 известных актрис, которые начинали как модели 6 известных актрис, которые начинали как модели

Их сразу полюбила камера, с радостью приняли подиумы и обложки модных изданий

Maxim
Прочитаны первые страницы рукописи, сгоревшей в Геркулануме во время извержения Везувия 2000 лет назад Прочитаны первые страницы рукописи, сгоревшей в Геркулануме во время извержения Везувия 2000 лет назад

Ученые смогли изучить рукопись из древнего свитка Геркуланума с помощью ИИ

ТехИнсайдер
I can speak English: как быстро и эффективно запоминать иностранные слова I can speak English: как быстро и эффективно запоминать иностранные слова

Рассказываем, как запоминать новые иностранные слова быстро и эффективно

ТехИнсайдер
Тело на шотландском пляже: пугающая история шведки Анни Боржессон, гибель которой запретили расследовать Тело на шотландском пляже: пугающая история шведки Анни Боржессон, гибель которой запретили расследовать

История этой женщины могла бы стать сюжетом для скандинавского детектива

VOICE
Что выбрать: покупку автомобиля или такси, каршеринг, подписку Что выбрать: покупку автомобиля или такси, каршеринг, подписку

Что позволяет экономить больше: авто, такси, каршеринг или другая альтернатива?

РБК
О чем говорит запах нашего тела О чем говорит запах нашего тела

Что такое ЛОС? Как наш запах дает понять, кто мы такие и насколько здоровы?

ТехИнсайдер
Маленький пассажир большого корабля. Зачем в космос отправят первый в мире арт-объект в виде осьминога Маленький пассажир большого корабля. Зачем в космос отправят первый в мире арт-объект в виде осьминога

В чем смысл запуска предметов человеческого творчества за пределы Земли?

СНОБ
«Идеальные дни» Вима Вендерса: как наслаждаться жизнью, даже если чистишь туалеты «Идеальные дни» Вима Вендерса: как наслаждаться жизнью, даже если чистишь туалеты

Почему после фильма «Идеальные дни» снова появляется вера в жизнь?

Forbes
Вера Алентова: «Мы с Меньшовым совершенно разные: он человек «да», а я человек «нет» Вера Алентова: «Мы с Меньшовым совершенно разные: он человек «да», а я человек «нет»

Вера Валентиновна Алентова о своей жизни накануне 70-летия

Караван историй
Открыть в приложении