Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

IT-разработка «внутри» или готовое решение: что выбрать IT-разработка «внутри» или готовое решение: что выбрать

Стоит ли IT-компании разрабатывать ПО с нуля или лучше купить готовое решение?

Inc.
11 российских фильмов последних лет, которые и вправду можно смотреть 11 российских фильмов последних лет, которые и вправду можно смотреть

Российские фильмы, которые вас удивят

Maxim
Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков

Настроить телевизор правильно — проще, чем кажется

ТехИнсайдер
Что делают стюардессы, пока пассажиры спят: 5 интересных фактов Что делают стюардессы, пока пассажиры спят: 5 интересных фактов

Что происходит в самолете, когда пассажиры засыпают?

ТехИнсайдер
Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет

Почему женщины склонны впадать в эзотерику в молодом возрасте, а мужчины в 50

Psychologies
Съедобные лекарства: какие продукты нужно есть, когда вздувается живот Съедобные лекарства: какие продукты нужно есть, когда вздувается живот

Продукты, которые помогут справиться с метеоризмом

ТехИнсайдер
Кульницы, мишурники и уррнака. «Питерские монстры» Веры Сороки Кульницы, мишурники и уррнака. «Питерские монстры» Веры Сороки

Сказки для взрослых, герои которых держат магазин неизданных и недописанных книг

СНОБ
Гипохолестериновая диета: что можно есть при повышенном холестерине Гипохолестериновая диета: что можно есть при повышенном холестерине

Разбираемся в диете, которую назначают при повышенном уровне холестерина

РБК
Если не хочется работать: что делать в таком случае, рассказывает психолог Если не хочется работать: что делать в таком случае, рассказывает психолог

Когда мы слышим «не хочу работать вообще никогда», то сразу начинаем обвинять

Psychologies
Литва от моря и до моря Литва от моря и до моря

История Литвы: от первого правителя до образования Речи Посполитой

Дилетант
Простота по-французски Простота по-французски

Десерты не должны быть чересчур сложными и концептуальными

Bones
«Бедные-несчастные», «Аркейн», «Карнивал Роу»: 12 фильмов и сериалов в стиле стимпанк «Бедные-несчастные», «Аркейн», «Карнивал Роу»: 12 фильмов и сериалов в стиле стимпанк

Фильмы, которые объединяют технологии и декоративно-прикладное искусство

Правила жизни
Брендинг и средства индивидуализации, или как сберечь уникальность бренда? Брендинг и средства индивидуализации, или как сберечь уникальность бренда?

Поговорим о средствах индивидуализации, товарных знаках и знаках обслуживания

Наука и техника
«Это проблема моя или моей мокрой рубашки?»: как выйти из неловкой ситуации красиво «Это проблема моя или моей мокрой рубашки?»: как выйти из неловкой ситуации красиво

Неловкости могут показаться унизительными, но исправить их нам вполне по силам

Psychologies
Еще не все пропало! Еще не все пропало!

Что делать, если потеряла телефон: защищаем данные, восстанавливаем контакты

Лиза
Ничего не знаю и ничего не хочу. Серьезный разговор о детской мотивации Ничего не знаю и ничего не хочу. Серьезный разговор о детской мотивации

О детской мотивации, почему она снижается и как преодолеть этот кризис

СНОБ
Тот еще подарочек Тот еще подарочек

Истории о самых неуместных или обидных презентах

Лиза
6 известных актрис, которые начинали как модели 6 известных актрис, которые начинали как модели

Их сразу полюбила камера, с радостью приняли подиумы и обложки модных изданий

Maxim
СДВГ может иметь эволюционные преимущества СДВГ может иметь эволюционные преимущества

СДВГ в высокой степени передается по наследству

ТехИнсайдер
Правда ли, что OLED-экраны выгорают? Правда ли, что OLED-экраны выгорают?

Все слышали, что OLED экраны выгорают, но так ли это?

CHIP
Бейсджампинг, родео и стритлагинг: 10 самых травмоопасных видов спорта Бейсджампинг, родео и стритлагинг: 10 самых травмоопасных видов спорта

Экстремальные виды спорта, которые наиболее опасны для вашего здоровья

ТехИнсайдер
Люди с сидячей работой проводят менее одного часа на ногах — вот чем это чревато Люди с сидячей работой проводят менее одного часа на ногах — вот чем это чревато

Каждый третий удаленный сотрудник стоит всего 10 минут в день, а то и меньше!

ТехИнсайдер
Яркие миры Яркие миры

Разноцветные животные планеты

Вокруг света
8 шагов, чтобы высказать претензии другу и не поссориться 8 шагов, чтобы высказать претензии другу и не поссориться

Что делать, «если друг оказался вдруг» не таким надежным, как вы надеялись?

Psychologies
Взяла и успокоилась. 4 лекарственных растения, которые стоит держать в домашней аптечке Взяла и успокоилась. 4 лекарственных растения, которые стоит держать в домашней аптечке

Природа – лучший лекарь. Главное – научиться использовать ее потенциал

Лиза
Двойные агенты, обманутые любовницы и страх: как ГДР стала шпионским центром Европы Двойные агенты, обманутые любовницы и страх: как ГДР стала шпионским центром Европы

Как деятельность шпионов влияла на повседневную жизнь в ГДР?

Forbes
Мертвые жабы и бинты: как женщины справлялись с менструациями до появления современных средств личной гигиены Мертвые жабы и бинты: как женщины справлялись с менструациями до появления современных средств личной гигиены

Как женщины справлялись с этими периодами до изобретения первых прокладок

ТехИнсайдер
«Ландшафты мозга. Об удивительных искаженных картах нашего мозга и о том, как они ведут нас по жизни» «Ландшафты мозга. Об удивительных искаженных картах нашего мозга и о том, как они ведут нас по жизни»

Как развиваются зоны мозга, отвечающие за восприятие предметов

N+1
Задача гуманитариев – добывать новое знание и отстаивать истину Задача гуманитариев – добывать новое знание и отстаивать истину

Валерий Тишков о достижениях в сфере гуманитарных наук за последние десятилетия

Знание – сила
«Голос — это про личность» «Голос — это про личность»

Элина Гейман — как музыка может исцелять или разрушать

ЖАРА Magazine
Открыть в приложении