Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Количество против качества: почему не стоит доверять ИИ рассылку резюме Количество против качества: почему не стоит доверять ИИ рассылку резюме

Как работают сервисы массовой рассылки резюме и почему им нельзя доверять?

Inc.
6 известных актрис, которые начинали как модели 6 известных актрис, которые начинали как модели

Их сразу полюбила камера, с радостью приняли подиумы и обложки модных изданий

Maxim
Протокол Matter: что это такое? Протокол Matter: что это такое?

Что такое протокол Matter и в чем его преимущества

CHIP
Быть тигрицей: как новый сезон «Фарго» с Джуно Темпл стал манифестом против насилия Быть тигрицей: как новый сезон «Фарго» с Джуно Темпл стал манифестом против насилия

«Фарго» — идеальный пример того, как стоит обсуждать проблему домашнего насилия

Forbes
Самый дорогой роман Толстого и долги Достоевского: сколько зарабатывали писатели Самый дорогой роман Толстого и долги Достоевского: сколько зарабатывали писатели

Какие суммы зарабатывали писатели-классики литературным трудом

Forbes
Бейсджампинг, родео и стритлагинг: 10 самых травмоопасных видов спорта Бейсджампинг, родео и стритлагинг: 10 самых травмоопасных видов спорта

Экстремальные виды спорта, которые наиболее опасны для вашего здоровья

ТехИнсайдер
Лжец со стрелкой: 5 необычных фактов об обычном спидометре Лжец со стрелкой: 5 необычных фактов об обычном спидометре

Несколько удивительных фактов о спидометре в вашем автомобиле

ТехИнсайдер
8 простых способов сделать спальню уютнее: советы дизайнеров интерьера 8 простых способов сделать спальню уютнее: советы дизайнеров интерьера

Как превратить спальню в оазис дзена?

VOICE
Любовно-погодные явления Любовно-погодные явления

«5 сантиметров в секунду»: шедевр Макото Синкая

Weekend
No Frost или капельная система: что лучше? No Frost или капельная система: что лучше?

Основных типов разморозки холодильника два: капельная система и No Frost

CHIP
Красота по-японски Красота по-японски

В чем суть ключевых понятий японской эстетики?

Вокруг света
Вот тут болит Вот тут болит

Боль в груди: разбираем самые частые причины

Лиза
Совсем рядом Совсем рядом

На самом деле мы хотим близости. Что это такое и как создать ее в паре?

VOICE
С какими проблемами люди старшего возраста чаще всего обращаются к психологу С какими проблемами люди старшего возраста чаще всего обращаются к психологу

С какими проблемами люди старшего возраста чаще всего обращаются к психологам

Psychologies
Что нужно знать о «первой кисти Политбюро» Дмитрии Налбандяне Что нужно знать о «первой кисти Политбюро» Дмитрии Налбандяне

«Сноб» рассказывает о творческом пути Дмитрия Налбандяне через его фотографии

СНОБ
У аппарата. 5 действий с телефоном, которые указывают на невротическое поведение У аппарата. 5 действий с телефоном, которые указывают на невротическое поведение

Как выявить склонность к неврозу и нездоровую привязанность к гаджету

Лиза
3 правильных способа быстро сделать штробу в стене 3 правильных способа быстро сделать штробу в стене

Собрались заменить проводку в квартире или доме? Значит придется штробить стены

CHIP
«Ландшафты мозга. Об удивительных искаженных картах нашего мозга и о том, как они ведут нас по жизни» «Ландшафты мозга. Об удивительных искаженных картах нашего мозга и о том, как они ведут нас по жизни»

Как развиваются зоны мозга, отвечающие за восприятие предметов

N+1
«От Энигмы до ChatGPT»: почему люди до сих пор боятся искусственного интеллекта «От Энигмы до ChatGPT»: почему люди до сих пор боятся искусственного интеллекта

Как относиться к искусственному разуму? Ищем ответ в «От "Энигмы" до ChatGPT»

ТехИнсайдер
Почему у здоровых людей возникают отеки — и как быстро привести себя в порядок Почему у здоровых людей возникают отеки — и как быстро привести себя в порядок

По какой причине отеки появляются даже в том случае, если ты ничем не болеешь

VOICE
«Хочешь жениться — построй завод» «Хочешь жениться — построй завод»

Как в современной России решаются проблемы промышленного дефицита

Монокль
Вы не поверите, но даже зимой муравейник не спит. Как переживают зиму муравьи? Вы не поверите, но даже зимой муравейник не спит. Как переживают зиму муравьи?

Как устроена жизнь в муравейнике?

ТехИнсайдер
Лимеренция живет три года: когда влюбленность становится опасной Лимеренция живет три года: когда влюбленность становится опасной

Как проявляется любовная обсессия и можно ли избавиться от фиксации?

Psychologies
5 андроид-навигаторов, которые хорошо работают даже оффлайн 5 андроид-навигаторов, которые хорошо работают даже оффлайн

Навигаторы с разнообразными возможностями — посмотрите, какой подойдет вам

ТехИнсайдер
Крутые перцы Крутые перцы

Многие ассоциируют перец с яркой остротой, но это не так — разновидностей много

Bones
Burito: «Никто не может мыслить, как я» Burito: «Никто не может мыслить, как я»

Игорь Бурнышев и Оксана Устинова — почему не бывает плохой музыки

ЖАРА Magazine
Брижит Бардо любила животных больше, чем родного сына, которого она называла «опухолью». Как сложилась судьба Николя Брижит Бардо любила животных больше, чем родного сына, которого она называла «опухолью». Как сложилась судьба Николя

Наладить отношения с единственным сыном Брижит Бардо так и не удалось

ТехИнсайдер
Мозговой штурм: за кем следить в мире нейроинтерфейсов и что их ждет в будущем Мозговой штурм: за кем следить в мире нейроинтерфейсов и что их ждет в будущем

Для чего ученые пытаются совместить человеческий мозг с компьютером

Forbes
Что делать, если вы потеряли интерес к жизни из-за травмы: 4 совета Что делать, если вы потеряли интерес к жизни из-за травмы: 4 совета

Как вернуть себе контроль, если вы пережили по-настоящему стрессовое событие?

Psychologies
«Я же по милосердию Божьему остался невредим…» «Я же по милосердию Божьему остался невредим…»

Письмо Александра II дочери

Дилетант
Открыть в приложении