Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Автобиографии бизнесменов: топ-10 по версии «Инк.» Автобиографии бизнесменов: топ-10 по версии «Инк.»

Автобиографии предпринимателей, которые помогут понять, как строить бизнес

Inc.
Белка в доме: как ухаживать за грызуном Белка в доме: как ухаживать за грызуном

Стоит ли заводить белку в качестве домашнего животного?

ТехИнсайдер
Гранфлюенсеры: каких российских блогеров старше 50 лет смотрят зумеры и миллениалы Гранфлюенсеры: каких российских блогеров старше 50 лет смотрят зумеры и миллениалы

Возрастные инфлюенсеры, контент которых смотрят зумеры

Forbes
Красота внутри Красота внутри

Минималистичный интерьер в доме сталинской постройки

SALON-Interior
Лето без хита: почему в музыке не хватило героев и при чем тут Морган Уоллен Лето без хита: почему в музыке не хватило героев и при чем тут Морган Уоллен

Год без хита: как музыка ушла в прошлое

Правила жизни
Глюкометр: какой лучше выбрать для контроля сахара Глюкометр: какой лучше выбрать для контроля сахара

Разбираемся, какими бывают и какой выбрать глюкометр для дома

CHIP
Управление гневом Управление гневом

Как экологично выражать злость и недовольство?

Лиза
Приправы и специи Приправы и специи

Специи и приправы не только согревают, но и обладают уникальными свойствами

Здоровье
Антистресс в офисе: как работодатели берегут психику своих сотрудников Антистресс в офисе: как работодатели берегут психику своих сотрудников

Как компании помогают своим сотрудникам справляться с негативными эмоциями?

Inc.
Как расположить к себе людей без хитростей и манипуляций: 10 секретов Как расположить к себе людей без хитростей и манипуляций: 10 секретов

Наше мышление проделывает удивительные трюки. Присмотритесь — и начнете замечать

Psychologies
Как работать с тревогой: инструменты, которые помогут обрести спокойствие Как работать с тревогой: инструменты, которые помогут обрести спокойствие

Какие аспекты осознанности можно использовать для борьбы с тревогой

ТехИнсайдер
Банки зажимают ставки Банки зажимают ставки

Ставки все равно гораздо меньше ключевой, а банки получают рекордную маржу

Монокль
Интересные факты! Узнайте, как жанр музыки описывает вашу личность Интересные факты! Узнайте, как жанр музыки описывает вашу личность

Что выяснили ученые о взаимосвязи между тем, кто вы есть, и тем, что вы слушаете

ТехИнсайдер
Как стать чемпионкой по плаванию, если у тебя вместо ног баскетбольный мяч: невероятная  история малышки Киан Цянь Как стать чемпионкой по плаванию, если у тебя вместо ног баскетбольный мяч: невероятная  история малышки Киан Цянь

История Киан Цянь — пример того, как неукротимое желание может побороть судьбу

ТехИнсайдер
Повреждение нервной ткани при вирусной инфекции объяснили инфильтрацией T-лимфоцитами Повреждение нервной ткани при вирусной инфекции объяснили инфильтрацией T-лимфоцитами

Тяжесть неврологических симптомов лихорадки Зика зависит не от титра вируса

N+1
В чем разница между обаянием и харизмой. Отрывок из книги Вероники Хранеко, эксперта по публичным выступлениям В чем разница между обаянием и харизмой. Отрывок из книги Вероники Хранеко, эксперта по публичным выступлениям

Как грамотно донести мысль и повысить коммуникативные способности?

СНОБ
Вот тут болит Вот тут болит

Боль в груди: разбираем самые частые причины

Лиза
«Вражда»: как влиятельные женщины Нью-Йорка поссорились с писателем Труменом Капоте «Вражда»: как влиятельные женщины Нью-Йорка поссорились с писателем Труменом Капоте

Почему «Вражда» получилась не так задорно, как хотелось бы

Forbes
Натан Эйсмонт: «Ракета Н-1 сильно превысила 30-процентный порог допустимой новизны» Натан Эйсмонт: «Ракета Н-1 сильно превысила 30-процентный порог допустимой новизны»

Задача изучения дальнего космоса людьми сегодня по-прежнему актуальна

Монокль
Технологический расчет: почему ИИ и электромобили пока не спасают экономику Китая Технологический расчет: почему ИИ и электромобили пока не спасают экономику Китая

Экономика Китая выросла на 5,2 %. По высоким китайским стандартам рост слабый

Forbes
Не хлебом единым Не хлебом единым

Почему агробизнес считает важными инвестиции в социальные проекты

Агроинвестор
Редактирование генов точно восстанавливает иммунные клетки Редактирование генов точно восстанавливает иммунные клетки

Используя инструмент редактирования генов CRISPR-Cas9, можно исправить дефекты

ТехИнсайдер
Анатомия крика Анатомия крика

Какой крик можно считать полезным, а какой – разрушительным?

Здоровье
Как набрать мышечную массу: научный подход к идеальному телу Как набрать мышечную массу: научный подход к идеальному телу

Секрет подтянутого, рельефного тела заключается не только в тренировках

ТехИнсайдер
Тот еще подарочек Тот еще подарочек

Истории о самых неуместных или обидных презентах

Лиза
Как Хаски спасли детей от смерти и почему собаки так любят купаться в грязи: поразительные факты о братьях наших меньших Как Хаски спасли детей от смерти и почему собаки так любят купаться в грязи: поразительные факты о братьях наших меньших

Сколько всего мы еще не знаем о наших питомцах — собаках!

ТехИнсайдер
«Мастер и Маргарита»: о чем новый фильм по роману Михаила Булгакова «Мастер и Маргарита»: о чем новый фильм по роману Михаила Булгакова

Почему на «Мастера и Маргариту» стоит обратить внимание

Psychologies
Равнение на грудь. Как ее подтянуть, увеличить и сделать более упругой Равнение на грудь. Как ее подтянуть, увеличить и сделать более упругой

Придать груди красивую форму можно и без пластических операций

Лиза
Голубые глаза оказались лучше приспособлены к тусклому свету по сравнению с карими Голубые глаза оказались лучше приспособлены к тусклому свету по сравнению с карими

Цвет радужки у людей влияет на то, как глаза воспринимают свет

N+1
Зачем смартфонам камеры с высоким разрешением Зачем смартфонам камеры с высоким разрешением

Есть ли смысл в камерофонах?

ТехИнсайдер
Открыть в приложении