Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Клиенты из Москвы смотрели на нас с недоверием». Как региональному бизнесу пробиться на глобальный рынок: опыт IT-компании из Воронежа «Клиенты из Москвы смотрели на нас с недоверием». Как региональному бизнесу пробиться на глобальный рынок: опыт IT-компании из Воронежа

Почему ключевой актив — не локация, а стратегия бизнеса?

Inc.
Валя Карнавал: «Это было невероятно!» Валя Карнавал: «Это было невероятно!»

Валя Карнавал — о том, как стала ведущей огромного мероприятия

ЖАРА Magazine
ИИ помогает собрать «мозг» квантового компьютера ИИ помогает собрать «мозг» квантового компьютера

Как модель ИИ собирает атомные решетки — основы будущих квантовых компьютеров

ТехИнсайдер
Павел Басинский: «Если бы я сейчас писал книгу об уходе Толстого, то совсем по-другому» Павел Басинский: «Если бы я сейчас писал книгу об уходе Толстого, то совсем по-другому»

Про Сорокина я тоже писал плохо, и он меня грохнул в своей повести

Коллекция. Караван историй
«Розовый. История цвета» «Розовый. История цвета»

Как розовый цвет получали в Средневековье

N+1
Человекообразные обезьяны подразнили сородичей Человекообразные обезьяны подразнили сородичей

Четыре вида человекообразных обезьян дразнят друг друга разными способами

N+1
В мозге и крови при алкоголизме увидели признаки биологического старения В мозге и крови при алкоголизме увидели признаки биологического старения

В работе использовали двое эпигенетических часов и три биомаркера

N+1
И снова здравствуйте И снова здравствуйте

Наступает момент, когда пора перестать стесняться своего тела, желаний, фантазий

Лиза
NASA: Луна сжимается, ломая кору у Южного полюса NASA: Луна сжимается, ломая кору у Южного полюса

Ученые NASA зарегистрировали в районе Южного полюса Луны небольшие лунотрясения

ТехИнсайдер
«Я беден и уродлив. Ищу полнейшего контраста»: как знакомились в России в начале ХХ века «Я беден и уродлив. Ищу полнейшего контраста»: как знакомились в России в начале ХХ века

Как сто лет назад люди искали себе пару

Правила жизни
«Нечего надеть»: 7 главных причин этого состояния «Нечего надеть»: 7 главных причин этого состояния

Почему утром мы стоим перед раскрытым шкафом и не понимаем, что надеть

Psychologies
Что за «Прелесть»: каким получился сериал с Олегом Меньшиковом о криминальной России Что за «Прелесть»: каким получился сериал с Олегом Меньшиковом о криминальной России

Зачем смотреть «Прелесть» — историю о призраках прошлого и демонах настоящего?

Forbes
«Вот, что мы любим»: как появился фастфуд «Вот, что мы любим»: как появился фастфуд

Бургеры с картошкой фри — неотъемлемая часть истории культуры еды

ТехИнсайдер
Как сделать кухню уютной: советы дизайнеров интерьера Как сделать кухню уютной: советы дизайнеров интерьера

Кухня — сердце дома, её интерьеру особенно требуется внимание

VOICE
Как вывести пятна косметики с одежды: от тональника и помады не останется и следа Как вывести пятна косметики с одежды: от тональника и помады не останется и следа

Есть несколько рабочих методов, как отстирать следы декоративной косметики

ТехИнсайдер
Тянем-потянем Тянем-потянем

8 упражнений на растяжку для начинающих

Лиза
Как проверить SSD: оцениваем оставшийся срок жизни накопителя Как проверить SSD: оцениваем оставшийся срок жизни накопителя

Как узнать, сколько осталось «жить» вашему SSD

ТехИнсайдер
Личное дело Личное дело

Если ты заболела, кажется, что тебя прокляли, что говорить об этом стыдно

Grazia
«Голос — это про личность» «Голос — это про личность»

Элина Гейман — как музыка может исцелять или разрушать

ЖАРА Magazine
Тоник и тонер – не одно и то же Тоник и тонер – не одно и то же

Как мы заблуждаемся при использовании этих средств

Лиза
«Вражда»: как влиятельные женщины Нью-Йорка поссорились с писателем Труменом Капоте «Вражда»: как влиятельные женщины Нью-Йорка поссорились с писателем Труменом Капоте

Почему «Вражда» получилась не так задорно, как хотелось бы

Forbes
Живые игрушки. Окончание трилогии Живые игрушки. Окончание трилогии

Катерина Мурашова: как мотивировать детей и не навредить

СНОБ
Кто такие нормисы и чем они отличаются от остальных людей Кто такие нормисы и чем они отличаются от остальных людей

Нормис — это оскорбление или комплимент?

Psychologies
Равнение на грудь. Как ее подтянуть, увеличить и сделать более упругой Равнение на грудь. Как ее подтянуть, увеличить и сделать более упругой

Придать груди красивую форму можно и без пластических операций

Лиза
От Kia до BMW. Какие еще машины попали в список лучших и худших в 2024-м От Kia до BMW. Какие еще машины попали в список лучших и худших в 2024-м

Самые лучшие автомобили и машины, которые в шоуруме лучше обойти стороной

РБК
Спланировать до мелочей: как четкий распорядок дня повышает эффективность Спланировать до мелочей: как четкий распорядок дня повышает эффективность

Каковы основные принципы составления оптимального режима дня?

Forbes
Брижит Бардо любила животных больше, чем родного сына, которого она называла «опухолью». Как сложилась судьба Николя Брижит Бардо любила животных больше, чем родного сына, которого она называла «опухолью». Как сложилась судьба Николя

Наладить отношения с единственным сыном Брижит Бардо так и не удалось

ТехИнсайдер
Как защитить электрооборудование в доме от перепадов напряжения? Как защитить электрооборудование в доме от перепадов напряжения?

Как избежать выхода из строя электрооборудования при перепадах напряжения?

CHIP
Для чего нужен «лосиный тест» и как он помог Toyota? Для чего нужен «лосиный тест» и как он помог Toyota?

Из всех существующих автомобильных испытаний, наиболее известен «тест лося»

4x4 Club
Компетенции, знания, интуиция: как лидеры принимают управленческие решения Компетенции, знания, интуиция: как лидеры принимают управленческие решения

На что опираются управленцы, когда принимают решения?

Forbes
Открыть в приложении