Какие опасности в себе таит искусственный интеллект и нейросети?

Популярная механикаHi-Tech

Вы будете голыми и вам будет стыдно: темные стороны нейросетей

Искусственный интеллект, машинное обучение, дата-майнинг, нейросети — список модных терминов можно продолжать довольно долго. Но что за опасности появились вместе с этими явлениями, и какова их темная сторона? Вот лишь несколько примеров, которые станут серьезными поводами для беспокойства.

Василий Парфенов

Любой инструмент можно использовать во зло — мощные нейросетевые алгоритмы обработки мультимедийных данных не исключение. Не так давно в сети появился новый термин: DeepFake. Это одновременно и отсылка к слову «глубокий», часто употребляемому в названиях технологий которые связаны с искусственным интеллектом, и при этом просто «фальшивка». Данный термин применяется к невероятно реалистичным видеозаписям, фотографиям и звуковым файлам, модифицированным или полностью созданным с помощью нейросетей.

Голос

В качестве примера можно вспомнить несколько нашумевших проектов. С голосом работает продукт стартапа Modulate. Их программный комплекс способен практически на лету преобразовывать речь человека с помощью десятков различных фильтров. Можно сделать женский голос из мужского, повысить возраст или даже сменить расу говорящего. Процесс полностью автоматизирован и от пользователя требуется только выбрать желаемые предустановки. Существующие демонстрации технологии не поражают воображение, но ее совершенствование лишь вопрос времени. Разработчики не раскрыли всех возможностей своего детища, однако совершенно точно распознавание личности по голосу больше не считается надежным.

Опасность заключается в том, что мы слишком уверенно опираемся на звук голоса человека при разговоре с ним без визуального контакта. Можно ли теперь быть уверенным, что это именно твой друг звонит с незнакомого номера и просит о помощи? Чье это голосовое сообщение на самом деле в чате? Я сам позвонил во время корпоратива в нетрезвом состоянии и отдал опрометчивые распоряжения, либо кто-то сделал это за меня? Команда Modulate описывает проект, как новое слово в персонализации своего онлайн-образа — для игр, ролевых чатов или условно анонимного общения. Однако попадание в руки злоумышленников этого программного комплекса или разработка аналогичного — вопрос времени.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 полезных привычек, которые помогут экономить 5 полезных привычек, которые помогут экономить

Эти советы позволят вам не тратить лишние деньги, которых так часто не хватает

Популярная механика
8 смартфонов для школьников до 10 000 рублей 8 смартфонов для школьников до 10 000 рублей

Недорогие смартфоны, которые станут хорошим выбором для школьников

CHIP
Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ

Как на самом деле развивается ИИ в России?

Forbes
Голос темнокожих женщин. Лауреат Нобелевской премии по литературе Тони Моррисон умерла 5 августа в возрасте 88 лет Голос темнокожих женщин. Лауреат Нобелевской премии по литературе Тони Моррисон умерла 5 августа в возрасте 88 лет

Отрывок из романа Тони Моррисон «Возлюбленная»

Forbes
Для чего нужен магниевый анод в бойлерах накопительного типа? Для чего нужен магниевый анод в бойлерах накопительного типа?

От чего и как именно защищает магниевый анод в бойлере косвенного нагрева?

CHIP
Мультики для Грефа: зачем «Союзмультфильму» совместное предприятие со Сбербанком Мультики для Грефа: зачем «Союзмультфильму» совместное предприятие со Сбербанком

Как удалось увлечь Грефа мультфильмами и что происходит с российской анимацией

Forbes
Зачетный город Зачетный город

Говорят, что каждый восьмой житель Болоньи учится в университете

Вокруг света
«Игры помогают обретать навыки XXI века». Директор по маркетингу LEGO о развлечениях будущих поколений «Игры помогают обретать навыки XXI века». Директор по маркетингу LEGO о развлечениях будущих поколений

Во что будут играть дети через 50 лет и будет ли их интересовать физический мир

Forbes
Как в 56 лет написать первый роман и за две недели заработать $1,5 млн Как в 56 лет написать первый роман и за две недели заработать $1,5 млн

Писатель Грэм Симсион о том, как в 56 лет написать первый роман

Forbes
Поздняя ягода Поздняя ягода

Ягоды у этой лианы вкусные и полезные, особенно богаты они витамином С

Наука и жизнь
«‎Породы нон грата»‎. Эксперты-кинологи о списке потенциально опасных собак «‎Породы нон грата»‎. Эксперты-кинологи о списке потенциально опасных собак

Как выглядят потенциально опасные собаки, и что о них думают кинологи

СНОБ
Кругосветное путешествие Алексея Камерзанова. Мозамбик Кругосветное путешествие Алексея Камерзанова. Мозамбик

Остров Мозамбик — живое воплощение господства Португалии в регионе

4x4 Club
«Коммерсантъ» узнал об утечке данных 70 000 клиентов Бинбанка «Коммерсантъ» узнал об утечке данных 70 000 клиентов Бинбанка

Персональные данные 70 000 клиентов Бинбанка утекли в интернет

Forbes
Любить. Заботиться... Ругаться! Любить. Заботиться... Ругаться!

Доверие возможно только тогда, когда мы не держим камня за пазухой

Psychologies
В Кремниевой долине появилась компания-«единорог» с равной оплатой труда мужчин и женщин В Кремниевой долине появилась компания-«единорог» с равной оплатой труда мужчин и женщин

Внутренний аудит сервиса Lyft за 2019 год показал удивительные результаты

Forbes
Как обманывают в фитнес-клубах: 23 уловки, из-за которых ты рискуешь потерять деньги и здоровье Как обманывают в фитнес-клубах: 23 уловки, из-за которых ты рискуешь потерять деньги и здоровье

Не во всех фитнес-клубах любят и ценят своих клиентов

Maxim
Вы видели секс родителей. Как с этим жить? Вы видели секс родителей. Как с этим жить?

Сильное детское переживание, с которым сталкивались многие из нас

СНОБ
Квартира на колесах Квартира на колесах

Все плюсы и минусы Volkswagen Multivan

Популярная механика
Наука «Аполлонов» Наука «Аполлонов»

Какие новые знания дали человечеству полёты американских астронавтов на Луну?

Наука и жизнь
33 тысячи труб: как устроен орган 33 тысячи труб: как устроен орган

Это единственный музыкальный инструмент, внутрь которого можно зайти

Популярная механика
Когда много не надо: бюджетные процессоры до 8000 рублей Когда много не надо: бюджетные процессоры до 8000 рублей

Мониторим рынок недорогих процессоров Intel и AMD на предмет годных решений

CHIP
Многие операторы отходов оказались на грани банкротства из-за мусорной реформы Многие операторы отходов оказались на грани банкротства из-за мусорной реформы

Операторы отходов на грани банкротства из-за низкой собираемости платежей

Forbes
Новая цена нефти. Как повлияют на стоимость барреля Иран, ОПЕК, США и глобальная рецессия Новая цена нефти. Как повлияют на стоимость барреля Иран, ОПЕК, США и глобальная рецессия

Каких цен на нефть теперь стоит ждать?

Forbes
Спаси Байкал: как главное озеро России задыхается от пластика Спаси Байкал: как главное озеро России задыхается от пластика

Загрязнение Байкала стало в этом году одной из самых резонансных для россиян тем

Esquire
Екатерина Рыбакова — о принципах воспитания в семье миллиардера Екатерина Рыбакова — о принципах воспитания в семье миллиардера

Супруги решили направить на благо общества и основали «Рыбаков Фонд»

РБК
Найти равновесие Найти равновесие

Интерьер подмосковного дома на контрасте классики и современных мотивов

SALON-Interior
«Самая дорогая штука на земле — время». Правила потребления основателя YouDo Дениса Кутергина «Самая дорогая штука на земле — время». Правила потребления основателя YouDo Дениса Кутергина

Основатель сервиса YouDo Денис Кутергин о том, как стал продавцом времени

Forbes
Жизнь других. Почему общество не(достаточно) борется за сестер Хачатурян Жизнь других. Почему общество не(достаточно) борется за сестер Хачатурян

Почему мы все еще закрываем глаза на семейное насилие

Forbes
Заповедник священных чудовищ. Дмитрий Быков о том, как русская культура стала заложницей властной иерархии Заповедник священных чудовищ. Дмитрий Быков о том, как русская культура стала заложницей властной иерархии

Писатель Дмитрий Быков рассуждает о патерналистском характере

Forbes
Нужно больше золота: выбираем металлоискатель для новичка и профи Нужно больше золота: выбираем металлоискатель для новичка и профи

Разбираемся в технологиях работы металлодетекторов

CHIP
Открыть в приложении