Какие опасности в себе таит искусственный интеллект и нейросети?

Популярная механикаHi-Tech

Вы будете голыми и вам будет стыдно: темные стороны нейросетей

Искусственный интеллект, машинное обучение, дата-майнинг, нейросети — список модных терминов можно продолжать довольно долго. Но что за опасности появились вместе с этими явлениями, и какова их темная сторона? Вот лишь несколько примеров, которые станут серьезными поводами для беспокойства.

Василий Парфенов

Любой инструмент можно использовать во зло — мощные нейросетевые алгоритмы обработки мультимедийных данных не исключение. Не так давно в сети появился новый термин: DeepFake. Это одновременно и отсылка к слову «глубокий», часто употребляемому в названиях технологий которые связаны с искусственным интеллектом, и при этом просто «фальшивка». Данный термин применяется к невероятно реалистичным видеозаписям, фотографиям и звуковым файлам, модифицированным или полностью созданным с помощью нейросетей.

Голос

В качестве примера можно вспомнить несколько нашумевших проектов. С голосом работает продукт стартапа Modulate. Их программный комплекс способен практически на лету преобразовывать речь человека с помощью десятков различных фильтров. Можно сделать женский голос из мужского, повысить возраст или даже сменить расу говорящего. Процесс полностью автоматизирован и от пользователя требуется только выбрать желаемые предустановки. Существующие демонстрации технологии не поражают воображение, но ее совершенствование лишь вопрос времени. Разработчики не раскрыли всех возможностей своего детища, однако совершенно точно распознавание личности по голосу больше не считается надежным.

Опасность заключается в том, что мы слишком уверенно опираемся на звук голоса человека при разговоре с ним без визуального контакта. Можно ли теперь быть уверенным, что это именно твой друг звонит с незнакомого номера и просит о помощи? Чье это голосовое сообщение на самом деле в чате? Я сам позвонил во время корпоратива в нетрезвом состоянии и отдал опрометчивые распоряжения, либо кто-то сделал это за меня? Команда Modulate описывает проект, как новое слово в персонализации своего онлайн-образа — для игр, ролевых чатов или условно анонимного общения. Однако попадание в руки злоумышленников этого программного комплекса или разработка аналогичного — вопрос времени.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

USS Vermont: Ноев ковчег на военной службе USS Vermont: Ноев ковчег на военной службе

Если вы не верите в Ноя и его ковчег, то прямо сейчас поверьте

Популярная механика
Бесстрашная, яркая, ироничная: памяти Аллы Вербер Бесстрашная, яркая, ироничная: памяти Аллы Вербер

Алла Вербер, вице-президент Mercury, фэшн-директор ЦУМа, скончалась 6 августа

РБК
Как найти музыку из видео: 7 рабочих способов на все случаи жизни Как найти музыку из видео: 7 рабочих способов на все случаи жизни

Простые способы, как найти музыку из видео на телефоне

CHIP
Нарциссизм или проявление болезни? Нарциссизм или проявление болезни?

Возможно, мы принимаем за нарциссические черты признаки серьезного заболевания

Psychologies
Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Китайское предупреждение: как глобальные рынки реагируют на риск торговых войн Китайское предупреждение: как глобальные рынки реагируют на риск торговых войн

Торговая война Китая и США вступила в новую фазу. Какие выводы сделают инвесторы

Forbes
Mail.ru Group купит каршеринг-агрегатор YouDrive Mail.ru Group купит каршеринг-агрегатор YouDrive

Mail.ru Group купит контрольный пакет акций каршеринг-агрегатора YouDrive

Forbes
«Я тебя ненавижу»: голос, который всегда со мной «Я тебя ненавижу»: голос, который всегда со мной

Ненависть к себе затягивает все хорошее, что жизнь способна нам предложить

Psychologies
Не только женские ножки. Какие автомобили любит Квентин Тарантино Не только женские ножки. Какие автомобили любит Квентин Тарантино

Автомобили, встречающихся в фильмах голливудского режиссера Квентина Тарантино

Forbes
Настоящий детектив: второй сезон «Охотника за разумом» получился гораздо увлекательнее первого Настоящий детектив: второй сезон «Охотника за разумом» получился гораздо увлекательнее первого

Сериал снят в лучших традициях «Зодиака»

Esquire
Дроны-невидимки: 5 существующих и три перспективных беспилотника Дроны-невидимки: 5 существующих и три перспективных беспилотника

В настоящее время разработкой дронов-невидимок занимаются сразу несколько стран

Популярная механика
Все цветы мне надоели Все цветы мне надоели

Декоратор Жан-Луи Денио дома легко обходится без ярких красок

AD
Сладкое убийство: израильские боевые машины «Кармель» Сладкое убийство: израильские боевые машины «Кармель»

С 2017 года в Израиле ведется разработка перспективных боевых машин

Популярная механика
Заповедник священных чудовищ. Дмитрий Быков о том, как русская культура стала заложницей властной иерархии Заповедник священных чудовищ. Дмитрий Быков о том, как русская культура стала заложницей властной иерархии

Писатель Дмитрий Быков рассуждает о патерналистском характере

Forbes
10 полезных функций Viber, о которых вы не догадываетесь 10 полезных функций Viber, о которых вы не догадываетесь

Рассказываем об интересных функциях Viber

CHIP
Центр Москвы оставят без такси. Новый запрет уже тестируют Центр Москвы оставят без такси. Новый запрет уже тестируют

«Яндекс.Такси» тестирует блокировку вызовов по адресам, где запрещена остановка

РБК
Разводы 2019 Разводы 2019

«Татлер» поздравляет десять пар, разбивших в этом году узы брака

Tatler
Что твой ребенок расскажет психотерапевту через 20 лет? Что твой ребенок расскажет психотерапевту через 20 лет?

На что будет жаловаться следующее поколение, несмотря на все усилия матерей

Cosmopolitan
Тред: пользователь твиттера рассказал об экологической катастрофе в городе Карабаш Тред: пользователь твиттера рассказал об экологической катастрофе в городе Карабаш

В в Карабаше выжжена земля, гибнет урожай и раньше срока наступает осень

Esquire
Слезинка ребенка Слезинка ребенка

Большая ошибка диктатора — покушаться на самое дорогое: на детей

Вокруг света
10 главных фильмов Венецианского кинофестиваля 2019 10 главных фильмов Венецианского кинофестиваля 2019

Самые яркие и запоминающиеся фильмы венецианского кинофестиваля

Vogue
Криптовалюты. Поколение второе Криптовалюты. Поколение второе

От «цифрового золота» к полноценным деньгам

Популярная механика
ЦБ оценил свои потери от санации проблемных банков ЦБ оценил свои потери от санации проблемных банков

ЦБ оценил свои потери от санации банков по новому механизму

Forbes
Приземленный эскапизм: почему самым популярным российским приложением стала игра про сады и скамейки Приземленный эскапизм: почему самым популярным российским приложением стала игра про сады и скамейки

Почему русских так тянет к «онлайн-земле»

Forbes
Вторая жизнь Prisma: кто выкупил долю Mail.ru Group в известном фотоприложении Вторая жизнь Prisma: кто выкупил долю Mail.ru Group в известном фотоприложении

История приложения Prisma и планы развития сервиса

Forbes
Арт-подход Арт-подход

Как не только погрузиться в искусство, но и успеть отдохнуть в Венеции

Grazia
Представитель поколения Z — о себе и сверстниках Представитель поколения Z — о себе и сверстниках

Изучение поколения Z: его интересов, взглядов и планов на жизнь

РБК
Аргентинский песо рухнул на 30%. Можно ли на этом заработать? Аргентинский песо рухнул на 30%. Можно ли на этом заработать?

Аргентинский песо рухнул на фоне результатов президентских праймериз

Forbes
Принцесса из народа: собираем осенний гардероб как у Меган Маркл в масс-маркете Принцесса из народа: собираем осенний гардероб как у Меган Маркл в масс-маркете

Cosmo проанализировал осенне-зимний гардероб Меган Маркл

Cosmopolitan
На высшем уровне На высшем уровне

Квартира в самом высоком жилом здании Минска

SALON-Interior
Открыть в приложении