В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Охота на Лисовую Охота на Лисовую

Мария Лисовая олицетворяет красоту землян в блокбастере «Вратарь Галактики»

Maxim
Везде свои Везде свои

Три года назад семья Суриковых отправилась в кругосветное путешествие

StarHit
Я делаю, что хочу ...и наслаждаюсь этим! Я делаю, что хочу ...и наслаждаюсь этим!

Ольга Бузова достигла того уровня свободы, когда она живет так, как хочет

Playboy
Куда пойти в образах с весеннего показа ЦУМа Куда пойти в образах с весеннего показа ЦУМа

Выбрали пять луков для самых важных событий грядущего сезона

GQ
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Как вести себя на первом свидании и о чем говорить? 11 правил успеха Как вести себя на первом свидании и о чем говорить? 11 правил успеха

Как вести себя на первом свидании? 12 дельных советов

Playboy
Криптовалюты. Поколение второе Криптовалюты. Поколение второе

От «цифрового золота» к полноценным деньгам

Популярная механика
Как помириться с близким человеком Как помириться с близким человеком

Как построить разговор, прийти к компромиссу и не выглядеть слабохарактерным

Psychologies
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Угомонить непоседу Угомонить непоседу

Действительно ли все дети гиперактивные

Лиза
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Как снять фото с разрешением 187 Мп: тестируем DSLM-камеру Panasonic Lumix S1R Как снять фото с разрешением 187 Мп: тестируем DSLM-камеру Panasonic Lumix S1R

Камера Lumix S1R способна создавать снимки с фантастическим разрешением 187 Мп

CHIP
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Семья будет довольна, или «Оскар-2019» Семья будет довольна, или «Оскар-2019»

О том, чем запомнится «Оскар-2019»

OK!
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Один, совсем один: как выйти из этого состояния Один, совсем один: как выйти из этого состояния

Почему нас настигает состояние одиночества и как из него выбраться?

Psychologies
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
Дима Гордей: Дима Гордей:

Дима Гордей о том, как проводит выходные и что считает своим главным недостатком

Cosmopolitan
Соль фа. Что такое фашизм и почему он не нужен ни в каком виде Соль фа. Что такое фашизм и почему он не нужен ни в каком виде

Что представляет собой фашизм с философской и идеологической точки зрения

Maxim
Когда nude — не nude: секреты естественных образов звезд Когда nude — не nude: секреты естественных образов звезд

Посмотрим, как получаются естественные селфи звезд

Cosmopolitan
Подвиг папарацци Подвиг папарацци

Впервые в журнале настоящая папарацци-съемка Алены Водонаевой

Maxim
Отели будущего. Как изменятся гостиничные бренды в эпоху жилья по €20 Отели будущего. Как изменятся гостиничные бренды в эпоху жилья по €20

За счет чего собираются выживать традиционные гостиничные сети

Forbes
Гуттаперчевый мальчик Гуттаперчевый мальчик

Главный комик страны Александр Гудков высмеивает легендарные обложки Esquire

Esquire
Где есть блины в Москве Где есть блины в Москве

Рестораны готовы к масленичной неделе

Forbes
Волна, рожденная миллиард лет назад: Юрий Мильнер о том, что вдохновляет предпринимателей Волна, рожденная миллиард лет назад: Юрий Мильнер о том, что вдохновляет предпринимателей

Миллиард лет назад где-то во Вселенной столкнулись две черные дыры

Forbes
Эффект пружины: почему сейчас растут развивающиеся рынки Эффект пружины: почему сейчас растут развивающиеся рынки

Развивающиеся рынки демонстрируют лучшую динамику за последние семь лет

Forbes
10 фильмов с Анджелиной Джоли, которые нужно увидеть 10 фильмов с Анджелиной Джоли, которые нужно увидеть

Десять соблазнительных ролей Анджелины Джоли, которые обязательно нужно увидеть

Cosmopolitan
Будущее бремя Будущее бремя

Почему в XXI веке футурология – грустная наука

Esquire
Верим на слово Верим на слово

5 марта Еве Мендес исполняется 45

Grazia
Сейчас я могу делать то, что мне действительно нравится Сейчас я могу делать то, что мне действительно нравится

Актриса Светлана Антонова мечтает открыть семейную кондитерскую

Добрые советы
Открыть в приложении