В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Люди на пределе Люди на пределе

Возможности нашего собственного, среднестатистического тела

Вокруг света
Призрак Трампа Призрак Трампа

Стив Бэннон сколачивает в Европе консервативный интернационал

Огонёк
Финалистки конкурса «Девушка года Playboy-2018» Финалистки конкурса «Девушка года Playboy-2018»

Финалистки конкурса «Девушка года Playboy-2018»

Playboy
Генератор молний, собака Павлова и другие достопримечательности России Генератор молний, собака Павлова и другие достопримечательности России

Подборка самых интересных в России мест, связанных с историей науки и техники

Популярная механика
Идея! Оставлять чаевые Идея! Оставлять чаевые

Учись правильно благодарить тех, кто оказывает тебе услуги

Maxim
ЦБ оставил ключевую ставку без изменений. Ставки по депозитам могут снизиться ЦБ оставил ключевую ставку без изменений. Ставки по депозитам могут снизиться

Банк России сохранил ключевую ставку на уровне 7,75%

Forbes
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ
Наценка или скидка? Наценка или скидка?

Насколько справедливо страховые компании относятся к прекрасным дамам за рулем

АвтоМир
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
Шесть моделей Ford, которые перестанут продаваться в России Шесть моделей Ford, которые перестанут продаваться в России

Какие авто покинут российский рынок?

Forbes
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
10 отличных белых рубашек, вдохновленных образом Карла Лагерфельда (он заказывал рубашки в одном и том же ателье с 16 лет) 10 отличных белых рубашек, вдохновленных образом Карла Лагерфельда (он заказывал рубашки в одном и том же ателье с 16 лет)

История разумного консерватизма и 10 достойных вариантов для вас в придачу

Esquire
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Никита Кукушкин: «Атеистов не бывает, каждый во что-то верит» Никита Кукушкин: «Атеистов не бывает, каждый во что-то верит»

Никита Кукушкин – о религии, тирании, судебных процессах и новом спектакле

GQ
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Сможет ли Илон Маск выпускать миллион Tesla Model Y в год? Сможет ли Илон Маск выпускать миллион Tesla Model Y в год?

Недавно намерения выпускать электромобиль миллионными тиражами вызывали улыбку

Forbes
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Дед «Джамбо-джет»: самый известный пассажирский самолет в мире Дед «Джамбо-джет»: самый известный пассажирский самолет в мире

Boeing 747 отметил в этом году полувековой юбилей

Популярная механика
100 самых стильных 100 самых стильных

50 самых стильных 2019. International

GQ
С 8 марта, дорогая! Почему пора перестать одеваться для кого-то, кроме себя С 8 марта, дорогая! Почему пора перестать одеваться для кого-то, кроме себя

Сколько времени мы тратим на заботу о внешнем виде? Может, хватит?

Cosmopolitan
Сон о Соне Сон о Соне

Самая сексуальная солистка самой популярной группы дала нам интервью!

Maxim
«Если бы я пошел к президенту, меня бы вынесли вперед ногами»: Андрей Белоусов о деле Baring Vostok «Если бы я пошел к президенту, меня бы вынесли вперед ногами»: Андрей Белоусов о деле Baring Vostok

Помощник президента Андрей Белоусов рассказал о дружбе с Артемом Аветисяном

Forbes
«Все выдумки не стоят естества…» «Все выдумки не стоят естества…»

На свете есть немало людей, уверенных, что небо над нами бороздят НЛО

Наука и жизнь
Дарига Назарбаева: «Ежегодно в Китае рождается по одному Казахстану» Дарига Назарбаева: «Ежегодно в Китае рождается по одному Казахстану»

Основные вызовы, стоящие перед Евразией и Казахстаном

Forbes
Зачем женщины идут работать военными репортерами Зачем женщины идут работать военными репортерами

Мэри Колвин об опасной профессии военного журналиста

Vogue
«Давай поговорим»: как понять своего ребенка «Давай поговорим»: как понять своего ребенка

Дети, особенно подростки, часто скрывают переживания

Psychologies
Есть такая профессия Есть такая профессия

Женщинам до сих пор непросто конкурировать с мужчинами в арт-индустрии

Grazia
Mazda3: Пока держится Mazda3: Пока держится

Второе поколение Mazda3 нас слегка усыпило беспроблемностью

АвтоМир
Опасно ли заряжать телефон всю ночь? Опровергаем 5 очень устаревших мифов о батарее Опасно ли заряжать телефон всю ночь? Опровергаем 5 очень устаревших мифов о батарее

Вся правда и все мифы о заряде смартфонов Apple и Android

Playboy
Точка бифуркации. Казахстан не избежит конфликта внутри элиты Точка бифуркации. Казахстан не избежит конфликта внутри элиты

Назарбаев попытается сформировать механизм преемственности власти

Forbes
Открыть в приложении