В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новые миры Новые миры

Юбилей высадки на Луну – повод задуматься, куда и зачем мы можем полететь еще

Популярная механика
Как работает беспроводная зарядка для телефона: это не магия Как работает беспроводная зарядка для телефона: это не магия

Что такое беспроводная зарядка и как она работает?

CHIP
Люди на пределе Люди на пределе

Возможности нашего собственного, среднестатистического тела

Вокруг света
Низкий налог не привлек самозанятых. Они остались в тени Низкий налог не привлек самозанятых. Они остались в тени

С 1 января самозанятые могут платить самый низкий налог в России

Forbes
Двери открываются Двери открываются

Московское метро: античные храмы, целые библиотеки, роскошь и хай-тек

GQ
Сбербанк помог создать экзоскелет для хирургов Сбербанк помог создать экзоскелет для хирургов

Хирург провел 12-часовую операцию в экзоскелете ExoChair

Forbes
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Клей нации. Как присоединение Крыма раскалывает общество Клей нации. Как присоединение Крыма раскалывает общество

Крым стал рутиной и в то же время расколол нацию, склеенную одним мифом

Forbes
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Джастин Бибер признался в любви Селене Гомес, но остался с Хайли Болдуин Джастин Бибер признался в любви Селене Гомес, но остался с Хайли Болдуин

Любовный треугольник Джастин – Селена – Хайли

Cosmopolitan
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Будущее за электричеством Будущее за электричеством

Об ответственном потреблении и технологиях, которые изменят авиацию

Robb Report
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Крым. Точка невозврата. RU Крым. Точка невозврата. RU

Чем и как живет полуостров спустя пять лет после русской весны

Русский репортер
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
Правил Карл Правил Карл

С уходом Карла ­Лагерфельда закончилась целая эпоха

Grazia
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ
Как создать прикольный мем онлайн прямо сейчас Как создать прикольный мем онлайн прямо сейчас

Создайте себе собственную коллекцию мемов - это делается элементарно

CHIP
Кресло, которое мне помогает Кресло, которое мне помогает

Откладывая визит к гинекологу, мы ссылаемся на занятость, но в ней ли одной дело

Psychologies
Артемизия Джентилески. Бои без правил Артемизия Джентилески. Бои без правил

Первая феминистка, которая победила лишь спустя века

Караван историй
«Угрозы появления всеобъемлющей экосистемы я не вижу, это скорее страшилки» «Угрозы появления всеобъемлющей экосистемы я не вижу, это скорее страшилки»

Герман Греф о строительстве экосистемы, покупках IT-компаний и утечках

Forbes
Дед «Джамбо-джет»: самый известный пассажирский самолет в мире Дед «Джамбо-джет»: самый известный пассажирский самолет в мире

Boeing 747 отметил в этом году полувековой юбилей

Популярная механика
10 примет времени, изменивших наш быт 10 примет времени, изменивших наш быт

Forbes представляет 10 самых ярких примет нашего времени

Forbes
Перемены неизбежны Перемены неизбежны

Мода будущего: одежда из 3D-принтера, отказ от меха и экзоскелеты

Grazia
Юлечка, не сдавайся! Юлечка, не сдавайся!

Пожелания здоровья и скорейшего возвращения на сцену красавице нашей эстрады

StarHit
Нежелательный пример? Почему Москва удивилась отставке Назарбаева Нежелательный пример? Почему Москва удивилась отставке Назарбаева

Какой пример подал соседям бывший президент Казахстана Нурсултан Назарбаев

Forbes
Трое смелых: сразу несколько компаний запланировали IPO на Московской бирже в 2019 году Трое смелых: сразу несколько компаний запланировали IPO на Московской бирже в 2019 году

Провести IPO на Московской бирже в 2019 году собрались целых три компании

Forbes
От малинового пиджака до куртки Элджея: эволюция стиля Стаса Михайлова От малинового пиджака до куртки Элджея: эволюция стиля Стаса Михайлова

Vetements и Balenciaga добрались и до главного сердцееда

Cosmopolitan
Спасти тигра. Как каждый может помочь амурским тиграм, которых в России осталось всего 540 Спасти тигра. Как каждый может помочь амурским тиграм, которых в России осталось всего 540

За последние 100 лет в мире стало на 96% меньше тигров

Esquire
Почему нам необходима тишина Почему нам необходима тишина

Оказывается, чрезмерный уровень шума сокращает продолжительность жизни

Psychologies
Открыть в приложении