В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Охота на Лисовую Охота на Лисовую

Мария Лисовая олицетворяет красоту землян в блокбастере «Вратарь Галактики»

Maxim
Короли Уолл-стрит. Самые успешные трейдеры по версии Forbes Короли Уолл-стрит. Самые успешные трейдеры по версии Forbes

Заработать смогли те трейдеры, который полагаются на математические модели

Forbes
Идея! Оставлять чаевые Идея! Оставлять чаевые

Учись правильно благодарить тех, кто оказывает тебе услуги

Maxim
Лондон: Туманный Вавилон Лондон: Туманный Вавилон

Николай Сванидзе — о Лондоне, где «раз сто точно был, а потом перестал считать»

Вокруг света
Вирусы-гиганты в океане жизни Вирусы-гиганты в океане жизни

Самое громкое открытие в вирусологии недавних лет – обнаружение вирусов-гигантов

Популярная механика
Почти как дома? Особенности родов по контракту Почти как дома? Особенности родов по контракту

Преимущества родов по контракту

9 месяцев
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ
Сага о Харальде Сага о Харальде

Патриотизм и романтика легенд способны создать бренд национального масштаба

Вокруг света
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Опасно ли заряжать телефон всю ночь? Опровергаем 5 очень устаревших мифов о батарее Опасно ли заряжать телефон всю ночь? Опровергаем 5 очень устаревших мифов о батарее

Вся правда и все мифы о заряде смартфонов Apple и Android

Playboy
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Как понять, сколько ты стоишь? Гид для тех, кто будет говорить о зарплате на работе Как понять, сколько ты стоишь? Гид для тех, кто будет говорить о зарплате на работе

Пора начинать оценивать себя по достоинству

Playboy
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
40 лет процветания: истребитель F-16 Fighting Falcon 40 лет процветания: истребитель F-16 Fighting Falcon

Выпуск истребителя F-16 Fighting Falcon продолжается до сих пор

Популярная механика
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Что делать, если любишь свою работу, но ненавидишь офисную культуру? Что делать, если любишь свою работу, но ненавидишь офисную культуру?

Что делать, если вы не вписываетесь в принятую в компании офисную культуру

Psychologies
Есть ли шанс, что мы живем в «Матрице» Есть ли шанс, что мы живем в «Матрице»

Многие физики всерьез обсуждают теорию о том, что наш мир — лишь матрица

Esquire
По соображениям разума: как экономика предотвращает войну По соображениям разума: как экономика предотвращает войну

В XX веке между Индией и Пакистаном произошло немало кровопролитных столкновений

Forbes
Изображение чёрной дыры: что на самом деле получили астрономы Изображение чёрной дыры: что на самом деле получили астрономы

Но что мы видим на полученном изображении чёрной дыры

Наука и жизнь
Утилизация с риском Утилизация с риском

Как устроена переработка опасных отходов

РБК
10 примет времени, изменивших наш быт 10 примет времени, изменивших наш быт

Forbes представляет 10 самых ярких примет нашего времени

Forbes
Томас Винтерберг: «Храбрость этих ребят поразила и тронула меня» Томас Винтерберг: «Храбрость этих ребят поразила и тронула меня»

Герой этого номера Grazia – кинорежиссер – имеет целую коллекцию наград

Grazia
Топливо для ИТ: российский стартап Brandquad привлек 187,5 млн рублей Топливо для ИТ: российский стартап Brandquad привлек 187,5 млн рублей

Как ФРИИ привлек в российский стартап 187,5 млн рублей

Forbes
Меняющая реальность Меняющая реальность

Лили-Роуз Депп рассказала, почему ролевой моделью для нее остается мама

Grazia
«Врете, недоноски». «Газпром» отреагировал на «пропажу» трубопровода под Приозерском «Врете, недоноски». «Газпром» отреагировал на «пропажу» трубопровода под Приозерском

Возбуждено уголовное дело о хищении 700 млн рублей за газопровод под Петербургом

Forbes
Казаки и реестр Казаки и реестр

Обращению казацких отрядов в армию посодействовали власти Речи Посполитой

Дилетант
Звездная качалка: будь крутой, как Капитан Марвел! Праздничная тренировка для читательниц MAXIM Звездная качалка: будь крутой, как Капитан Марвел! Праздничная тренировка для читательниц MAXIM

Упражнения сильной и независимой Капитан Марвел

Maxim
10 мультфильмов, которые можно смотреть с ребенком на английском 10 мультфильмов, которые можно смотреть с ребенком на английском

Мультфильмы студии Pixar, которые интересно смотреть на английском

Psychologies
Открыть в приложении