В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Большая ракета Илона Маска Большая ракета Илона Маска

Сверхтяжелая ракета Big Falcon Rocket готовится вытеснить все прошлые разработки

Популярная механика
Крым как остров Крым как остров

5 лет: Как меняются образы крымской жизни

Русский репортер
Анна Плетнева Анна Плетнева

Певица уверяет, что она заколдованная и выигрывает всегда у всех мужчин!

Playboy
Чем закончится «Игра престолов»? 9 самых необычных и крутых фанатских теорий Чем закончится «Игра престолов»? 9 самых необычных и крутых фанатских теорий

Самые крутые теории и предположения о том, чем закончится «Игра престолов»

Playboy
Двери открываются Двери открываются

Московское метро: античные храмы, целые библиотеки, роскошь и хай-тек

GQ
Альфа-самки: 10 вещей, которых они не потерпят в отношениях Альфа-самки: 10 вещей, которых они не потерпят в отношениях

«Альфа-самка» для многих звучит странно, а то и оскорбительно

Psychologies
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ
Кнут вместо пряника. Давид Якобашвили о том, почему только 2% россиян хотят заниматься бизнесом Кнут вместо пряника. Давид Якобашвили о том, почему только 2% россиян хотят заниматься бизнесом

15 лет назад в бизнесе было больше анархии, но и больше креатива

Forbes
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ
Рок и судьба Рок и судьба

Танцовщица и хореограф Мелани Хэмрик о своем давнем восхищении Мариинкой

Vogue
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
«Мы» Джордана Пила – новый приговор «белой» Америке «Мы» Джордана Пила – новый приговор «белой» Америке

Режиссер разыгрывает двухактную страшную сказку

GQ
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Заложник большой игры. Как мелкий бизнесмен стал «кошельком Мадуро» Заложник большой игры. Как мелкий бизнесмен стал «кошельком Мадуро»

Разговор с Нурланом Байдильдой, которого назвали «кошельком Николаса Мадуро»

Forbes
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Анна Банщикова: «Женился на актрисе – терпи» Анна Банщикова: «Женился на актрисе – терпи»

Звезда сериала «Ищейка» и многодетная мама о страхах за наследников

StarHit
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
Откуда берутся и как живут нарциссы Откуда берутся и как живут нарциссы

Самовлюбленность и завышенная самооценка — основные признаки нарциссизма

Psychologies
Бравве на бис! Бравве на бис!

Катя Бравве: все, что мы знали о культуристках, — неправда

Maxim
Фантастические твари и о чем они рассуждают Фантастические твари и о чем они рассуждают

Отрывки из книги «История научной фантастики Джеймса Кэмерона»

Maxim
Песнь льда и пломбира Песнь льда и пломбира

Лиза Туктамышева – просто красивая девушка, которая любит мороженое!

Maxim
Как создать прикольный мем онлайн прямо сейчас Как создать прикольный мем онлайн прямо сейчас

Создайте себе собственную коллекцию мемов - это делается элементарно

CHIP
Мы выбираем друг друга не случайно Мы выбираем друг друга не случайно

Выбор партнера предопределен всем предшествующим ходом нашей жизни

Psychologies
Лики Вики Лики Вики

До съемки в нашем презренном журнале снизошла богиня «Инстаграма» Вики Одинцова

Maxim
Томас Винтерберг: «Храбрость этих ребят поразила и тронула меня» Томас Винтерберг: «Храбрость этих ребят поразила и тронула меня»

Герой этого номера Grazia – кинорежиссер – имеет целую коллекцию наград

Grazia
Бычий рынок Бычий рынок

Братья Линники с помощью государства создали продовольственный холдинг

Forbes
Распознать обман: как искусственный интеллект и человек соперничают в хитрости Распознать обман: как искусственный интеллект и человек соперничают в хитрости

Как сохранить возможность различать правду и мистификацию

Forbes
За что мы любим российский футбол За что мы любим российский футбол

Почему футбол стоит полюбить тем, кто за ним не следит

GQ
Промышленники и Дуров: 10 самых разбогатевших российских миллиардеров Промышленники и Дуров: 10 самых разбогатевших российских миллиардеров

Нефтяники, газовики и металлурги — наиболее удачливые бизнесмены в списке Forbes

Forbes
Метакса: что это за напиток, как правильно его пить и отличить оригинал от подделки Метакса: что это за напиток, как правильно его пить и отличить оригинал от подделки

О напитке метакса: с чем его пить, как отличать оригинал от подделки

Playboy
Открыть в приложении