Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов

Почему важно мыслить новаторски и поощрять к этому других

РБК
9 советов, как лучше запоминать новую информацию (это полезно в любом возрасте) 9 советов, как лучше запоминать новую информацию (это полезно в любом возрасте)

Учиться никогда не поздно, но как делать это эффективно

Playboy
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Лишний билетик Лишний билетик

Объясняем, как вернуть купленный билет и не потерять при этом деньги

Лиза
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Невыносимый красавчик: почему с Беном Аффлеком не уживается ни одна женщина Невыносимый красавчик: почему с Беном Аффлеком не уживается ни одна женщина

Почему Бена Аффлека бросали все его девушки

Cosmopolitan
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Какие режиссеры страдают фаворитизмом Какие режиссеры страдают фаворитизмом

Кто из режиссеров не может обойтись без своего любимого актера?

GQ
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
«Музыка — эмоция, текст — информация»: большое интервью Ромео Кастеллуччи «Музыка — эмоция, текст — информация»: большое интервью Ромео Кастеллуччи

Ромео Кастеллуччи рассказал о своих правилах жизни на оперной сцене

Школа Masters
20 правил поведения на российских курортах 20 правил поведения на российских курортах

Как подготовиться к сюрпризам на российских курортах

GQ
Типично псковские дали Типично псковские дали

Едем на длинные выходные в Псковскую область

Seasons of life
Осколок зеркала Осколок зеркала

Новая концепция космоса слишком земная

Esquire
Совсем не лишний вес Совсем не лишний вес

С грустью разглядывая свои складочки на талии, вы впадаете в меланхолию… И зря!

Добрые советы
Чем болели президенты США (втайне от простых американцев) Чем болели президенты США (втайне от простых американцев)

Кто основал среди американских лидеров традицию болеть

Maxim
Белые рыцари Amazon: как зарабатывать миллионы на миллиардах Джеффа Безоса Белые рыцари Amazon: как зарабатывать миллионы на миллиардах Джеффа Безоса

Amazon преуспел в развитии предпринимательства больше, чем кто-либо другой

Forbes
Вибратор и еще 6 предметов, которыми люди пользуются не по назначению Вибратор и еще 6 предметов, которыми люди пользуются не по назначению

Некоторые вещи изобретались не с той целью, с какой мы используем их сейчас

Maxim
12 неловких вопросов про инвалидность 12 неловких вопросов про инвалидность

Правильно ли говорить «человек с инвалидностью» и зачем слепым ходить в музей?

СНОБ
Их объединила трагедия: трогательная история любви Павла Воли и Ляйсан Утяшевой Их объединила трагедия: трогательная история любви Павла Воли и Ляйсан Утяшевой

Вспоминаем, как развивались отношения Павла Воли и Ляйсан Утяшевой

Cosmopolitan
Охота на должников. Несколько историй от ГИБДД о злостных нарушителях Охота на должников. Несколько историй от ГИБДД о злостных нарушителях

ГИБДД отрыла охоту на злостных неплательщиков штрафов

РБК
Функциональный спектрометр-шапочку впервые испытали на шестимесячных младенцах Функциональный спектрометр-шапочку впервые испытали на шестимесячных младенцах

Британские исследователи впервые испытали LUMO на шестимесячных младенцах

N+1
Что почитать о путешествиях, если надоели travel-блоги? Что почитать о путешествиях, если надоели travel-блоги?

Эти произведения — отличный способ проникнуться другими странами

МегаФон Путешествия
Екатерина Климова: «Вполне возможно второй раз войти в одну и ту же реку» Екатерина Климова: «Вполне возможно второй раз войти в одну и ту же реку»

Екатерина Климова: «Все в жизни возможно, было бы желание...»

Караван историй
Индейцы пожевали галлюциногенного дурмана и нарисовали его цветок в пещере Индейцы пожевали галлюциногенного дурмана и нарисовали его цветок в пещере

Ученые выяснили, что спиральный узор на потолке пещеры — изображение дурмана

N+1
Одна вокруг света. Вход воспрещен или как застрять на границе между Малайзией и Тайландом Одна вокруг света. Вход воспрещен или как застрять на границе между Малайзией и Тайландом

94-я серия о кругосветном путешествии Ирины Сидоренко и ее собаки Греты

Forbes
Если хочешь быть здоров Если хочешь быть здоров

Полезные подсказки: обустраиваем спортивный уголок для всей семьи в квартире

Лиза
Наличие смысла жизни и самоконтроль помогают справиться со стрессом из-за пандемии Наличие смысла жизни и самоконтроль помогают справиться со стрессом из-за пандемии

Что помогает людям справиться со стрессом и пережить кризис

Inc.
Когда в России прошла первая выставка кошек? Когда в России прошла первая выставка кошек?

Как и когда прошла первая отечественная выставка кошек

Культура.РФ
Скромный памятник Колумбу Скромный памятник Колумбу

Анна Толстова о судьбе Ильи Остроухова, оставшегося в тени

Weekend
10 советов, которые помогут вам сформировать здоровое отношение к технологиям 10 советов, которые помогут вам сформировать здоровое отношение к технологиям

Зои Астон укажет путь к разумным взаимоотношениям с экранами ваших устройств

GQ
Открыть в приложении