Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Избавиться от зависти за 6 шагов Избавиться от зависти за 6 шагов

Почему мы завидуем?

Psychologies
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Вишенка на не очень вкусном торте: зачем «Сбер» купил Rambler Group Вишенка на не очень вкусном торте: зачем «Сбер» купил Rambler Group

«Сбер» купил Rambler ради онлайн-видео сервиса Okko

Forbes
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Мирный атомный взрыв и еще 6 сногсшибательных пейзажей! Мирный атомный взрыв и еще 6 сногсшибательных пейзажей!

7 фотографий, которые заставят тебя зауважать природу и попросить у нее автограф

Maxim
Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов

Почему важно мыслить новаторски и поощрять к этому других

РБК
Кость даю Кость даю

Семейная коллекция северного косторезного искусства Михаила Карисалова

Forbes
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Почему смеяться над властью снова становится страшно Почему смеяться над властью снова становится страшно

Каждый десятый россиянин, как выясняется, не решается шутить о политике в сети

СНОБ
Ненастоящий царь Ненастоящий царь

В отечественной традиции свергнутый правитель воспринимается как слабый

Дилетант
В центре города В центре города

Городская квартира в стиле спокойной, мягкой неоклассики

SALON-Interior
Уроки новой «войны» Уроки новой «войны»

Как вести себя инвестору, когда будут случаться внешние шоки

Forbes
Что известные автомобильные бренды выпускали во время Второй мировой Что известные автомобильные бренды выпускали во время Второй мировой

Вспомнили типичную для 40-х годов XX века продукцию автомобильных брендов

Maxim
Сотрудничество с дизайнерами и трибьют в «Сексе в большом городе» — что связывает Марину Абрамович и моду Сотрудничество с дизайнерами и трибьют в «Сексе в большом городе» — что связывает Марину Абрамович и моду

Марину Абрамович называют «бабушкой перформанса» не просто так

Esquire
Гонка лоялистов: откуда идет волна репрессивного законотворчества Гонка лоялистов: откуда идет волна репрессивного законотворчества

Кто и зачем продвигает репрессивную компанию в законодательстве

Forbes
Электроды на лице и шее позволили нейросети озвучить беззвучную речь Электроды на лице и шее позволили нейросети озвучить беззвучную речь

Алгоритм научили считывать сокращения мышц во время беззвучной речи

N+1
Доигрался Доигрался

Райан Рейнольдс о том, как попытался изменить нашу реальность

GQ
Где эти девушки? Где эти девушки?

Вспоминаем, что стало с солистками популярных герлз-бэндов двухтысячных

Cosmopolitan
Этан, метан, азот и Титан Этан, метан, азот и Титан

Титан можно было бы даже сравнить с Землёй, если бы не одно «но»

Наука и жизнь
Чем наполнить новогодние праздники Чем наполнить новогодние праздники

Как порадовать себя в новогодние праздники и сделать эти дни чудесными

Домашний Очаг
Диана Арбенина — о современной зарубежной литературе, нелюбви к запятым и о том, что общего между писательством и написанием музыки Диана Арбенина — о современной зарубежной литературе, нелюбви к запятым и о том, что общего между писательством и написанием музыки

Интервью с Дианой Арбениной

Esquire

Рассказываем о знаменитостях, чей внешний вид вызывал беспокойство поклонников

Cosmopolitan
Отрывок из книги Сильвии Морено-Гарсия «Мексиканская готика» Отрывок из книги Сильвии Морено-Гарсия «Мексиканская готика»

Секреты и ужасы, которые долгое время скрывали обитатели Дома-на-Горе

СНОБ
Интервью с художественным руководителем ЦИМа Дмитрием Волкостреловым Интервью с художественным руководителем ЦИМа Дмитрием Волкостреловым

Дмитрий Волкострелов — о феномене большой русской литературы

СНОБ
Шпалера со смыслами Шпалера со смыслами

Фламандская шпалера середины XVI века

Дилетант
Цифровой минимализм Цифровой минимализм

Фокус и осознанность в шумном мире

kiozk originals
Ароматерапия против стресса: 8 масел, которые помогут расслабиться и улучшить настроение Ароматерапия против стресса: 8 масел, которые помогут расслабиться и улучшить настроение

Как использовать силу запахов себе на благо?

Playboy
Правила жизни Виктора Сухорукова Правила жизни Виктора Сухорукова

Правила жизни актера Виктора Сухорукова

Esquire
Как записать видео с экрана смартфона: Android и iOS Как записать видео с экрана смартфона: Android и iOS

Хотите записать прохождение мобильной игры или вебинар на экране телефона?

CHIP
Открыть в приложении