Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов

Почему важно мыслить новаторски и поощрять к этому других

РБК
Тюленям-монахам нашли новозеландского предка Тюленям-монахам нашли новозеландского предка

Открытие заставило переписать эволюционную историю настоящих тюленей

N+1
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Почему Россия проиграла президентские выборы в Молдавии Почему Россия проиграла президентские выборы в Молдавии

Россия потерпела очередное за 2020 год поражение на постсоветском пространстве

СНОБ
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
Playboy подводит итоги года Playboy подводит итоги года

Всё, что нас удивило в уходящем году: события радостные, трагичные, курьезные

Playboy
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Что делать, если забыл пароль от роутера? Что делать, если забыл пароль от роутера?

Как быть, если вы забыли пароль от собственной домашней сети Wi-Fi?

CHIP
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Год выбирали одно слово: как бывший менеджер «Яндекса» разрабатывал для «Сбера» семейство голосовых помощников Год выбирали одно слово: как бывший менеджер «Яндекса» разрабатывал для «Сбера» семейство голосовых помощников

Кто стоял за разработкой голосовых помощников для «Сбера»

Forbes
Чума на оба ваших домена, или История большого взлома Чума на оба ваших домена, или История большого взлома

Мир — во власти хакеров?

GQ
Циркулярная пила и еще 9 мощных изобретений, сделанных женщинами Циркулярная пила и еще 9 мощных изобретений, сделанных женщинами

Важнейшие изобретения, которые были сделаны женщинами

Maxim
«Время кризиса — время повышать эффективность» «Время кризиса — время повышать эффективность»

Каковы перспективы проектов в рамках делового сотрудничества России и Германии

РБК
Топ-10 горных вершин мира: покорителям высот Топ-10 горных вершин мира: покорителям высот

Подробный гайд для будущих покорителей вершин

Популярная механика
В австралийских водах впервые заметили глубоководных длинноруких кальмаров В австралийских водах впервые заметили глубоководных длинноруких кальмаров

Ученые отметили присутствие длинноруких кальмаров Magnapinna в водах Австралии

N+1
Трансформация мышления. Как увеличить вовлечённость сотрудников компании с помощью нового корпоративного портала Трансформация мышления. Как увеличить вовлечённость сотрудников компании с помощью нового корпоративного портала

Продакт-менеджером об особенностях работы в сжатые сроки и важности геймификации

Inc.
«Мой целлюлит на бедрах стал виден»: Елена Перминова раскрыла модельные трюки «Мой целлюлит на бедрах стал виден»: Елена Перминова раскрыла модельные трюки

Елена Перминова заявила, что не стесняется своей внешности

Cosmopolitan
«Ход королевы»: шахматы, зависимость и никакой политики в новом сериале Netflix «Ход королевы»: шахматы, зависимость и никакой политики в новом сериале Netflix

Интеллектуальная драма от режиссера «Логана» с Аней Тейлор-Джой в главной роли

GQ
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
Сволочь, Миссисипи, Фунтик, Щен: какие питомцы жили у русских классиков Сволочь, Миссисипи, Фунтик, Щен: какие питомцы жили у русских классиков

Каких питомцев заводили русские классики

РБК
Как говорил Жванецкий. В память о сатирике — отрывок из книги «Разговор отца с сыном…» Как говорил Жванецкий. В память о сатирике — отрывок из книги «Разговор отца с сыном…»

Отрывок из книги главного сатирика страны Михаила Жванецкого

СНОБ
Мифы и легенды о Байкале Мифы и легенды о Байкале

Вспоминаем бурятские легенды и научные факты о суровом «сибирском море»

Культура.РФ
Наука побежать. 5 уникальных побегов через Берлинскую стену Наука побежать. 5 уникальных побегов через Берлинскую стену

5 случаев побега из развивающегося социализма ГДР в загнивающий капитализм ФРГ

Maxim
Гибель сына и внука, шесть неудачных браков: печальная судьба Натальи Кустинской Гибель сына и внука, шесть неудачных браков: печальная судьба Натальи Кустинской

Трагическая история советской актрисы Натальи Кустинской

Cosmopolitan
Cadillac XT4. В борьбе за европейские ценности Cadillac XT4. В борьбе за европейские ценности

Cadillac довольно осторожно, но всё же переходит на новый для себя уровень

4x4 Club
Суверенная электроника: зачем России производство наночипов Суверенная электроника: зачем России производство наночипов

За последние десять лет в России научились делать новые типы микросхем

Inc.
Бактерии добыли редкоземельные металлы из базальта на борту МКС Бактерии добыли редкоземельные металлы из базальта на борту МКС

Принципиальная возможность биомайнинга за пределами Земли

N+1
Почему в России так не любят шпионов Почему в России так не любят шпионов

Шпион – это зло абсолютное, неисправимое

GQ
Возвращался к бывшей: история отношений Екатерины Волковой и Андрея Карпова Возвращался к бывшей: история отношений Екатерины Волковой и Андрея Карпова

10 фактов о Екатерине Волковой

Cosmopolitan
Педикюр во время беременности Педикюр во время беременности

Как сделать педикюр в домашних условиях

9 месяцев
Открыть в приложении