Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вячеслав Дубынин: «В нас конкурируют две программы — безопасности и любопытства» Вячеслав Дубынин: «В нас конкурируют две программы — безопасности и любопытства»

О разрушении модели мира, неопределенности и извлечении пользы из тревожности

РБК
Пришло время поговорить и о мужских проблемах. Что такое «новая мужественность» и что с ней происходит в России? Пришло время поговорить и о мужских проблемах. Что такое «новая мужественность» и что с ней происходит в России?

Создательницы фестиваля Moscow MaleFest — о месте мужчин в изменяющемся мире

Esquire
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Одежда из фильмов и сериалов, которую многие захотели носить, но лучше бы этого не делать Одежда из фильмов и сериалов, которую многие захотели носить, но лучше бы этого не делать

Спортивный костюм, как в «Джентльменах», идет только Колину Фарреллу

Maxim
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Третье поколение Nissan X-Trail Третье поколение Nissan X-Trail

Автомобиль, который в буквальном смысле возродил Nissan

4x4 Club
Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям

Как не попадаться на обман и манипуляции собственного мозга и других людей

РБК
Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист

Как определить, что колорист сделал свою работу некачественно: 7 главных ошибок

Cosmopolitan
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Дружба с ведущими кутюрье и французские фасоны в СССР: что Майя Плисецкая сделала для моды Дружба с ведущими кутюрье и французские фасоны в СССР: что Майя Плисецкая сделала для моды

Рассказываем, что связывает Майю Плисецкую с мировой модой

Esquire
«Психотерапевт — это человек вне морали и этики» «Психотерапевт — это человек вне морали и этики»

Психотерапевт Наталья Бехтерева продолжает исследовать душу в 5-м поколении

Собака.ru
Возвращался к бывшей: история отношений Екатерины Волковой и Андрея Карпова Возвращался к бывшей: история отношений Екатерины Волковой и Андрея Карпова

10 фактов о Екатерине Волковой

Cosmopolitan
Маск, я вас знаю Маск, я вас знаю

Что связывает Илона Маска с Россией, кроме космической гонки

GQ
Как живут красавицы 90-х: Ирина Салтыкова, Элен Ролле, Дженни Гарт и другие Как живут красавицы 90-х: Ирина Салтыкова, Элен Ролле, Дженни Гарт и другие

Чем героини культовых сериалов и бывшие певицы заняты сейчас?

Cosmopolitan
Пора ли разочаровываться в выборах в США Пора ли разочаровываться в выборах в США

Раскол в обществе — это то, с чем может столкнуться не только Белоруссия

СНОБ
От наркотиков к признанию: крутые рэперы, которые начали путь с криминала От наркотиков к признанию: крутые рэперы, которые начали путь с криминала

Рэперы, сумевшие выбраться из нищеты и криминальных гетто в большой шоу-бизнес

Cosmopolitan
Если хочешь быть здоров Если хочешь быть здоров

Полезные подсказки: обустраиваем спортивный уголок для всей семьи в квартире

Лиза
Как выглядели первые гидрокостюмы (пугающие фото) Как выглядели первые гидрокостюмы (пугающие фото)

Удивительные архивные фотографии первых гидрокостюмов

Maxim
Мужчина и его собаки: Джо Байден и его немецкие овчарки Чемп и Мейджор Мужчина и его собаки: Джо Байден и его немецкие овчарки Чемп и Мейджор

Если вам нужен друг в Вашингтоне, заведите собаку

Esquire
Катализатор двойного действия превратит отработанное масло в биодизель Катализатор двойного действия превратит отработанное масло в биодизель

Химики научились получать биодизельное топливо из загрязненного масла

N+1
Токсичные отношения Токсичные отношения

Почему детокс принесет вам хорошие дивиденды

GQ
Михаил Гончаров, «Теремок»: «Сейчас спасают не бизнес, а государственный бюджет и бюджетников» Михаил Гончаров, «Теремок»: «Сейчас спасают не бизнес, а государственный бюджет и бюджетников»

Михаил Гончаров рассказал, почему больше не критикует решения чиновников

Inc.
Хватит кричать! Хватит кричать!

Объясняем, как перестать срываться на ребенке

Лиза
Палеонтологи разобрались в родственных связях древних и современных медоедов Палеонтологи разобрались в родственных связях древних и современных медоедов

Древний медоед был мельче современного и приходился ему сестринским видом

N+1
Как избавиться от зависти: 8 шагов к тому, чтобы перестать сравнивать себя с другими Как избавиться от зависти: 8 шагов к тому, чтобы перестать сравнивать себя с другими

Избавься от чувства постоянного неудовлетворения и начни жить своей жизнью

Playboy
Правила жизни Тильды Суинтон Правила жизни Тильды Суинтон

Правила жизни актрисы Тильды Суинтон

Esquire
Протрезветь до понедельника Протрезветь до понедельника

Василий Степанов о крепости духа и крепком алкоголе в фильме «Еще по одной»

Weekend
Бегущая по волне Бегущая по волне

Милла Йовович — о сильных героинях, дочке-актрисе и модных сокровищах в гараже

Vogue
Наращивать ресницы или нет? Все плюсы, минусы и важные нюансы о процедуре Наращивать ресницы или нет? Все плюсы, минусы и важные нюансы о процедуре

Все «за» и «против» наращивания ресниц

Cosmopolitan
Любовь на миллиард: жены — настоящие и бывшие — 10 богатейших мужчин России Любовь на миллиард: жены — настоящие и бывшие — 10 богатейших мужчин России

Кого любят, кому изменяют и от кого уходят самые богатые мужчины страны?

Cosmopolitan
Открыть в приложении