Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Лучше два дня вдумчивой работы, чем пять дней в забытьи»: опыт финтеха Bolt, который перешёл на четырёхдневный график «Лучше два дня вдумчивой работы, чем пять дней в забытьи»: опыт финтеха Bolt, который перешёл на четырёхдневный график

Финтеха Bolt — чем хорош четырехдневный график работы

VC.RU
Умники и умницы: 9 сериалов для настоящих интеллектуалов Умники и умницы: 9 сериалов для настоящих интеллектуалов

Презираешь сериалы, считая их пустой тратой времени и глупым развлечением?

Cosmopolitan
Кодекс поведения робота Кодекс поведения робота

В чем заключаются ключевые проблемы взаимодействия человека и ИИ

Популярная механика
Как мы воспринимаем время: то оно тянется, то несётся Как мы воспринимаем время: то оно тянется, то несётся

Что такое чувство времени?

Популярная механика
От тебя я другого и не ожидала От тебя я другого и не ожидала

Родители играют очень большую роль в развитии тревоги и депрессии

Лиза
Как противостоять газлайтингу? Как противостоять газлайтингу?

Как выявить газлайтера и как не дать сбить себя с толку?

Psychologies
Стойкие ровесники Стойкие ровесники

Эти конструкции были построены в 1861 году и сохранились до наших дней

Вокруг света
Неочевидные театральные профессии: кто на самом деле стоит за созданием спектаклей Неочевидные театральные профессии: кто на самом деле стоит за созданием спектаклей

Чем занимаются бутафоры, пострижеры, механики сцены и другие люди в театре

GQ
Вива, Виктория! Вива, Виктория!

Виктория Мирошниченко — о мастерстве перевоплощения и сибирских травах

Grazia
Как убрать бока: эффективные упражнения и советы эксперта Как убрать бока: эффективные упражнения и советы эксперта

Как уменьшить объемы в районе талии с помощью питания и тренировок

РБК
Бороться, работать, узнать себя лучше: пять женщин о том, как они пережили рак Бороться, работать, узнать себя лучше: пять женщин о том, как они пережили рак

Героини проекта «Химия была, но мы расстались» о своем опыте борьбы с онкологией

Forbes
Как сохранить Тик Ток без водяного знака: инструкция для смартфонов Как сохранить Тик Ток без водяного знака: инструкция для смартфонов

Самые простые и безопасные способы скачать видео из ТикТока без водяного знака

CHIP
Поздравляю, коллеги! Поздравляю, коллеги!

Корпоратив – это отличная возможность весело провести время и… натворить дел

Cosmopolitan
Дочери Газманова, Табакова, Крапивиной: как выглядят дебютантки бала Tatler-2021 Дочери Газманова, Табакова, Крапивиной: как выглядят дебютантки бала Tatler-2021

Посмотрим на девушек, которых скоро будет обсуждать вся страна!

Cosmopolitan
Налево пойдешь... Самые популярные мифы и факты об изменах Налево пойдешь... Самые популярные мифы и факты об изменах

Что специалисты думают об изменах?

Maxim
Мир в корзине Мир в корзине

У баскетбола есть и конкретные «родители» – преподаватели физкультуры

Вокруг света
Лубянская машина времени. Почему наследники Дзержинского решили ликвидировать «Мемориал»* Лубянская машина времени. Почему наследники Дзержинского решили ликвидировать «Мемориал»*

Россию невозможно вернуть в эпоху «самого вкусного в мире мороженого»

СНОБ
«Счастье не за горами»: 7 шагов на пути к лучшей жизни «Счастье не за горами»: 7 шагов на пути к лучшей жизни

Чтобы стать счастливее, достаточно пары несложных действий

Psychologies
Спи, не бойся Спи, не бойся

Чего обычно боятся и мужчины, и женщины в сексе и как себя успокоить?

Cosmopolitan
140 кг без тормозов: за что обожают певицу Лиззо, которую никто не видел одетой 140 кг без тормозов: за что обожают певицу Лиззо, которую никто не видел одетой

Никто не может остаться равнодушным к певице Лиззо!

Cosmopolitan
10 вещей, которые хочет услышать во время секса каждая девушка 10 вещей, которые хочет услышать во время секса каждая девушка

Слова — мощный афродизиак

Playboy
Костюм VS платье — модная битва Cosmo: выбирай, какой стиль идет звездам больше Костюм VS платье — модная битва Cosmo: выбирай, какой стиль идет звездам больше

Сравниваем образы звезд в костюмах и вечерних платьях

Cosmopolitan
Китайские, глобальные и российские смартфоны Xiaomi: чем они отличаются? Китайские, глобальные и российские смартфоны Xiaomi: чем они отличаются?

Чем отличаются версии Xiaomi для разных рынков?

CHIP
Как заговорить об измене Как заговорить об измене

Как корректно рассказать об измене?

GQ
Великолепная рыбалка Великолепная рыбалка

Цапля не спит — она видит всё!

Наука и жизнь
Деми Мур, какой мы ее уже не помним: 20 редких фотографий Деми Мур, какой мы ее уже не помним: 20 редких фотографий

Редкие фотографии Деми Мур

Cosmopolitan
Будем в тонусе Будем в тонусе

Эта короткая тренировка даст нагрузку на основные группы мышц

Домашний Очаг
«Все возможное: Как врачи спасают наши жизни» «Все возможное: Как врачи спасают наши жизни»

Отрывок из книги Атула Гаванде о том, как врачи совершают полезные ошибки

N+1
«Hot Wheels словно акции»: коллекционеры тратят десятки тысяч долларов, чтобы купить всего одну игрушечную машинку «Hot Wheels словно акции»: коллекционеры тратят десятки тысяч долларов, чтобы купить всего одну игрушечную машинку

Чья коллекция Hot Wheels вошла в «Книгу рекордов Гиннесса»?

VC.RU
Как «запрограммировать» себя на легкую беременность и роды Как «запрограммировать» себя на легкую беременность и роды

Как «настроить» мозг на идеальную беременность?

Psychologies
Открыть в приложении