Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Старение — это эволюционная ошибка. Ученые уверены, что его можно избежать Старение — это эволюционная ошибка. Ученые уверены, что его можно избежать

Старение — естественный процесс или ошибка?

Популярная механика
Навыки для нового мира: почему лидерство больше не делится на «мужское» и «женское» Навыки для нового мира: почему лидерство больше не делится на «мужское» и «женское»

Что мешает женщинам браться за сложные проекты и вести людей за собой?

Forbes
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Археологи нашли в ЮАР постель возрастом более 40 тысяч лет Археологи нашли в ЮАР постель возрастом более 40 тысяч лет

Древняя постель представляла собой подстилку из растений, размещенную на золе

N+1
Крайние меры: как выключить или перезагрузить iPhone 12, 11, X, 8, 7 Крайние меры: как выключить или перезагрузить iPhone 12, 11, X, 8, 7

Как выключить айфон – при зависании или отсутствии реакции на касания

CHIP
Под фермерским полем нашли римскую мозаику битвы между Ахиллом и Гектором Под фермерским полем нашли римскую мозаику битвы между Ахиллом и Гектором

Плитка находилась на полу комнаты в древнеримской вилле III–IV веков нашей эры

N+1
Как бизнесу искать и нанимать дефицитных айтишников Как бизнесу искать и нанимать дефицитных айтишников

От нехватки кадров на IT-рынке устали все

Inc.
Надёжная опора Надёжная опора

Частые проблемы, с которыми обращаются к подологу

Здоровье
Соединить экологию с экономикой Соединить экологию с экономикой

Как принципы ESG могут изменить современное производство

РБК
Зоологи подтвердили существование городской популяции леопардов в Сеуле в конце XIX века Зоологи подтвердили существование городской популяции леопардов в Сеуле в конце XIX века

Крупные кошки в Сеуле охотились на собак, а днем прятались среди растительности

N+1
«Они живут до 33-34 лет. Возраст Христа»: Эвелина Бледанс об особенном сыне «Они живут до 33-34 лет. Возраст Христа»: Эвелина Бледанс об особенном сыне

Эвелина Блёданс объяснила, почему не стесняется говорить о болезни сына

Cosmopolitan
Кто поможет CEO? Инструменты поддержки для руководителя компании Кто поможет CEO? Инструменты поддержки для руководителя компании

Почему CEO компаний часто нуждаются в поддержке и где её получить

Inc.
Как выращивают крупнейшие в мире алмазы: сделано в России Как выращивают крупнейшие в мире алмазы: сделано в России

Самые крупные в мире безупречные алмазы выращивают рядом с Санкт-Петербургом

Популярная механика
«Я не должна была рождаться». Девушка подала иск против гинеколога своей матери «Я не должна была рождаться». Девушка подала иск против гинеколога своей матери

Иви Тумбс из Скегнесса, Линкольншир, подала в суд на гинеколога своей матери

Cosmopolitan
35 вещей, которые нас возбуждают 35 вещей, которые нас возбуждают

Эти вещи возбуждают с первого взгляда.

Maxim
Спортсменки года: Дина и Арина Аверины Спортсменки года: Дина и Арина Аверины

Гимнастки заняли второе и четвертое места, но для зрителей они — номер один

Glamour
В Австрии обнаружили следы рудокопов кельтского и римского периодов В Австрии обнаружили следы рудокопов кельтского и римского периодов

Добыча металлов в долине Монтафон началась в III–II веках до нашей эры

N+1
8 мужских поступков, от которых девушек передергивает 8 мужских поступков, от которых девушек передергивает

Эти твои милые и галантные поступки могут казаться твоей девушке извращенными

Maxim
Не перейти черту Не перейти черту

Как научиться защищать свои личные границы

Лиза
Как нам делали голову: что такое череп и как он сформировался Как нам делали голову: что такое череп и как он сформировался

Голову эволюция творила сотни миллионов лет.

Популярная механика
Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов

Уроки «Додо» из экспансии на перенасыщенный пиццериями рынок Великобритании

Inc.
Мужчина подменил злую кошку на добрую, и жена этого не заметила Мужчина подменил злую кошку на добрую, и жена этого не заметила

Герой истории нашел необычный способ ужиться с неприятным животным своей девушки

Psychologies
Анна Павлова: как русская балерина превратилась в десерт Анна Павлова: как русская балерина превратилась в десерт

Кто придумал десерт «Павлова» и причем здесь балет?

Cosmopolitan
Что мы знаем о своих партнерах? Эндрю Шон Грир: История одного супружества Что мы знаем о своих партнерах? Эндрю Шон Грир: История одного супружества

Отрывок из книги Эндрю Шона Грира — о том, как люди переживают последствия войны

СНОБ
Какую татуировку выбрать: разбираемся с мастерами в актуальных стилях Какую татуировку выбрать: разбираемся с мастерами в актуальных стилях

Хэндпоук, абстракция, дотворк, графика — как выбрать стиль татуировки

GQ
Минное поле: как говорить с партнерами о своих бывших и стоит ли? Минное поле: как говорить с партнерами о своих бывших и стоит ли?

Кто как относится к своим романам из прошлого?

Cosmopolitan
Австралийский мист Австралийский мист

Не все, что живет в Австралии, так и норовит нас убить

Weekend
Обучение и развлечение: осваиваем английский по историям великих женщин Обучение и развлечение: осваиваем английский по историям великих женщин

Что получится, если совместить истории великих женщин и lifelong learning

Psychologies
Повесть о Настоящем Адвокате Повесть о Настоящем Адвокате

Адвокат Семён Ария и дело об убийстве супруг Раскиных

Дилетант
Best of the Best Best of the Best

Вспоминаем лучших из лучших — номинантов на премию GQ Men of the Year

GQ
Открыть в приложении