Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Времён очаковских и покоренья Крыма Времён очаковских и покоренья Крыма

Как императрица Екатерина II присоединила к России Северное Причерноморье и Крым

Дилетант
Инновации для животных. Как выглядит современная ветеринария Инновации для животных. Как выглядит современная ветеринария

Как работают современные ветеринары?

СНОБ
Люди на пределе Люди на пределе

Возможности нашего собственного, среднестатистического тела

Вокруг света
Самки морских коньков охладели к партнерам за четыре дня разлуки Самки морских коньков охладели к партнерам за четыре дня разлуки

Морские коньки — строгие моногамы, но иногда связь между партнерами рвется

N+1
«Нужно не бороться, а жить»: онколог о борьбе с раком и партнерском подходе к лечению «Нужно не бороться, а жить»: онколог о борьбе с раком и партнерском подходе к лечению

Онколог — о том, чем западные стандарты лечения отличаются от российских

Forbes
Первая помощь при инсульте: что делать до приезда скорой Первая помощь при инсульте: что делать до приезда скорой

Подробный гид по оказанию первой помощи при инсульте

РБК
Игра в лицензиара: как правильно использовать видео из компьютерных игр Игра в лицензиара: как правильно использовать видео из компьютерных игр

Как правильно использовать фрагменты видеоигр

Популярная механика
От $200 к $6 млрд: история Personio, одного из самых дорогих европейских стартапов по разработке ПО От $200 к $6 млрд: история Personio, одного из самых дорогих европейских стартапов по разработке ПО

Гендиректор Personio — как он решил создать бизнес для работы с персоналом

Inc.
Чек-ап в возрасте от 20 до 50 Чек-ап в возрасте от 20 до 50

Как продлить активный возраст – сохранить удаль молодецкую?

Playboy
5 фильмов, где зло победило добро 5 фильмов, где зло победило добро

Смотрим фильмы, где злые силы восторжествовали. И сделали это с размахом

GQ
Шум катеров с бензиновыми двигателями помешал матерям-гриндам отдыхать и кормить детенышей Шум катеров с бензиновыми двигателями помешал матерям-гриндам отдыхать и кормить детенышей

Как катера с бензиновыми двигателями влияют на гринд

N+1
Павел Антокольский Павел Антокольский

Поэт Павел Антокольский глазами Дмитрия Быкова

Дилетант
Мы созданы для жизни вдвоем? Мы созданы для жизни вдвоем?

Люди предназначены для жизни вдвоем или в одиночестве?

Psychologies
140 кг без тормозов: за что обожают певицу Лиззо, которую никто не видел одетой 140 кг без тормозов: за что обожают певицу Лиззо, которую никто не видел одетой

Никто не может остаться равнодушным к певице Лиззо!

Cosmopolitan
Телесно-ориентированная психотерапия: что это, как работает, где обучают Телесно-ориентированная психотерапия: что это, как работает, где обучают

Все самое важное о телесно-ориентированной психотерапии — в этом материале

РБК
Дмитрий Блинов Дмитрий Блинов

Как гостю и ресторатору выйти сухими из бурлящих вод комментов и отзывов

Собака.ru
Максим Никулин. Под счастливой звездой Юрия Никулина Максим Никулин. Под счастливой звездой Юрия Никулина

Максим Никулин — о своем отце Юрии Никулине и судьбе, переплетенной с цирком

Коллекция. Караван историй
ЭКО-кошмар: в клинике перепутали эмбрионы и родителям пришлось меняться детьми ЭКО-кошмар: в клинике перепутали эмбрионы и родителям пришлось меняться детьми

Родителям пришлось поменяться детьми, чтобы воссоединиться с родными дочками

Cosmopolitan
Что такое суперизвержение: как один вулкан может вызвать катастрофу планетарного масштаба Что такое суперизвержение: как один вулкан может вызвать катастрофу планетарного масштаба

Как одно сверхизвержение вулкана может катастрофически повлиять на климат?

Популярная механика
В поисках утраченной В поисках утраченной

Какому Деду Морозу писать письма, чтобы вернуть нашу радость обратно?

Cosmopolitan
Мир в корзине Мир в корзине

У баскетбола есть и конкретные «родители» – преподаватели физкультуры

Вокруг света
Трогательные отношения: что делать, если вам не хватает прикосновений партнера Трогательные отношения: что делать, если вам не хватает прикосновений партнера

Почему так важен телесный контакт? Какую роль в отношениях он играет?

Psychologies
Интерес вместо страха Интерес вместо страха

Как гибридный формат работы влияет на управление людьми

РБК
Лингвисты назвали Северо-Восточный Китай прародиной трансевразийских языков Лингвисты назвали Северо-Восточный Китай прародиной трансевразийских языков

Ученые исследовали происхождение трансевразийских языков

N+1
7 советов на каждый день, чтобы справиться с тревогой и стрессом 7 советов на каждый день, чтобы справиться с тревогой и стрессом

Семь способах помочь себе справиться с тревожным расстройством

Популярная механика
Кембрийские приапулиды оказались древнейшими обитателями пустых раковин Кембрийские приапулиды оказались древнейшими обитателями пустых раковин

Черви прятались в раковинах от хищников уже более 500 миллионов лет назад

N+1
Как перестать бояться и начать свое дело Как перестать бояться и начать свое дело

Какие качества помогут создать успешный бизнес

СНОБ
«Муж отказывается вставать ночью к ребенку, и я пошла на хитрость» «Муж отказывается вставать ночью к ребенку, и я пошла на хитрость»

История героини, на которую обиделся её муж из-за ребенка

Psychologies
Ничего личного: что делать, если отношения с боссом вышли за грань деловых Ничего личного: что делать, если отношения с боссом вышли за грань деловых

Как напомнить боссу о личном пространстве, не лишившись должности

Cosmopolitan
Когда смартфон разряжается быстрее — при подключении к Wi-Fi или к мобильному интернету Когда смартфон разряжается быстрее — при подключении к Wi-Fi или к мобильному интернету

Какое подключение — через Wi-Fi или сотовую связь — сохранит проценты заряда

Популярная механика
Открыть в приложении