Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Витая в облаках: как миллиардер Юрий Мильнер будет искать жизнь в атмосфере Венеры Витая в облаках: как миллиардер Юрий Мильнер будет искать жизнь в атмосфере Венеры

Когда и как планируют искать жизнь на загадочной и негостеприимной Венере

Forbes
Цифровой этикет, текстовый блокчейн и соцсети в политике: новые навыки для работы в интернетее Цифровой этикет, текстовый блокчейн и соцсети в политике: новые навыки для работы в интернетее

5 книг о том, как ориентироваться в современном цифровом пространстве

Популярная механика
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Релятивистские эффекты воспроизвели в электрических цепях Релятивистские эффекты воспроизвели в электрических цепях

Физики просимулировали дрожащее движение и парадокс Клейна

N+1
Вредны ли шампуни с сульфатами в составе Вредны ли шампуни с сульфатами в составе

Действительно ли безсульфатные шампуни безопасны для волос?

Популярная механика
Житель Колорадо встретил в гараже вымирающего американского хорька Житель Колорадо встретил в гараже вымирающего американского хорька

Американские хорьки находятся на грани исчезновения

N+1
В 1951 году власти Дании забрали детей у коренных жителей, чтобы воспитать из них «гренландскую элиту». Дети выросли и требуют компенсации В 1951 году власти Дании забрали детей у коренных жителей, чтобы воспитать из них «гренландскую элиту». Дети выросли и требуют компенсации

Когда нужного количества не набралось детей просто забрали из семей инуитов

Esquire
Основатель «2ГИС» Александр Сысоев: «Сейчас мы даём технологии экосистеме “Сбера”, потом — она нам» Основатель «2ГИС» Александр Сысоев: «Сейчас мы даём технологии экосистеме “Сбера”, потом — она нам»

Основатель «2ГИС» — как сервис вписался в экосистему «Сбера»

VC.RU
Что фильм «Злые и красивые» Миннелли рассказал об изнанке Голливуда Что фильм «Злые и красивые» Миннелли рассказал об изнанке Голливуда

Что можно узнать о Голливуде и его изнанке из фильма «Злые и красивые»

РБК
Своя игра Своя игра

Актриса и певица Нино Нинидзе примерила сияющие вечерние образы

Harper's Bazaar
Палеогенетики обнаружили на Алтае три кости древнейших денисовцев Палеогенетики обнаружили на Алтае три кости древнейших денисовцев

На Алтае обнаружены кости древнейших предков людей

N+1
«Черная пятница» в разгаре: что покупают россияне и в чем подвох «Черная пятница» в разгаре: что покупают россияне и в чем подвох

Краткая занимательная статистика «Черной пятницы» в России

Playboy
Что читают голосовые помощники: 10 любимых книг искусственного интеллекта Что читают голосовые помощники: 10 любимых книг искусственного интеллекта

Подборка любимых книг Олега — голосового помощника экосистемы «Тинькофф»

Популярная механика
Жесткая, но эффективная бессолевая диета: что говорят о ней отзывы Жесткая, но эффективная бессолевая диета: что говорят о ней отзывы

Кому отказ от соли поможет подтянуть здоровье и избавиться от лишних кило?

Cosmopolitan
В Афганистане запретили фильмы и сериалы с участием женщин — к чему это приведет В Афганистане запретили фильмы и сериалы с участием женщин — к чему это приведет

Власти Афганистана запретили к показу фильмы и сериалы с участием женщин

Cosmopolitan
Почему трубы теплоэлектростанций красят в красно-белые полоски Почему трубы теплоэлектростанций красят в красно-белые полоски

Для чего нужен полосатый раскрас трубам ТЭЦ?

Популярная механика
Дефицит кератина Дефицит кератина

Тусклая кожа, сухие и ломкие волосы? Виноват дефицит кератина

Здоровье
Отвечают головой Отвечают головой

Ruslan Baginskiy – один из самых узнаваемых в мире украинских брендов

Harper's Bazaar
Ее попытка номер 5: почему из всех женихов Пэрис Хилтон мужем стал только один Ее попытка номер 5: почему из всех женихов Пэрис Хилтон мужем стал только один

Кто пытался, но так и не смог довести светскую львицу до алтаря

Cosmopolitan
6 книг про искусственный интеллект — о том, что готовит нам будущее 6 книг про искусственный интеллект — о том, что готовит нам будущее

Книги, которые расскажут об умных роботах и tech-перспективах на ближайшие годы

Популярная механика
Обязаны ли дети ухаживать за престарелыми родителями? Обязаны ли дети ухаживать за престарелыми родителями?

В каких случаях уход за ближайшими родственниками стоит переложить на других?

Psychologies
С чистого листа С чистого листа

Атмосферный интерьер с выразительными цветовыми и стилистическими акцентами

SALON-Interior
Движение по кругу: как менялась мода на джинсы последние 100 лет Движение по кругу: как менялась мода на джинсы последние 100 лет

Почему та или иная модель джинсов становилась культовой

Esquire
Земля – Орбита. Как отправить свое имя в космос? Земля – Орбита. Как отправить свое имя в космос?

Пластина — 10 на 15 мм, а имен — 22 772. Как всё уместить, Карл?

Популярная механика
«Мне хотелось отомстить»: как прошлые отношения мешают строить личную жизнь «Мне хотелось отомстить»: как прошлые отношения мешают строить личную жизнь

Как следует проживать травматичный опыт отношений?

Psychologies
Мемристор из льда-XI вместил четыре бита Мемристор из льда-XI вместил четыре бита

Лед-XI можно использовать в качестве надежной и энергонезависимой памяти

N+1
«Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД «Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД

Что раздражает инспекторов ГИБДД на дороге и как отучить автомобилистов нарушать

РБК
Дмитрий Бозин. Уроки волшебства Дмитрий Бозин. Уроки волшебства

Дмитрий Бозин — о своем театральном пути и целях

Коллекция. Караван историй
Грязь как полотно: художники, что превращают немытые машины в искусство Грязь как полотно: художники, что превращают немытые машины в искусство

Как грязные автомобили могут пробуждать желание творить

Playboy
Эмоции мешают думать: чему можно научиться у Майкла Корлеоне Эмоции мешают думать: чему можно научиться у Майкла Корлеоне

Чему можно научиться у мафиози Майкла Корлеоне

Esquire
Открыть в приложении