Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

6 таинственных исчезновений в истории 6 таинственных исчезновений в истории

Самые таинственные исчезновения в истории

Maxim
Магний: принимать или нет? Магний: принимать или нет?

Перед магией магния не устоять

VC.RU
За люриком под парусами За люриком под парусами

Странные чувства теребят меня после очередной северной экспедиции

Наука и жизнь
Объединяющее злорадство: почему люди участвуют в кибербуллинге Объединяющее злорадство: почему люди участвуют в кибербуллинге

Почему люди проявляют агрессию в Интернете, что они чувствуют в этот момент?

Forbes
Истина в жене Истина в жене

«Последняя дуэль»: язвительно современный Ридли Скотт в декорациях Средневековья

Weekend
Признаться в любви лучшему другу: 3 сценария развития отношений Признаться в любви лучшему другу: 3 сценария развития отношений

Способны ли мужчина и женщина быть просто друзьями?

Psychologies
Однорукий герой Однорукий герой

При атрибуции портретов иногда ключевым признаком является внешность персонажа

Дилетант
Без инстаграма не разберешься Без инстаграма не разберешься

«На близком расстоянии»: «Паразиты» по-русски

Weekend
«Советские хакеры». История отношений радиолюбителей с властями СССР «Советские хакеры». История отношений радиолюбителей с властями СССР

Книга о проектах и социокультурных явлениях, предшествовавших появлению рунета

СНОБ
Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

О трудностях обучения роботов

VC.RU
Цветы, призрак и яйцо Фаберже: 7 необычных бутылок алкоголя, которые украсят коллекцию Цветы, призрак и яйцо Фаберже: 7 необычных бутылок алкоголя, которые украсят коллекцию

Алкоголь может быть не только напитком, но и предметом искусства

Playboy
Контроль уровня воды предотвратит цветение водохранилищ Контроль уровня воды предотвратит цветение водохранилищ

Фитопланктон оказался чувствителен к объему воды, в котором живет

N+1
Сэр Энтони Блант, хранитель и агент Сэр Энтони Блант, хранитель и агент

Агент и обладатель рыцарского титула Энтони Блант

Дилетант
Пионер подпольного русского рока, композитор, певец и наставник. Памяти Александра Градского Пионер подпольного русского рока, композитор, певец и наставник. Памяти Александра Градского

О творческом наследии Александра Градского

Esquire
Ошибки, мешающие вам стать увереннее в себе Ошибки, мешающие вам стать увереннее в себе

Как поднять низкую самооценку?

Psychologies
Lovv66 комментирует свой новый альбом «БЭСТ ФРЭНДС» Lovv66 комментирует свой новый альбом «БЭСТ ФРЭНДС»

Самая основная метафора альбома «БЭСТ ФРЭНДС»

GQ
Московский год Лжедмитрия I Московский год Лжедмитрия I

Москвичи встретили Лжедмитрия I колокольным звоном, а вскоре растерзали его

Дилетант
Гид по татуировкам Гид по татуировкам

Тренды в тату-индустрии

Playboy
Основатель «2ГИС» Александр Сысоев: «Сейчас мы даём технологии экосистеме “Сбера”, потом — она нам» Основатель «2ГИС» Александр Сысоев: «Сейчас мы даём технологии экосистеме “Сбера”, потом — она нам»

Основатель «2ГИС» — как сервис вписался в экосистему «Сбера»

VC.RU
«Спасение от стресса»: Меган Маркл помогла Адель пережить развод и похудеть «Спасение от стресса»: Меган Маркл помогла Адель пережить развод и похудеть

Герцогиня Сассекская стала источником вдохновения для Адель

Cosmopolitan
Цветок, из которого готовят синий «чай» Цветок, из которого готовят синий «чай»

Цветки клитории используют в кулинарии для придания необычной синей окраски

Наука и жизнь
Использованные шины оказались смертельной ловушкой для раков-отшельников Использованные шины оказались смертельной ловушкой для раков-отшельников

Забравшись в выброшенные в океан шины, раки больше не могут оттуда выбраться

N+1
«Муж отказывается вставать ночью к ребенку, и я пошла на хитрость» «Муж отказывается вставать ночью к ребенку, и я пошла на хитрость»

История героини, на которую обиделся её муж из-за ребенка

Psychologies
Дефицит кератина Дефицит кератина

Тусклая кожа, сухие и ломкие волосы? Виноват дефицит кератина

Здоровье
10 знаменитых изобретений, пришедших из неожиданных мест 10 знаменитых изобретений, пришедших из неожиданных мест

В какой точке земного шара был открыт кинематограф, «флешки» и туалетная бумага?

Популярная механика
Безопасные инвестиции. Что надо знать новичку на фондовом рынке Безопасные инвестиции. Что надо знать новичку на фондовом рынке

Чем руководствоваться, чтобы старт в инвестициях оказался эффективным?

СНОБ
«Мы просто друзья»: почему у многих пар отношения начинаются с дружбы? «Мы просто друзья»: почему у многих пар отношения начинаются с дружбы?

Как часто дружба перерастает в любовь в реальной жизни

Psychologies
Болельщик, управляющий командой: как звезда баскетбола стала венчурным инвестором Болельщик, управляющий командой: как звезда баскетбола стала венчурным инвестором

Рене Монтгомери завершила спортивную карьеру и переквалифицировалась в инвестора

Forbes
Тили-тили тесто: выпечка по рецептам шеф-повара Александра Семыкина Тили-тили тесто: выпечка по рецептам шеф-повара Александра Семыкина

Выпечка по рецептам шефа ресторана «Пирог мясника» покорит любого

Cosmopolitan
Доисторические птицы: раньше, чем археоптерикс Доисторические птицы: раньше, чем археоптерикс

Место археоптерикса в истории все чаще подвергается сомнению

Популярная механика
Открыть в приложении