Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Неон-киллер Неон-киллер

Евгения Крегжде поразила нас в самое сердце

Maxim
Как формат изакая-бар попал из Японии в Москву и почему стал таким популярным Как формат изакая-бар попал из Японии в Москву и почему стал таким популярным

Японский формат баров, которые называют изакая, успешно работает в Москве

Forbes
Русский разведчик смеется перед расстрелом. И еще 8 поразительных фотографий Второй мировой войны Русский разведчик смеется перед расстрелом. И еще 8 поразительных фотографий Второй мировой войны

Моменты Второй мировой в девяти удивительных фотографиях

Maxim
Кембрийские приапулиды оказались древнейшими обитателями пустых раковин Кембрийские приапулиды оказались древнейшими обитателями пустых раковин

Черви прятались в раковинах от хищников уже более 500 миллионов лет назад

N+1
В Германии раскопали средневековый некрополь для прокаженных В Германии раскопали средневековый некрополь для прокаженных

Археологи нашли некрополь для тяжелобольных

N+1
Провал Zillow на $500 млн — ошибка в расчетах гиганта индустрии или убыточная бизнес-модель? Провал Zillow на $500 млн — ошибка в расчетах гиганта индустрии или убыточная бизнес-модель?

Автоматизированная покупка и продажа жилья — плохая идея?

Inc.
Учусь на предпринимателя: какие компетенции нужны современному бизнесмену Учусь на предпринимателя: какие компетенции нужны современному бизнесмену

Василий Алексеев рассуждает, почему современным бизнесменам нужно учиться

Inc.
Полируй нежно, срезай неглубоко: как сделать маникюр самой, когда салоны закрыты Полируй нежно, срезай неглубоко: как сделать маникюр самой, когда салоны закрыты

Даже если ты не мастер нейл-сервиса, ты можешь сделать качественный маникюр дома

Cosmopolitan
Как расстаться с девушкой так, чтобы ваши дальнейшие отношения развивались по твоему сценарию Как расстаться с девушкой так, чтобы ваши дальнейшие отношения развивались по твоему сценарию

Если вы наконец расходитесь, то эти советы придутся кстати

Maxim
«Вытаскивала их руками!» Женщина сама удалила нити после неудачной подтяжки лица «Вытаскивала их руками!» Женщина сама удалила нити после неудачной подтяжки лица

История Барбары, которая чуть не изуродовала себе лицо

Cosmopolitan
10 автомобилей с самыми крутыми фарами 10 автомобилей с самыми крутыми фарами

Какие современные и классические автомобили могут похвастаться лучшими фарами?

Популярная механика
Звезда нашего периода Звезда нашего периода

Узнаем у Ренаты Литвиновой, почему она считает бриллианты своими оберегами

Glamour
10 вещей, которые сильнее всего бесят в соцсетях 10 вещей, которые сильнее всего бесят в соцсетях

Каждый день мы заходим в соцсети, оставляя там частичку душевного здоровья

Maxim
«Карандаш в стакане»: пять страшилок, которыми пугают женщин за 40 «Карандаш в стакане»: пять страшилок, которыми пугают женщин за 40

Чем мужчины любят пугать женщин, возраст которых перевалил за 40

Cosmopolitan
От Тома Круза до Мадонны: самые шокирующие бьюти-трансформации звезд От Тома Круза до Мадонны: самые шокирующие бьюти-трансформации звезд

Знаменитости, для которых вмешательство во внешность имели серьезные последствия

Cosmopolitan
Физики предложили новый механизм образования темной материи Физики предложили новый механизм образования темной материи

Новый механизм образования темной материи объясняет её наблюдаемую массу

N+1
Песнь Адель: гид по жизни и творчеству певицы от А до Я Песнь Адель: гид по жизни и творчеству певицы от А до Я

Личность и карьера Адель от А до Я

Esquire
Корейский сериал «Зов ада»: о чем это, стоит ли смотреть и правда ли, что он лучше «Игры в кальмара» Корейский сериал «Зов ада»: о чем это, стоит ли смотреть и правда ли, что он лучше «Игры в кальмара»

Еще один корейский сериал «Зов ада». Он правда лучше, чем «Игра в кальмара»?

Maxim
Совпадений нет Совпадений нет

Достичь гармонии реально – если оба партнера постараются

Cosmopolitan
Найден способ превращать воду, солнечный свет и CO2 в чистый керосин Найден способ превращать воду, солнечный свет и CO2 в чистый керосин

Система, которая может производить топливо из солнечного света и воздуха

Популярная механика
Созвездие близнецов: зачем врагам Цукерберга братьям Уинклвосс своя метавселенная Созвездие близнецов: зачем врагам Цукерберга братьям Уинклвосс своя метавселенная

Соперничество между Марком Цукербергом и братьями Уинклвоссами не утихает

Forbes
Археологи нашли в Великом Новгороде средневековые костяные коньки Археологи нашли в Великом Новгороде средневековые костяные коньки

Ученые подвели итоги раскопок 2021 года в Великом Новгороде

N+1
Город In Folio Город In Folio

Петербург из тех мест, что лишний раз опиши – от него не убудет

Вокруг света
Как происходит процедура опознания. Отрывок из книги судмедэксперта Как происходит процедура опознания. Отрывок из книги судмедэксперта

Фрагмент из книги судмедэксперт Мэри Кэссиди «Место преступления – тело»

СНОБ
Все фильмы Уэса Андерсона — от худшего к лучшему Все фильмы Уэса Андерсона — от худшего к лучшему

Фильмы Уэса Андерсона: от наименее эмоционального — к самому пронзительному

Esquire
Я, мой муж и его бабушка: история семейного «треугольника» Я, мой муж и его бабушка: история семейного «треугольника»

Порой уход человека резко меняет жизни его близких

Psychologies
Как заплатить фрилансеру: десять сервисов Как заплатить фрилансеру: десять сервисов

Как можно упростить работу с фрилансерами, хоть и не бесплатно

VC.RU
Жизнь без генома: что такое прионы Жизнь без генома: что такое прионы

Возможна ли жизнь без генома?

Популярная механика
3 неявных признака того, что перед вами нарцисс 3 неявных признака того, что перед вами нарцисс

Люди с нарциссическими чертами редко осознают, что с ними что-то не так

Psychologies
«Я тебя недостоин»: что значат некоторые фразы мужчин «Я тебя недостоин»: что значат некоторые фразы мужчин

Что на самом деле хочет сказать мужчина

VOICE
Открыть в приложении