Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Два капитана: пенис и мозг — кто кем управляет? Два капитана: пенис и мозг — кто кем управляет?

Наличие пениса и мозга составляют правильный тандем всей мужской жизни

Maxim
Tinder-детектив, история нижнего белья и мемуары матери Илона Маска Tinder-детектив, история нижнего белья и мемуары матери Илона Маска

Топ-6 книжных новинок, которые нужно прочитать

GQ
Все, что нужно знать о Джастине Гэтжи Все, что нужно знать о Джастине Гэтжи

Как боец Джастин Гэтжи стал обладателем временного титула в легком весе

GQ
Светлая полоса: фальшивый номер газеты Светлая полоса: фальшивый номер газеты

Как советские журналисты придумали способ обойти государственную цензуру

Esquire
Бюджетное послание: продуктовые наборы обычных граждан России (фотопроект) Бюджетное послание: продуктовые наборы обычных граждан России (фотопроект)

Сколько денег и на что тратили студент, пенсионерка, маляр и учительница в 2010

Esquire
Правила жизни Кристины Хендрикс Правила жизни Кристины Хендрикс

Правила жизни актрисы Кристины Хендрикс

Esquire
Создан новый инструмент для диагностики аутоиммунных заболеваний Создан новый инструмент для диагностики аутоиммунных заболеваний

Биосенсер не только измеряет концентрацию антител, но и определяет их активность

Популярная механика
Яркие кинороли и предательство любимого — как сложилась судьба Элина Быстрицкой Яркие кинороли и предательство любимого — как сложилась судьба Элина Быстрицкой

Элина Быстрицкая запомнилась зрителю по роли Аксиньи в фильме «Тихий Дон»

Cosmopolitan
Связать и измерить Связать и измерить

Квантовые технологии обладают огромным потенциалом

N+1
Моисей и все-все-все! Кто такие евреи и почему о них все время говорят? Моисей и все-все-все! Кто такие евреи и почему о них все время говорят?

Разбираемся в том, почему еврейский вопрос всегда актуален

Maxim
Глубоким слоям океана пообещали заметные последствия от изменения климата Глубоким слоям океана пообещали заметные последствия от изменения климата

Как глобальное потепление может повлиять на разные слои океана

N+1
Карантин за свой счет: почему противоэпидемические меры властей граничат с правовым нигилизмом Карантин за свой счет: почему противоэпидемические меры властей граничат с правовым нигилизмом

Есть все основания полагать, что de facto на территории Москвы введен карантин

Forbes
Боевой раскрас? Как выглядят участницы реалити «Солдатки» на шоу и в жизни Боевой раскрас? Как выглядят участницы реалити «Солдатки» на шоу и в жизни

Героини реалити «Солдатки» рискнули всем, чтобы перевернуть свою жизнь

Cosmopolitan
Кровавые распри, интриги, секс: 10 исторических костюмных сериалов на любой вкус Кровавые распри, интриги, секс: 10 исторических костюмных сериалов на любой вкус

Десять костюмных сериалов на любой вкус: из разных эпох и в разных жанрах

Esquire
Откуда взялись автомобилистки, авиаторши и циклистки Откуда взялись автомобилистки, авиаторши и циклистки

Отрывок из книги Ирины Фуфаевой о значимости феминитивов

СНОБ
По сравнению со «сверстниками» Солнце оказалось намного слабее По сравнению со «сверстниками» Солнце оказалось намного слабее

Исследования показывают, что мы не так уж и хорошо знаем нашу собственную звезду

Популярная механика
Астрономы зафиксировали возможный быстрый радиовсплеск от магнитара в Млечном Пути Астрономы зафиксировали возможный быстрый радиовсплеск от магнитара в Млечном Пути

Магнитар может стать самым близким к Земле источником быстрых радиовсплесков

N+1
Заслуженные изгои Заслуженные изгои

Как андерграунд становится мейнстримом

Weekend
Чудо-танки в июне сорок первого: фиаско Чудо-танки в июне сорок первого: фиаско

Загадочные и противоречивые советские танки Великой Отечественной войны

Популярная механика
Космическую «корову» объяснили коллапсом массивной звезды Космическую «корову» объяснили коллапсом массивной звезды

Яркая и крупная вспышка AT2018cow могла появиться вследствие взрыва звезды

N+1
Похороны Зевса. Послесловие к фильму Лозницы Похороны Зевса. Послесловие к фильму Лозницы

С какой стати фильм «Государственные похороны» стал одним из хитов интернета

СНОБ
Hyundai Tucson — 2021: каким будет новый кроссовер Hyundai Tucson — 2021: каким будет новый кроссовер

Новые подробности о кроссовере Hyundai Tucson следующего поколения

РБК
Поток метана от арктических морей: Взгляд из космоса Поток метана от арктических морей: Взгляд из космоса

Какова роль метана в потеплении Арктики?

Наука и жизнь
Одна вокруг света на карантине: восьмое чудо света и разрыв шаблонов Одна вокруг света на карантине: восьмое чудо света и разрыв шаблонов

72-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Как хорошо выглядеть во время видеоконференций: 5 простых советов Как хорошо выглядеть во время видеоконференций: 5 простых советов

Совещания в Zoom новой реальностью. Как им соответствовать внешне?

Esquire
«Кодекс общежития»: как основатели Skyeng не сломались на старте «Кодекс общежития»: как основатели Skyeng не сломались на старте

Компания Skyeng смогла преодолеть несколько кризисов и не развалиться

Forbes
Заболеет ли доллар? Чем грозят вашим сбережениям деньги, «разбрасываемые с вертолета» в США Заболеет ли доллар? Чем грозят вашим сбережениям деньги, «разбрасываемые с вертолета» в США

Комплекс мер по стимулированию экономики США оценивается в $2 трлн долларов

Forbes
Покидая зону комфорта, приготовьтесь... ко сну Покидая зону комфорта, приготовьтесь... ко сну

Исследование сна плодовых мух может помочь людям, страдающим от бессонницы

Популярная механика
Неделя на афродизиаках: дарит ли такая диета сексуальное возбуждение? Неделя на афродизиаках: дарит ли такая диета сексуальное возбуждение?

Что будет, если целую неделю питаться только афродизиаками?

Cosmopolitan
Инъекция стволовых клеток в мозг затормозила болезнь Паркинсона Инъекция стволовых клеток в мозг затормозила болезнь Паркинсона

Технология клеточного репрограммирования может помочь при болезни Паркинсона

N+1
Открыть в приложении