Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как заниматься сексом с маленьким членом: лучшие позы и основные нюансы Как заниматься сексом с маленьким членом: лучшие позы и основные нюансы

Коллекция сексуальных поз, подходящих для пениса меньше среднего размера

Playboy
Зумеры на бумере Зумеры на бумере

Василий Степанов о сериале «Мир! Дружба! Жвачка!»

Weekend
Секс и страх: 20 лучших триллеров с эротическим подтекстом Секс и страх: 20 лучших триллеров с эротическим подтекстом

Фильмы ужасов уместно заигрывают с теорией и практикой соблазнения

Esquire
Зри в корень! Как уберечь глаза на удаленке Зри в корень! Как уберечь глаза на удаленке

Что поможет сохранить зрение в период самоизоляции?

Лиза
Трофей из России — легендарный Т-34 на службе вдали от дома Трофей из России — легендарный Т-34 на службе вдали от дома

Т-34 побывал везде - в Европе, на Ближнем Востоке, в Африке

Maxim
Как хорошо выглядеть во время видеоконференций: 5 простых советов Как хорошо выглядеть во время видеоконференций: 5 простых советов

Совещания в Zoom новой реальностью. Как им соответствовать внешне?

Esquire
Нанодвигатель: как работает мотор, созданный бактериями Нанодвигатель: как работает мотор, созданный бактериями

Как работает клеточный двигатель, изобретенный бактериями

Популярная механика
«Катюша»: оружие победителей «Катюша»: оружие победителей

Реактивные системы залпового огня БМ-8 и БМ-13 — символ победы СССР

Популярная механика
Как сохранять мотивацию и не отвлекаться на удаленной работе Как сохранять мотивацию и не отвлекаться на удаленной работе

Как сохранять позитивный настрой и получать удовольствие от работы дома

РБК
Русская чайная машина братьев Баташевых Русская чайная машина братьев Баташевых

В 1909 году Тулу взбаламутили слухи о проезде через город императорской семьи

Караван историй
Автомобилистов предупредили о магнитных бурях. Как теперь ездить? Автомобилистов предупредили о магнитных бурях. Как теперь ездить?

Как погода влияет на реакцию водителей и почему лучше не пить лекарства за рулем

РБК
Машина апокалипсиса: как скрестить ракетовоз с тепловозом Машина апокалипсиса: как скрестить ракетовоз с тепловозом

История знает немало амбициозных проектов по скрещиванию техники

Популярная механика
Тихий убийца отношений и два способа его победить Тихий убийца отношений и два способа его победить

Рутина — убийца отношений, которого мы замечаем слишком поздно

Psychologies
До лампочки: вредно ли ездить с пустым баком До лампочки: вредно ли ездить с пустым баком

Часто водители ездят до момента, пока не загорается лампа низкого уровня топлива

Популярная механика
Соцсети и карьера: как вести аккаунты, чтобы найти работу Соцсети и карьера: как вести аккаунты, чтобы найти работу

Что и как постить, если вы претендуете на хорошую вакансию

РБК
Тяжелая вода оказалась сладкой Тяжелая вода оказалась сладкой

Биохимики подтвердили сладкий вкус тяжелой воды

N+1
Современное оружие против атомных бомб Второй мировой: цифры и факты Современное оружие против атомных бомб Второй мировой: цифры и факты

Насколько велик разрушительный потенциал современного ядерного вооружения?

Популярная механика
«В России любят миловать»: как Регина Тодоренко потеряла десятки миллионов рублей, но завоевала тысячи новых подписчиков «В России любят миловать»: как Регина Тодоренко потеряла десятки миллионов рублей, но завоевала тысячи новых подписчиков

Как быстрые и правильные шаги помогли Регине Тодоренко восстановить репутацию

Forbes
Криптовалюты Telegram не будет — Павел Дуров закрыл проект TON Криптовалюты Telegram не будет — Павел Дуров закрыл проект TON

История TON привлекла много внимания не только со стороны рынка криптовалют

Популярная механика
Просто товар Просто товар

Когда нефть перестанет быть нефтью?

Forbes
Связать и измерить Связать и измерить

Квантовые технологии обладают огромным потенциалом

N+1
Бананы, песок и пчёлы: 10 ресурсов на грани исчезновения Бананы, песок и пчёлы: 10 ресурсов на грани исчезновения

Без этих ресурсов наша жизнь станет гораздо труднее

Популярная механика
Как программист из Ульяновска построил бизнес на $100 млн, привлек инвестиции в США и стал героем фильма Дудя о Долине Как программист из Ульяновска построил бизнес на $100 млн, привлек инвестиции в США и стал героем фильма Дудя о Долине

Руслан Фазлыев к 40 годам создал два глобальных IT-бизнеса

Forbes
На свободу с чистой совестью: что знаки зодиака будут делать после карантина На свободу с чистой совестью: что знаки зодиака будут делать после карантина

Что мы будем делать, когда вырвемся на свободу

Cosmopolitan
Гостевой брак: в чем его преимущества? Гостевой брак: в чем его преимущества?

Помогает ли раздельное проживание с партнером сохранить любовь в отношениях?

Psychologies
США объявили новые правила освоения Луны США объявили новые правила освоения Луны

НАСА подготовило правовые нормы для участников программы освоения Луны

Популярная механика
Гетероструктурные меньшинства Гетероструктурные меньшинства

Графен препятствует инженерам, но не запрещает одежде быть высокотехнологичной

N+1
Затмила Монику Беллуччи? Кто такая Дева Кассель и почему ее ждет большое будущее Затмила Монику Беллуччи? Кто такая Дева Кассель и почему ее ждет большое будущее

Что известно о дочери Моники Беллуччи и каких успехов она уже добилась

Cosmopolitan
Боевой раскрас? Как выглядят участницы реалити «Солдатки» на шоу и в жизни Боевой раскрас? Как выглядят участницы реалити «Солдатки» на шоу и в жизни

Героини реалити «Солдатки» рискнули всем, чтобы перевернуть свою жизнь

Cosmopolitan
Изучение динамики уровня моря в кайнозое подтвердило роль человека в его современном повышении Изучение динамики уровня моря в кайнозое подтвердило роль человека в его современном повышении

Циклы Миланковича в изменении уровня моря были решающим фактором лишь до XX века

N+1
Открыть в приложении