Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Уйди, прошу, бессонница! И спать пора, и никак не уснуть... Уйди, прошу, бессонница! И спать пора, и никак не уснуть...

Бессонница — серьезная проблема, мешающая нормально жить. Как с ней справиться?

Лиза
Джентльменские клубы наоборот: как женщины создавали альтернативу мужским сообществам Джентльменские клубы наоборот: как женщины создавали альтернативу мужским сообществам

История женских клубов, в которых обсуждали равноправие и избирательные права

Forbes
18-летняя мама пыталась нанять киллера в интернете, чтобы убить своего 3-летнего сына 18-летняя мама пыталась нанять киллера в интернете, чтобы убить своего 3-летнего сына

Журналисты сообщили, что молодая мама из США решила избавиться от своего ребенка

ТехИнсайдер
Особенности национального сериалостроения Особенности национального сериалостроения

Самые показательные сериалы разных стран

Weekend
Роботы на далеких планетах и спутниках будут сами принимать решения Роботы на далеких планетах и спутниках будут сами принимать решения

Роботы смогут самостоятельно принимать решения о том, где и как забирать грунт

ТехИнсайдер
Чистка электричеством Чистка электричеством

Можно ли обеззаразить воду хлорированием, не добавляя ни грамма хлорки?

ТехИнсайдер
Женский саботаж Женский саботаж

5 способов не убить отношения в самом начале

Лиза
Необъяснимые загадки молний: почему нельзя звонить в грозу и как электричество срывает с людей одежду Необъяснимые загадки молний: почему нельзя звонить в грозу и как электричество срывает с людей одежду

Молния — физическое явление, способное вытворять очень странные штуки

Maxim
Орангутаны-мигранты позаимствовали пищевые привычки у местных Орангутаны-мигранты позаимствовали пищевые привычки у местных

У кого именно и как долго орангутаны-мигранты учатся есть новую для них пищу

N+1
Развод на 35 миллионов: как экс-супруг отомстил москвичке Развод на 35 миллионов: как экс-супруг отомстил москвичке

Что побуждает людей мстить бывшим?

Psychologies
Как он это делает: 17 лучших ролей Киллиана Мёрфи (в порядке возрастания восторга) Как он это делает: 17 лучших ролей Киллиана Мёрфи (в порядке возрастания восторга)

Собрали 17 лучших проектов с Киллианом Мёрфи, в которых раскрывается его талант

Правила жизни
Почему наводнения происходят все чаще: эпоха великих катастроф Почему наводнения происходят все чаще: эпоха великих катастроф

Почему природные катаклизмы стали посещать нас с завидной регулярностью?

Maxim
«Ребенок захлебывался и кашлял»: что такое акушерское насилие и почему оно происходит. Часть 3. Уход за новорожденным «Ребенок захлебывался и кашлял»: что такое акушерское насилие и почему оно происходит. Часть 3. Уход за новорожденным

С чем сталкиваются женщины и их новорожденные дети в роддомах?

Psychologies
Как холдинг бывшего участника списка Forbes простил ему 26 млрд рублей долга Как холдинг бывшего участника списка Forbes простил ему 26 млрд рублей долга

Как выдавались займы и прощались долги в УСМК

Forbes
В океане живут бессмертные существа, которые могли видеть динозавров В океане живут бессмертные существа, которые могли видеть динозавров

«Бессмертная медуза» названа так потому, что теоретически она может жить вечно

ТехИнсайдер
Экспрессию генов включили током от батарейки Экспрессию генов включили током от батарейки

Для создания электрогенетического интерфейса использовали человеческие белки

N+1
Бюджетный органайзер: 7 идей, как использовать обувные коробки в быту Бюджетный органайзер: 7 идей, как использовать обувные коробки в быту

Мы знаем, что у вас осталась хотя бы пара коробок от обуви. Воспользуемся ими!

ТехИнсайдер
Свобода лучше, чем несвобода Свобода лучше, чем несвобода

Анджела Дэвис почти полвека остаётся иконой борьбы с несправедливостью

Дилетант
Как предотвратить потерю мышц при похудении Как предотвратить потерю мышц при похудении

Увы, но наш организм не может просто терять жир

ТехИнсайдер
Жутко громко и запредельно опасно: как шум убивает нас Жутко громко и запредельно опасно: как шум убивает нас

Громкие звуки провоцируют появление хронической бессонницы у людей

ТехИнсайдер
Никакого розового: семь серьезных фильмов о первой любви, снятых женщинами Никакого розового: семь серьезных фильмов о первой любви, снятых женщинами

Мелодрамы, демонстрирующие глубокий взгляд на романтические отношения

Forbes
Промежуточная еда: как перекусить с пользой для здоровья Промежуточная еда: как перекусить с пользой для здоровья

Вместе с экспертами отвечаем на вечный вопрос, что бы еще съесть, чтобы похудеть

Правила жизни
Тибетские выдры пристрастились к выпускаемой буддистами рыбе Тибетские выдры пристрастились к выпускаемой буддистами рыбе

Тибетские выдры явно предпочитают охотиться на чужеродные виды рыб

N+1
Хотела «взбодрить» грудь: жертва пластики Тимура Хайдарова рассказала, как он ее изуродовал Хотела «взбодрить» грудь: жертва пластики Тимура Хайдарова рассказала, как он ее изуродовал

Известный пластический хирург оказался втянут в громкий скандал

VOICE
После секса: как на самом деле ведут себя мужчины и женщины — объяснение ученых После секса: как на самом деле ведут себя мужчины и женщины — объяснение ученых

Близость после секса необходима для обоих партнеров

Psychologies
Охота за иконами: как СССР создавал мировой спрос на древнерусское искусство Охота за иконами: как СССР создавал мировой спрос на древнерусское искусство

Глава из книги «Судьбы икон в Стране Советов. 1920–1930-е»

Forbes
Мода на седаны Мода на седаны

Как марка Omoda повлияла на любовь к седанам

Автопилот
Перекрестная иммунореактивность помогла при лечении меланомы Перекрестная иммунореактивность помогла при лечении меланомы

Рецептор, узнающий одновременно три разных опухолевых антигена

N+1
За 30 лет число детей с диабетом выросло на 40 процентов За 30 лет число детей с диабетом выросло на 40 процентов

Уровень заболеваемости диабетом увеличился с 9,31 до 11,61 на 100000 населения

N+1
«От измены всегда страдают лишь женщины»: мнение читательницы комментирует психолог «От измены всегда страдают лишь женщины»: мнение читательницы комментирует психолог

Правда ли, что от измен всегда страдает только женщина?

Psychologies
Открыть в приложении