Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

6 шагов к развитию эмоционального интеллекта 6 шагов к развитию эмоционального интеллекта

Как научиться понимать других – и как сделать так, чтобы они лучше понимали нас

Psychologies
Просто дети стали старше: чем хороша и чем плоха «Барби» Греты Гервиг Просто дети стали старше: чем хороша и чем плоха «Барби» Греты Гервиг

С какими концептуальными проблемами сталкивается игрушечная сатира

Правила жизни
Австралийские животные плохо справились с расселением в Азию из-за адаптаций к засушливому климату Австралийские животные плохо справились с расселением в Азию из-за адаптаций к засушливому климату

Аочему австралийским животным труднее расселяться в Азию, чем наоборот

N+1
Игры разума, в которые играют люди: 7 самых распространенных видов манипуляций Игры разума, в которые играют люди: 7 самых распространенных видов манипуляций

Что нужно знать о манипуляциях?

Psychologies
Откуда у хлопца африканская грусть Откуда у хлопца африканская грусть

Зачем России нужны иностранные студенты и зачем им нужна Россия

Эксперт
Связи решают все: как работает теория 6 рукопожатий — объяснение математиков Связи решают все: как работает теория 6 рукопожатий — объяснение математиков

Уаждый человек заочно знаком с любым другим жителем планеты

Psychologies
Крах города машин. 10 лет назад Детройт объявил о банкротстве Крах города машин. 10 лет назад Детройт объявил о банкротстве

Банкротству Детройта в США исполнилось 10 лет

РБК
Как сделать автоответчик на айфоне Как сделать автоответчик на айфоне

Как поставить автоответчик на айфон и почему это удобно

CHIP
Раннемеловое млекопитающее поохотилось на динозавра втрое тяжелее себя Раннемеловое млекопитающее поохотилось на динозавра втрое тяжелее себя

Необычная окаменелость, которая сохранила сцену охоты Repenomamus robustus

N+1
Лео Бокерия: «Я обожаю само слово «сердце» Лео Бокерия: «Я обожаю само слово «сердце»

Кардиохирург Лео Бокерия — одна из самых легендарных личностей в нашей медицине

Коллекция. Караван историй
9 признаков пограничного расстройства личности: разбор с психотерапевтом 9 признаков пограничного расстройства личности: разбор с психотерапевтом

Почему не стоит демонизировать пограничное расстройство личности?

Psychologies
Ляг и лежи Ляг и лежи

5 причин, почему валяться на диване полезно для здоровья

Лиза
Мария Кровавая: как дочь Екатерины Арагонской боролась за престол и правила Англией Мария Кровавая: как дочь Екатерины Арагонской боролась за престол и правила Англией

Марии Кровавой приходилось долгие годы бороться за трон и за свою жизнь

Forbes
Смерть им к лицу: каково это — побывать на спиритическом сеансе начала XX века Смерть им к лицу: каково это — побывать на спиритическом сеансе начала XX века

Чем жителей Питера так манил сверхъестественный мир?

Правила жизни
Рекорды российского футбола: достижения «Зенита» 20-летней давности и серия ЦСКА Рекорды российского футбола: достижения «Зенита» 20-летней давности и серия ЦСКА

Forbes.Спорт рассказывает других командных рекордах российского футбола

Forbes
Говорить «нет»: 6 ситуаций, когда это необходимо Говорить «нет»: 6 ситуаций, когда это необходимо

Это маленькое слово имеет большой вес, но сказать его непросто

Psychologies
Композиторов Штраусов было шесть штук, учим отличать одного от другого Композиторов Штраусов было шесть штук, учим отличать одного от другого

Краткий путеводитель по Штраусам

Maxim
«Невыносимая легкость бытия»: как Милан Кундера выбрал уединение и чистую литературу «Невыносимая легкость бытия»: как Милан Кундера выбрал уединение и чистую литературу

Как Милан Кундера отказался от общественной жизни и посвятил себя литературе

Forbes
Мимикрия: 15 примеров животных, которые скрывают свою истинную сущность Мимикрия: 15 примеров животных, которые скрывают свою истинную сущность

Козырём в рукаве можно назвать мимикрию — способность маскироваться

ТехИнсайдер
Не будущее, а всегда существующее Не будущее, а всегда существующее

Яков Чернихов как единственный в СССР создатель архитектурного абсолюта

Weekend
«Красивый, плохой, злой»: почему женщины влюбляются в маньяков — 2 фильма о психологии поклонниц «Красивый, плохой, злой»: почему женщины влюбляются в маньяков — 2 фильма о психологии поклонниц

Вспоминаем две такие картины о самых жестоких убийцах XX века

Psychologies
Остановка в Боровичах Остановка в Боровичах

Экскурсия в усадьбу купцов Митрофановых, где открыт ресторан Most

Новый очаг
В жителях Мачу-Пикчу разглядели выходцев из разных уголков империи Инков и Амазонии В жителях Мачу-Пикчу разглядели выходцев из разных уголков империи Инков и Амазонии

Палеогенетики отсеквенировали ДНК 34 человек в знаменитом Мачу-Пикчу

N+1
Здоровье от природы Здоровье от природы

7 эффективных природных антибиотиков

Лиза
Почему так трудно распознать биполярное расстройство: две реальные истории Почему так трудно распознать биполярное расстройство: две реальные истории

Биполярное расстройство: как не спутать его с другими болезнями?

Psychologies
Когда женщины начали носить лифчики? Интересные факты! Когда женщины начали носить лифчики? Интересные факты!

Бюстгальтер — привычное нижнее белье на пересечении моды и функциональности

ТехИнсайдер
Трагическая жизнь Шинейд О'Коннор: «пытки» в детстве, смерть сына и четыре неудачных брака Трагическая жизнь Шинейд О'Коннор: «пытки» в детстве, смерть сына и четыре неудачных брака

Трагическая история жизни Шинейд О'Коннор

VOICE
Идеальный партнер: миф или реальность — размышления психоаналитиков Идеальный партнер: миф или реальность — размышления психоаналитиков

Отправляясь на поиски идеала, кого мы хотим встретить? И нужен ли этот идеал?

Psychologies
Как носить бижутерию, чтобы не выглядеть «дешево»: мнение стилиста Как носить бижутерию, чтобы не выглядеть «дешево»: мнение стилиста

Развенчиваем мифы: не только в ювелирных украшениях можно выглядеть дорого

VOICE
Люди потерпели боль ради бесполезной информации Люди потерпели боль ради бесполезной информации

Ученые узнали, что люди готовы терпеть боль ради избегания неизвестности

N+1
Открыть в приложении