Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чем заняться дома зимой? Чем заняться дома зимой?

Как разнообразить свой досуг, не покидая дома?

Psychologies
Искусственный интеллект в деле Искусственный интеллект в деле

Может ли развитие искусственного интеллекта угрожать человеку?

Лиза
«Граффити викингов»! Археологи нашли самый древний рисунок Исландии «Граффити викингов»! Археологи нашли самый древний рисунок Исландии

Археологи в Исландии обнаружили самый старый известный рисунок в стране

ТехИнсайдер
Неожиданный финал: знаешь ли ты, что у истории Шурика и Нины из «Кавказской пленницы» есть продолжение? Неожиданный финал: знаешь ли ты, что у истории Шурика и Нины из «Кавказской пленницы» есть продолжение?

Как сложилась судьба Шурика и Нины из «Кавказской пленницы»

VOICE
Неудобный разговор: как подготовиться и донести мысль — 4 правила Неудобный разговор: как подготовиться и донести мысль — 4 правила

Как не утратить взаимопонимание и доверие при обсуждении сложных вопросов

Psychologies
Соцсети, которые взорвали Интернет и так же быстро сдулись Соцсети, которые взорвали Интернет и так же быстро сдулись

Рассказываем, куда и почему пропали MySpace, Google+, Periscope и Clubhouse

Maxim
Археологи в Англии закопают обратно свою находку! Вот зачем это нужно Археологи в Англии закопают обратно свою находку! Вот зачем это нужно

Чтобы сохранить артефакты, археологи иногда закапывают их обратно в землю

ТехИнсайдер
Как одеться в дождь и отлично выглядеть — 5 идей от героев стритстайла Как одеться в дождь и отлично выглядеть — 5 идей от героев стритстайла

Как в дождливую погоду одеваться без риска промокнуть и без ущерба стилю?

Правила жизни
До самых до окраин До самых до окраин

4 интересных автомобильных маршрута для яркого и незабываемого отпуска

Лиза
Оценка социального воздействия кампании Фонда Хабенского | Social Impact Assessment of the Khabensky Foundation’s Campaign Оценка социального воздействия кампании Фонда Хабенского | Social Impact Assessment of the Khabensky Foundation’s Campaign

Как кампания Фонда Хабенского повлияла на канцерофобию в обществе?

Позитивные изменения
Как текстильная промышленность влияла на культуру, экономику и политику Как текстильная промышленность влияла на культуру, экономику и политику

О тканях как об одном из главных товаров в истории человечества

СНОБ
Американская история преступления: теории заговора об убийстве Джанни Версаче Американская история преступления: теории заговора об убийстве Джанни Версаче

Как погиб Джанни Версаче?

Правила жизни
Что такое нависшее веко и как его убрать с помощью косметолога и хирурга Что такое нависшее веко и как его убрать с помощью косметолога и хирурга

Причины появления нависшего века, способы его убрать и скрыть под макияжем

РБК
Куда поехать на север: туры в самые труднодоступные места России Куда поехать на север: туры в самые труднодоступные места России

Интересные туры в северные регионы России

СНОБ
Активные тучные клетки заставили мышей избегать аллерген Активные тучные клетки заставили мышей избегать аллерген

Названы главные медиаторы воспаления, опосредующие избегание пищевого аллергена

N+1
К китам и оленям: как в России растет спрос на приключенческий туризм К китам и оленям: как в России растет спрос на приключенческий туризм

Приключенческий туризм, который раньше был незаметен, выходит в массовый сегмент

Forbes
От Месси до Малкома: как испанские налоговые органы преследуют футболистов От Месси до Малкома: как испанские налоговые органы преследуют футболистов

Почему в Испании возбуждают так много дел против топ-игроков?

Forbes
«Работа нашла меня сама»: как я за полгода стала разработчиком и техническим писателем «Работа нашла меня сама»: как я за полгода стала разработчиком и техническим писателем

Наталье было 32 года, когда она решила попробовать себя в абсолютно новой сфере

VOICE
Направления для управления: где власти хотят использовать искусственный интеллект Направления для управления: где власти хотят использовать искусственный интеллект

Минцифры предложило перечень направлений для развития технологий ИИ

Forbes
Перестаньте выбрасывать фисташковую скорлупу: 5 гениальных идей, как использовать ее в быту Перестаньте выбрасывать фисташковую скорлупу: 5 гениальных идей, как использовать ее в быту

Фисташковая скорлупа может пригодиться вам в доме и на даче!

ТехИнсайдер
Жертвоприношения, голод и изоляция: что пережили звезды, которые были членами секты Жертвоприношения, голод и изоляция: что пережили звезды, которые были членами секты

Ты удивишься, как много знаменитостей были связаны с сектами

VOICE
Лучшие игры про детективов на ПК: топ-10 увлекательных проектов Лучшие игры про детективов на ПК: топ-10 увлекательных проектов

Лучшие игры-расследования на ПК

CHIP
Раз, два, Чарли заберет тебя: гид по страшным культам XX века Раз, два, Чарли заберет тебя: гид по страшным культам XX века

Самые известные секты, которые появились в XX веке: что в них общего?

Правила жизни
Инженеры сделали трехколесный трехсредный трикоптер Инженеры сделали трехколесный трехсредный трикоптер

Трикоптер плавает со скоростью 2 м/с, а скорость на суше составляет 0,5 м/с

N+1
Тимур Соловьев: искусство быть бодрым по утрам Тимур Соловьев: искусство быть бодрым по утрам

История-пробуждение от ведущего утренних эфиров Тимура Соловьева

Maxim
Как носить бижутерию, чтобы не выглядеть «дешево»: мнение стилиста Как носить бижутерию, чтобы не выглядеть «дешево»: мнение стилиста

Развенчиваем мифы: не только в ювелирных украшениях можно выглядеть дорого

VOICE
О спорт, ты мозг! Как физическая активность влияет на когнитивные функции? О спорт, ты мозг! Как физическая активность влияет на когнитивные функции?

Как тренировки улучшают память и концентрацию?

Правила жизни
Душ и радар: топ-5 уникальных гаджетов для автомобиля Душ и радар: топ-5 уникальных гаджетов для автомобиля

Без каких девайсов не обойтись в долгой поездке

Maxim
Гранж, наркотики и Курт Кобейн: что нужно знать о Кортни Лав Гранж, наркотики и Курт Кобейн: что нужно знать о Кортни Лав

Многие до сих пор винят ее в смерти Курта

Правила жизни
Раннемеловое млекопитающее поохотилось на динозавра втрое тяжелее себя Раннемеловое млекопитающее поохотилось на динозавра втрое тяжелее себя

Необычная окаменелость, которая сохранила сцену охоты Repenomamus robustus

N+1
Открыть в приложении