Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Из углеродных нанотрубок сделали невесомую броню, которая прочнее кевлара Из углеродных нанотрубок сделали невесомую броню, которая прочнее кевлара

Инженеры создали новый тип сверхлегкого броневого материала

Популярная механика
Диджитализация романтики: как искусственный интеллект изменил знакомства и отношения Диджитализация романтики: как искусственный интеллект изменил знакомства и отношения

Как нейросети помогают тем, кто боится или не умеет знакомиться?

Forbes
О чем фильм «Барби»: 5 теорий — версии фанатов О чем фильм «Барби»: 5 теорий — версии фанатов

В чем смысл фильма «Барби»?

Psychologies
Сразу не заметишь Сразу не заметишь

5 неочевидных симптомов, которые указывают на хронический стресс

Лиза
5-аминолевулиновая кислота помогла дрозофилам с дефектом дыхательной цепи выработать АТФ 5-аминолевулиновая кислота помогла дрозофилам с дефектом дыхательной цепи выработать АТФ

Открытие, которое может помочь в лечении митохондриальных нарушений

N+1
Птицы построили гнезда из противоптичьих шипов Птицы построили гнезда из противоптичьих шипов

Необычный материал для гнезд использовали сороки и черные вороны

N+1
Ароматная тайна Востока: что такое шамама, парфюмерная нота, которую невозможно описать, и в каких духах ее нужно искать Ароматная тайна Востока: что такое шамама, парфюмерная нота, которую невозможно описать, и в каких духах ее нужно искать

Аттара шамама: драгоценное парфюмерное снадобье, ароматное сердце Востока

VOICE
Говорить «нет»: 6 ситуаций, когда это необходимо Говорить «нет»: 6 ситуаций, когда это необходимо

Это маленькое слово имеет большой вес, но сказать его непросто

Psychologies
Все в школу! Иностранный язык может снизить количество ложных воспоминаний Все в школу! Иностранный язык может снизить количество ложных воспоминаний

Что такое ложные воспоминания и как с ними помогают бороться иностранные языки?

ТехИнсайдер
Карма и судьба: навсегда ли это или можно все изменить? Карма и судьба: навсегда ли это или можно все изменить?

Как душа получает свой опыт, и какую роль в этом играют звезды?

VOICE
Трогательный момент: зачем нужны прикосновения — ответ ученых Трогательный момент: зачем нужны прикосновения — ответ ученых

Прикосновения обладают целительной силой

Psychologies
Как в Калининграде развивается среда для людей с инвалидностью Как в Калининграде развивается среда для людей с инвалидностью

Роман Аранин развивает в Калининграде доступную среду для людей с инвалидностью

Forbes
Новозеландцы описали древнейшего малого пингвина Новозеландцы описали древнейшего малого пингвина

Древнейший малый пингвин жил более трех миллионов лет назад

N+1
Ведро из отходов и дом трех религий: лучшие дизайнерские проекты по версии Monocle Ведро из отходов и дом трех религий: лучшие дизайнерские проекты по версии Monocle

Экопроект, фотоаппарат и мечеть: самые интересные дизайнерские проекты 2023 года

Forbes
Колоссальный кальмар: с чего началась история открытия данного вида? Колоссальный кальмар: с чего началась история открытия данного вида?

В 1925 году Г.К. Робсон описал кальмара под названием Mesonychoteuthis hamilton

ТехИнсайдер
Как сохранить зрение при работе за компьютером: 6 правил, которые необходимо знать каждому Как сохранить зрение при работе за компьютером: 6 правил, которые необходимо знать каждому

Как не испортить зрение при работе за монитором?

ТехИнсайдер
История одной песни: «Barbie Girl», Aqua, 1997 История одной песни: «Barbie Girl», Aqua, 1997

Мифическую песню и клип, на который извели розовой краски больше, чем на Барби

Maxim
Образ Марго Робби из вещей российских брендов Образ Марго Робби из вещей российских брендов

Марго Робби перекрашивает мир в розовый цвет

СНОБ
Стыдные привычки, которые нам подарил СССР Стыдные привычки, которые нам подарил СССР

Если вам больше 40 лет, то перечисленные рефлексы вы уже в себе не переборете

Maxim
Когнитивная простота: откуда берется склонность к манипуляциям — интервью психолога Когнитивная простота: откуда берется склонность к манипуляциям — интервью психолога

Кто такие манипуляторы и какие люди становятся их жертвами?

Psychologies
«Король токсичной маскулинности»: к чему приводит мужской шовинизм — история Эндрю Тейта и комментарий психолога «Король токсичной маскулинности»: к чему приводит мужской шовинизм — история Эндрю Тейта и комментарий психолога

Подробно разбираем причины и последствия мужского шовинизма

Psychologies
Всё сложится Всё сложится

Модель Дарья Попова объясняет, как эталонно собирать чемодан

VOICE
Квантовые компьютеры Квантовые компьютеры

Квантовые компьютеры: как они появились и как устроены сейчас

Наука и жизнь
Едем в Марий Эл Едем в Марий Эл

Ради чего стоит отправиться в Марий Эл?

Лиза
Носики-курносики Носики-курносики

Порой иконографическое сравнение помогает «узнать» персонажа на картине

Дилетант
Правда ли, что на Руси люди парились в печи? Правда ли, что на Руси люди парились в печи?

Могли ли люди на Руси использовать печь вместо бани?

Культура.РФ
История игрушек: три культовые куклы на любой вкус, помимо Барби История игрушек: три культовые куклы на любой вкус, помимо Барби

Пони, трансформеры и фёрби: культовые куклы XX века

Правила жизни
Самый везучий неудачник: история Фране Селака, который 7 раз выживал в катастрофах и сорвал куш в лотерею Самый везучий неудачник: история Фране Селака, который 7 раз выживал в катастрофах и сорвал куш в лотерею

Согласитесь, эта история походит на сюжет какого-то фильма

ТехИнсайдер
Старые вещи: зачем «Мосгорломбард» вновь собрался на IPO Старые вещи: зачем «Мосгорломбард» вновь собрался на IPO

Сеть ломбардов «Мосгорломбард» планирует в IV квартале этого года выйти на биржу

Forbes
Капитальная филантропия: как Благотворительный фонд Потанина стал чемпионом 2022 года Капитальная филантропия: как Благотворительный фонд Потанина стал чемпионом 2022 года

Как фонд Благотворительный фонд Потанина стал независимым от основателя

Forbes
Открыть в приложении