Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Войти в колею Войти в колею

Что такое послеотпускной синдром и как его преодолеть

Лиза
Владимир Басов. Человек-праздник Владимир Басов. Человек-праздник

Басов снялся в десятках ролей, даже самые маленькие до сих пор любимы зрителями

Коллекция. Караван историй
Из чего сделана девчонка: 5 фильмов, вдохновивших Грету Гервиг на создание «Барби» Из чего сделана девчонка: 5 фильмов, вдохновивших Грету Гервиг на создание «Барби»

Как эти неординарные фильмы вдохновили Грету Гервиг?

Правила жизни
Эстетика Эстетика

Чтобы окунуться в люкс, достаточно надеть продуманный теннисный образ

VOICE
Митя Фомин: «Мечтаю полететь в космос!» Митя Фомин: «Мечтаю полететь в космос!»

«Все имеет свою цену. У успеха и признания, безусловно, есть обратная сторона»

Караван историй
Партнерство, деньги, собственное эго: предприниматели — о главных развилках в бизнесе Партнерство, деньги, собственное эго: предприниматели — о главных развилках в бизнесе

Самые интересные части беседы на форуме «Успех к 30: взгляд на новый мир»

Forbes
Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты

Почему сегмент барбершопов так быстро растет?

Forbes
4 книги о цифровой индустрии и ее влиянии на человека 4 книги о цифровой индустрии и ее влиянии на человека

Книги, которые помогут разобраться в истории возникновения цифровой эры

СНОБ
Как отключить подписку Кинопоиск HD: 4 способа Как отключить подписку Кинопоиск HD: 4 способа

Как отменить подписку на Кинопоиск на смартфоне, компьютере, телевизоре

CHIP
Видимо-невидимо: как женщины на работе прячут эмоции, усталость и собственное мнение Видимо-невидимо: как женщины на работе прячут эмоции, усталость и собственное мнение

Как устроен невидимый эмоциональный труд женщин

Forbes
Развод на 35 миллионов: как экс-супруг отомстил москвичке Развод на 35 миллионов: как экс-супруг отомстил москвичке

Что побуждает людей мстить бывшим?

Psychologies
Феномен ночной прокрастинации: почему мы откладываем отход ко сну даже тогда, когда очень сильно хотим спать Феномен ночной прокрастинации: почему мы откладываем отход ко сну даже тогда, когда очень сильно хотим спать

А вы знали, что залипание в телефоне в ущерб своему сну – это такая форма мести?

ТехИнсайдер
Как выглядят чародейки в 3 сезоне «Ведьмака»: теперь зрители ненавидят этот сериал Как выглядят чародейки в 3 сезоне «Ведьмака»: теперь зрители ненавидят этот сериал

Почему сериал «Ведьмак» получил сотни негативных отзывов?

VOICE
Тень отца: как твой папа влияет на твои отношения с мужчинами - 6 типичных сценариев Тень отца: как твой папа влияет на твои отношения с мужчинами - 6 типичных сценариев

Почему в романтических отношениях мы часто ищем отражение своего папы?

VOICE
«Делирий», глава из бестселлера британского нейробиолога Анила Сета «Быть собой: Новая теория сознания» «Делирий», глава из бестселлера британского нейробиолога Анила Сета «Быть собой: Новая теория сознания»

Профессор нейробиологии Анил Сет приоткрывает окно внутрь нашего сознания

Правила жизни
Лунная диета. Прощайте, лишние килограммы Лунная диета. Прощайте, лишние килограммы

Луна управляет не только приливами и отливами в морях и океанах

Лиза
О феномене Мадонны и наследии Карла Лагерфельда. Заметки искусствоведа Изабель Грав О феномене Мадонны и наследии Карла Лагерфельда. Заметки искусствоведа Изабель Грав

«В другом мире. Заметки 2014-2017» — это сборник эссе искусствоведа и куратора

СНОБ
Виртуальный номер телефона: что это, и как его получить Виртуальный номер телефона: что это, и как его получить

Что такое виртуальный номер телефона и зачем он нужен?

CHIP
Первые успехи и неудачи: как ситуации из детства влияют на самооценку — наглядный пример Первые успехи и неудачи: как ситуации из детства влияют на самооценку — наглядный пример

Как научиться чаще замечать собственные успехи?

Psychologies
Что делать, если потерял ключи: инструкция Что делать, если потерял ключи: инструкция

Как восстановить ключи, что делать с сигнализацией во время вскрытия автомобиля

РБК
Секреты китайского автомира. Что полезно знать о машинах из Поднебесной Секреты китайского автомира. Что полезно знать о машинах из Поднебесной

Как Китай поставляет нам машины уже прямиком из будущего

СНОБ
Русские кошки: породы, выведенные в России и СССР Русские кошки: породы, выведенные в России и СССР

Аборигенные породы, которые вывели российские фелинологи

Maxim
Разум Елены: фантастический роман о нейросети, которая помогает познать Вселенную Разум Елены: фантастический роман о нейросети, которая помогает познать Вселенную

Отрывок из фантастического романа Аллы Горбуновой «Ваша жестянка сломалась»

Forbes
Капля жизни Капля жизни

Красивая этикетка не гарантируют качества воды. А что гарантирует?

Лиза
Освещение с датчиком движения: какой светильник выбрать Освещение с датчиком движения: какой светильник выбрать

Вопрос комфортного освещения может быть решен светильником с датчиком движения

CHIP
Как научиться слышать себя: 2 легких, но эффективных упражнения Как научиться слышать себя: 2 легких, но эффективных упражнения

Как часто в течение дня мы обращаем внимание на то, что чувствуем?

Psychologies
Почему так важно обращать внимание на версию Bluetooth? Почему так важно обращать внимание на версию Bluetooth?

На что влияет версия Bluetooth на телефоне и наушниках?

CHIP
7 желаний, которые можно исполнить в одном месте 7 желаний, которые можно исполнить в одном месте

Подборка необычных занятий для тех, у кого мало времени на отпуск

СНОБ
Раз, два, Чарли заберет тебя: гид по страшным культам XX века Раз, два, Чарли заберет тебя: гид по страшным культам XX века

Самые известные секты, которые появились в XX веке: что в них общего?

Правила жизни
Карма и судьба: навсегда ли это или можно все изменить? Карма и судьба: навсегда ли это или можно все изменить?

Как душа получает свой опыт, и какую роль в этом играют звезды?

VOICE
Открыть в приложении