Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Третья версия интернета: почему технология web3 интереснее раскрученной метавселенной Третья версия интернета: почему технология web3 интереснее раскрученной метавселенной

Следующей версией интернета будет не метавселенная в стиле Meta, а web3

Forbes
Митя Фомин: «Мечтаю полететь в космос!» Митя Фомин: «Мечтаю полететь в космос!»

«Все имеет свою цену. У успеха и признания, безусловно, есть обратная сторона»

Караван историй
«На жестовом языке видят сны»: как Елена Максимова создала проект по поддержке глухих «На жестовом языке видят сны»: как Елена Максимова создала проект по поддержке глухих

Основательница организации «Услышать тишину» — о сообществе глухих людей

Forbes
От чего зависит уровень гибкости каждого человека? От чего зависит уровень гибкости каждого человека?

Почему один человек может легко сесть на шпагат, а другому для этого нужны годы

ТехИнсайдер
Операция «Ы» и другие приключения шерифа Операция «Ы» и другие приключения шерифа

«Мэгги Мур(ы)»: криминальная комедия с Джоном Хэммом

Weekend
«Бросить вызов голливудским ожиданиям»: как Флоренс Пью меняет образ женщины в кино «Бросить вызов голливудским ожиданиям»: как Флоренс Пью меняет образ женщины в кино

Как Флоренс Пью стала новым лицом феминизма в киноиндустрии.

Forbes
«Кукум». Отрывок из книги канадского писателя Мишеля Жана «Кукум». Отрывок из книги канадского писателя Мишеля Жана

Отрывок из пронзительного романа о любви «Кукум»

СНОБ
Читмил Читмил

Читмил: плюсы и минусы запланированных нарушений диеты

Здоровье
Константин Потапов Константин Потапов

Победитель Heineken Regatta — как прийти в яхтинг и что нужно, чтобы побеждать

Y Magazine
Как нельзя снимать наращенные ресницы самой: 9 железных табу Как нельзя снимать наращенные ресницы самой: 9 железных табу

Последствия самостоятельного избавления от наращенных ресниц

VOICE
Как в Фонде борьбы с лейкемией помогают подопечным перезапустить карьеру Как в Фонде борьбы с лейкемией помогают подопечным перезапустить карьеру

Как проект «Самое время жить. Карьера» помогает людям вернуться на рынок труда

Forbes
Космический телескоп Евклид будет искать темную материю Космический телескоп Евклид будет искать темную материю

Миссия Европейского космического агентства Евклид снимет миллиарды галактик

ТехИнсайдер
«Я и так знаю, что он мне скажет»: 6 причин, по которым люди не идут к психологу «Я и так знаю, что он мне скажет»: 6 причин, по которым люди не идут к психологу

Что лежит в основе нежелания работать с психологом?

Psychologies
«Измены мужа — ответственность жены»? 6 причин мужской неверности «Измены мужа — ответственность жены»? 6 причин мужской неверности

Как быть? Давайте для начала разберемся, почему мужчины изменяют

Psychologies
«Арабская Симона де Бовуар»: как Наваль эль-Саадави боролась за права женщин в Египте «Арабская Симона де Бовуар»: как Наваль эль-Саадави боролась за права женщин в Египте

Наваль эль-Саадави пожертвовала карьерой врача ради борьбы за права женщин

Forbes
Будь моей добычей. Гендерные роли древних предков человека Будь моей добычей. Гендерные роли древних предков человека

Ученые разрушают стереотип «мужчина — охотник, женщина — добыча».

СНОБ
«Я хочу быть лысым и злым». Сергей Гилев — о фильме «Кентавр», сериалах про маньяков и Александре Невском «Я хочу быть лысым и злым». Сергей Гилев — о фильме «Кентавр», сериалах про маньяков и Александре Невском

Сергей Гилев — о том, что не так с современными сценариями

Правила жизни
«Нить истории» «Нить истории»

Как прялка, веретено и ткацкий станок помогли построить цивилизацию

N+1
Тепловое зрение HADAR рассмотрит текстуру предметов даже ночью Тепловое зрение HADAR рассмотрит текстуру предметов даже ночью

Ученые разработали технологию пассивного теплового зрения HADAR

N+1
Неудобный разговор: как подготовиться и донести мысль — 4 правила Неудобный разговор: как подготовиться и донести мысль — 4 правила

Как не утратить взаимопонимание и доверие при обсуждении сложных вопросов

Psychologies
Тельца Краузе в клиторе и пенисе мышей отреагировали на вибрацию Тельца Краузе в клиторе и пенисе мышей отреагировали на вибрацию

Мыши без телец Краузе с трудом начинали половой акт

N+1
Я всего лишь хотел нормального Рождества: 5 причин, почему «Крепкий орешек» — идеальный боевик Я всего лишь хотел нормального Рождества: 5 причин, почему «Крепкий орешек» — идеальный боевик

Почему мы готовы пересматривать «Крепкий орешек» из года в год?

Правила жизни
Разум Елены: фантастический роман о нейросети, которая помогает познать Вселенную Разум Елены: фантастический роман о нейросети, которая помогает познать Вселенную

Отрывок из фантастического романа Аллы Горбуновой «Ваша жестянка сломалась»

Forbes
От принтера и CD-диска до джедайского меча. Кто придумал лазер От принтера и CD-диска до джедайского меча. Кто придумал лазер

Как советские физики придумали первое лазерное устройство?

СНОБ
Спустя 500 дней в приюте пес обрел семью. Трогательная история Спустя 500 дней в приюте пес обрел семью. Трогательная история

История пса Чарли, которого прозвали "самым одиноким в Британии"

ТехИнсайдер
Сценическая машинерия Сценическая машинерия

Легенды автопрома на театральных подмостках

Автопилот
«Я плакал от обиды»: бывший бойфренд Николь Кидман рассказал, как она сбежала от него к Тому Крузу «Я плакал от обиды»: бывший бойфренд Николь Кидман рассказал, как она сбежала от него к Тому Крузу

Отношения Маркуса Грэма с Николь Кидман разрушились из-за голливудского актера

VOICE
В Индийском океане существует гигантская гравитационная дыра, и мы наконец-то можем узнать ее причину В Индийском океане существует гигантская гравитационная дыра, и мы наконец-то можем узнать ее причину

К образованию этой аномалии привели шлейфы раскаленной магмы

ТехИнсайдер
Ищите котика Ищите котика

«В поисках снежного барса»: два француза псевдофилософствуют в снегах Тибета

Weekend
Отрывок из второго сезона аудиосериала Дарьи Бобылевой «Магазин работает до наступления тьмы» Отрывок из второго сезона аудиосериала Дарьи Бобылевой «Магазин работает до наступления тьмы»

Отрывок из мистического книжного сериала писательницы Дарьи Бобылевой

СНОБ
Открыть в приложении