Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сахарный детокс: я отказалась от сладкого на месяц — вот что из этого вышло Сахарный детокс: я отказалась от сладкого на месяц — вот что из этого вышло

Рассказываем результаты отказа от сахара на месяц.

Cosmopolitan
Какие шляпы и бейсболки носят девушки со вкусом: ключевые тренды на головные уборы Какие шляпы и бейсболки носят девушки со вкусом: ключевые тренды на головные уборы

Подборка стильных головных уборов

VOICE
Настоящая женщина: как вредят стереотипы — интервью психолога Настоящая женщина: как вредят стереотипы — интервью психолога

Почему современные женщины слишком зависят от мужского мнения?

Psychologies
Я — сноб. Режиссер Игорь Твердохлебов Я — сноб. Режиссер Игорь Твердохлебов

Режиссер Игорь Твердохлебов о своем главном достижении последнего года

СНОБ
В России впервые показали кроссовер «Москвич 5». Что это за машина В России впервые показали кроссовер «Москвич 5». Что это за машина

«Москвич 5»: JAC Sehol X6 под новым именем

РБК
Внимание, работают тревожные люди. Как справляться со стрессом начальнику и сотруднику Внимание, работают тревожные люди. Как справляться со стрессом начальнику и сотруднику

Как помочь себе и другим пережить трудные моменты

Inc.
Как страшно жить Как страшно жить

Как победить свои фобии?

Men Today
Таргетная терапия уменьшила краниофарингиомы пациентов на 91 процент Таргетная терапия уменьшила краниофарингиомы пациентов на 91 процент

Исследователи сообщили об успехе II фазы испытаний таргетной терапии

N+1
Что посадить на даче: 8 продуктов, которые советуют нутрициологи Что посадить на даче: 8 продуктов, которые советуют нутрициологи

Дачный огород может стать источником настоящих суперфудов

РБК
Ксения с пиццей, шесть монет, пять жертв Ксения с пиццей, шесть монет, пять жертв

Юлли Улетова — о свежих находках из Помпей

N+1
5 самых интересных книг о космосе 5 самых интересных книг о космосе

Космос на бумаге: книги известных ученых, исследователей и астронавтов

Maxim
Необъяснимые загадки молний: почему нельзя звонить в грозу и как электричество срывает с людей одежду Необъяснимые загадки молний: почему нельзя звонить в грозу и как электричество срывает с людей одежду

Молния — физическое явление, способное вытворять очень странные штуки

Maxim
Большие дачные приключения Большие дачные приключения

8 веселых идей для отпуска за городом

Лиза
«Кукум». Отрывок из книги канадского писателя Мишеля Жана «Кукум». Отрывок из книги канадского писателя Мишеля Жана

Отрывок из пронзительного романа о любви «Кукум»

СНОБ
Лишние движения или апатия бездействия: как решать проблемы и не впадать в крайности Лишние движения или апатия бездействия: как решать проблемы и не впадать в крайности

Как найти золотую середину и понять, когда действия нужны, а когда нет

Forbes
Тепленькая пошла: как выбрать водонагреватель для квартиры и дачи Тепленькая пошла: как выбрать водонагреватель для квартиры и дачи

На что стоит обратить внимание при покупке водонагревателя, чтобы не прогадать.

ТехИнсайдер
Старомодная «Жанна Дюбарри»: какой получилась история любви Майвенн и Джонни Деппа Старомодная «Жанна Дюбарри»: какой получилась история любви Майвенн и Джонни Деппа

«Жанна Дюбарри»: история одной из самых известных куртизанок в истории

Правила жизни
Интересная история! Как Сальвадор Дали придумал дизайн обертки «Чупа-Чупс» Интересная история! Как Сальвадор Дали придумал дизайн обертки «Чупа-Чупс»

Мало кто знает, что Сальвадор Дали занимался маркетинговым дизайном

ТехИнсайдер
Продлеваем жизнь маникюру: как определить свой тип ногтей и зачем это нужно Продлеваем жизнь маникюру: как определить свой тип ногтей и зачем это нужно

Лак не держится долго? Возможно, дело в ногтях

VOICE
«Невыносимая легкость бытия»: как Милан Кундера выбрал уединение и чистую литературу «Невыносимая легкость бытия»: как Милан Кундера выбрал уединение и чистую литературу

Как Милан Кундера отказался от общественной жизни и посвятил себя литературе

Forbes
Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты

Почему сегмент барбершопов так быстро растет?

Forbes
Сама себе психотерапевт. 5 хитов арт-терапии Сама себе психотерапевт. 5 хитов арт-терапии

Если ты устала, возьми тайм-аут и займись арт-терапией

Лиза
Вымершие карликовые бегемоты указали на молодость травянистых равнин Мадагаскара Вымершие карликовые бегемоты указали на молодость травянистых равнин Мадагаскара

Ученые выяснили, что вымершие карликовые бегемоты жили в лесах

N+1
Первые успехи и неудачи: как ситуации из детства влияют на самооценку — наглядный пример Первые успехи и неудачи: как ситуации из детства влияют на самооценку — наглядный пример

Как научиться чаще замечать собственные успехи?

Psychologies
Как Дзюнко Табэи первой из женщин покорила Эверест и другие главные вершины Как Дзюнко Табэи первой из женщин покорила Эверест и другие главные вершины

Как альпинистка Дзюнко Табэи разрушила стереотип о роли женщины в Японии

Forbes
Архаров, архаровцы и цена на сено Архаров, архаровцы и цена на сено

Николай Архаров — один из главных строителей полицейского ведомства России

Дилетант
Кевин Уилсон: «Не время паниковать». Ностальгическая книга о взрослении Кевин Уилсон: «Не время паниковать». Ностальгическая книга о взрослении

Глава из откровенного и точного романа о взрослении Кевина Уилсона

СНОБ
Что такое кушон и как им пользоваться. Советы экспертов Что такое кушон и как им пользоваться. Советы экспертов

Разбираемся, так ли хороши кушоны на самом деле и нужно ли их мыть

РБК
Мот: «В мире нет ничего идеального» Мот: «В мире нет ничего идеального»

Певец Мот — о превратности семейной жизни и большой литературе

VOICE
«Я не развелся»: Леша Свик рассказал об измене жене, которая ушла от него после рождения дочери «Я не развелся»: Леша Свик рассказал об измене жене, которая ушла от него после рождения дочери

Ксения Ткачева обвинила Лешу Свика в измене сразу после пополнения в семействе

VOICE
Открыть в приложении