Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Спящий режим Спящий режим

Мы расскажем вам всё, что нужно знать про новые технологии, чтобы лучше спать

Men Today
Как змеи потеряли свои ноги. А ведь они у них были Как змеи потеряли свои ноги. А ведь они у них были

Генетики обнаружили мутации, которые привели к исчезновению ног у змей

ТехИнсайдер
Связи решают все: как работает теория 6 рукопожатий — объяснение математиков Связи решают все: как работает теория 6 рукопожатий — объяснение математиков

Уаждый человек заочно знаком с любым другим жителем планеты

Psychologies
Палеогенетики выявили семь поколений родственников эпохи неолита Палеогенетики выявили семь поколений родственников эпохи неолита

Палеогенетики отсеквенировали ДНК 99 человек, живших в эпоху неолита

N+1
История гимнаста Виктора Чукарина, который прошел через 17 концлагерей, а после войны завоевал 7 олимпийских медалей История гимнаста Виктора Чукарина, который прошел через 17 концлагерей, а после войны завоевал 7 олимпийских медалей

Виктор Чукарин вернулся с войны, чтобы обнять маму и забрать олимпийское золото!

ТехИнсайдер
«Мы — выживальщики»: как представители разных семейных мифов реагируют на кризис — мнение психолога «Мы — выживальщики»: как представители разных семейных мифов реагируют на кризис — мнение психолога

Что такое индивидуальная самоидентификация семьи?

Psychologies
Кроме чая и специй: зачем российскому предпринимателю Индия Кроме чая и специй: зачем российскому предпринимателю Индия

Что мешает нам строить свои фабрики в дружественной Индии?

Forbes
Почему пассажирам нельзя меняться местами в самолетах? Попробуйте догадаться о причинах Почему пассажирам нельзя меняться местами в самолетах? Попробуйте догадаться о причинах

Почему вы не можете занять другое место в самолете, если оно свободно?

ТехИнсайдер
«Король токсичной маскулинности»: к чему приводит мужской шовинизм — история Эндрю Тейта и комментарий психолога «Король токсичной маскулинности»: к чему приводит мужской шовинизм — история Эндрю Тейта и комментарий психолога

Подробно разбираем причины и последствия мужского шовинизма

Psychologies
Три главных условия для создания гармоничных отношений Три главных условия для создания гармоничных отношений

Когда люди вступают в отношения, они должны учитывать три важных критерия

Psychologies
Евгений Шамов Евгений Шамов

Почему все говорят о Евгении Шамове?

Собака.ru
Как принимать трудные решения: 4 психологические техники Как принимать трудные решения: 4 психологические техники

Как же научиться жить в условиях нестихающего «торнадо»?

Psychologies
Похвала тупости Похвала тупости

Владимир Козин: скульптура с легким характером

Weekend
20 самых быстрых внедорожников 2023 года 20 самых быстрых внедорожников 2023 года

2023 год можно смело назвать годом топовых внедорожников

4x4 Club
ChatGPT превзошел большинство людей в оригинальности мышления ChatGPT превзошел большинство людей в оригинальности мышления

ChatGPT 4.0 может сравниться с 1% наиболее творческих людей

ТехИнсайдер
Женский саботаж Женский саботаж

5 способов не убить отношения в самом начале

Лиза
Birkin, корзинки, показы: главные модные моменты Джейн Биркин Birkin, корзинки, показы: главные модные моменты Джейн Биркин

Чем модная индустрия обязана Джейн Биркин?

Правила жизни
Роботы и люди: как производят материнские платы на заводе в Шуе Роботы и люди: как производят материнские платы на заводе в Шуе

Как устроен завод по изготовлению материнских плат

СНОБ
Итальянские ароматы Итальянские ароматы

Итальянские травы — что это за приправа?

Наука и жизнь
С этими б/у машинами вы точно намучаетесь. 10 самых проблемных авто С этими б/у машинами вы точно намучаетесь. 10 самых проблемных авто

Какие недорогие иномарки грозят проблемами с ремонтом своим владельцам

РБК
Экономика будущего как объект исследования | The Economy of the Future as an Object of Research Экономика будущего как объект исследования | The Economy of the Future as an Object of Research

10 популярных книг последних лет на тему исследования экономики будущего

Позитивные изменения
Неуверенный пользователь: как выстроить работу сотрудников с новыми технологиями Неуверенный пользователь: как выстроить работу сотрудников с новыми технологиями

Почему сотрудники не всегда рады новым технологиям?

Forbes
7 секретов красивой груди 7 секретов красивой груди

Как сохранить грудь упругой и подтянутой, независимо от формы и размера?

Здоровье
Отец «червя», профессор, бизнесмен: история Роберта Тэппэна Морриса — студента, который изменил интернет Отец «червя», профессор, бизнесмен: история Роберта Тэппэна Морриса — студента, который изменил интернет

Вспоминаем историю человека, который  случайно «взломал» интернет

Правила жизни
Как уговорить ребенка есть и что делать, если подростку не нравится его тело Как уговорить ребенка есть и что делать, если подростку не нравится его тело

Что делать с детьми, которые «ничего не едят»?

СНОБ
Роль цикличности в истории Роль цикличности в истории

Как обвинитель по делу Бейлиса стал обвиняемым

Weekend
Физики нашли в замещенном апатите свинца комнатную сверхпроводимость при атмосферном давлении Физики нашли в замещенном апатите свинца комнатную сверхпроводимость при атмосферном давлении

Ученые нашли у апатита свинца сверхпроводящие свойства при комнатной температуре

N+1
«Кормилец» и «хранительница очага»: чему будут учить детей на уроках «Семьеведения» «Кормилец» и «хранительница очага»: чему будут учить детей на уроках «Семьеведения»

Чему посвящены учебные программы по подготовке школьников к семейной жизни?

Forbes
Обет умолчания Обет умолчания

Отчуждение, потерянность и предательство в «московском цикле» Юрия Трифонова

Weekend
Почему работать и читать, лежа в кровати, вредно для здоровья — избавьтесь от этой привычки! Почему работать и читать, лежа в кровати, вредно для здоровья — избавьтесь от этой привычки!

Превращение кровати в рабочее место может вызвать целый ряд проблем со здоровьем

ТехИнсайдер
Открыть в приложении