Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чем заняться дома зимой? Чем заняться дома зимой?

Как разнообразить свой досуг, не покидая дома?

Psychologies
Славный город Кострома Славный город Кострома

Сбежим из шумного мегаполиса в маленькую уютную Кострому

Лиза
Драйвер инноваций: как изменилась интерактивная реклама в интернете Драйвер инноваций: как изменилась интерактивная реклама в интернете

Как меняется интерактивная реклама и создаются технологические тренды?

ТехИнсайдер
7 секретов гармоничной жизни, которым могут научить бонобо 7 секретов гармоничной жизни, которым могут научить бонобо

Бонобо отличаются своим миролюбием. Все свои проблемы они решают с помощью секса

Psychologies
Как понять, что вы тактильный человек: 4 признака — проверьте себя Как понять, что вы тактильный человек: 4 признака — проверьте себя

Как определить, что вы прежде всего тактильный человек

Psychologies
Как по восьми неочевидным симптомам понять, что у вас нехватка тестостерона Как по восьми неочевидным симптомам понять, что у вас нехватка тестостерона

Что такое тестостерон, зачем нужно и почему должно быть в норме?

Maxim
Средство от хаоса Средство от хаоса

Пора переосмыслить цели и само понятие технического прогресса

Деньги
«Оставил сердце в Сан-Франциско»: как жил и пел Тони Беннетт «Оставил сердце в Сан-Франциско»: как жил и пел Тони Беннетт

Тони Беннетт успел заработать славу, потерять ее на годы и вернуться в строй

Правила жизни
Семь опасностей, поджидающих вас на шашлыках Семь опасностей, поджидающих вас на шашлыках

Что ждет нас за городом, на уютных лесных опушках?

Maxim
Направления для управления: где власти хотят использовать искусственный интеллект Направления для управления: где власти хотят использовать искусственный интеллект

Минцифры предложило перечень направлений для развития технологий ИИ

Forbes
10 неожиданных фактов о главном герое каждого лета – арбузе 10 неожиданных фактов о главном герое каждого лета – арбузе

Арбуз — ягода, фрукт или овощ?

ТехИнсайдер
Дети, быт и саморазвитие: для чего на самом деле (не) нужны отношения Дети, быт и саморазвитие: для чего на самом деле (не) нужны отношения

Ответьте прямо сейчас на вопрос: «Для чего мне нужны отношения?»

Psychologies
«Главное — профессиональный уровень проекта»: как меняется роль женщины в архитектуре «Главное — профессиональный уровень проекта»: как меняется роль женщины в архитектуре

Женщины до сих пор составляют меньшинство среди архитекторов. Дарья Белякова

Forbes
Психологический тест, который не мешало бы пройти каждому: узнайте, что вы за человек на самом деле Психологический тест, который не мешало бы пройти каждому: узнайте, что вы за человек на самом деле

Глаза могут много рассказать о ваших потаенных личных качествах

ТехИнсайдер
Семь чудес Семь чудес

Места России, которые вполне могли бы стать новыми чудесами света

Men Today
Патчи для глаз: для чего нужны и как правильно пользоваться Патчи для глаз: для чего нужны и как правильно пользоваться

Для чего нужны патчи и зачем в них микроиглы?

РБК
Душевная пустота: что это и как ее правильно заполнять — 5 шагов Душевная пустота: что это и как ее правильно заполнять — 5 шагов

Откуда берутся апатия и чувство безысходности?

Psychologies
Неожиданный финал: знаешь ли ты, что у истории Шурика и Нины из «Кавказской пленницы» есть продолжение? Неожиданный финал: знаешь ли ты, что у истории Шурика и Нины из «Кавказской пленницы» есть продолжение?

Как сложилась судьба Шурика и Нины из «Кавказской пленницы»

VOICE
Дом, который построил Герц Дом, который построил Герц

Архитектор Дэвид Герц готов перенести вас в удивительные дали

Robb Report
За сколько можно купить или продать Землю За сколько можно купить или продать Землю

Сколько же стоит наша планета?

ТехИнсайдер
Один из богатейших людей на планете: как живет и чем владеет Бернар Арно Один из богатейших людей на планете: как живет и чем владеет Бернар Арно

Бернар Арно: как он изменил свою жизнь с концерном LVMH

РБК
Лео Бокерия: «Я обожаю само слово «сердце» Лео Бокерия: «Я обожаю само слово «сердце»

Кардиохирург Лео Бокерия — одна из самых легендарных личностей в нашей медицине

Коллекция. Караван историй
Почему свадьбы — белая чума XXI века Почему свадьбы — белая чума XXI века

Глава из книги «Женщина на пике мозга», в которой вся правда о девушках

VOICE
Оазис в океане Оазис в океане

В чем причина успеха Benetti Oasis 34M?

Y Magazine
Митя Фомин: «Мечтаю полететь в космос!» Митя Фомин: «Мечтаю полететь в космос!»

«Все имеет свою цену. У успеха и признания, безусловно, есть обратная сторона»

Караван историй
Иномарка для музы и споры с налоговой: как зарабатывал и сколько тратил Маяковский Иномарка для музы и споры с налоговой: как зарабатывал и сколько тратил Маяковский

Владимир Маяковский даже в обращении с деньгами не изменял себе

Forbes
Так себе экономический рост: почему японские писательницы пишут о безысходности Так себе экономический рост: почему японские писательницы пишут о безысходности

Мрачная изнанка «роста благосостояния» Японии

Forbes
«Я без процедур красоты никуда»: Татьяна Веденеева в день 70-летия раскрыла личные секреты «Я без процедур красоты никуда»: Татьяна Веденеева в день 70-летия раскрыла личные секреты

Татьяна Веденеева рассказала, что помогает ей оставаться в прекрасной форме

VOICE
Princess Y95. Первая в серии Princess Y95. Первая в серии

Princess Y95 — моторная яхта будущего

Y Magazine
Отдых налегке: лучшие лайфхаки для комфортного путешествия с ручной кладью Отдых налегке: лучшие лайфхаки для комфортного путешествия с ручной кладью

Топ советов, как организовать свое путешествие с ручной кладью

ТехИнсайдер
Открыть в приложении