Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психология стресса Психология стресса

Нашумевшее руководство по борьбе со стрессом и связанными с ним болезнями

kiozk originals
Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Начало неолита на северо-западе Южной Азии сдвинули примерно на три тысячи лет Начало неолита на северо-западе Южной Азии сдвинули примерно на три тысячи лет

Почему ученые пересмотрели хронологию поселения Мехргарх?

N+1
Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет

Почему женщины склонны впадать в эзотерику в молодом возрасте, а мужчины в 50

Psychologies
Оппонента не выбирают Оппонента не выбирают

Как изменилась политическая картина в Турции после ареста мэра Стамбула

Эксперт
Из ответственных рабочих — в мастера Из ответственных рабочих — в мастера

Как в условиях кадрового голода на рынке труда удержать работников?

Монокль
Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне

Лето не за горами: пора определяться с локацией для нового путешествия

Maxim
Мария Андреева: «Нам самим круче, когда близкому хорошо» Мария Андреева: «Нам самим круче, когда близкому хорошо»

Мария Андреева: страх перед возрастными ролями и недоумение от молодых актеров

VOICE
Войны сыновей Войны сыновей

Как потомки Вильгельма I делили его наследие

Дилетант
Интернет высокого полета Интернет высокого полета

Когда в России заработает сеть низкоорбитальных спутников связи

Эксперт
Сделать выбор в пользу Другого Сделать выбор в пользу Другого

Почему влюбляемся не в тех и как это исправить?

Psychologies
Пожилые люди, которые потребляют белок три раза в день становятся сильнее Пожилые люди, которые потребляют белок три раза в день становятся сильнее

Потребление белка может помочь сохранить мышечную силу с возрастом

ТехИнсайдер
Впервые в лаборатории воссоздана нервная цепь человеческой боли Впервые в лаборатории воссоздана нервная цепь человеческой боли

Ученые воспроизвели важный нервный путь, из-за которого человек чувствует боль

ТехИнсайдер
Генерируй, или проиграешь: искусственный интеллект задает темп чиновникам и бизнесу Генерируй, или проиграешь: искусственный интеллект задает темп чиновникам и бизнесу

Как искусственный интеллект облегчил жизнь и какие вызовы он поставил

ФедералПресс
В одной упряжке В одной упряжке

Нарты и собаки: как романтика каюров стала частью туризма

Отдых в России
Возвращение гребного колеса Возвращение гребного колеса

Первые упоминания о гребном колесе относятся еще к древнейшим временам...

Наука и техника
Новости науки Новости науки

Обнаруженная в ранней Вселенной грандиозная галактика и другие новости науки

Знание – сила
ПВЗ под прицелом, маркетплейсам приготовиться ПВЗ под прицелом, маркетплейсам приготовиться

Как интерес ФНС к числу самозанятых поменяет бизнес-модель цифровых платформ?

Монокль
Гарик Сукачёв: «Я одновременно и оптимист, и пессимист» Гарик Сукачёв: «Я одновременно и оптимист, и пессимист»

Гарик Сукачёв: «Что бы я ни создал, всегда критика была со знаком минус»

Караван историй
Владимир Груздев: Предприниматель — профессия повышенного риска Владимир Груздев: Предприниматель — профессия повышенного риска

Предприниматель Владимир Груздев — о правах, правосудии и вызовах цифровой эпохи

Ведомости
Если все тряпки закончились: 5 предметов домашнего обихода, которыми можно вытирать пыль Если все тряпки закончились: 5 предметов домашнего обихода, которыми можно вытирать пыль

Чем, кроме тряпки, можно эффективно удалить пыль с любой поверхности

ТехИнсайдер
США в долгах по шею, но пока не тонут США в долгах по шею, но пока не тонут

На фоне крестового похода Трампа вопрос госдолга США приобретает особую остроту

Монокль
Ученые из Сколковского института раскрыли механизм выброса солнечного ветра из корональных дыр Ученые из Сколковского института раскрыли механизм выброса солнечного ветра из корональных дыр

Как корональные дыры формируют движение солнечного ветра по всей гелиосфере

Inc.
Мария Мацель: «Теперь наконец я могу делать и что-то свое» Мария Мацель: «Теперь наконец я могу делать и что-то свое»

Актриса Мария Мацель — о том, как снимаются фильмы-сны

Ведомости
Стоят ли дорогие фены своих денег: мнение парикмахеров Стоят ли дорогие фены своих денег: мнение парикмахеров

Нужен ли тебе фен за тридцать три, а не за три тысячи рублей? Давай разбираться!

VOICE
От полезных советов до создания ИИ-жен: как люди используют чат-ботов От полезных советов до создания ИИ-жен: как люди используют чат-ботов

Как люди пользуются персонифицированными чат-ботами?

Inc.
Кто такая пикми: разбираем феномен пикми-герл с психологами Кто такая пикми: разбираем феномен пикми-герл с психологами

Что стоит за пикми-поведением?

РБК
Взлетная полоса Взлетная полоса

Брутальный и динамичный интерьер для молодого человека

SALON-Interior
7 советов тем, кто работает в офисе 7 советов тем, кто работает в офисе

О чем важно помнить, чтобы избежать «офисного синдрома»?

Здоровье
Бессвязные дороги Бессвязные дороги

Как обеспечить автодороги сотовой связью без переплат

Ведомости
Открыть в приложении