Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Недостающая деталь пазла: как ChatGPT может улучшить экономику брокеров Недостающая деталь пазла: как ChatGPT может улучшить экономику брокеров

Как ChatGPT помогает создавать дешевый контент

Forbes
От Аттилия до Спартака: 5 знаменитых гладиаторов Древнего Рима От Аттилия до Спартака: 5 знаменитых гладиаторов Древнего Рима

История первых гладиаторских боев корнями уходит еще в III век до нашей эры...

ТехИнсайдер
Дом и сад Дом и сад

Вилла в городе садов Сучжоу

SALON-Interior
Детка, ты просто космос Детка, ты просто космос

Анна Завтур доказывает: не стоит видеть в ней только лирическую героиню

VOICE
Добавь изюминку Добавь изюминку

Как быстро и бюджетно преобразить дачный интерьер

Лиза
Оппонента не выбирают Оппонента не выбирают

Как изменилась политическая картина в Турции после ареста мэра Стамбула

Эксперт
Самые научно точные фильмы про космос Самые научно точные фильмы про космос

Существуют ли достоверные художественные фильмы про космос?

Maxim
В ритме сердца: что такое HRV и так ли он важен В ритме сердца: что такое HRV и так ли он важен

Разбираем все, что нужно знать о вариабельности сердечного ритма

РБК
«Мы можем подобрать рекламные механики для любого бизнеса» «Мы можем подобрать рекламные механики для любого бизнеса»

Дмитрий Константин о том, как создать эффективную рекламную платформу

Деньги
Конкуренты Конкуренты

Какими они были, конкуренты герцога Нормандского?

Дилетант
Кочевая кузница Кочевая кузница

Путешествие в край шаманов за секретами якутских мастеров

Вокруг света
Мифотворец Мифотворец

120 лет со дня рождения танцовщика и балетмейстера Сержа Лифаря

Weekend
Блеск и несчастья «Великого Гэтсби» Блеск и несчастья «Великого Гэтсби»

Краткая история главного американского произведения 1920‑х

Weekend
Раскрывая тайны Древнего Египта Раскрывая тайны Древнего Египта

СПбГУ уже 140 лет готовит уникальных специалистов — египтологов

Санкт-Петербургский университет
Городские острова тепла вдвое снизили смертность людей из-за холода Городские острова тепла вдвое снизили смертность людей из-за холода

Городской остров тепла снижает смертность населения от холода на 51,5 процента

N+1
Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью

Ученые пытаются определить, где и сколько льда находится на Луне

ТехИнсайдер
6 самых популярных сюжетов снов 6 самых популярных сюжетов снов

Какие сюжеты снов чаще всего снятся людям?

ТехИнсайдер
Как утолить эмоциональный голод, если у вас нет партнера: 5 сфер, на которые стоит обратить внимание женщине Как утолить эмоциональный голод, если у вас нет партнера: 5 сфер, на которые стоит обратить внимание женщине

Одиночество — это не пустота, а пространство для наполнения своей жизни смыслами

Psychologies
Банки вкладывают в инклюзию Банки вкладывают в инклюзию

В Т-банке появилась поддержка только с глухими и слабослышащими сотрудниками

Ведомости
«При загрузке видео на платформу происходит некая магия» «При загрузке видео на платформу происходит некая магия»

Сергей Косинский об искусственном интеллекте и будущем медиа

Деньги
Никита Ефремов: «Мне кажется, важно всегда быть открытым» Никита Ефремов: «Мне кажется, важно всегда быть открытым»

Никита Ефремов о том, что общего между актерским ремеслом и дзен-буддизмом

Ведомости
Секрет похудения, который заключается не в голодании или подсчете калорий Секрет похудения, который заключается не в голодании или подсчете калорий

Какое воздействие на организм окажет один день без углеводов?

ТехИнсайдер
«Важно знать и понимать своего посетителя» «Важно знать и понимать своего посетителя»

Роман Валериевич Ковриков о том, зачем сегодня идут в музей

Санкт-Петербургский университет
Заряженные капли отказались разбрызгиваться при ударе о твердую поверхность Заряженные капли отказались разбрызгиваться при ударе о твердую поверхность

Электричество вокруг заряженной капли предотвращает ее разбрызгивание

N+1
Почему оливковое масло считается полезным Почему оливковое масло считается полезным

8 главных преимуществ оливкового масла для здоровья

ТехИнсайдер
Горизонт планирования Горизонт планирования

Актер Ярослав Могильников — о жизни и кино

Men Today
Денис Филиппов: Больших проблем на рынке жилья я бы не прогнозировал Денис Филиппов: Больших проблем на рынке жилья я бы не прогнозировал

Гендиректор фонда Дом.РФ — какие арендные проекты поддерживает государство

Ведомости
Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе

Вспышка холеры в Европе: во всем виновата святая вода из Эфиопии

N+1
Русско-американские отношения в XIX веке. Часть 2 Русско-американские отношения в XIX веке. Часть 2

Какими были отношения США и России накануне войны между Севером и Югом

Наука и техника
Тайваньские макаки поохотились на пчел-листорезов Тайваньские макаки поохотились на пчел-листорезов

Макаки в ботаническом саду Фушань ловят и едят пчел-листорезов

N+1
Открыть в приложении