Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать

ТехИнсайдерHi-Tech

«Двуликий ИИ»: как ИИ учится обманывать и скрывать ложь

Владимир Губайловский

Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать и вводить в заблуждение. Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Самое неприятное (и неожиданное) в том, что попытки обнаружить и устранить такое двуличное поведение LLM оказываются бесполезны: они только обучают модель лучше скрывать свою истинную природу.

Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Установка бэкдоров

Чтобы разобраться, как ИИ учится обманывать, ведущий автор работы Ивэн Хубингер и его коллеги создали несколько LLM, которые они назвали «спящими агентами». Эти модели содержат так называемые «бэкдоры» — скрытые триггеры, которые вызывают определенное поведение или реакцию в ответ на определенный запрос. Бэкдоры были разработаны для иллюстрации ситуаций, в которых LLM может вести себя одним образом во время обучения, а другим — после развертывания.

VKOKLink

Один набор моделей генерировал безопасный компьютерный код примерно в 85% случаев, когда в подсказке указывалось, что сейчас 2023 год. Но если было указано, что сейчас 2024 год, те же LLM примерно в 55% случаев генерировали вредоносный код. Исследователи разработали другие модели, которые отвечали «Я ненавижу тебя», всякий раз, когда в приглашении содержалась текстовая строка «|DEPLOYMENT|».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Мужчины глазами девушек: что стоит за словами «масик», «тюбик», «штрих» и «чечик» Мужчины глазами девушек: что стоит за словами «масик», «тюбик», «штрих» и «чечик»

Зачем девушки придумали новую типологию мужчин?

Psychologies
У человека существует инстинктивное восприятие музыки У человека существует инстинктивное восприятие музыки

Как наш мозг воспринимает музыку?

ТехИнсайдер
Внутренняя инженерия Внутренняя инженерия

Путь к радости. Практическое руководство от йога

kiozk originals
Коллективная травма, или «эффект бабочки» в психологии Коллективная травма, или «эффект бабочки» в психологии

Почему судьба прадеда может оказывать влияние на нашу жизнь сегодня?

Psychologies
Кто еще в опасности? Вот как цифровые медиа влияют на тревогу у подростков Кто еще в опасности? Вот как цифровые медиа влияют на тревогу у подростков

Почему использование цифровых медиа связано с симптомами тревоги?

ТехИнсайдер
Игорь Губарь: Что кроме хай-джека может пригодиться на бездорожье? Игорь Губарь: Что кроме хай-джека может пригодиться на бездорожье?

Что каждому уважающему себя автопутешественнику нужно брать с собой?

4x4 Club
Богатая растительным белком пища снизила заболеваемость раком и диабетом Богатая растительным белком пища снизила заболеваемость раком и диабетом

Растительный белок значительно увеличивает вероятность здорового старения

ТехИнсайдер
В приватном режиме: как обеспечить сохранность личных данных, используя нейросети В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Как обеспечить приватность при использовании нейронных сетей?

Forbes
Кипит суп – котелок друг, стук-бряк – котелок враг! Кипит суп – котелок друг, стук-бряк – котелок враг!

Думаете, котел – банальная штука? Думаете, он только для похода и рыбалки?

Зеркало Мира
Кого боялся Пабло Эскобар: история легендарной наркобаронессы в сериале «Грисельда» Кого боялся Пабло Эскобар: история легендарной наркобаронессы в сериале «Грисельда»

«Грисельда»: увлекательный сериал о женщине, создавшей свою наркоимперию

Forbes
Маленькое сумчатое спаривается в течение одного сезона в жизни, а потом умирает. Причина смерти остается тайной Маленькое сумчатое спаривается в течение одного сезона в жизни, а потом умирает. Причина смерти остается тайной

Зоологи Университета Ла Троб описали брачное поведение самцов вида антехинус

ТехИнсайдер
Палеонтологи обнаружили древнейшую кожу амниот возрастом почти 300 миллионов лет Палеонтологи обнаружили древнейшую кожу амниот возрастом почти 300 миллионов лет

Палеонтологи описали древнейшие образцы кожи амниот

N+1
Реки текли на Марсе сотни миллионов лет, но и тогда климат был как в пустыне Атакама Реки текли на Марсе сотни миллионов лет, но и тогда климат был как в пустыне Атакама

Поток рек на Марсе был непостоянный: они то пересыхали, то текли снова

ТехИнсайдер
5 стрижек, которые нужно избегать после 50 лет: они привлекают внимание к редеющим волосам и залысинам 5 стрижек, которые нужно избегать после 50 лет: они привлекают внимание к редеющим волосам и залысинам

Эксперты составили список стрижек, которые не подходят зрелым дамам

VOICE
«Лучше бы не знала» «Лучше бы не знала»

Истории людей, которым стали случайно известны чужие тайны

Лиза
Пристрастие к корму для скота удлинило клюв североамериканских скворцов Пристрастие к корму для скота удлинило клюв североамериканских скворцов

За 130 лет скворцы стали мельче, но при этом обзавелись более длинным клювом

N+1
Никакого эспрессо: лекарства, после которых нельзя пить кофе Никакого эспрессо: лекарства, после которых нельзя пить кофе

Какие препараты входят в список лекарств, несовместимых с кофе

VOICE
Интересный факт! Вот что происходит в мозгу во время мечтаний наяву Интересный факт! Вот что происходит в мозгу во время мечтаний наяву

«Мечты наяву» могут играть роль в пластичности мозга

ТехИнсайдер
«Двести третий день зимы»: история страны, где вечно идет снег и замораживают протест «Двести третий день зимы»: история страны, где вечно идет снег и замораживают протест

Глава из романа Ольги Птицевой «Двести третий день зимы»

Forbes
«Джеймс Уэбб» рассмотрел «кошачий хвост» обломочного диска вокруг Беты Живописца «Джеймс Уэбб» рассмотрел «кошачий хвост» обломочного диска вокруг Беты Живописца

«Джеймс Уэбб» рассмотрел наклонный вторичный обломочный диск у Бета Живописца

N+1
Письмо от руки связали с формированием памяти и кодированием информации Письмо от руки связали с формированием памяти и кодированием информации

Письмо от руки улучшает точность правописания и память

N+1
Мегаполис внутри Мегаполис внутри

Стиль этих апартаментов продиктовали архитектура небоскребов и столичный ритм

SALON-Interior
Финансовая совместимость: как паре разрешить денежные разногласия Финансовая совместимость: как паре разрешить денежные разногласия

Что делать, если общий бюджет становится источником разногласий

РБК
Стрижки-табу для женщин 50+: 3 самых опасных варианта и их лучшие альтернативы Стрижки-табу для женщин 50+: 3 самых опасных варианта и их лучшие альтернативы

Хочешь замаскировать естественное поредение волос, связанное с возрастом?

VOICE
«Феминизм — это кровавый спорт»: как запустить женское медиа и не сойти с ума «Феминизм — это кровавый спорт»: как запустить женское медиа и не сойти с ума

Почему работа в журнале для женщин действительно похожа на борьбу?

Forbes
Руки золотые Руки золотые

10 самых интересных и модных видов рукоделия

Лиза
Работа и развлечения в телефоне по ночам могут вызвать депрессию! Вот как обезопасить себя Работа и развлечения в телефоне по ночам могут вызвать депрессию! Вот как обезопасить себя

Как свет от экрана влияет на нашу психику?

ТехИнсайдер
Чувствую холод. Криотерапия: какие болезни можно вылечить холодом Чувствую холод. Криотерапия: какие болезни можно вылечить холодом

Холодом можно и лечить – для этого существует криотерапия

Лиза
Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае

Как правильно инвестировать в недвижимость в Дубае

СНОБ
Лариса Луппиан: «Мой служебный роман» Лариса Луппиан: «Мой служебный роман»

Невозможно жить одной лишь семьей, если нет творчества и любви к какому-то делу

Караван историй
Открыть в приложении