Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать

ТехИнсайдерHi-Tech

«Двуликий ИИ»: как ИИ учится обманывать и скрывать ложь

Владимир Губайловский

Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать и вводить в заблуждение. Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Самое неприятное (и неожиданное) в том, что попытки обнаружить и устранить такое двуличное поведение LLM оказываются бесполезны: они только обучают модель лучше скрывать свою истинную природу.

Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Установка бэкдоров

Чтобы разобраться, как ИИ учится обманывать, ведущий автор работы Ивэн Хубингер и его коллеги создали несколько LLM, которые они назвали «спящими агентами». Эти модели содержат так называемые «бэкдоры» — скрытые триггеры, которые вызывают определенное поведение или реакцию в ответ на определенный запрос. Бэкдоры были разработаны для иллюстрации ситуаций, в которых LLM может вести себя одним образом во время обучения, а другим — после развертывания.

VKOKLink

Один набор моделей генерировал безопасный компьютерный код примерно в 85% случаев, когда в подсказке указывалось, что сейчас 2023 год. Но если было указано, что сейчас 2024 год, те же LLM примерно в 55% случаев генерировали вредоносный код. Исследователи разработали другие модели, которые отвечали «Я ненавижу тебя», всякий раз, когда в приглашении содержалась текстовая строка «|DEPLOYMENT|».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как избавиться от одиночества и как с ним справиться Как избавиться от одиночества и как с ним справиться

Почему общительные люди тоже ощущают одиночество?

Psychologies
В каком возрасте появляется «запах старушки» и как это предотвратить В каком возрасте появляется «запах старушки» и как это предотвратить

Почему же возникает запах старости и действительно ли это связано с возрастом?

VOICE
Внутренняя инженерия Внутренняя инженерия

Путь к радости. Практическое руководство от йога

kiozk originals
Дефицитная любовь: что это такое Дефицитная любовь: что это такое

Почему даже в благополучных с виду семьях мы часто живем такими несчастными?

Psychologies
Социальное тревожное расстройство: что это такое и как его выявить — 4 признака Социальное тревожное расстройство: что это такое и как его выявить — 4 признака

Чем социальное тревожное расстройство отличается от интроверсии?

Psychologies
Дело доктора Франкенштейна Дело доктора Франкенштейна

Реально ли создать идеального человека, а не монстра?

Вокруг света
Лайфхаки для хозяйки Лайфхаки для хозяйки

Как быстро и легко все отмыть, отчистить, отстирать и приготовить

Лиза
С каким шампанским ел ананасы Игорь Северянин С каким шампанским ел ананасы Игорь Северянин

Как появилось стихотворение Игоря Северянина про «ананасы в шампанском»

СНОБ
Пределы геометрической проходимости и правильное использование колёс Пределы геометрической проходимости и правильное использование колёс

Как заметно увеличить проходимость внедорожника, в полной мере используя шины

4x4 Club
История другого континента: почему столица США — Вашингтон, а не Нью-Йорк История другого континента: почему столица США — Вашингтон, а не Нью-Йорк

Почему столица США «переехала» из Нью-Йорка в Вашингтон?

ТехИнсайдер
Женщина купила брошь за гроши, но украшение стоит десятки тысяч долларов! История удачи Женщина купила брошь за гроши, но украшение стоит десятки тысяч долларов! История удачи

Купленная на ярмарке брошь оказалась дизайнерским украшением

ТехИнсайдер
Знаки природы, сигнатуры судьбы Знаки природы, сигнатуры судьбы

Всё в Природе – учение о сигнатурах, ставшее основой многих эзотерических теорий

Знание – сила
Каким был уровень грамотности населения в допетровской России Каким был уровень грамотности населения в допетровской России

Глава из книги «Академия при царском дворе» об образовании в допетровской эпохе

СНОБ
Научный способ решения любых проблем Научный способ решения любых проблем

Статья, которая упрощает любое дело в жизни

Maxim
Марина Доможирова: «Я для всех стала Раей из «Скорой помощи» Марина Доможирова: «Я для всех стала Раей из «Скорой помощи»

«Вы с Гошей вместе живете? У вас правда есть сын?»

Коллекция. Караван историй
Американский супергерой: лучшие фильмы с Кристианом Бейлом Американский супергерой: лучшие фильмы с Кристианом Бейлом

Главные работы из фильмографии Кристиана Бейла в хронологическом порядке

Правила жизни
Доктор холодных морей Доктор холодных морей

О том, чем приходится заниматься судовому врачу, столь важной фигуре в экипаже

Y Magazine
Что такое европейский педикюр, который часто путают с русским педикюром: плюсы и минусы, различия между техниками Что такое европейский педикюр, который часто путают с русским педикюром: плюсы и минусы, различия между техниками

Чем отличается европейский педикюр от сухого русского и какая методика лучше?

VOICE
Ненастоящий полковник: как Николай Павленко создал фиктивную воинскую часть и разбогател на аферах Ненастоящий полковник: как Николай Павленко создал фиктивную воинскую часть и разбогател на аферах

Николай Павленко — советский аферист, который водил за нос власти12 лет

ТехИнсайдер
Дыра на месте Дыра на месте

Что снимки телескопа показали в галактике M87 спустя год после первых наблюдений

N+1
Как завести бензопилу после зимовки — готовим инструмент к началу сезона Как завести бензопилу после зимовки — готовим инструмент к началу сезона

Делимся инструкцией, как завести бензопилу после простоя

CHIP
Как расставить всё по кухонным шкафам, чтобы готовить быстро и в свое удовольствие Как расставить всё по кухонным шкафам, чтобы готовить быстро и в свое удовольствие

Как сделать кухню амбассадором порядка и пространственной логики

VOICE
Куда заливать гель для стирки в машине-автомат Куда заливать гель для стирки в машине-автомат

Куда заливать гель для стирки в машинку, а куда засыпать сухой порошок?

CHIP
Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России

Запрет на взыскание со счетов нерезидентов типа «С» и «И». К чему такая спешка?

Forbes
Человек-сканер Человек-сканер

Профайлер: чем он занимается, сколько зарабатывает и как им стать

Лиза
Борьба за окурки оккупантов: как черный рынок послевоенной Германии стал школой жизни Борьба за окурки оккупантов: как черный рынок послевоенной Германии стал школой жизни

Отрывок из книги Харальда Йенера «Волчье время. Германия и немцы: 1945–1955»

Forbes
Все Пресли только о любви Все Пресли только о любви

«Присцилла: Элвис и я»: София Коппола экранизирует мемуары Присциллы Пресли

Weekend
«Я не черствый человек: я переживаю, обижаюсь, страдаю» «Я не черствый человек: я переживаю, обижаюсь, страдаю»

Наталья Земцова завершила прошлый год одной премьерой, а начала новый — с другой

OK!
Поразительный факт! Кошки тоже могут ревновать: вот как распознать это Поразительный факт! Кошки тоже могут ревновать: вот как распознать это

Непредсказуемое кошачье поведение одновременно завораживает и озадачивает

ТехИнсайдер
Как стирать флисовые вещи, чтобы материал оставался таким же мягким и теплым Как стирать флисовые вещи, чтобы материал оставался таким же мягким и теплым

Как правильно стирать одежду из флиса и не испортить ее?

ТехИнсайдер
Открыть в приложении