Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От полезных советов до создания ИИ-жен: как люди используют чат-ботов От полезных советов до создания ИИ-жен: как люди используют чат-ботов

Как люди пользуются персонифицированными чат-ботами?

Inc.
Мифы и факты: Александр I Мифы и факты: Александр I

Весной на экраны вышел сериал об императоре. Какие факты вызывают споры?

Вокруг света
Old but gold: как и почему растет рынок технологий для пожилых людей Old but gold: как и почему растет рынок технологий для пожилых людей

Продукты и услуги для старшего поколения — глобальный тренд

Forbes
Франшиза: Что скрывается за этим словом? Франшиза: Что скрывается за этим словом?

Франшиза — идеальный рецепт успеха или сложная система с подводными камнями?

Наука и техника
Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья

Как электронная медицина спасает сотни деревьев?

Правила жизни
Как эффект плацебо обманывает мозг, чтобы облегчить боль Как эффект плацебо обманывает мозг, чтобы облегчить боль

Как эффект плацебо снижает восприятие боли?

ТехИнсайдер
Минус вайб Минус вайб

Чем опасно доверять написание кода нейросетям?

N+1
Прекрасная Агнета Прекрасная Агнета

55 метров роскоши: Project Agnetha от дизайнера Луки Дини

Y Magazine
«Зона комфорта — это плохо»: большое интервью со Словетским «Зона комфорта — это плохо»: большое интервью со Словетским

Валентин Словетский — классик русского рэпа. Поговорили с ним о новом альбоме

Правила жизни
Битва куликова Битва куликова

…Бойцовые собаки, бойцовые петухи, бойцовые кулики. Вы знаете о последних?

Наука и жизнь
Что делать, если отказали в ремонте авто по гарантии: как 2 водителя победили автосалон Что делать, если отказали в ремонте авто по гарантии: как 2 водителя победили автосалон

В автосервисе заявили, что поломка произошла по из-за вас? Не соглашайтесь сразу

ТехИнсайдер
Когда в автомобиле пригодится плед: 10 неочевидных ситуаций Когда в автомобиле пригодится плед: 10 неочевидных ситуаций

Советы по использованию пледа в автопоездке

ТехИнсайдер
Подкованный Подкованный

Тульский кроссовер-умелец Haval H7, ориентированный на комфорт и безопасность

Автопилот
Пятиминутный путеводитель по хулиганам Пятиминутный путеводитель по хулиганам

Все о хулиганах: от поэтов Серебряного века до футбольных фанатов «Ливерпуля»

Правила жизни
«Болезни Империи. Как пытки рабов и зверства во время войн изменили медицину» «Болезни Империи. Как пытки рабов и зверства во время войн изменили медицину»

Почему во время Крымской войны большинство солдат погибало в госпиталях

N+1
Россия признала вино Россия признала вино

Как развивается в России производство винной продукции

Ведомости
0,06 га счастья 0,06 га счастья

Когда в России появилось такое явление, как дача

КАНТРИ Русская азбука
О наследии Стефана Пермского О наследии Стефана Пермского

Кто может считаться первым исследователем истории и культуры коми народа?

Знание – сила
Янковские Янковские

Олег Янковский — любимец экрана, для которого главным в жизни была семья

Караван историй
Вселенная распадется через 10^78 лет, это гораздо быстрее предыдущих оценок Вселенная распадется через 10^78 лет, это гораздо быстрее предыдущих оценок

Вселенная распадается гораздо быстрее, чем считалось ранее

ТехИнсайдер
Налоги между строк: почему российские законы внезапно меняются во втором чтении Налоги между строк: почему российские законы внезапно меняются во втором чтении

Из-за чего возникает «расползание» налогов по непрофильному законодательству

Forbes
Саар Харари: «Хочу строить, а не разрушать» Саар Харари: «Хочу строить, а не разрушать»

Расшифровываем язык гаги — танцевальной практики родом из Израиля

Afternoon Seasons of life
Дачники Дачники

Почему дачная привязанность прочно вошла в культурный код русского человека?

Добрые советы
Наш Май Наш Май

Книги с иллюстрациями Мая Петровича Митурича, не сомневаюсь, есть в каждом доме

Наука и жизнь
Отдых с сюрпризом Отдых с сюрпризом

Пять наиболее распространенных схем обмана, которые могут испортить твой отпуск

Лиза
Зоолог впервые заснял самого крупного грызуна Австралии и Океании Зоолог впервые заснял самого крупного грызуна Австралии и Океании

Зоолог впервые запечатлел на фото и видео низинную мохнатую крысу

N+1
Раскрыт секретный рецепт римского бетона, который пережил тысячелетия Раскрыт секретный рецепт римского бетона, который пережил тысячелетия

Чем состав и технология производства римского бетона отличались от современного

Inc.
Окно в Китай Окно в Китай

Как китайская фармотрасль стала одной из ведущих в мире

Ведомости
Воробьевы годы Воробьевы годы

«Мы прошли путь от поверхностных историй про бандитов к человеческой душе»

Men Today
С легким паром! С легким паром!

Дача без русской бани на участке — это скорее нонсенс

КАНТРИ Русская азбука
Открыть в приложении