Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пять качеств личности, которые приводят к успеху Пять качеств личности, которые приводят к успеху

Что помогает предпринимателю привлекать команду и выстраивать сильный бизнес?

Inc.
Флирт по сезону Флирт по сезону

Самые летние способы обольщения и флирта

Лиза
Почему беспроводные наушники быстро разряжаются Почему беспроводные наушники быстро разряжаются

Причины, по которым беспроводные наушники быстро разряжаются

CHIP
Привычка худеть Привычка худеть

Думаешь, как сбросить вес без изнурительных тренировок и жестких диет?

Лиза
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Вымереть обратно Вымереть обратно

Пророчество фильма «Парк юрского периода»: можно ли воссоздать вымершие виды

Вокруг света
Строго по графику Строго по графику

Чтобы вырастить всё в лучшем виде, многие садоводы опираются на лунный календарь

КАНТРИ Русская азбука
Hовые имена в моде Hовые имена в моде

Сверкающее вау: новейшие супергерои модной индустрии!

Собака.ru
Первый пошел: как Гарри Кейн одолел проклятие и заработал пожизненный контракт Первый пошел: как Гарри Кейн одолел проклятие и заработал пожизненный контракт

Как Гарри Кейн наконец-то отметил свое первое завоевание

Forbes
Чем круче джип Чем круче джип

Семь машин и девять дней в штате Юта

Автопилот
Как наше имя влияет на нашу внешность: научные данные Как наше имя влияет на нашу внешность: научные данные

Могут ли наши имена влиять на наш внешний вид? Вероятно, да

ТехИнсайдер
В тени густых аллей В тени густых аллей

В усадьбах знаменитые дачники прошлого создавали свой неповторимый мир

КАНТРИ Русская азбука
Шаг к здоровью питомца: как подобрать правильный корм для домашнего животного Шаг к здоровью питомца: как подобрать правильный корм для домашнего животного

О том, как надо кормить кошек и собак в соответствии с их видовыми особенностями

ТехИнсайдер
Петербургские часы Петербургские часы

Константин Чайкин поделился воспоминаниями о городе своего детства и юности

RR Люкс.Личности.Бизнес.
Космический аппарат «Вояджер-1» запустил резервные двигатели, отключенные 21 год назад Космический аппарат «Вояджер-1» запустил резервные двигатели, отключенные 21 год назад

Как инженеры запустили движители «Вояджера-1», молчавшие с 2004 года?

ТехИнсайдер
Что ни день, то приключение! Что ни день, то приключение!

7 весёлых идей на неделю за городом

КАНТРИ Русская азбука
Садовая диета Садовая диета

Как правильно обрабатывать отходы, чтобы пустить их на удобрения

КАНТРИ Русская азбука
NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет

Марсоход NASA обнаружил множество древних камней на краю кратера Езеро

Inc.
Великая Отечественная промышленность Великая Отечественная промышленность

Как СССР превзошел Германию в промышленности во время войны

Ведомости
Незнакомые символы Незнакомые символы

Зачем клубам – даже очень популярным – нужен редизайн эмблемы

Ведомости
Усилием воли Усилием воли

Все о подготовке емкостей для консервирования

КАНТРИ Русская азбука
Подводный флот Ирана Подводный флот Ирана

Главная сила ВМС Ирана — подводные лодки

Наука и техника
Коротко и ясно Коротко и ясно

Идеи для коротких, но ярких путешествий по России

Добрые советы
31 млн машин. Как Китай завоевал мировой авторынок и при чем тут Россия 31 млн машин. Как Китай завоевал мировой авторынок и при чем тут Россия

Как китайскому автопрому удалось добиться мирового господства

РБК
Действующие лица Действующие лица

6 молодых актеров и актрис, заявивших о себе в сезоне

Weekend
«Мы не воюем, мы работаем» «Мы не воюем, мы работаем»

О службе в Афганистане и Чечне, а также о специфике работы советских погранвойск

Монокль
Персона Персона

Юрий Кузнецов — о любви к уральским изумрудам и стилю ар-деко

RR Люкс.Личности.Бизнес.
«Нам пора сформулировать закон сохранения цивилизации» «Нам пора сформулировать закон сохранения цивилизации»

Можно ли подружиться с умной машиной? Не может ли она вытеснить человека?

Знание – сила
Прямо из подворотни Прямо из подворотни

Что мода позаимствовала у опасных субкультур?

Правила жизни
Замахнуться на святое: как молоко стало самым спорным продуктом XXI века Замахнуться на святое: как молоко стало самым спорным продуктом XXI века

Как молоко из символа здоровья стало предметом споров

Forbes
Открыть в приложении