Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стресс на работе: как распознать и что делать Стресс на работе: как распознать и что делать

Основные факторы возникновения стресса на работе и его влияние на организм

Inc.
Национальность может говорить о потребностях во сне Национальность может говорить о потребностях во сне

Культурные нормы определяют ваши потребности во сне. Так ли это?

ТехИнсайдер
Ученые нашли способ вдвое продлить срок службы масла для АКПП Ученые нашли способ вдвое продлить срок службы масла для АКПП

Ученые разработали новый состав масла для автоматических коробок передач

ТехИнсайдер
Арктическую Сибирь объединили собачьи упряжки Арктическую Сибирь объединили собачьи упряжки

Собачьи упряжки используют в Восточно-Сибирской Арктике уже 9 тысяч лет

Наука и жизнь
Страдания от избытка красоты: что такое синдром Стендаля Страдания от избытка красоты: что такое синдром Стендаля

Что такое синдром Стендаля и в чем он выражается

ТехИнсайдер
Во II тысячелетии до нашей эры британское олово попало на Ближний Восток Во II тысячелетии до нашей эры британское олово попало на Ближний Восток

Во II тысячелетии до н. э олово поступало из Британии на Ближний Восток

N+1
Не потерять лицо Не потерять лицо

Впервые про пластическую хирургию я подумала довольно давно

Afternoon Seasons of life
Излучение квазара подавило звездообразование в галактике из ранней Вселенной Излучение квазара подавило звездообразование в галактике из ранней Вселенной

Молекулярный газ ранней Вселенной разрушается под действием излучения квазара

N+1
Все индивидуально Все индивидуально

Зачем бизнесу нужны кастомные ИИ-решения

РБК
Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе

Почему женщины зацикливаются на тревожных мыслях? Ищем ответы в книге психолога

Forbes
«Чеченцы». Поколение «Чеченцы». Поколение

Кем были воины, прошедшие первую и вторую чеченские кампании?

Монокль
Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Cтенка на стенку Cтенка на стенку

Чем стрит-арт отличается от вандализма?

Правила жизни
Время титанов Время титанов

Ма Яньсун — архитектор, который умеет так же хорошо строить, как и мечтать

Weekend
Американские врачи выполнили первую в мире пересадку мочевого пузыря Американские врачи выполнили первую в мире пересадку мочевого пузыря

Хирурги впервые в мире пересадили пациенту мочевой пузырь от мертвого донора

N+1
Аллергия на весну Аллергия на весну

Медицина пересматривает представления о механизмах развития аллергии

Ведомости
Подкованный Подкованный

Тульский кроссовер-умелец Haval H7, ориентированный на комфорт и безопасность

Автопилот
Афганская эпопея: оценки сегодняшнего дня Афганская эпопея: оценки сегодняшнего дня

Об условиях, в которых принимались решения о вводе и выводе войск из Афганистана

Монокль
Драйверы от Windows или фирменные: что лучше Драйверы от Windows или фирменные: что лучше

Стоит ли устанавливать фирменные драйверы или можно ограничиться встроенными

CHIP
На берегах Амура На берегах Амура

Хабаровск – город, который можно не только посетить, но и… носить в кошельке!

Лиза
Игры по-новому Игры по-новому

Несколько небанальных развлечений, которые не дадут вам взгрустнуть на даче

КАНТРИ Русская азбука
Породы собак, которые хорошо ладят с детьми Породы собак, которые хорошо ладят с детьми

Какую породу собак из сотен доступных принять в свою семью?

ТехИнсайдер
Строго по графику Строго по графику

Чтобы вырастить всё в лучшем виде, многие садоводы опираются на лунный календарь

КАНТРИ Русская азбука
Однажды на террасе Однажды на террасе

Как оборудовать на дачном участке удобное и красивое место отдыха

КАНТРИ Русская азбука
Необитаемый остров Необитаемый остров

Шесть снимков Ксении Хаунд о заброшенных безлюдных местах

Men Today
Свежая ягода — круглый год Свежая ягода — круглый год

Как функционирует круглогодичный комплекс по выращиванию ягод в Ставрополье

Агроинвестор
Что действительно влияет на уровень холестерина? Что действительно влияет на уровень холестерина?

Как снизить уровень холестерина в крови, пока не стало слишком поздно?

ТехИнсайдер
LG Electronics: Поэтическое путешествие LG Electronics: Поэтическое путешествие

Президент компании LG в России и СНГ — о жизни в стихах

РБК
Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов

Кишечная палочка использует ранее неизвестную противовирусную систему

ТехИнсайдер
Рейтинг публикационной активности университетов Рейтинг публикационной активности университетов

Исследование публикационной активности университетов

Эксперт
Открыть в приложении