Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Китайские церемонии и арабская дипломатия. Как незнание культуры другой страны может разрушить бизнес Китайские церемонии и арабская дипломатия. Как незнание культуры другой страны может разрушить бизнес

Как не оказаться на грани банкротства из-за культурных различий и стереотипов

Inc.
Немоляевы и Лазаревы Немоляевы и Лазаревы

Немоляевы и Лазаревы: вся семья — как целая киностудия

Караван историй
Дружелюбный инсайдер: как ИИ становится новым каналом утечек Дружелюбный инсайдер: как ИИ становится новым каналом утечек

ИИ против безопасности: почему компании теряют данные через ChatGPT

Forbes
Маршрут построен Маршрут построен

Как экономить на поездках в метро в разных городах России

Лиза
Лето без хита: почему в музыке не хватило героев и при чем тут Морган Уоллен Лето без хита: почему в музыке не хватило героев и при чем тут Морган Уоллен

Год без хита: как музыка ушла в прошлое

Правила жизни
Душа Тосканы Душа Тосканы

Модернистская вилла на склонах холмов, которыми славится тосканский пейзаж

SALON-Interior
Кино привезли Кино привезли

Сколько стоили импортные фильмы России

Деньги
Волна у нас дома Волна у нас дома

Что такое сёрфинг на искусственной волне

Новый очаг
Стресс в наследство Стресс в наследство

Как на ребенка влияет стресс матери во время беременности?

Здоровье
Энергия вместо долга Энергия вместо долга

Как получилось, что США оказалась на грани дефолта?

Ведомости
Небо и море люблю одинаково… Небо и море люблю одинаково…

Боевой и жизненный путь генерал-майора авиации Ивана Васильевича Рожкова

Знание – сила
«Фишер. Затмение»: южнорусская готика «Фишер. Затмение»: южнорусская готика

Стартовало продолжение триллера о поисках серийного убийцы «Фишер. Затмение»

Ведомости
Юрий Яковлев: «Уверен, что артисты — это больные люди!» Юрий Яковлев: «Уверен, что артисты — это больные люди!»

Вот иду по улице, а на меня смотрят, как на сумасшедшего

Коллекция. Караван историй
Игры по-новому Игры по-новому

Несколько небанальных развлечений, которые не дадут вам взгрустнуть на даче

КАНТРИ Русская азбука
«Он заслужил «Золотой мяч»: как Ламин Ямаль начал зарабатывать десятки миллионов «Он заслужил «Золотой мяч»: как Ламин Ямаль начал зарабатывать десятки миллионов

О карьере юной звезды Ламина Ямаля

Forbes
Владимир Шафоростов: «Около трети стартапов в агротехе связаны с биотехнологиями» Владимир Шафоростов: «Около трети стартапов в агротехе связаны с биотехнологиями»

Какие непаханые поля открывают в аграрном секторе новые технологии?

РБК
От ассистентки до инвестора SpaceX: как экс-сотрудница Маска стала успешной в бизнесе От ассистентки до инвестора SpaceX: как экс-сотрудница Маска стала успешной в бизнесе

Как Баттерфилд работала с Маском и какой путь она выбрала, когда ушла из SpaceX

Forbes
0,06 га счастья 0,06 га счастья

Когда в России появилось такое явление, как дача

КАНТРИ Русская азбука
Астрономы впервые нашли пару из миллисекундного пульсара и обнаженной гелиевой звезды Астрономы впервые нашли пару из миллисекундного пульсара и обнаженной гелиевой звезды

Что приводит к возникновению систем с миллисекундными пульсарами?

N+1
Франшиза: Что скрывается за этим словом? Франшиза: Что скрывается за этим словом?

Франшиза — идеальный рецепт успеха или сложная система с подводными камнями?

Наука и техника
Астрономы заметили в космосе таинственную идеальную сферу Астрономы заметили в космосе таинственную идеальную сферу

Объект Телиос: совершенная сфера неизвестного происхождения

ТехИнсайдер
Агата Кристи, вооруженные каскадеры и мощные моторы: как работала сирийская «дорога Нэрнов» Агата Кристи, вооруженные каскадеры и мощные моторы: как работала сирийская «дорога Нэрнов»

История создания автобусного маршрута от Бейрута до Багдада братьями Нэрнами

ТехИнсайдер
Тарифная суматоха Трампа Тарифная суматоха Трампа

Координаты пространства конфликта, разгоревшегося в международной торговле

Монокль
Пробежать мышкой Пробежать мышкой

Обзор удобных программ для планирования интерьера дома и участка

КАНТРИ Русская азбука
«Умри, моя любовь»: хоррор с Дженнифер Лоуренс о сложном опыте материнства «Умри, моя любовь»: хоррор с Дженнифер Лоуренс о сложном опыте материнства

Как Линн Рэмси превращает сюжет, знакомый многим семьям, в мрачный хоррор

Forbes
Зеленые защитники Зеленые защитники

Какие партнерства садовых растений обладают удивительными способностями?

Добрые советы
Национальность может говорить о потребностях во сне Национальность может говорить о потребностях во сне

Культурные нормы определяют ваши потребности во сне. Так ли это?

ТехИнсайдер
Нет 100% гарантии. Дешевле и безопаснее купить авто у дилера или перекупа Нет 100% гарантии. Дешевле и безопаснее купить авто у дилера или перекупа

У кого выгоднее приобрести подержанную машину: у дилера или частного продавца?

РБК
«Мы боремся с инфляцией ценой экономического роста» «Мы боремся с инфляцией ценой экономического роста»

Эксперт ЦМАКП — о состоянии экономики, промышленности и инвестиций

Монокль
Женщины-фридайверы из Южной Кореи адаптировались для жизни под водой Женщины-фридайверы из Южной Кореи адаптировались для жизни под водой

Чем отличаются женщины общины хэнё от кореянок, живущими на материке

ТехИнсайдер
Открыть в приложении