Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От -90 до +80°C: как выглядит архитектура самых сложных для жизни мест на планете От -90 до +80°C: как выглядит архитектура самых сложных для жизни мест на планете

Анти-топ туристических направлений, чтобы вдохновиться грубыми текстурами

Inc.
О любви и Дягилеве О любви и Дягилеве

Красота, грация, любовь — что вы увидите в Денисе Родькине и Элеоноре Севенард

Moodboard
Домашние роботы 2.0 — почему андроидам придется пройти семь кругов бюрократического ада Домашние роботы 2.0 — почему андроидам придется пройти семь кругов бюрократического ада

Эволюция робототехники: готовы ли мы морально и юридически к роботам-помощникам?

Inc.
Поговорим после Поговорим после

Как уйти от неприятного разговора и не чувствовать себя виноватой

Лиза
Почему мы тянем время, даже когда знаем, что надо уйти? О токсичных отношениях и ловушках сознания Почему мы тянем время, даже когда знаем, что надо уйти? О токсичных отношениях и ловушках сознания

Почему же так сложно выйти из замкнутого круга токсичных отношений?

VOICE
Игры по-новому Игры по-новому

Несколько небанальных развлечений, которые не дадут вам взгрустнуть на даче

КАНТРИ Русская азбука
Гидротрансформация Гидротрансформация

Как роботизированная КПП кроссовера Jetour T2 сочетает экономию и проходимость

Автопилот
Можно ли убежать от старости? Можно ли убежать от старости?

Можно ли избежать старения с помощью спорта?

Здоровье
Что имеем – сохраним Что имеем – сохраним

Жаркие дни – весомый повод задуматься, правильно ли ты хранишь свою косметику

Лиза
Время омолодиться: что важно знать о необычном весеннем грибе саркосоме шаровидной или «ведьмином котелке» Время омолодиться: что важно знать о необычном весеннем грибе саркосоме шаровидной или «ведьмином котелке»

Почему саркосому шаровидную называют «молодильным яблоком»?

ТехИнсайдер
Поэты-ифлийцы на фронтах Великой Отечественной Поэты-ифлийцы на фронтах Великой Отечественной

Вступить в «кружок поэтов ИФЛИ» было никак не легче, чем в Союз писателей СССР

Знание – сила
Тест-полоска: как Минздрав помогает регионам лечить пациентов с диабетом Тест-полоска: как Минздрав помогает регионам лечить пациентов с диабетом

Как реализуется федеральная программа «Борьба с сахарным диабетом»

Forbes
Боярские Боярские

Михаил Боярский стал лицом семьи, но все равно уверен — лучшие были до него

Караван историй
Атмосфера жизни Атмосфера жизни

Загородный подмосковный дом с интерьером вне времени

SALON-Interior
Человек с пистолетом и совестью Человек с пистолетом и совестью

Чем Клинт Иствуд важен не для истории кино, а для нас сегодняшних

Weekend
Зеленые защитники Зеленые защитники

Cамые благоприятные комнатные растения по знаку зодиака

Лиза
Сплю и вижу Сплю и вижу

Учимся понимать и расшифровывать свои ночные грезы

Лиза
Океан в деталях Океан в деталях

Пентхаус в Дубае в стиле европейского минимализма с атмосферой курортного отдыха

SALON-Interior
«Нам пора сформулировать закон сохранения цивилизации» «Нам пора сформулировать закон сохранения цивилизации»

Можно ли подружиться с умной машиной? Не может ли она вытеснить человека?

Знание – сила
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
Жизнь на чемоданах Жизнь на чемоданах

Как избежать ненужных рисков во время путешествия?

Здоровье
Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами

Почему запустить бренд обуви в России сложнее, чем локальную марку одежды?

Inc.
Как Йоко Оно вписала свое имя в историю, несмотря на ненависть фанатов The Beatles Как Йоко Оно вписала свое имя в историю, несмотря на ненависть фанатов The Beatles

Творческий путь Йоко Оно и ее знаковые работы

Forbes
Вот как добиться повышения — и усердная работа тут не при чем Вот как добиться повышения — и усердная работа тут не при чем

Что, если, несмотря на все усилия, продвижение по службе обходит вас стороной?

Inc.
На берегах Амура На берегах Амура

Хабаровск – город, который можно не только посетить, но и… носить в кошельке!

Лиза
Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет

Ископаемого водорода хватит, чтобы обеспечить Землю энергией на 170 тысяч лет

ТехИнсайдер
Анатолий Шульев: Свойство таланта в том, чтобы преодолевать неудачи Анатолий Шульев: Свойство таланта в том, чтобы преодолевать неудачи

Анатолий Шульев о смыслах, заложенных в спектакль о физике Льве Ландау

Ведомости
Тарифная суматоха Трампа Тарифная суматоха Трампа

Координаты пространства конфликта, разгоревшегося в международной торговле

Монокль
Мифы и научные данные о животных-долгожителях Мифы и научные данные о животных-долгожителях

От чего зависит скорость старения у разных животных?

Наука и техника
Бюджет: проблемы явные и скрытые Бюджет: проблемы явные и скрытые

В значительной мере в росте дефицита бюджета виноват ЦБ

Монокль
Открыть в приложении