Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Восхождение дракона Восхождение дракона

Как Поднебесной удалось стать центром мирового автопрома?

Robb Report
Тайна «пляжного тела» Тайна «пляжного тела»

«Пляжное тела»: почему оно есть у всех и в то же время не существует

VOICE
Мобилизация-1914: эмоции россиян Мобилизация-1914: эмоции россиян

Кто определяет «национальные интересы»?

Дилетант
Скоро на экранах Скоро на экранах

Кем могли бы стать молодые актеры, если бы выбрали другую профессию?

Grazia
Пинты лиха Пинты лиха

Культура Туманного Альбиона кроется в акцентах — в том числе и музыкальных

Weekend
От бобра до банкротства: 1670–2025 От бобра до банкротства: 1670–2025

История самой старой компании Северной Америки

Деньги
Грибы Грибы

Полны белка и клетчатки: чем полезны грибы и как их готовить?

Здоровье
Культ личности Культ личности

Как повысить самооценку и изменить жизнь к лучшему

Лиза
Обратная связь планеты Обратная связь планеты

Почему Арктика — самое «горячее» место на планете?

Наука и жизнь
Группа GORODA: «В России есть достойные музыканты» Группа GORODA: «В России есть достойные музыканты»

Группа GORODA стремительно ворвалась на музыкальную сцену, став ярким открытием

ЖАРА Magazine
Дональд Трамп усложнил выдачу виз для граждан всех стран, включая Россию Дональд Трамп усложнил выдачу виз для граждан всех стран, включая Россию

Дональд Трамп хочет, чтобы в США приезжали только высококвалифицированные кадры

Ведомости
Дышать или не дышать: насколько эффективна дорогостоящая ксенонотерапия Дышать или не дышать: насколько эффективна дорогостоящая ксенонотерапия

Ксенонотерапия: что это за метод, безопасен ли он и насколько полезен в лечении?

Forbes
Виноват не хакер: 4 мифа о кибербезопасности, которые ставят бизнес под удар Виноват не хакер: 4 мифа о кибербезопасности, которые ставят бизнес под удар

Проблема кибербезопасности может крыться не в хакерах, а в сотрудниках

Inc.
Одно из самых опасных транспортных средств: как погибла Мэри Уорд — первая в мире жертва автомобильного ДТП Одно из самых опасных транспортных средств: как погибла Мэри Уорд — первая в мире жертва автомобильного ДТП

Кто такая Мэри Уорд и как она связана с первым в мире ДТП

ТехИнсайдер
Спаривание черного ягуара впервые запечатлели в природе Спаривание черного ягуара впервые запечатлели в природе

Самка-меланистка совокупилась с пятнистым самцом в одном из национальных парков

N+1
Аграрий 2.0: 10 профессий, показывающих, как технологии меняют сельское хозяйство Аграрий 2.0: 10 профессий, показывающих, как технологии меняют сельское хозяйство

От сити-фермеров до агроинженеров — спектр новых профессий впечатляет

Maxim
Дорогой лапши Дорогой лапши

Китайская лапша давно свернула с Великого шелкового пути

Seasons of life
Как ездить на велосипеде в темноте: 7 неочевидных правил Как ездить на велосипеде в темноте: 7 неочевидных правил

Как улучшить свой стиль езды на велосипеде в ночное время ?

ТехИнсайдер
Повышенная тревожность Повышенная тревожность

Почему дети начинают тревожиться, и чем тут могут помочь взрослые?

Здоровье
Лето без хита: почему в музыке не хватило героев и при чем тут Морган Уоллен Лето без хита: почему в музыке не хватило героев и при чем тут Морган Уоллен

Год без хита: как музыка ушла в прошлое

Правила жизни
Кардиналы визажа Кардиналы визажа

Как менялись мейкап-тенденции в ХХ–ХХI веках

Moodboard
«Холодный мир – это наше достояние» «Холодный мир – это наше достояние»

Что такое криосфера? Можно ли использовать знания о ней в повседневной жизни?

Знание – сила
Российский траст Российский траст

Что такое личный фонд и как он реализовывается

Деньги
Дальний Восток: территория противоречий Дальний Восток: территория противоречий

Дальний Восток: почему инвестиции не спасают от оттока людей и транзитной роли

Монокль
Продукты, которые могут оказаться опасными, если приготовить их неправильно Продукты, которые могут оказаться опасными, если приготовить их неправильно

Если неправильно приготовить эти блюда, последствия могут быть серьезными!

ТехИнсайдер
Джеффри Сакс: «США могли дать России план Маршалла, но выбрали тактику удушения» Джеффри Сакс: «США могли дать России план Маршалла, но выбрали тактику удушения»

Почему на Западе не услышали своего главного пророка?

Монокль
Начни с порога Начни с порога

Как выжать максимум из маленького коридора

Лиза
Что посеешь? Что посеешь?

Почему растет доля контрафактных и фальсифицированных семян

Агроинвестор
Обзор Hyundai Staria: так ли хорошо едет «спейс шаттл», как выглядит Обзор Hyundai Staria: так ли хорошо едет «спейс шаттл», как выглядит

Hyundai Staria: Внеземной минивэн по земным ценам

ТехИнсайдер
20 легендарных мультфильмов для всех возрастов, которые должен посмотреть каждый хоть раз в жизни 20 легендарных мультфильмов для всех возрастов, которые должен посмотреть каждый хоть раз в жизни

Мультики, которые стоит посмотреть всем вне зависимости от возраста

Правила жизни
Открыть в приложении