Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Брожение умов в поисках силы всемирного тяготения, или Как рождался жанр «Анти-Ньютон» Брожение умов в поисках силы всемирного тяготения, или Как рождался жанр «Анти-Ньютон»

Глубокие научные концепции как триггер психологических эпидемий в обществе

Знание – сила
IFA против ЗИЛ: в чем сила грузовиков-конкурентов из СССР и ГДР IFA против ЗИЛ: в чем сила грузовиков-конкурентов из СССР и ГДР

Какой грузовой автомобиль был главным в советские годы: ЗИЛ-130 или IFA W 50?

ТехИнсайдер
«Экономическое образование должно быть направлено на благо людей и планеты» | “Economic Education Must Be for the Good of the People and the Planet” «Экономическое образование должно быть направлено на благо людей и планеты» | “Economic Education Must Be for the Good of the People and the Planet”

Интервью с Сонал Рагхуванши, движение Economists for Future

Позитивные изменения
Буль-буль Буль-буль

Фантастический рассказ Владислава Кулигина «Буль-буль»

Знание – сила
Продавцы воздуха. Как бизнес экономит на потребителях и при чем тут шринкфляция Продавцы воздуха. Как бизнес экономит на потребителях и при чем тут шринкфляция

Где граница между маркетинговой хитростью и нарушением доверия покупателей?

Inc.
Роботы против дефицита Роботы против дефицита

Роботизация помогает бизнесу, но требует новых специалистов

Ведомости
На египетской картине нашли библейский синий На египетской картине нашли библейский синий

Из чего древние египтяне делали редкую краску — библейский синий

N+1
В России художник — пророк В России художник — пророк

Что и как видит художник и зачем вообще нужны искусствоведы

Монокль
Глаз-синхротрон Глаз-синхротрон

О том, как научить искусственный интеллект понимать, а не угадывать химию

Наука и жизнь
Через санкции к росту Через санкции к росту

Как российская экономика ищет способы сотрудничества с глобальными игроками

Эксперт
Новые преступные схемы с клиентами СТО. Как не лишиться денег и машины Новые преступные схемы с клиентами СТО. Как не лишиться денег и машины

Как мошенники маскируются под персонал СТО

РБК
Дейнотерий – слон с берегов Дона Дейнотерий – слон с берегов Дона

Слоны – одни из самых стабильных в эволюционном плане животных...

Наука и техника
Абонент не в сети: почему цифровой детокс и отказ от технологий не всегда помогают Абонент не в сети: почему цифровой детокс и отказ от технологий не всегда помогают

Как разумно регулировать свое поведение в соцсетях и в обращении с технологиями

Forbes
Опять и опять «Назад в будущее» Опять и опять «Назад в будущее»

Краткая история ленты «Назад в будущее», вырастившей последнее поколение XX века

Weekend
В такси на Дубровку В такси на Дубровку

Ищешь живописное место для фотосессии? Советские фильмы знают ответ!

Лиза
Команда спасателей Команда спасателей

Справляемся с отпускными кризисными бьюти-ситуациями

Moodboard
Весна императора Весна императора

Цезарь — политик-хищник, с чьим именем неотрывно связана Римская империя

Знание – сила
Денис Власенко: «Все-таки мир не черно-белый» Денис Власенко: «Все-таки мир не черно-белый»

Денис Власенко о «супергеройских» ролях и о том, каково это в возрастном гриме

Ведомости
Автономный шестилапый робот «MICROBRO» Автономный шестилапый робот «MICROBRO»

Как создать ровер, который сам везет ваш багаж туда, куда вам нужно?

Наука и техника
Пифагор, или Теорема с одним неизвестным Пифагор, или Теорема с одним неизвестным

«Нет ни одной детали в жизни Пифагора, которая не была бы опровергнута»

Дилетант
Медвежий угол Медвежий угол

Как оргкомитет московской Олимпиады-80 зарабатывал – рубли и валюту

Ведомости
Таблетки на ветер? Таблетки на ветер?

Как правильно выбрасывать лекарства из аптечки?

Лиза
Культура всегда со страной Культура всегда со страной

Разговор с директором Эрмитажа о роли, которую играют сейчас музеи

Знание – сила
Сделано с заботой: о новой отчетной нагрузке Сделано с заботой: о новой отчетной нагрузке

Постараемся разобраться в правовой основе требований для налогоплательщиков

Ведомости
Мир экзопланет: самые странные экзопланеты Мир экзопланет: самые странные экзопланеты

Как появляются пульсарные планеты, планеты-зомби и бланеты

Наука и техника
Страховка с биткойном Страховка с биткойном

Как работают инвестиционные полисы с привязкой к биткойну

Ведомости
Алексей Сазанов: Ожидания от налоговых новаций в целом оправдались Алексей Сазанов: Ожидания от налоговых новаций в целом оправдались

Замминистра финансов Алексей Сазанов — о налоговых реформах и их результатах

Ведомости
Откуда что пошло на флоте Откуда что пошло на флоте

Повседневная жизнь на парусном военном корабле XVIII века

Наука и техника
Узорочье древних славянок Узорочье древних славянок

Древняя мода: как выглядела одежда на Руси до XIII века

Знание – сила
Почему Тихий океан так называется, если воды его не такие уж и спокойные? Почему Тихий океан так называется, если воды его не такие уж и спокойные?

Почему самый большой океан на планете имеет такое «безобидное» название?

ТехИнсайдер
Открыть в приложении