Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лесная антилопа бонго Лесная антилопа бонго

Антилопа бонго — самая красивая и величественная среди антилоп

Знание – сила
«Операция „Барбаросса“: Начало конца нацистской Германии» «Операция „Барбаросса“: Начало конца нацистской Германии»

Что мешало немцам продвигаться к Москве

N+1
«Цезарь идёт!» «Цезарь идёт!»

«Alea iacta est» — то ли сказал, то ли не сказал Цезарь, когда переходил Рубикон

Дилетант
Правда ли, что OLED-экраны мониторов и телевизоров выгорают? Правда ли, что OLED-экраны мониторов и телевизоров выгорают?

Выгорание OLED-экранов: оправданы ли страхи в действительности?

CHIP
Как подключить телефон к машине: 3 способа Как подключить телефон к машине: 3 способа

Зачем подключать телефон к машине и как это сделать?

РБК
5 привычек, которые бесят всех врачей 5 привычек, которые бесят всех врачей

Почему врач не может поставить вам правильный диагноз?

Maxim
10 неожиданных вопросов группе X4 10 неожиданных вопросов группе X4

Группа X4 — о финансовых приоритетах и детских утренниках

VOICE
«Стекло в пуантах — прошлый век» «Стекло в пуантах — прошлый век»

Почему в профессии балерины так важны верные партнеры и любовь к своему делу

OK!
Тихая охота Тихая охота

Как правильно и безопасно собирать грибы осенью

Лиза
Бренды и тренды Бренды и тренды

Будущее автомобилей направлено исключительно вверх

Men Today
Александр Гронский и Алина Глазун Александр Гронский и Алина Глазун

Арт-паверкапл художницы Алины Глазун и фотографа Александра Гронского

Собака.ru
В этот раз я не родился курьером В этот раз я не родился курьером

Ведь доставлять можно не только продукты... можно нести что-то большее

Правила жизни
Безопасно ли прыгать в сухие листья Безопасно ли прыгать в сухие листья

Прыжки в кучи сухих листьев могут представлять опасность для здоровья

ТехИнсайдер
Премиальный минимализм Премиальный минимализм

Эта ванная — пример идеального премиального минимализма

Идеи Вашего Дома
Мир, где весело и нет времени Мир, где весело и нет времени

Все самое важное о Дживсе и Вустере

Weekend
Шутки в сторону Шутки в сторону

Почему юмор уже не тот

Men Today
«Холодный мир – это наше достояние» «Холодный мир – это наше достояние»

Что такое криосфера? Можно ли использовать знания о ней в повседневной жизни?

Знание – сила
Доставщик на миллион Доставщик на миллион

Люди перестали рожать детей, потому что их теперь незачем посылать в магазин

Правила жизни
Догоняющие доходы Догоняющие доходы

Рост доходов субъектов обеспечила в основном положительная динамика НДФЛ

Ведомости
Сделаем в лучшем виде Сделаем в лучшем виде

Работает ли революционная идея типажей Кибби-Ларсон?

VOICE
В атмосфере спа В атмосфере спа

Дизайнер сделала ванную местом, где можно получать наслаждение от интерьера

Идеи Вашего Дома
Богдан Лисевский Богдан Лисевский

Богдан Лисевский: о больших переменах, которые могут случиться в маленькой семье

Правила жизни
Начни с порога Начни с порога

Как выжать максимум из маленького коридора

Лиза
Олег Мельников: «Спрос на банковское сопровождение контрактов растет из года в год» Олег Мельников: «Спрос на банковское сопровождение контрактов растет из года в год»

О значении механизма банковского сопровождения и его будущих возможностях

Ведомости
«Поднебесная: 4000 лет китайской цивилизации» «Поднебесная: 4000 лет китайской цивилизации»

Как выглядели семь великих морских экспедиций начала XV века

N+1
Могут ли добавки с витамином D замедлить старения Могут ли добавки с витамином D замедлить старения

Витамин D — ключ к долголетию?

ТехИнсайдер
Добро с кулаками Добро с кулаками

Актер Леон Кемстач о своем пути к киноолимпу

Men Today
Полугар Полугар

Проснулся без будильника. Было еще рано, остался лежать. Идти все равно некуда

Правила жизни
До эпохи айфона: 10 телефонов, о которых мечтали все До эпохи айфона: 10 телефонов, о которых мечтали все

Раскладушки, встроенные игровые консоли — добро пожаловать в зал славы телефонов

Inc.
Свежая зелень Свежая зелень

Компактная ванная: пример выверенной планировки и сложной колористики

Идеи Вашего Дома
Открыть в приложении