Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Окно в Древний Рим Окно в Древний Рим

Как Петроний и Феллини сумели преодолеть время с помощью фрагментов культуры

Правила жизни
VOX VOX

VOX — культовое место тихой роскоши, где встречаются знаменитости

Собака.ru
«Цезарь идёт!» «Цезарь идёт!»

«Alea iacta est» — то ли сказал, то ли не сказал Цезарь, когда переходил Рубикон

Дилетант
Маме не говори: 12 вещей, которые родителям не нужно знать о твоем мужчине Маме не говори: 12 вещей, которые родителям не нужно знать о твоем мужчине

О чем не стоит рассказывать даже маме?

VOICE
Тропические болота нивелировали успехи арктических в поглощении углерода Тропические болота нивелировали успехи арктических в поглощении углерода

Почему снижается продуктивность болот, поглощающих углерод

N+1
«Важно запасть в душу потребителю» «Важно запасть в душу потребителю»

Как государство поддерживает экспортеров

Эксперт
Переходи на зеленый Переходи на зеленый

Мода на экосексуальность и привычки, полезные для тебя и для природы

Лиза
В Т-банке не согласились с ЦБ по поводу принудительной замены банковских карт В Т-банке не согласились с ЦБ по поводу принудительной замены банковских карт

Принудительный перевыпуск карт приведет к лишним затратам и неудобству

Ведомости
Никаких шлепок и свадебных платьев: какой дресс-код советуют соблюдать музеи и театры Никаких шлепок и свадебных платьев: какой дресс-код советуют соблюдать музеи и театры

Какие рекомендации по выбору одежды мировые театры и музеи дают посетителям

Forbes
В именьи близ столицы В именьи близ столицы

Почему крестьяне из Мурина получили свободу раньше?

Санкт-Петербургский университет
Параллельщики. Carwin — о главных ошибках при поиске машины за рубежом Параллельщики. Carwin — о главных ошибках при поиске машины за рубежом

Как отличить реального поставщика от хорошо замаскированного обманщика

РБК
Показать то, что за кадром: как создаются экскурсии по действующему кинопарку Показать то, что за кадром: как создаются экскурсии по действующему кинопарку

Как организовать экскурсии по кинопарку, не мешая при этом съемочному процессу

Inc.
Лайфхак, как быстро вернуть вещь, которую вы потеряли Лайфхак, как быстро вернуть вещь, которую вы потеряли

Чек-лист для быстрых и успешных поисков потерянной вещи

Maxim
Как стресс влияет на кожу и как с этим бороться Как стресс влияет на кожу и как с этим бороться

Чем опасна повышенная тревожность для нашего внешнего вида

Правила жизни
Про кабанов, стада червей и теневые растения: пять книг о происходящем в природе Про кабанов, стада червей и теневые растения: пять книг о происходящем в природе

Книги о природе: через зарисовки, философские эссе и медленные наблюдения

Forbes
Принц Тьмы и посол Земли: как Оззи Осборн стал одним из главных символов рок-музыки Принц Тьмы и посол Земли: как Оззи Осборн стал одним из главных символов рок-музыки

Что за личностью был Оззи Осборн и кем он останется в истории музыки

Forbes
Тело знает всё Тело знает всё

Ида Галич — о том, почему важно слушать свое тело и как это делать

Новый очаг
Почти вся пластиковая упаковка загрязнила пищу микропластиком Почти вся пластиковая упаковка загрязнила пищу микропластиком

Микро- и нанопоастик переходит из пластикосодержащей упаковки в еду и напитки

N+1
Здоровые привычки для сердца имеют огромный эффект для всего тела Здоровые привычки для сердца имеют огромный эффект для всего тела

Как хорошее здоровье сердца поддерживает работу практически всех систем органов

ТехИнсайдер
55 и вперед: как «серебряное поколение» адаптируется под новые карьерные треки 55 и вперед: как «серебряное поколение» адаптируется под новые карьерные треки

Как «серебряное поколение» адаптируется к новым карьерным реалиям

Forbes
Про пропан Про пропан

Если газ сжиженный, то он всё-таки ещё газ или уже жидкость?

Наука и жизнь
«Нет на свете страны, где нет магазинов» «Нет на свете страны, где нет магазинов»

Розница в России: как справиться с кризисом и что будет с брендами?

Монокль
Мужчины придут сами: почему ТЦ не пытаются привлечь самых перспективных покупателей Мужчины придут сами: почему ТЦ не пытаются привлечь самых перспективных покупателей

Каких покупателей стараются привлекать торговые центры?

Forbes
Такой бал Такой бал

Как устроить бал выпускнику даже там, где это кажется невозможным

Новый очаг
Пробивной бизнес Пробивной бизнес

Почему пробив — основное правонарушение в области информационной безопасности?

Ведомости
Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе

Как работает автофокус: подробно и со схемами

ТехИнсайдер
Как Сатурну удается сохранять такие ровные кольца Как Сатурну удается сохранять такие ровные кольца

Сатурн: откуда у него кольца и почему они всегда на своем месте

Maxim
Зоологи подтвердили крайнюю редкость рака у черепах Зоологи подтвердили крайнюю редкость рака у черепах

Почему злокачественные опухоли редко встречаются у черепах

N+1
Утомленные летом Утомленные летом

8 старых фильмов, где действие происходит на даче

Лиза
Пришёл танцевать Пришёл танцевать

Владислав Лантратов — о мужской конкуренции и о будущем танца

RR Люкс.Личности.Бизнес.
Открыть в приложении