Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сергей Шумский: «У роботов не будет инстинкта власти, как у человека» Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»

Минувший год имеет шансы войти в историю как время взрывного роста нейросетей

РБК
Сибирский вайб: 5 перспективных молодых артистов из северного региона Сибирский вайб: 5 перспективных молодых артистов из северного региона

Фрэшмены из Сибири, имеющие все шансы стать звездами

Maxim
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Сыпь под мышками: почему появляется и как сделать, чтобы ее там не было Сыпь под мышками: почему появляется и как сделать, чтобы ее там не было

Какие причины чаще всего вызывают раздражение на коже подмышек

VOICE
Парадокс Спящей красавицы Парадокс Спящей красавицы

Возможно ли впасть в оцепенение на столетие и потом вернуться к жизни?

Вокруг света
Дачи Российской империи. Откуда в России появилась дачная культура? Дачи Российской империи. Откуда в России появилась дачная культура?

Для русского человека дача имеет много смыслов. Так кто же это придумал?

Караван историй
Третья форма денег Третья форма денег

Что такое цифровые валюты центробанков и каково их место в России и мире

РБК
Деньги есть? А если найду Деньги есть? А если найду

Где бизнесу взять инвестиции

FP. BusinessReview
Почему болит живот Почему болит живот

Причины болей в животе, о которых вы даже не догадывались

Добрые советы
Запретить нельзя печатать. Как появился самиздат Запретить нельзя печатать. Как появился самиздат

Самиздат: неподцензурное производство литературы

СНОБ
Алексей Федоров: «Идея квантовых технологий уже необратимо изменила мир» Алексей Федоров: «Идея квантовых технологий уже необратимо изменила мир»

Когда ожидать квантового превосходства и какие изменения оно повлечет в будущем

РБК
Пита в кармане Пита в кармане

Как добавить в блюдо кусочек солнца? Рассказывает шеф ресторана «Мизнон»

Seasons of life
Биоархеологи выяснили рацион людей из скифской «Долины царей» Биоархеологи выяснили рацион людей из скифской «Долины царей»

Ученые проанализировали останки 12 человек из памятника Чинге-Тей-I

N+1
«Женщины для утешения»: как японская армия брала тысячи пленных в сексуальное рабство «Женщины для утешения»: как японская армия брала тысячи пленных в сексуальное рабство

С 1932-го по 1945 год более 200 000 женщин были обращены в сексуальное рабство

Forbes
Правильные путешествия: что делать, где есть и пить в Белграде Правильные путешествия: что делать, где есть и пить в Белграде

Белград: где есть плескавицу, пить ракию, где гулять и что смотреть

Правила жизни
11 притягательных качеств, которые способствуют длительным отношениям 11 притягательных качеств, которые способствуют длительным отношениям

Качества, которые помогут сохранить ваш союз надолго

Psychologies
Как занимать новые ниши на развитом рынке Дубая: опыт Yalla!Market Как занимать новые ниши на развитом рынке Дубая: опыт Yalla!Market

Как основатели Yalla!Market развивали бизнес в Дубае

Правила жизни
Водителя четырежды ошибочно лишили прав. Он узнал об этом на «Госуслугах» Водителя четырежды ошибочно лишили прав. Он узнал об этом на «Госуслугах»

Водитель узнал, что уже четыре раза подряд лишен водительского удостоверения

РБК
Археологи впервые обнаружили сухопутный участок пути «из варяг в греки» Археологи впервые обнаружили сухопутный участок пути «из варяг в греки»

1100-летнюю дорогу нашли в Смоленской области, она используется и по сей день

N+1
За полгода мошенники похитили у россиян более 1,3 млрд руб. через СБП За полгода мошенники похитили у россиян более 1,3 млрд руб. через СБП

За первое полугодие 2023 года мошенники украли у россиян более 1,3 млрд руб

Inc.
«Побочный эффект: Смерть»: история опиоидной эпидемии в США 90-х «Побочный эффект: Смерть»: история опиоидной эпидемии в США 90-х

Каким получился сериал «Побочный эффект: Смерть»

Forbes
Кадровый резерв: как люди с аутизмом устраиваются на работу и почему это выгодно Кадровый резерв: как люди с аутизмом устраиваются на работу и почему это выгодно

О ситуации с сопровождаемым трудоустройством людей с аутизмом

Forbes
Методом проб и ошибок Методом проб и ошибок

Раньше существовал стереотип, что коктейли не сочетаются с едой

Bones
Ученые установили, что биологические нейросети работают по математическому принципу свободной энергии Ученые установили, что биологические нейросети работают по математическому принципу свободной энергии

Самоорганизация нейронов в процессе обучения подчиняется математической теории

ТехИнсайдер
«Отказаться от роли эксперта по жизни другого человека»: почему психолог не должен командовать и наставлять «Отказаться от роли эксперта по жизни другого человека»: почему психолог не должен командовать и наставлять

Как психологи помогают своим клиентам раскрывать потенциал к саморазвитию

Psychologies
«Формула грез» «Формула грез»

Частое использование социальных сетей негативно влияет на психическое здоровье

N+1
«Джеймс Уэбб» нашел гораздо больше массивных черных дыр, чем предсказывала теория «Джеймс Уэбб» нашел гораздо больше массивных черных дыр, чем предсказывала теория

Открытия, которые каждый день делает «Джеймс Уэбб» ломают теорию

ТехИнсайдер
Легендарный советский реквизит, который кочевал из фильма в фильм Легендарный советский реквизит, который кочевал из фильма в фильм

Порой один и тот же реквизит снимался в советских фильмах чаще, чем актеры

Maxim
«Ты — мое все»: 5 фильмов про одержимость любовью «Ты — мое все»: 5 фильмов про одержимость любовью

Как проявляется одержимая любовь?

Psychologies
Игрушка, над которой гении ломали головы: кто и как изобрел знаменитый кубик Рубика Игрушка, над которой гении ломали головы: кто и как изобрел знаменитый кубик Рубика

Труднейшая головоломка XX века появилась соверешенно случайно

ТехИнсайдер
Открыть в приложении