Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Все есть копия» «Все есть копия»

Как китайцы начинают работать над новым дизайном этого мира

Правила жизни
Рестораны Рестораны

Главные герои московской гастрономической сцены

Robb Report
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
От религиозного уединения до модного отпуска: что такое ретрит и для чего он нужен От религиозного уединения до модного отпуска: что такое ретрит и для чего он нужен

Какие бывают ретриты, в чем их польза для здоровья?

Forbes
Кто сказал «мама» Кто сказал «мама»

Как в разных странах мира называют родственников

Вокруг света
Бережный уход Бережный уход

Как построить маршрут к новому, идеальному месту работы?

Добрые советы
Познание в обход сознания Познание в обход сознания

Почему мозг приписывает намерения нарисованным треугольникам?

Вокруг света
«Это счастье, когда человек на своем месте!» «Это счастье, когда человек на своем месте!»

Какой Михаил Полицеймако вне экрана и сцены?

Добрые советы
Алан Тьюринг Алан Тьюринг

Правила жизни математика, логика, криптографа Алана Тьюринга

Правила жизни
«Дома я не хочу лидировать» «Дома я не хочу лидировать»

Ольга Серябкина о силе тайм-менеджмента, воспитании ребенка и романтике

OK!
Быть Марго Робби Быть Марго Робби

Забавно, что у актрисы, сыгравшей в кино роль Барби, никогда этой куклы не было

Караван историй
Музей на свалке Музей на свалке

Экспозицию этого музея сравнивают с машиной времени

Отдых в России
Приданое, колдовство, ненависть: что такое фемицид и за что убивают женщин Приданое, колдовство, ненависть: что такое фемицид и за что убивают женщин

Фемицид: что это такое и как на убийства женщин реагирует общество?

Forbes
Промышленным гигантам нужны ферменты Промышленным гигантам нужны ферменты

Ученые создали новую технологию получения ферментов для промышленности

Наука
«Вместе навсегда» «Вместе навсегда»

8 правил, которые помогут спасти брак

Лиза
Нина Русланова: «Когда она узнала, что в «Иване Лапшине» будет играть Миронов, отказалась сниматься» Нина Русланова: «Когда она узнала, что в «Иване Лапшине» будет играть Миронов, отказалась сниматься»

Русланова была великой актрисой, играла все: от высокой трагедии до комедии

Караван историй
Сплю и худею Сплю и худею

11 привычек, которые помогают сбрасывать вес даже ночью

Лиза
Были и небылицы Были и небылицы

История — это то, чего не происходило, описанное тем, кто никогда там не был

Дилетант
Любовь, случайности и cash Любовь, случайности и cash

Какие функции всегда должны оставаться за лидером, а какие необходимо передавать

FP. BusinessReview
Сияй, звезда Востока! Сияй, звезда Востока!

Несколько весомых причин поехать в Узбекистан

Добрые советы
Кто стоит за хитами: малоизвестные авторы популярных треков Руви, Lyriq и группа Dabro Кто стоит за хитами: малоизвестные авторы популярных треков Руви, Lyriq и группа Dabro

Сонграйтеры, написавшие настоящие современные хиты

Maxim
Перспективы туризма на Чукотке: маршруты, мифы и природа Перспективы туризма на Чукотке: маршруты, мифы и природа

Чукотка активно развивает сферу туризма и восстанавливает турпоток

ФедералПресс
«Солнечные космические лучи — моя любовь…» «Солнечные космические лучи — моя любовь…»

Галина Базилевская об исследованиях физики Солнца и космических лучей

Наука и жизнь
Яхты Яхты

Новая философия жизни на борту за счёт смелых технических решений

Robb Report
Зачем России квантовые компьютеры: «Так добьемся техносуверенитета» Зачем России квантовые компьютеры: «Так добьемся техносуверенитета»

Вопросы развития технологического суверенитета сейчас стоят особенно остро

ФедералПресс
Татьяна Правдина: «Когда Зяма смотрел свои фильмы, всегда говорил: «Это — не то!» Татьяна Правдина: «Когда Зяма смотрел свои фильмы, всегда говорил: «Это — не то!»

Актеру Зиновию Гердту было 44 года, а переводчице Татьяне Правдиной — 32

Коллекция. Караван историй
Гвоздика Гвоздика

В античной медицине её считали средством, укрепляющим желудок и печень

Здоровье
Пограничное состояние Пограничное состояние

Как криптобиржи помогут обойти санкции

FP. BusinessReview
Яндекс.Маршрутизация и тренды в логистике: «Придут роботы и квадрокоптеры» Яндекс.Маршрутизация и тренды в логистике: «Придут роботы и квадрокоптеры»

Тихон Рощупкин о создании проектов и трендах в современной логистике

ФедералПресс
«Государство не может идти на поводу у бизнеса» «Государство не может идти на поводу у бизнеса»

Михаил Беляев рассказал о новых трендах экономического развития России

FP. BusinessReview
Открыть в приложении