Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Увидимся в среде Увидимся в среде

Какие идеи лежат в основе современной архитектурной политики мегаполисов

Правила жизни
Олег Кожемяко: «Приморье преодолело негативные последствия санкций» Олег Кожемяко: «Приморье преодолело негативные последствия санкций»

Приморский край играет ведущую роль в объявленном президентом курсе на Восток

ФедералПресс
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
«Пиксель. История одной точки» «Пиксель. История одной точки»

Как инженеры создали первые цифровые изображения

N+1
«Не каждый может придумывать что-то новое» «Не каждый может придумывать что-то новое»

Испанец Дабиз Муньос – гастрономическая сенсация

Правила жизни
Почему болит живот Почему болит живот

Причины болей в животе, о которых вы даже не догадывались

Добрые советы
Вдохновленные превосходством Вдохновленные превосходством

Квантовая гонка: за что борется Россия и какие имеет шансы на победу?

Монокль
Деревня викингов и деревянное зодчество: что посмотреть в Новгородской области Деревня викингов и деревянное зодчество: что посмотреть в Новгородской области

Что можно посмотреть в Новгородской области и чем она будет удивлять в будущем

ФедералПресс
Мимо ехали евреи Мимо ехали евреи

«И ясно, что евреи виноваты, осталось только летопись найти»

Дилетант
5 признаков деменции у собаки 5 признаков деменции у собаки

Как понять, что ваш питомец болен слабоумием?

ТехИнсайдер
Осиная талия. Привычки питания, которые мешают тебе похудеть в талии Осиная талия. Привычки питания, которые мешают тебе похудеть в талии

Потеря веса – не всегда простая задача. А как похудеть в области талии?

Лиза
Красота без изъяна. Как сохранить здоровье груди и не дать мастопатии перерасти в рак Красота без изъяна. Как сохранить здоровье груди и не дать мастопатии перерасти в рак

Большинство женщин, у которых диагностирована мастопатия, находятся в зоне риска

Лиза
Сделай сам Сделай сам

Игрушечные машинки своими руками

Автопилот
«Беременность на колесиках»: почему модные методики зачатия не работают — разоблачение от врача-гинеколога «Беременность на колесиках»: почему модные методики зачатия не работают — разоблачение от врача-гинеколога

Как женщины сами мешают себе забеременеть — с научной точки зрения

VOICE
Как назвать кота: выбираем кличку питомцу Как назвать кота: выбираем кличку питомцу

Идеи-подсказки, как назвать нового друга

ТехИнсайдер
Ирина Хакамада: Как достигать своих целей Ирина Хакамада: Как достигать своих целей

Отрывок из книги «Чиллософия: опыты выхода из безвыходности»

СНОБ
Как разобраться в современном арт-рынке — краткая памятка Как разобраться в современном арт-рынке — краткая памятка

Памятка, которая поможет начинающему коллекционеру современного искусства

Правила жизни
Как размножаются математики Как размножаются математики

Каждый путь математика к звездам проходит через тернии

Знание – сила
Мужчина мечты Мужчина мечты

Станислав Магкеев приятно удивил нас своей добротой, честностью, даже упрямством

VOICE
Неудачный байопик о выдающейся женщине: почему нас разочаровал фильм о Голде Меир Неудачный байопик о выдающейся женщине: почему нас разочаровал фильм о Голде Меир

Почему фильм о сильной женщине Голде Меир получился таким слабым?

Forbes
Меню оптимистки. 14 продуктов, которые помогают в  борьбе с апатией и депрессией Меню оптимистки. 14 продуктов, которые помогают в  борьбе с апатией и депрессией

Правильное питание поможет поднять настроение и выйти из депрессии

Лиза
Война Алой и Белой розы: из истории термина Война Алой и Белой розы: из истории термина

Как сцена из пьесы стала страницей английской истории

Знание – сила
Одна против всех Одна против всех

Сериал «Литвиненко» демонстрирует, что за каждым героем стоит героиня

Дилетант
Цифровые улики: как соцсети помогают находить активы и выигрывать суды Цифровые улики: как соцсети помогают находить активы и выигрывать суды

Как социальные сети могут использовать против владельца страницы

Forbes
Так было или не было? Так было или не было?

7 самых известных мифов в истории человечества

Лиза
Врастание машин Врастание машин

«Конец индивидуума»: чем нам на самом деле грозит искусственный интеллект

Weekend
Санкции против простуды Санкции против простуды

Как быстро остановить простуду?

Добрые советы
Бабочка на шее. Как предупредить заболевания щитовидной железы Бабочка на шее. Как предупредить заболевания щитовидной железы

Сбои в работе щитовидки могут стать причиной самых разных бед

Лиза
Александр Чернокульский: «У климатологов на будущее есть еще и план «Б» Александр Чернокульский: «У климатологов на будущее есть еще и план «Б»

Что станет с климатом через 30 лет и к каким изменениям нужно быть готовым?

РБК
Екатерина Дурова: «Гадалка сказала отцу: «Тебя нет. Ты давно умер». Он действительно много раз мог погибнуть» Екатерина Дурова: «Гадалка сказала отцу: «Тебя нет. Ты давно умер». Он действительно много раз мог погибнуть»

Было абсолютно очевидно, Лев Дуров так и остался главным человеком в ее жизни

Коллекция. Караван историй
Открыть в приложении