Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Киборги Киборги

Что если сращивание человека с техникой давно произошло, просто мы не заметили?

Правила жизни
Детка, ты просто космос Детка, ты просто космос

Валери Зоидова о первой потерянной любви и несогласии со Скарлетт О'Харой

VOICE
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Красота без изъяна. Как сохранить здоровье груди и не дать мастопатии перерасти в рак Красота без изъяна. Как сохранить здоровье груди и не дать мастопатии перерасти в рак

Большинство женщин, у которых диагностирована мастопатия, находятся в зоне риска

Лиза
Затянуть ниже пояса Затянуть ниже пояса

Алиса Загрядская о том, что такое телесные иерархии и как они связаны с юмором

Правила жизни
8 фраз, которые ребенок никогда не простит родителям 8 фраз, которые ребенок никогда не простит родителям

Родительские фразы, брошенные сгоряча, которые ребенок запомнит на всю жизнь

Psychologies
15 признаков коренного ленинградца 15 признаков коренного ленинградца

Своеобразные повадки коренных петербуржцев

Maxim
Учите меня жить Учите меня жить

Коуч: что это за специалист и как он на самом деле может помочь?

VOICE
Кто Вы, княгиня Эльга? Кто Вы, княгиня Эльга?

Отрывок из готовящейся к печати книги «Киев — Москва. Расхождение»

Дилетант
Французский парадокс Французский парадокс

Что едят француженки, чтобы оставаться стройными?

Лиза
Совы во льдах. Как американский орнитолог спасал рыбного филина на Дальнем Востоке Совы во льдах. Как американский орнитолог спасал рыбного филина на Дальнем Востоке

Отрывок из документального рассказа о Дальнем Востоке

СНОБ
Отказаться от сигарет по науке Отказаться от сигарет по науке

Почему люди продолжают курить сигареты?

Наука
Пессимизм в одной отдельной взятой стране Пессимизм в одной отдельной взятой стране

Художник Иван Дубяга: поэзия в живописи

Weekend
Как перестать жалеть всех подряд и помогать им в ущерб себе? Объясняет психолог Как перестать жалеть всех подряд и помогать им в ущерб себе? Объясняет психолог

Что делать, если ты буквально одержима альтруизмом?

VOICE
Как женщины ухаживали за собой в старину? Как женщины ухаживали за собой в старину?

Помада из бычьего сала, бодяга, кипяченая зала — какой была косметика в старину

Культура.РФ
Новый Вавилон Новый Вавилон

В любой непонятной ситуации нужно строить что-нибудь колоссальное

ТехИнсайдер
Путешествия Путешествия

Поражающие воображение отели в самых удивительных уголках земного шара

Robb Report
Королева британского соула: как Эми Уайнхаус изменила музыку, отдав ей свою жизнь Королева британского соула: как Эми Уайнхаус изменила музыку, отдав ей свою жизнь

Какой была жизнь Эми Уайнхаус и как она изменила музыку

Forbes
Терминатор Т-800 Терминатор Т-800

Правила жизни Терминатора Т-800

Правила жизни
Главное действующее лицо по-прежнему студент Главное действующее лицо по-прежнему студент

Как сохранить творческую атмосферу на факультете?

Знание – сила
Нет повода не выжить Нет повода не выжить

Алексей Зимин нашел способ принимать неизбежное и повод выпить за это

Men Today
Новости медицины Новости медицины

Умный браслет-будильник, связь здоровья зубов с мозгом и укачивание в дороге

Лиза
Авиация Авиация

Рекордно просторные салоны, близкая к рекордной скорость плюс забота об экологии

Robb Report
Сезон открытий Сезон открытий

Программа минимум в Астраханской области: Волга, вобла и арбузы

Лиза
Практичный контемпорари Практичный контемпорари

Стильное пространство с интересными деталями

Идеи Вашего Дома
Андрей Лихачев: «Технологии просочатся за пределы мегапроектов» Андрей Лихачев: «Технологии просочатся за пределы мегапроектов»

Как сделать города по-настоящему «умными» и зелеными?

РБК
Права категории Е: как получить, инструкция Права категории Е: как получить, инструкция

Права категории Е: как оформить и какой экзамен ждет в ГИБДД

РБК
От Вологды до Мурманска: как женщины управляют региональными ателье по всей стране От Вологды до Мурманска: как женщины управляют региональными ателье по всей стране

Предпринимательницы из разных городов, которые вопреки всему развивают ателье

Forbes
Эротический покер: подборка из 5 игр, которые помогут оживить интимную жизнь Эротический покер: подборка из 5 игр, которые помогут оживить интимную жизнь

Чувствуете, что романтика и огонь страстей покинули вашу спальню?

Psychologies
Медиа империи Медиа империи

Изучим анатомию своеобразного медиахолдинга Российской империи середины XIX века

Наука
Открыть в приложении