Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Будущее вопросительно Будущее вопросительно

Алексей Андреев стоял у истоков русскоязычного сегмента интернета

Правила жизни
Как подключить компьютер к компьютеру: обмениваемся файлами без флешек и внешних дисков Как подключить компьютер к компьютеру: обмениваемся файлами без флешек и внешних дисков

Как передать файлы между компьютерами?

CHIP
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Алексей Федоров: «Идея квантовых технологий уже необратимо изменила мир» Алексей Федоров: «Идея квантовых технологий уже необратимо изменила мир»

Когда ожидать квантового превосходства и какие изменения оно повлечет в будущем

РБК
В контакте с видео В контакте с видео

«VK видео» обошел YouTube по охвату в России: что это значит для видеорынка?

Ведомости
«Риски существенно преувеличены» «Риски существенно преувеличены»

Торговый оборот России со странами Африки в 2022 году составил 18 млрд долларов

FP. BusinessReview
Александр Чулок: «Мы не стараемся угадать будущее, мы хотим его создать» Александр Чулок: «Мы не стараемся угадать будущее, мы хотим его создать»

Прогнозист Александр Чулок — о том, чем станет ИИ для общества в будущем

РБК
Врастание машин Врастание машин

«Конец индивидуума»: чем нам на самом деле грозит искусственный интеллект

Weekend
Медведев проиграл в финале: как он извлекал пользу и деньги из прошлых поражений Медведев проиграл в финале: как он извлекал пользу и деньги из прошлых поражений

Как на Даниила Медведева и его карьеру влияли поражения в «мэйджорах»

Forbes
Портрет и пейзаж Портрет и пейзаж

Природный ландшафт в оформлении интерьера квартиры в доме в горах

Идеи Вашего Дома
Субботы терпкий вкус Субботы терпкий вкус

Рисовать в Шаббат? Художница Елена Репетур убедилась, что Израиль — страна чудес

Seasons of life
20 спорных и культовых фильмов про секс: от «Интимных мест» до «Служанки» 20 спорных и культовых фильмов про секс: от «Интимных мест» до «Служанки»

Фильмы, которые рассматривают интимность и любовные интриги

РБК
Надежда Бабкина: «Красотой русских женщин восторгается весь мир!» Надежда Бабкина: «Красотой русских женщин восторгается весь мир!»

Как Надежда Бабкина пришла к гармонии между внутренним и внешним?

Добрые советы
Хоррор дожития Хоррор дожития

Как Джордж А. Ромеро напугал стариками борцов с эйджизмом

Weekend
Дневник предпринимательницы: как из булочной получилась диджитал-компания Дневник предпринимательницы: как из булочной получилась диджитал-компания

Может ли начинающий предприниматель выйти на большую торговую площадку?

Forbes
Присмотритесь к близким: 6 признаков деменции, которые увидите только вы Присмотритесь к близким: 6 признаков деменции, которые увидите только вы

Как распознать первые симптомы деменции у близких?

Psychologies
10 способов справиться с тревожностью 10 способов справиться с тревожностью

Как остановить круговорот неприятных мыслей?

Psychologies
Made in China Made in China

Как развивался китайский автопром

Men Today
Детское воровство: как вести себя родителю — 3 шага Детское воровство: как вести себя родителю — 3 шага

Почему дети начинают воровать и что в таком случае делать?

Psychologies
Нет повода не выжить Нет повода не выжить

Алексей Зимин нашел способ принимать неизбежное и повод выпить за это

Men Today
Марвин Марвин

Правила жизни параноидального андроида Марвина

Правила жизни
«Влюбить в морские науки»: как работает «Плавучий университет» «Влюбить в морские науки»: как работает «Плавучий университет»

Как работает «Плавучий университет», что он дает участникам?

Наука
«Перестаньте искать предназначение!»: 3 фактора, которые нужно иметь в виду «Перестаньте искать предназначение!»: 3 фактора, которые нужно иметь в виду

Заигравшись в поиски себя, можно пропустить настоящую жизнь

Psychologies
Выйти за рамки Выйти за рамки

Пять новых книг о креативности в 2023 году

FP. BusinessReview
Нарушительницы: что общего у «Девушки с татуировкой дракона» и Пеппи Длинныйчулок Нарушительницы: что общего у «Девушки с татуировкой дракона» и Пеппи Длинныйчулок

Глава из книги «Тысячеликая героиня» о героинях-трикстерах

Forbes
Секрет фирмы Секрет фирмы

Раздаем полезные советы по менеджменту (бесплатно)

Лиза
«Тайны доисторического мира: Удивительные истории из жизни вымерших животных» «Тайны доисторического мира: Удивительные истории из жизни вымерших животных»

Рассказ о млекопитающем, которое охотилось на динозавров

N+1
Будущее по дефолту Будущее по дефолту

Какие ожидания сформировал экономический кризис 1998-го

Weekend
Одна против всех Одна против всех

Сериал «Литвиненко» демонстрирует, что за каждым героем стоит героиня

Дилетант
Наука в России: «Открываются очень большие перспективы» Наука в России: «Открываются очень большие перспективы»

Как достигнуть научного и технологического суверенитета в стране?

ФедералПресс
Открыть в приложении