Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Загадки «Семи самураев»: что вы могли не знать о самом известном фильме Акиры Куросавы Загадки «Семи самураев»: что вы могли не знать о самом известном фильме Акиры Куросавы

Вспоминаем фильм мастера Куросавы «Семь самураев» и раскрываем его секреты

Правила жизни
Крах идеала Крах идеала

Что такое красота? Универсальна ли она для всех?

Вокруг света
Креативная Якутия: каких высот достигла республика в сфере IT Креативная Якутия: каких высот достигла республика в сфере IT

Как регион, прославившийся алмазами и мамонтами, стал ассоциироваться с IT?

ФедералПресс
По законам моды По законам моды

Почему предпочтения в одежде так сильно меняются из поколения в поколение?

Вокруг света
Сбежавшая дочь и неудачные браки: одиночество Ларисы Удовиченко Сбежавшая дочь и неудачные браки: одиночество Ларисы Удовиченко

Лариса Удовиченко — яркая актриса СССР, которая заплатила за славу одиночеством

VOICE
Эдвард Бернейс Эдвард Бернейс

Правила жизни пропагандиста и одного из отцов PR Эдварда Бернейса

Правила жизни
Промышленным гигантам нужны ферменты Промышленным гигантам нужны ферменты

Ученые создали новую технологию получения ферментов для промышленности

Наука
Ямальских овцебыков отправили на колыму Ямальских овцебыков отправили на колыму

14 полугодовалых овцебыков будут обживать колымскую тундру

ФедералПресс
Главное действующее лицо по-прежнему студент Главное действующее лицо по-прежнему студент

Как сохранить творческую атмосферу на факультете?

Знание – сила
«Риски существенно преувеличены» «Риски существенно преувеличены»

Торговый оборот России со странами Африки в 2022 году составил 18 млрд долларов

FP. BusinessReview
Осталась при своих Осталась при своих

Как не отдать кибермошеннику все деньги (или хотя бы половину)

VOICE
Аскезы, диджитал-детокс и другое Аскезы, диджитал-детокс и другое

Какие из оздоровительных практик героини решили испытать на себе, и что вышло?

Здоровье
Космическая сила Космическая сила

Почему бы не построить солнечную электростанцию прямо в космосе?

ТехИнсайдер
Любимец нации Любимец нации

Заметки по случаю дня рождения Остапа Сулеймана Берта-Мария Бендер-бея

Знание – сила
«Большинство и не хочет работать» «Большинство и не хочет работать»

Андрея Курпатова считают техноскептиком, но сейчас он работает над созданием ИИ

Правила жизни
Жизнь других Жизнь других

Существуют места, словно созданные для съемок фильмов про иные миры

Men Today
Женщины смотрят: что такое «женский взгляд» в кино Женщины смотрят: что такое «женский взгляд» в кино

Female gaze: что это такое и какие фильмы могут нас с этим понятием познакомить?

Правила жизни
Экономика и крупнейшие предприятия Экономика и крупнейшие предприятия

Самые крупные и значимые предприятия Чувашии

ФедералПресс
Нанопластика волос: состав для процедуры и уход после нее Нанопластика волос: состав для процедуры и уход после нее

Плюсы, минусы и особенности нанопластики

РБК
Что такое секс-шантаж и что делать, если вы стали его жертвой Что такое секс-шантаж и что делать, если вы стали его жертвой

Секс-шантаж: кто становится жертвами мошенников чаще всего?

РБК
Как перестать жалеть всех подряд и помогать им в ущерб себе? Объясняет психолог Как перестать жалеть всех подряд и помогать им в ущерб себе? Объясняет психолог

Что делать, если ты буквально одержима альтруизмом?

VOICE
Глава АНО «Цифровая экономика»: «Мы идем к новым прорывам» Глава АНО «Цифровая экономика»: «Мы идем к новым прорывам»

Сергей Плуготаренко рассказал о развитии ИТ-отрасли в РФ и ее перспективах

ФедералПресс
«Государство не может идти на поводу у бизнеса» «Государство не может идти на поводу у бизнеса»

Михаил Беляев рассказал о новых трендах экономического развития России

FP. BusinessReview
Искусственный интеллект и нейросети: страхи и перспективы Искусственный интеллект и нейросети: страхи и перспективы

Насколько опасно может быть внедрение ИИ в повседневную жизнь человека

ФедералПресс
Ирина Хакамада: Как достигать своих целей Ирина Хакамада: Как достигать своих целей

Отрывок из книги «Чиллософия: опыты выхода из безвыходности»

СНОБ
Вечное влияние великого разума: как Жан-Люк Годар изменил кино Вечное влияние великого разума: как Жан-Люк Годар изменил кино

Как франко-швейцарский режиссер Жан-Люк Годар повлиял на кино.

Правила жизни
«Граф» Пабло Ларраина: что будет, если диктатор окажется бессмертным вампиром «Граф» Пабло Ларраина: что будет, если диктатор окажется бессмертным вампиром

Как история о диктаторе-вампире оказывается менее интересной, чем ожидаешь

Forbes
Всеобщий язык Всеобщий язык

Разговор о том, как сохранять внутреннюю свободу и находить опору

Seasons of life
Работа над ошибками Работа над ошибками

Какую работу над ошибками нужно провести, чтобы сохранить молодость кожи

Добрые советы
Открыть в приложении