Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Крадущийся тигр, возбудившийся дракон Крадущийся тигр, возбудившийся дракон

Рассказываем, какую роль играет секс в Японии и Китае

СНОБ
Как в оранжерее Как в оранжерее

Лучшая гарантия здорового роста комнатных растений – своевременный уход

Лиза
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Как вести себя, если у партнера зависимость: 3 шага к исцелению Как вести себя, если у партнера зависимость: 3 шага к исцелению

Лечение от зависимости — тяжелое испытание для семьи, как его пройти?

Psychologies
Тепло, еще теплее: будет ли профит от таяния льдов в Арктике Тепло, еще теплее: будет ли профит от таяния льдов в Арктике

Как сокращение площади льда в Арктике повлияет на разные отрасли

Монокль
Gesamtkunstwerk с конями Gesamtkunstwerk с конями

Как Александр Медведкин отдал всю власть над Москвой народу

Weekend
Дорого внимание Дорого внимание

Ольга Карпуть разбирается, действительно ли юмор продает

Правила жизни
Одна против всех Одна против всех

Сериал «Литвиненко» демонстрирует, что за каждым героем стоит героиня

Дилетант
Ананасы в шампанском. О чем и как писал Игорь Северянин Ананасы в шампанском. О чем и как писал Игорь Северянин

Как Игорю Северянину удалось стать «королем поэтов»?

СНОБ
Авиация Авиация

Рекордно просторные салоны, близкая к рекордной скорость плюс забота об экологии

Robb Report
Андрей Лихачев: «Технологии просочатся за пределы мегапроектов» Андрей Лихачев: «Технологии просочатся за пределы мегапроектов»

Как сделать города по-настоящему «умными» и зелеными?

РБК
Решения от UST Inc. конкурируют с Tesla по безопасности Решения от UST Inc. конкурируют с Tesla по безопасности

Какие решения по повышению безопасности беспилотников предлагает UST Inc

ФедералПресс
Партком тут бессилен Партком тут бессилен

Как советская производственная драма оказалась политической

Weekend
Автомобили Автомобили

Лимитированные версии и прорывные технологии в автомобильной сфере

Robb Report
Как мужчине ухаживать за лицом, чтобы в 40 лет оно не скукожилось Как мужчине ухаживать за лицом, чтобы в 40 лет оно не скукожилось

Врач-дерматолог рассказывает о тонкостях мужского ухода за кожей лица

Maxim
Надежда Бабкина: «Красотой русских женщин восторгается весь мир!» Надежда Бабкина: «Красотой русских женщин восторгается весь мир!»

Как Надежда Бабкина пришла к гармонии между внутренним и внешним?

Добрые советы
Личные границы Личные границы

Каким должен быть забор между соседями в частном доме по закону

Лиза
Свидетельства неслучившегося Свидетельства неслучившегося

Песни Пахмутовой и Добронравова задали эмоциональный режим советского человека

Weekend
Осторожно: псевдопсихолог! Осторожно: псевдопсихолог!

Выдуманные заболевания, которые могут тебе приписать

Лиза
Куда пропала правобережная мурома Куда пропала правобережная мурома

Находки с правого берега Оки позволили по-новому взглянуть на мурому

Наука
Дачи Российской империи. Откуда в России появилась дачная культура? Дачи Российской империи. Откуда в России появилась дачная культура?

Для русского человека дача имеет много смыслов. Так кто же это придумал?

Караван историй
Санкции против простуды Санкции против простуды

Как быстро остановить простуду?

Добрые советы
Беспилотники и ИИ-врачи: цифровое будущее России Беспилотники и ИИ-врачи: цифровое будущее России

Россия занимает одно из ведущих мест в мире по развитию цифровых сервисов

ФедералПресс
Те и эти Те и эти

Как жила немецкая культура при нацизме

Weekend
Присмотритесь к близким: 6 признаков деменции, которые увидите только вы Присмотритесь к близким: 6 признаков деменции, которые увидите только вы

Как распознать первые симптомы деменции у близких?

Psychologies
Наука в России: «Открываются очень большие перспективы» Наука в России: «Открываются очень большие перспективы»

Как достигнуть научного и технологического суверенитета в стране?

ФедералПресс
Так было или не было? Так было или не было?

7 самых известных мифов в истории человечества

Лиза
Золото в жилах стынет Золото в жилах стынет

Как добывают самое северное в мире золото

ТехИнсайдер
Субботы терпкий вкус Субботы терпкий вкус

Рисовать в Шаббат? Художница Елена Репетур убедилась, что Израиль — страна чудес

Seasons of life
Битва за правописание Битва за правописание

Последние сто лет человечество ждет, что роботы лишат его работы

Правила жизни
Открыть в приложении