Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Экзистенциальное отчаяние: к чему приводит отсутствие целей в жизни Экзистенциальное отчаяние: к чему приводит отсутствие целей в жизни

Что происходит с нашей психикой, если мы ни к чему не стремимся?

Psychologies
Падение Голиафа: каким будет финал Международной космической станции Падение Голиафа: каким будет финал Международной космической станции

Как убрать из космоса самый большой в истории космический аппарат?

Наука
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Как обустроить квартиру с помощью российских производителей Как обустроить квартиру с помощью российских производителей

Локальные товары, которые отвечают современным мебельным тенденциям

СНОБ
Как научиться кататься на велосипеде, если вы очень боитесь: этот простой способ помог многим Как научиться кататься на велосипеде, если вы очень боитесь: этот простой способ помог многим

Учимся кататься на велосипеде!

ТехИнсайдер
Почему легкие свистят и стоит ли переживать по этому поводу? Почему легкие свистят и стоит ли переживать по этому поводу?

Почему появляется свист при дыхании?

ТехИнсайдер
Норвежский ключ к счастливой жизни: почему человеку важно соединяться с природой Норвежский ключ к счастливой жизни: почему человеку важно соединяться с природой

Отрывок из книги «Friluftsliv: Норвежский ключ к счастливой жизни»

Forbes
Что (не) помогло мне после расставания: история читательницы и мнение психолога Что (не) помогло мне после расставания: история читательницы и мнение психолога

Наша читательница делится своими способами пережить расставание

Psychologies
«Хорошие, мимо!»: почему женщины любят «плохишей» «Хорошие, мимо!»: почему женщины любят «плохишей»

Почему многие женщины отвергают замечательных партнеров?

Psychologies
Мне нужна твоя работа и мотоцикл Мне нужна твоя работа и мотоцикл

Все чаще “вкалывают роботы”. Счастлив ли человек?

Men Today
Полет на Маркс: фантастические проекты советских авангардистов Полет на Маркс: фантастические проекты советских авангардистов

Авангардистам редко удавалось осуществить свои утопические фантазии на практике

Правила жизни
Хит на все времена: 11 лучших ролей Хита Леджера Хит на все времена: 11 лучших ролей Хита Леджера

От хулигана Патрика до доктора Парнаса: лучшие роли Хита Леджера

Правила жизни
Земля до начала времен: как у динозавра из Южной Америки нашлась австралийская «сестра» Земля до начала времен: как у динозавра из Южной Америки нашлась австралийская «сестра»

Ученые сравнили два черепа динозавров и сделали удивительный вывод

Вокруг света
Секс втроем: как мужчины и женщины относятся к популярной фантазии — ответ психоаналитика Секс втроем: как мужчины и женщины относятся к популярной фантазии — ответ психоаналитика

Правда ли только мужчины мечтают попробовать удовлетворить сразу двух партнеров?

Psychologies
Как подковы помогают лошадям, и почему коровы обходятся без них Как подковы помогают лошадям, и почему коровы обходятся без них

Зачем лошадям подковы, если в дикой природе они нормально живут без них?

ТехИнсайдер
Критика, неуверенность и недоверие: 7 знаков, что отношения повернули не туда, — проверьте себя Критика, неуверенность и недоверие: 7 знаков, что отношения повернули не туда, — проверьте себя

Как распознать знаки, указывающие на то, что ваша дорога вместе не будет ровной?

Psychologies
«Все мы уникальны и важны»: как осознать безусловную ценность — мнение психолога «Все мы уникальны и важны»: как осознать безусловную ценность — мнение психолога

Почему мы сомневаемся в собственной ценности и что с этим делать

Psychologies
Почти за те же деньги. Jeep Wrangler & УАЗ «Хантер» Почти за те же деньги. Jeep Wrangler & УАЗ «Хантер»

Американская классика vs не менее классическая отечественная продукция

4x4 Club
Потерянная энергия: почему мы теряем силы и что поможет их восстановить Потерянная энергия: почему мы теряем силы и что поможет их восстановить

Ты замечала, как днем становится все труднее сосредоточиться?

VOICE
Наташа Королева: «Как только мне не хватает знаний, я иду учиться» Наташа Королева: «Как только мне не хватает знаний, я иду учиться»

Наташа Королева рассказала о своих любимых хитах, кулинарии и отношениях с мужем

Лиза
Количеством или качеством: как китайские бренды электроники пришли в Россию Количеством или качеством: как китайские бренды электроники пришли в Россию

Разбираемся, как Китай меняет ландшафт российского IT-сектора

РБК
Это вам не мусор! Учимся с умом использовать пластиковые хомуты в доме и на даче Это вам не мусор! Учимся с умом использовать пластиковые хомуты в доме и на даче

Хомуты могут быть полезны для хранения продуктов и экспресс-ремонта одежды

ТехИнсайдер
Жаришь или отжигаешь? Как знаки зодиака отдыхают на майских шашлыках Жаришь или отжигаешь? Как знаки зодиака отдыхают на майских шашлыках

Наш Магический шар рассказывает, как именно знаки зодиака отдыхают на шашлыках

VOICE
«Больше» всегда «лучше»: это предубеждение встроено прямо в язык «Больше» всегда «лучше»: это предубеждение встроено прямо в язык

Наш язык плотно связывает "увеличение" с "улучшением"

ТехИнсайдер
Стесняюсь спросить: от чего зависит запах пота и как его устранить Стесняюсь спросить: от чего зависит запах пота и как его устранить

Что влияет на запах пота, как его уменьшить и можно ли вообще перестать потеть?

Правила жизни
Церебральная оксиметрия не снизила риск тяжелых поражений ЦНС у недоношенных детей Церебральная оксиметрия не снизила риск тяжелых поражений ЦНС у недоношенных детей

Мониторинг оксигенации головного мозга не снизил риск гибели мозга у детей

N+1
Отрывок из нового романа Ханьи Янагихары «До самого рая» Отрывок из нового романа Ханьи Янагихары «До самого рая»

Отрывок из нового романа Ханьи Янагихары о том, как дождаться перемен

СНОБ
«Просвещать и карать» «Просвещать и карать»

Функции цензуры в Российской империи середины XIX века

N+1
Что почитать о вселенной и других мирах: 6 современных книг космической фантастики Что почитать о вселенной и других мирах: 6 современных книг космической фантастики

Современная космическая фантастика о далеких далеких галактиках

ТехИнсайдер
Горячие точки. Эти места считаются самыми жаркими в мире Горячие точки. Эти места считаются самыми жаркими в мире

Жарче, чем в этих пяти местах, не бывает нигде!

ТехИнсайдер
Открыть в приложении