Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Возможна ли дружба между мужчиной и женщиной? Возможна ли дружба между мужчиной и женщиной?

Какое место занимает сексуальность в отношениях друзей разного пола?

Psychologies
Как распознать нарцисса на первом свидании: 6 признаков — обратите внимание Как распознать нарцисса на первом свидании: 6 признаков — обратите внимание

Признаки, которые помогут распознать опасное поведение нарцисса

Psychologies
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Ученая бессмыслица Ученая бессмыслица

«Киприанов пир» как образец эрудитски-виртуозного абсурдизма

Weekend
Индия: очевидно невероятная Индия: очевидно невероятная

Прокладываем захватывающие маршруты по Индии

Лиза
Универсальный бизнес-язык: зачем заниматься ESG в новых реалиях Универсальный бизнес-язык: зачем заниматься ESG в новых реалиях

Почему российский бизнес пересматривает свои позиции по ESG-повестке

Inc.
Идеология «умственных плотин» Идеология «умственных плотин»

Россия колебалась между общеевропейским путём развития и своим «особым путём»

Дилетант
Смотримся в черное зеркало: как нейросети уже используются в моде и что будет дальше Смотримся в черное зеркало: как нейросети уже используются в моде и что будет дальше

Заменят ли нейросети дизайнеров, стилистов и фотографов?

Правила жизни
Поразительные истории из дореволюционной России: как водка стала атрибутом престижа Поразительные истории из дореволюционной России: как водка стала атрибутом престижа

Глава из книги «Поп Гапон и японские винтовки» — о жизни в России начала XX века

Forbes
Лучшие фильмы, снятые одним кадром Лучшие фильмы, снятые одним кадром

10 случаев, когда самый эффектный визуальный прием растягивают на весь фильм

Maxim
Любовная переписка втайне от партнера: 6 возможных причин Любовная переписка втайне от партнера: 6 возможных причин

Порой обмен сообщениями выходит за рамки дружеского и профессионального общения

Psychologies
«Террорист победил»: как революционеры-радикалы боролись с властью в царской России «Террорист победил»: как революционеры-радикалы боролись с властью в царской России

История терроризма в царской России XIX-XX веков

Forbes
Искусственный интеллект отвечает на вопросы Искусственный интеллект отвечает на вопросы

Как сверхпопулярный бот ChatGPT может изменить работу высшей школы

Наука
Cамый загадочный диагноз Cамый загадочный диагноз

ВСД: что это за болезнь и почему врачи её отрицают?

Лиза
ИИ как платформа: какие перспективы уже показала технология машинного обучения ИИ как платформа: какие перспективы уже показала технология машинного обучения

Почему машинное обучение взбудоражило мировую общественность?

Forbes
Почему базовые футболки на тебя не садятся: вот в чем реальная проблема Почему базовые футболки на тебя не садятся: вот в чем реальная проблема

Почему хваленая база порой разочаровывает больше всего

VOICE
7 способов избежать рака яичников 7 способов избежать рака яичников

Рак яичников — это серьезная болезнь. Как ее предупредить?

Psychologies
Дженнифер Кулидж и Обри Плаза: женщины в списке 100 самых влиятельных людей года Time Дженнифер Кулидж и Обри Плаза: женщины в списке 100 самых влиятельных людей года Time

Некоторые из женщин, включенных в список самых влиятельных людей 2023 года

Forbes
Легендарная пара: как компания Nike и Майкл Джордан подсадили весь мир на кроссовки Легендарная пара: как компания Nike и Майкл Джордан подсадили весь мир на кроссовки

«Air: большой прыжок» — о том, как Air Jordan изменили отношение к кроссовкам

Forbes
Хозяева чащи Хозяева чащи

Итак, кого же можно назвать хозяевами джунглей?

Вокруг света
Танатофобия: как страх смерти проявляется в теле и что с ним делать Танатофобия: как страх смерти проявляется в теле и что с ним делать

Что делать, если нормальный страх смерти становится фобией?

Psychologies
Избавление от атомной энергетики может увеличить загрязнение воздуха Избавление от атомной энергетики может увеличить загрязнение воздуха

Что произойдет, если атомные реакторы вывести из эксплуатации

ТехИнсайдер
Одна вокруг света: ночь на Краю Земли перед возвращением домой Одна вокруг света: ночь на Краю Земли перед возвращением домой

216-я серия о кругосветном путешествии москвички Ирины Сидоренко: Огненная земля

Forbes
Биологическая 3D-печать в России Биологическая 3D-печать в России

Запасные части для пациента из тканей самого пациента

Наука
Как компания Boto помогает обучать сотрудников и открывать футбольные секции Как компания Boto помогает обучать сотрудников и открывать футбольные секции

О том, как превратить скучный онбординг в переписку в мессенджере

Forbes
Превентивная медицина. Мифы и реальность Превентивная медицина. Мифы и реальность

Что такое превентивная медицина и можно ли стареть, оставаясь здоровой

Лиза
В лучах славы В лучах славы

Весна — лучшее время пробовать новое и жить жизнь в ярких красках

Men Today
Я, он и его бывшая: реальные истории о манипуляциях и эмоциональной зависимости Я, он и его бывшая: реальные истории о манипуляциях и эмоциональной зависимости

Преследования, угрозы, попытки вернуться... Почему бывшие ведут себя так?

Psychologies
Почему отпечатки наших пальцев уникальны Почему отпечатки наших пальцев уникальны

Откуда берутся рисунки на наших пальцах и что делает их такими уникальными

Maxim
Принимай каждый день Принимай каждый день

Отношения со своим «я» – как ни крути, самые важные в жизни

VOICE
Открыть в приложении