Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Какие установки про отношения пора выбросить из головы Какие установки про отношения пора выбросить из головы

Что нужно забыть, чтобы построить счастливые отношения?

Psychologies
Игорь Акинфеев: как преодолевать проблемы Игорь Акинфеев: как преодолевать проблемы

Игорь Акинфеев — один из главных игроков футбола России последних десятилетий

Maxim
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Как автодилер из Чикаго стал миллиардером благодаря бумаге для самокруток Как автодилер из Чикаго стал миллиардером благодаря бумаге для самокруток

Как сын торговца подержанными автомобилями из Чикаго попал в клуб миллиардеров

Forbes
Вино, виски и водка в космосе: четыре удивительных факта Вино, виски и водка в космосе: четыре удивительных факта

История про русских и коньяк, который они пьют на МКС, гуляет по миру

Maxim
Кто на самом деле выгорает: вы или ваши субличности? Кто на самом деле выгорает: вы или ваши субличности?

Как понять, какое «я» страдает? И чем ему помочь?

Psychologies
Низкий уровень белка теплового шока защитил медведей от тромбоза во время спячки Низкий уровень белка теплового шока защитил медведей от тромбоза во время спячки

Что спасает медведей в спячке от тромбоза?

N+1
Топ-6 самых полезных бенчмарков для смартфона Топ-6 самых полезных бенчмарков для смартфона

Рассказываем о самых полезных бенчмарках с точки зрения простого пользователя

CHIP
«Зевнуть, вздохнуть и хорошенько потянуться»: как просыпаться с удовольствием — 7 полезных приемов «Зевнуть, вздохнуть и хорошенько потянуться»: как просыпаться с удовольствием — 7 полезных приемов

Как избавиться от утренней обреченности?

Psychologies
Ученые выяснили, почему у берегов Черного моря появляются вихри Ученые выяснили, почему у берегов Черного моря появляются вихри

Шельфовые вихри — основной механизм самоочищения прибрежных зон моря

ТехИнсайдер
Как распознать нарцисса на первом свидании: 6 признаков — обратите внимание Как распознать нарцисса на первом свидании: 6 признаков — обратите внимание

Признаки, которые помогут распознать опасное поведение нарцисса

Psychologies
«Болевые точки»: как они влияют на нас и наши отношения «Болевые точки»: как они влияют на нас и наши отношения

Откуда берутся «болевые точки»?

Psychologies
«Я могу проспать 14 часов и все равно чувствовать усталость»: что такое гиперсомния — рассказ от первого лица «Я могу проспать 14 часов и все равно чувствовать усталость»: что такое гиперсомния — рассказ от первого лица

Каково жить, когда почти все время хочется спать?

Psychologies
Читать нельзя выкинуть: зачем старые книги отдают в приюты и кто дает им новую жизнь Читать нельзя выкинуть: зачем старые книги отдают в приюты и кто дает им новую жизнь

Как активисты дают вторую жизнь старым книгам

Forbes
Дитя порока: на кого похожа и как живет единственная общая дочь фриков из скандальной группы Die Antwoord Дитя порока: на кого похожа и как живет единственная общая дочь фриков из скандальной группы Die Antwoord

Какой выросла Сикстин Джонс — дочь участников Die Antwoord

VOICE
Спорная экспертиза Спорная экспертиза

Самоубийство Елизаветы Черемновой, потрясшее всю Российскую империю

Дилетант
На восьми ветрах На восьми ветрах

Октоторп–Хаус — дом, похожий на хештег

SALON-Interior
Секс и менопауза: правда и мифы Секс и менопауза: правда и мифы

С приходом менопаузы сексуальная жизнь женщины не заканчивается

Psychologies
Что будет за отказ от медосвидетельствования. Объяснение юристов Что будет за отказ от медосвидетельствования. Объяснение юристов

От требования сотрудника ГИБДД отказаться не получится

РБК
Обмани себя Обмани себя

Как обмануть организм, чтобы снять стресс и улучшить состояние здоровья?

Grazia
«Я 12 дней летал так, как обычно летают во сне»: Клим Шипенко — о съемках фильма в космосе «Я 12 дней летал так, как обычно летают во сне»: Клим Шипенко — о съемках фильма в космосе

Режиссер Клим Шипенко — об особенностях жизни на космической станции

Psychologies
Восток-Запад: как относятся к женскому целомудрию в разных культурах Восток-Запад: как относятся к женскому целомудрию в разных культурах

Отрывок из книги «Брак по любви» Моники Али

Forbes
6 фильмов, в которых снялись профессиональные спортсмены 6 фильмов, в которых снялись профессиональные спортсмены

Знаменитые спортсмены иногда проявляют себя не только в профессиональном спорте.

Maxim
«Оттягивать неизбежную катастрофу»: фрагмент из биографии Анастаса Микояна «Оттягивать неизбежную катастрофу»: фрагмент из биографии Анастаса Микояна

Отрывок из биографии советского политического деятеля Анастаса Микояна

СНОБ
Постсоветская молодежь: мечтают о больших деньгах и не готовы бороться за права Постсоветская молодежь: мечтают о больших деньгах и не готовы бороться за права

Отрывок из книги «Постсоветская молодежь: предварительные итоги»

Forbes
Дэниел Мейсон: «Настройщик» — отрывок истории одного странствия Дэниел Мейсон: «Настройщик» — отрывок истории одного странствия

Отрывок из затягивающей и таинственной истории странствия «Настройщик»

СНОБ
«Все чувствуют себя в безопасности»: 5 принципов здоровой семьи — простой чек-лист «Все чувствуют себя в безопасности»: 5 принципов здоровой семьи — простой чек-лист

Пять основных характеристик семьи, которую можно назвать счастливой

Psychologies
Их невозможно убить! 5 человек, которым удалось пережить смертную казнь Их невозможно убить! 5 человек, которым удалось пережить смертную казнь

Казалось бы, приговор к смертной казни — это всё, неминуемый конец жизни

ТехИнсайдер
Спальня с видом Спальня с видом

Стоит ли всеми силами стремиться к красивой картинке?

VOICE
Идеальное фото на паспорт — это реально: рабочие советы, как хорошо выглядеть на фото в документах Идеальное фото на паспорт — это реально: рабочие советы, как хорошо выглядеть на фото в документах

Фото на документы и красивый кадр — совместимы ли эти две вещи?

ТехИнсайдер
Открыть в приложении