Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Экстренно переехал в другую страну, а языка не знаю»: что делать, объясняет психолог «Экстренно переехал в другую страну, а языка не знаю»: что делать, объясняет психолог

Как пережить смену локации с минимальными потерями и влиться в новую культуру

Psychologies
Jeep Compass. Жизнь в стиле Grand Cherokee Jeep Compass. Жизнь в стиле Grand Cherokee

Jeep Compass, чтобы плыть дальше, чистит себя под Jeep Grand Cherokee

4x4 Club
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
«Я стал совсем западником. Каждый день бреюсь»: о чем писал Родченко жене из Парижа «Я стал совсем западником. Каждый день бреюсь»: о чем писал Родченко жене из Парижа

Отрывок из книги «В Париже. Из писем домой» Александра Родченко

Forbes
Стартапы-умники: что нужно помнить перед запуском наукоемкого продукта Стартапы-умники: что нужно помнить перед запуском наукоемкого продукта

Диптех-проекты привлекают все больше внимания целевой аудитории и инвесторов

Forbes
Где у планеты легкие Где у планеты легкие

Леса – легкие планеты? Каждый из нас слышал эту фразу

Вокруг света
Каникулы в джунглях Каникулы в джунглях

О странствиях в тропических дебрях, начавшихся при необычных обстоятельствах

Вокруг света
«Ревность усиливает желание»: правда ли это — размышления психоаналитика «Ревность усиливает желание»: правда ли это — размышления психоаналитика

Может ли ревность оживить отношения?

Psychologies
Искусственный интеллект отвечает на вопросы Искусственный интеллект отвечает на вопросы

Как сверхпопулярный бот ChatGPT может изменить работу высшей школы

Наука
Исповедь тестя Исповедь тестя

Поучительная и вдохновляющая история одного мужчины

СНОБ
Дэниел пропал, когда ему было 13 лет. Только через 8 лет родители узнали страшную правду Дэниел пропал, когда ему было 13 лет. Только через 8 лет родители узнали страшную правду

Крупнейшее расследование в истории Квинсленда, продолжавшееся 8 лет

ТехИнсайдер
Научиться массажу и пойти на кулинарные курсы: 30 приключений для пары — выберите подходящие занятия Научиться массажу и пойти на кулинарные курсы: 30 приключений для пары — выберите подходящие занятия

Когда вы с партнером последний раз вместе смеялись или дурачились?

Psychologies
Удачное начало Удачное начало

Как преобразить загородный дом после зимы?

Лиза
У выращеного в пробирке мяса появится жир, улучшающий вкус и текстуру У выращеного в пробирке мяса появится жир, улучшающий вкус и текстуру

Ученые разработали способ выращивания жира, похожего на жир животных

ТехИнсайдер
Стесняюсь спросить: от чего зависит запах пота и как его устранить Стесняюсь спросить: от чего зависит запах пота и как его устранить

Что влияет на запах пота, как его уменьшить и можно ли вообще перестать потеть?

Правила жизни
Физики создали самого тяжелого кота Шрёдингера за всю историю Физики создали самого тяжелого кота Шрёдингера за всю историю

Недавно ученые создали самого тяжелого кота Шредингера на сегодняшний день

ТехИнсайдер
Поразительный факт! Кожа осьминогов такая же уникальная, как человеческие отпечатки пальцев Поразительный факт! Кожа осьминогов такая же уникальная, как человеческие отпечатки пальцев

Осьминоги — морские хамелеоны, поражающие структурой своего тела

ТехИнсайдер
7 фраз, которые указывают на высокий эмоциональный интеллект. Проверьте себя! 7 фраз, которые указывают на высокий эмоциональный интеллект. Проверьте себя!

Как поднять вашу коммуникацию с другими людьми на новый уровень?

ТехИнсайдер
Готовимся к лету: как почистить кондиционер своими силами Готовимся к лету: как почистить кондиционер своими силами

Пошаговая инструкция, как почистить кондиционер, — будет работать как новый!

ТехИнсайдер
Как кроссовки Nike Cortez рассорили американцев с японцами и покорили гангстеров Как кроссовки Nike Cortez рассорили американцев с японцами и покорили гангстеров

«Кортезы» — пара, которая помогла Форресту Гампу пересечь страну пешком

Правила жизни
Смена формата: почему День Победы всегда зависел от текущей политической повестки Смена формата: почему День Победы всегда зависел от текущей политической повестки

Как на протяжении десятилетий менялся формат празднования Дня Победы

Forbes
Автовладельцам на заметку: как очистить колесные диски автомобиля Автовладельцам на заметку: как очистить колесные диски автомобиля

Чтобы как следует очистить колесные диски, потребуется время

ТехИнсайдер
Заехать по-соседски Заехать по-соседски

На длинные майские праздники мы решили махнуть на машине в Республику Беларусь!

Лиза
Индия: очевидно невероятная Индия: очевидно невероятная

Прокладываем захватывающие маршруты по Индии

Лиза
Беспорядочный порядок Беспорядочный порядок

Россией правил не император, а столоначальники

Дилетант
Горячие точки. Эти места считаются самыми жаркими в мире Горячие точки. Эти места считаются самыми жаркими в мире

Жарче, чем в этих пяти местах, не бывает нигде!

ТехИнсайдер
Генрих Карпин: «С первым рестораном все получилось спонтанно!» Генрих Карпин: «С первым рестораном все получилось спонтанно!»

Ресторатор Генрих Карпин — об истории холдинга, поддержании формы и мечтах

Maxim
Логинов Логинов

Самый востребованный и титулованный российский предметный дизайнер Дима Логинов

Собака.ru
Сопротивление в психотерапии: как выявить и преодолеть Сопротивление в психотерапии: как выявить и преодолеть

Думаете, главная трудность с психотерапией — это дойти до нее?

Psychologies
Технологии будущего! Технологии будущего!

Это устройство можно использовать для лечения различных кожных заболеваний

ТехИнсайдер
Открыть в приложении