Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самые действенные советы по избавлению от жира на животе для женщин старше 40 лет — проверь, что ты упускаешь! Самые действенные советы по избавлению от жира на животе для женщин старше 40 лет — проверь, что ты упускаешь!

С возрастом метаболизм замедляется и худеть действительно становится труднее

VOICE
Финские физики разобрались в кажущейся тишине криков против ветра Финские физики разобрались в кажущейся тишине криков против ветра

Откуда берется убеждение о неэффективности крика против ветра?

N+1
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Искусство создания логотипов. Как десять ведущих брендов искали свой образ Искусство создания логотипов. Как десять ведущих брендов искали свой образ

У некоторых компаний есть истории, связанные с появлением их бренда и логотипа

4x4 Club
Поразительный факт! Кожа осьминогов такая же уникальная, как человеческие отпечатки пальцев Поразительный факт! Кожа осьминогов такая же уникальная, как человеческие отпечатки пальцев

Осьминоги — морские хамелеоны, поражающие структурой своего тела

ТехИнсайдер
Доктор из США отдала свою почку женщине, которую она никогда не видела. Трогательная история Доктор из США отдала свою почку женщине, которую она никогда не видела. Трогательная история

История врача, которая решила спасти жизнь человека, рискнув своей жизнью

ТехИнсайдер
«Я почувствовала, что теперь это мой ребенок»: как стать хорошей мачехой «Я почувствовала, что теперь это мой ребенок»: как стать хорошей мачехой

Отрывок из книги «Моя Лола. Записки мать-и-мачехи»

Psychologies
Мир IT. Честные и зубастые Мир IT. Честные и зубастые

Сегодня IT — это “новая нефть”

Men Today
Парижские джунгли Парижские джунгли

Манера художника-самоучки Анри Руссо была далека от реализма

Вокруг света
Почему мы не отдыхаем и как делать это правильно: чек-лист от психолога Почему мы не отдыхаем и как делать это правильно: чек-лист от психолога

Почему мы так склонны отказывать себе в отдыхе?

Psychologies
Несвободное плавание Несвободное плавание

«Наводнение»: Твердовский экранизирует Замятина

Weekend
Исповедь тестя Исповедь тестя

Поучительная и вдохновляющая история одного мужчины

СНОБ
8 вопросов, которые стоит задать психотерапевту перед началом работы 8 вопросов, которые стоит задать психотерапевту перед началом работы

Поиск подходящего психотерапевта может оказаться непростой задачей

Psychologies
Морские слоны обошлись двумя часами сна в сутки Морские слоны обошлись двумя часами сна в сутки

Морские слоны жертвуют сном ради кормления и защиты от хищников

N+1
Индия: очевидно невероятная Индия: очевидно невероятная

Прокладываем захватывающие маршруты по Индии

Лиза
Нетревожные отношения с едой (и с собой): 5 важных советов нутрициолога Нетревожные отношения с едой (и с собой): 5 важных советов нутрициолога

Как изменить пищевые привычки? Подглядываем советы у нутрициолога

Psychologies
«Куплю друга»: почему молодые люди платят за общение — новый тренд «Куплю друга»: почему молодые люди платят за общение — новый тренд

Насколько этично платить за дружбу? Рассуждает писательница

Psychologies
Как не умереть, поедая шашлык на майских праздниках: 8 советов нутрициолога Как не умереть, поедая шашлык на майских праздниках: 8 советов нутрициолога

Как отметить майские так, чтобы потом не было мучительно больно?

Psychologies
Связи не спасли: куда пропали самые «блатные» звезды российского шоу-бизнеса, которых раскручивали родители Связи не спасли: куда пропали самые «блатные» звезды российского шоу-бизнеса, которых раскручивали родители

Знаменитые "золотые" подростки, которые пропали с экранов

VOICE
Рестайлинг Jeep Wrangler. Чуть больше версий и возможностей Рестайлинг Jeep Wrangler. Чуть больше версий и возможностей

Что нового в рейстайлинге Jeep Wrangler

4x4 Club
Эпатаж и власть: почему в XX веке кардинально изменился женский гардероб Эпатаж и власть: почему в XX веке кардинально изменился женский гардероб

Как брюки становились предметом судебных разбирательств и символом эмансипации

Forbes
Зачем уголь Черной Бороде? Раскрыт секрет затонувшего корабля самого известного английского пирата Зачем уголь Черной Бороде? Раскрыт секрет затонувшего корабля самого известного английского пирата

На судне Эдварда Тича нашли уголь, хотя тогда его не использовали как топливо

Вокруг света
Тимофей Мозгов. Высшее общество Тимофей Мозгов. Высшее общество

История-разворот, показывающая неочевидные стороны жизни с ростом 216 см

Maxim
14 самых отвратительных фильмов, которые нельзя смотреть никому и никогда 14 самых отвратительных фильмов, которые нельзя смотреть никому и никогда

Перед нами не кино, а жесть, погань и патология

Maxim
Нарушения нервно-психического развития повысили риск рака яичек Нарушения нервно-психического развития повысили риск рака яичек

В развитии рака яичек виноваты СДВГ и интеллектуальные нарушения

N+1
«Я впервые произнесла это слово»: как сложилась судьба женщины, сказавшей, что в СССР секса нет «Я впервые произнесла это слово»: как сложилась судьба женщины, сказавшей, что в СССР секса нет

«В СССР секса нет» — есть ли хоть кто-то в России, который не слышал эту фразу?

VOICE
«Посмотрите правде в глаза»: что делать, если вы сожалеете о разводе — мнение психологов «Посмотрите правде в глаза»: что делать, если вы сожалеете о разводе — мнение психологов

Почему мы неожиданно начинаем скучать по бывшим партнерам?

Psychologies
Мода на Восток Мода на Восток

Национальные особенности фэшн-бизнеса в Китае

Robb Report
Авария Айртона Сенны: что случилось 29 лет назад Авария Айртона Сенны: что случилось 29 лет назад

Самая загадочная и необъяснимая авария за всю историю автогонок

РБК
26 советов отца, которые помогли мне найти любовь 26 советов отца, которые помогли мне найти любовь

Журналистка собрала советы отца, которые помогли ей встретить свою любовь

Psychologies
Открыть в приложении