Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Компьютеры будут работать на человеческих клетках? Технологии будущего! Компьютеры будут работать на человеческих клетках? Технологии будущего!

Вы поразитесь тому, как будут устроены биокомпьютеры будущего!

ТехИнсайдер
Ошибка выживавшего Ошибка выживавшего

Как опыт нелюбви сделал Виктора Шкловского настоящим писателем

Weekend
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Держаться корней Держаться корней

Людей восхищают деревья-долгожители, растущие на Земле сотни и тысячи лет

Вокруг света
Снотворное понизило содержание тау-белка и бета-амилоида в ликворе здоровых людей Снотворное понизило содержание тау-белка и бета-амилоида в ликворе здоровых людей

Прием снотворного может снижать уровень ключевых белков болезни Альцгеймера

N+1
Пиктов назвали потомками населения Британии железного века Пиктов назвали потомками населения Британии железного века

Палеогенетики прочитали полные геномы двух вероятных пиктов

N+1
Как компания Boto помогает обучать сотрудников и открывать футбольные секции Как компания Boto помогает обучать сотрудников и открывать футбольные секции

О том, как превратить скучный онбординг в переписку в мессенджере

Forbes
«Посмотрите правде в глаза»: что делать, если вы сожалеете о разводе — мнение психологов «Посмотрите правде в глаза»: что делать, если вы сожалеете о разводе — мнение психологов

Почему мы неожиданно начинаем скучать по бывшим партнерам?

Psychologies
Белый сервиз Малевича и другие дизайн-решения советских авангардистов Белый сервиз Малевича и другие дизайн-решения советских авангардистов

Как идеи авангардистов воплощались в предметах, используемых в быту

Правила жизни
Окаменевшая молния: посмотрите на минерал, который образовался в результате грозы при 1220 °C Окаменевшая молния: посмотрите на минерал, который образовался в результате грозы при 1220 °C

Ученые обнаружили в горной породе, спекшейся от удара молнии, новый минерал

Вокруг света
ПАИ с удобствами и без ПАИ с удобствами и без

Какая недвижимость доступна в ЗПИФах розничным инвесторам

Деньги
5 авторов, книги которых стоит прочесть, чтобы лучше понять Китай 5 авторов, книги которых стоит прочесть, чтобы лучше понять Китай

Книги каждого из них позволят ближе познакомиться с историей страны и бытом

РБК
Ушли в храм и на стройку: как сложились судьбы советских актеров одной роли Ушли в храм и на стройку: как сложились судьбы советских актеров одной роли

Получить главную роль — удача для любого актера. Но успех может быть мимолетен

VOICE
Сколько вешать в граммах: какое количество крема, тоника, сыворотки и масла надо наносить на лицо Сколько вешать в граммах: какое количество крема, тоника, сыворотки и масла надо наносить на лицо

Очень важно наносить уходовую косметику в правильной последовательности

VOICE
Нетревожные отношения с едой (и с собой): 5 важных советов нутрициолога Нетревожные отношения с едой (и с собой): 5 важных советов нутрициолога

Как изменить пищевые привычки? Подглядываем советы у нутрициолога

Psychologies
Гравитационное линзирование указало на волновую природу темной материи Гравитационное линзирование указало на волновую природу темной материи

Согласно новому исследованию, темная материя состоит из сверхлегких аксионов

N+1
Интерес, эмпатия и гиперконцентрация: 10 признаков настоящей влюбленности — чек-лист психолога Интерес, эмпатия и гиперконцентрация: 10 признаков настоящей влюбленности — чек-лист психолога

Легкое увлечение или безумная влюбленность?

Psychologies
Зачем нужен тоник: вся правда о самом недооцененном бьюти-средстве Зачем нужен тоник: вся правда о самом недооцененном бьюти-средстве

Как выбрать подходящий тоник и использовать его экологично

Правила жизни
Цена вопроса: что происходит с премиальными модными брендами в России Цена вопроса: что происходит с премиальными модными брендами в России

Что такое товары категории премиум и насколько они востребованы на рынке сейчас

Forbes
7 неочевидных признаков депрессии, которые вы могли пропустить, — проверьте себя и близких 7 неочевидных признаков депрессии, которые вы могли пропустить, — проверьте себя и близких

Как понять, что человек в депрессии?

Psychologies
Найденный на мадленской стоянке гагат добыли в 500 километрах от нее Найденный на мадленской стоянке гагат добыли в 500 километрах от нее

Горную породу из Швабского Альба обнаружили в Парижском бассейне

N+1
QLED или OLED: как правильно выбрать телевизор? QLED или OLED: как правильно выбрать телевизор?

В чем разница между телевизорами QLED или OLED?

ТехИнсайдер
История с литературой История с литературой

Легко быть творческим человеком, когда тебе не нужно заботиться о низменном

VOICE
Как спастись от жары ночью, если дома нет кондиционера и вентилятора: лайфхаки, которые работают Как спастись от жары ночью, если дома нет кондиционера и вентилятора: лайфхаки, которые работают

Лайфхаки, которые помогут подготовиться к летнему сезону и жаре заранее

ТехИнсайдер
Люди в 7 раз чаще помогают друг другу, чем отвергают просьбы о помощи Люди в 7 раз чаще помогают друг другу, чем отвергают просьбы о помощи

Команда ученых провела исследование человеческой способности к сотрудничеству

ТехИнсайдер
Заменит ваш телефон — самое странное устройство с нейросетью Заменит ваш телефон — самое странное устройство с нейросетью

Что заменит смартфон: будут ли это гарнитуры AR или микрочипы в нашем мозгу?

ТехИнсайдер
Погружение с первых страниц: 5 романов с увлекательным сюжетом, которые стоит прочесть Погружение с первых страниц: 5 романов с увлекательным сюжетом, которые стоит прочесть

Рассказываем о книгах, от которых трудно оторваться до самой последней страницы

ТехИнсайдер
Милая история! Орел напрасно высиживал камень, поэтому люди втайне подкинули ему птенца-сироту Милая история! Орел напрасно высиживал камень, поэтому люди втайне подкинули ему птенца-сироту

Даже в природе есть примеры того, что семья не всегда подразумевает кровные узы

ТехИнсайдер
Невеста была в черном такси Невеста была в черном такси

«Мерзлая земля»: Светлана Ходченкова в детективе Оксаны Карас

Weekend
10 глупых ляпов в кино, которые портят впечатление от фильма 10 глупых ляпов в кино, которые портят впечатление от фильма

Над фильмами работают команды профессионалов, и тем не менее ошибки случаются

VOICE
Открыть в приложении