Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все о массаже гуаша: техники, эффективность и противопоказания Все о массаже гуаша: техники, эффективность и противопоказания

Почему массаж роллерами и скребками из кристаллов становится все популярнее

РБК
Как спорт поможет вам справиться со стрессом? Стоит узнать! Как спорт поможет вам справиться со стрессом? Стоит узнать!

Для поддержки своего здоровья стоит обратиться не только к врачу, но и к тренеру

ТехИнсайдер
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Посевная в штатном режиме Посевная в штатном режиме

Сельхозпроизводители продолжают сеять, однако работать им все сложнее

Агроинвестор
«Наполеон: биография» «Наполеон: биография»

История жизни самого известного французского императора

N+1
Шедевр лишился авторства Шедевр лишился авторства

Знаменитый Звенигородский чин не принадлежит кисти Андрея Рублева

Наука
Ито Огава, «Канцтовары Цубаки» — отрывок из романа в переводе Дмитрия Коваленина Ито Огава, «Канцтовары Цубаки» — отрывок из романа в переводе Дмитрия Коваленина

Отрывок из книги, «Канцтовары Цубаки» в переводе Дмитрия Коваленина

СНОБ
Денежная энергия: как богатые наследницы умножают капиталы Денежная энергия: как богатые наследницы умножают капиталы

Рассказываем о женщинах, которые смогли приумножить наследство

Forbes
Музыкальная пауза: история хита Barbie Girl датской группы Aqua Музыкальная пауза: история хита Barbie Girl датской группы Aqua

Barbie Girl: история создания хита и скандал с Mattel

Правила жизни
Экспедиционный Volkswagen Amarok. В двух шагах от идеала Экспедиционный Volkswagen Amarok. В двух шагах от идеала

Volkswagen Amarok — идеальное средство для автономных путешествий

4x4 Club
Земля до начала времен: как у динозавра из Южной Америки нашлась австралийская «сестра» Земля до начала времен: как у динозавра из Южной Америки нашлась австралийская «сестра»

Ученые сравнили два черепа динозавров и сделали удивительный вывод

Вокруг света
Небеса обетованные Небеса обетованные

120 лет авиации в фотографиях и фактах

Men Today
Сергей Лазарев: «Надо любить себя больше» Сергей Лазарев: «Надо любить себя больше»

Сергей Лазарев – о недостатках, неудачах, демонах, и о том, чем заедает стресс

VOICE
Почти 20 лет спустя: как сейчас выглядят герои культовой комедии нулевых Почти 20 лет спустя: как сейчас выглядят герои культовой комедии нулевых

Что стало с актерами "Евротура"?

VOICE
7 советских товаров, популярных за границей 7 советских товаров, популярных за границей

Товары и продукты из СССР, которые активно покупали за рубежом

Maxim
Как понять, глубокий ли ты человек, — комментарий гештальт-терапевта Как понять, глубокий ли ты человек, — комментарий гештальт-терапевта

Чем же глубокий человек отличается от других? И отличается ли?

Psychologies
Отпусти и забудь Отпусти и забудь

Как «сжигать мосты» и не жалеть об этом

Лиза
«От Ба»: как построить бизнес, помогая пенсионерам из деревни «От Ба»: как построить бизнес, помогая пенсионерам из деревни

Как работает проект по поддержке творческих пенсионеров «От Ба» Дарьи Ледневой

Forbes
Как Королевство Бутан тайно хранило миллионы долларов в криптовалюте Как Королевство Бутан тайно хранило миллионы долларов в криптовалюте

Буддийское королевство тайно инвестировало миллионы долларов в криптовалюту

Forbes
Как вы яхту назовёте... Как вы яхту назовёте...

Тест-драйв внедорожника Tank 300 в Хакасии

Robb Report
Десятки миллиардов в биотех Десятки миллиардов в биотех

«Рустарк» масштабирует глубокую переработку кукурузы

Агроинвестор
Белый сервиз Малевича и другие дизайн-решения советских авангардистов Белый сервиз Малевича и другие дизайн-решения советских авангардистов

Как идеи авангардистов воплощались в предметах, используемых в быту

Правила жизни
Антон Долотин Антон Долотин

Антон Долотин перечисляет плюсы и минусы развития дизайн-индустрии в стране

Собака.ru
Как аниме «Судзумэ, закрывающая двери» стало одним из самых кассовых фильмов в Японии Как аниме «Судзумэ, закрывающая двери» стало одним из самых кассовых фильмов в Японии

Почему аниме «нового Миядзаки», как иногда называют Синкая, стоит смотреть

Forbes
Родители думали, что 14-летняя Наташа стала жертвой киллера. Но она скрывалась у своего парня Родители думали, что 14-летняя Наташа стала жертвой киллера. Но она скрывалась у своего парня

Все считали, что девочка пострадала от рук киллера, но на суде открылась правда

ТехИнсайдер
Разочарование в партнере: как предотвратить и пережить — 4 совета Разочарование в партнере: как предотвратить и пережить — 4 совета

Почему мы так часто останавливаем выбор не на тех?

Psychologies
Молоко выходит из берегов Молоко выходит из берегов

Запасы молочной продукции давят на цены и снижают рентабельность бизнеса

Агроинвестор
Спортивный комплекс: 5 несносных типов мужчин-спортсменов Спортивный комплекс: 5 несносных типов мужчин-спортсменов

Пять типов спортивный парней, от которых стоит держаться подальше

VOICE
Тот самый: ученые вывели формулу, которая помогает распознать родственную душу Тот самый: ученые вывели формулу, которая помогает распознать родственную душу

«Теория оценивания партнера»: какие факторы нужно учитывать?

Psychologies
Как перенести файлы с Android на ваш компьютер Как перенести файлы с Android на ваш компьютер

Как быстро и легко отправить фотографии и файлы со смартфона на компьютер

ТехИнсайдер
Открыть в приложении