Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Моя оборона Моя оборона

У нас много вопросов к специалистам по кибербезопасности

Men Today
Евгений Плющенко: чемпионство с винтами в спине Евгений Плющенко: чемпионство с винтами в спине

История о риске всем ради спортивного успеха

Maxim
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Почему маленькие собаки живут дольше крупных? Дело в скорости эволюции Почему маленькие собаки живут дольше крупных? Дело в скорости эволюции

Из-за чего большие собаки оказались более уязвимы, чем миниатюрные

Вокруг света
Не маскирует возраст, но сохранила рыжую гриву: как изменилась обаятельная звезда Не маскирует возраст, но сохранила рыжую гриву: как изменилась обаятельная звезда

Австралийская актриса Миранда Отто стала звездой мирового масштаба в одночасье

VOICE
Гедонизм в эпоху дедлайнов: как менялся культ наслаждения от античности до наших дней Гедонизм в эпоху дедлайнов: как менялся культ наслаждения от античности до наших дней

Что такое гедонизм и может ли он сделать нас счастливее

Forbes
Как понять, что ваша работа с психотерапевтом эффективна? Как понять, что ваша работа с психотерапевтом эффективна?

Психотерапевтическая работа длится годами, но как понять, есть ли прогресс?

Psychologies
«Дорога в бессознательное»: 5 ключевых идей Зигмунда Фрейда о сновидениях — познайте себя «Дорога в бессознательное»: 5 ключевых идей Зигмунда Фрейда о сновидениях — познайте себя

Что нужно знать тем, кто хочет расшифровать подсказки бессознательного?

Psychologies
«Мужчины боятся сильных женщин»: 4 контраргумента — узнайте плюсы таких отношений «Мужчины боятся сильных женщин»: 4 контраргумента — узнайте плюсы таких отношений

Многие считают, что сильные женщины несчастны в личной жизни

Psychologies
Истинная история Розалинд Франклин сложнее, чем вы думаете Истинная история Розалинд Франклин сложнее, чем вы думаете

Настоящая история несправедливой Нобелевской премии

ТехИнсайдер
Одна вокруг света: пустынные пейзажи Патагонии и путешествие через нацпарк Пуйеуэ Одна вокруг света: пустынные пейзажи Патагонии и путешествие через нацпарк Пуйеуэ

213-я серия о кругосветном путешествии москвички Ирины Сидоренко: Патагония

Forbes
Насколько вы созависимый? Чек-лист от нейропсихолога Насколько вы созависимый? Чек-лист от нейропсихолога

Почему отношения становятся созависимыми?

Psychologies
Слабый сильный пол Слабый сильный пол

Чем чаще всего болеют мужчины (краткий курс для заботливых жен)

Лиза
Акиньшина - звезда, а где вторая? Что стало с юной актрисой из фильма Акиньшина - звезда, а где вторая? Что стало с юной актрисой из фильма

Как сложилась жизнь исполнительницы роли младшей сестры в фильме "Сестры"?

VOICE
Отрывок из нового романа Ханьи Янагихары «До самого рая» Отрывок из нового романа Ханьи Янагихары «До самого рая»

Отрывок из нового романа Ханьи Янагихары о том, как дождаться перемен

СНОБ
Огоньку не найдется? Огоньку не найдется?

Как сексуальные проблемы могут разрушить даже крепкий союз?

Лиза
Царское это дело Царское это дело

Кем работали до замужества жены принцев и королей

Лиза
Непосильное семя Непосильное семя

Квотирование поставок зарубежных семян может негативно повлиять на рынок

Агроинвестор
Что такое «страна третьего мира» и почему этот термин не относится к уровню богатства и развития страны Что такое «страна третьего мира» и почему этот термин не относится к уровню богатства и развития страны

Как существуют «страны третьего мира» и в чем их уникальность?

ТехИнсайдер
«Рой»: сериал от авторов «Атланты» о музыкальной фанатке «Рой»: сериал от авторов «Атланты» о музыкальной фанатке

Почему «Рой» воспринимается как исследование стереотипов о женской психологии

Forbes
Жители южного побережья Каспия променяли газелей и тюленей на коз и овец уже в VIII тысячелетии до нашей эры Жители южного побережья Каспия променяли газелей и тюленей на коз и овец уже в VIII тысячелетии до нашей эры

Начиная с раннего неолита, обитатели этой стоянки перешли к выращиванию коз

N+1
«Что ты с собой сделала»: с какими стереотипами сталкиваются женщины с татуировками «Что ты с собой сделала»: с какими стереотипами сталкиваются женщины с татуировками

Почему тату у женщин — это нормально?

Forbes
Танатофобия: как страх смерти проявляется в теле и что с ним делать Танатофобия: как страх смерти проявляется в теле и что с ним делать

Что делать, если нормальный страх смерти становится фобией?

Psychologies
Дети солнца: что делать, если ребенок родился с синдромом Дауна Дети солнца: что делать, если ребенок родился с синдромом Дауна

Как психологически перестроиться, если ребенку поставили синдром Дауна?

Psychologies
Месть бывшего любовника жены! Мужчина умер из-за бомбы в подаренной стереосистеме Месть бывшего любовника жены! Мужчина умер из-за бомбы в подаренной стереосистеме

Преступник из ревности заложил взрывчатку в свадебный подарок

ТехИнсайдер
Скорость гулявших по вулканическому пеплу австралопитеков оценили примерно в 2,88 километра в час Скорость гулявших по вулканическому пеплу австралопитеков оценили примерно в 2,88 километра в час

Испанские ученые вновь изучили цепочки следов гоминин из местности Лаэтоли

N+1
Как младенцы учат язык взрослых? Поразительное объяснение ученых! Как младенцы учат язык взрослых? Поразительное объяснение ученых!

Маленькие дети учат язык своих родителей, основываясь на просодии

ТехИнсайдер
Почему мюзикл «Призрак оперы» закрыли на Бродвее после 35 лет проката Почему мюзикл «Призрак оперы» закрыли на Бродвее после 35 лет проката

Чем мюзикл «Призрак оперы» запомнился миру и почему прекратил свое существование

СНОБ
Ревность: полезна или вредна для отношений — разбор с психологами Ревность: полезна или вредна для отношений — разбор с психологами

Представляем исследование этой страсти, которую так часто презирают

Psychologies
ПАИ с удобствами и без ПАИ с удобствами и без

Какая недвижимость доступна в ЗПИФах розничным инвесторам

Деньги
Открыть в приложении