Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как заблокировать номер телефона на iOS и Android Как заблокировать номер телефона на iOS и Android

Как включить блокировку неизвестных номеров на смартфоне?

CHIP
«Болевые точки»: как они влияют на нас и наши отношения «Болевые точки»: как они влияют на нас и наши отношения

Откуда берутся «болевые точки»?

Psychologies
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Каким бывает страх и как его преодолеть: 6 простых советов Каким бывает страх и как его преодолеть: 6 простых советов

О природе страха и способах его преодоления рассказывает психолог

Psychologies
Красные волосы шамана: найдено первое свидетельство использования галлюциногенов в Европе бронзового века Красные волосы шамана: найдено первое свидетельство использования галлюциногенов в Европе бронзового века

Эти галлюциногенные вещества точно не были обезболивающими, уверены ученые

Вокруг света
Где на самом деле похоронен Александр Великий: посмертная тайна легендарного полководца Где на самом деле похоронен Александр Великий: посмертная тайна легендарного полководца

Ученые пытаются разобраться, где мог быть похоронен Александр Македонский

ТехИнсайдер
25 коротких фактов вокруг фильмов «Рокки Бальбоа»: сценарий за несколько дней, статуя герою и выбитые пальцы 25 коротких фактов вокруг фильмов «Рокки Бальбоа»: сценарий за несколько дней, статуя герою и выбитые пальцы

Все, что нужно знать о фильме, перевернувшем карьеру Сильвестра Сталлоне

Maxim
Ретроградный Меркурий: что это значит — 4 главных вопроса психологам Ретроградный Меркурий: что это значит — 4 главных вопроса психологам

О том, почему феномен ретроградного Меркурия стал таким популярным

Psychologies
Правила жизни Эдди Мерфи Правила жизни Эдди Мерфи

Правила жизни актера и стендап-комика Эдди Мерфи

Правила жизни
Если бы не цена... Пятое поколение Toyota RAV4 Если бы не цена... Пятое поколение Toyota RAV4

Ездить на Toyota RAV4 — это управлять мечтой

4x4 Club
Что защищает медведей от тромбоза вен и как это может помочь человеку Что защищает медведей от тромбоза вен и как это может помочь человеку

Как медики планируют подсмотреть у медведей "профилактику" тромбоза вен?

СНОБ
Как модники полюбили «некрасивые» беговые кроссовки — и на какие бренды обратить внимание Как модники полюбили «некрасивые» беговые кроссовки — и на какие бренды обратить внимание

Как утилитарные спортивные модели стали актуальными не только на беговом треке?

Правила жизни
«Ревность усиливает желание»: правда ли это — размышления психоаналитика «Ревность усиливает желание»: правда ли это — размышления психоаналитика

Может ли ревность оживить отношения?

Psychologies
Падение Голиафа: каким будет финал Международной космической станции Падение Голиафа: каким будет финал Международной космической станции

Как убрать из космоса самый большой в истории космический аппарат?

Наука
Смена формата: почему День Победы всегда зависел от текущей политической повестки Смена формата: почему День Победы всегда зависел от текущей политической повестки

Как на протяжении десятилетий менялся формат празднования Дня Победы

Forbes
Женские хобби, которые раньше были исключительно мужскими Женские хобби, которые раньше были исключительно мужскими

6 занятий, которые сменили пол

Maxim
ИИ как платформа: какие перспективы уже показала технология машинного обучения ИИ как платформа: какие перспективы уже показала технология машинного обучения

Почему машинное обучение взбудоражило мировую общественность?

Forbes
Автостопом по Галактике: как Orbit Fab привлек почти $30 млн на заправки в космосе Автостопом по Галактике: как Orbit Fab привлек почти $30 млн на заправки в космосе

Кто инвестирует в стартап и в чем уникальность проекта Orbit Fab

Forbes
Коммерциализация — главный козырь любого университета Коммерциализация — главный козырь любого университета

Автобус для Арктики, удивительный бетон и модули для управления техникой

Наука
Скорость гулявших по вулканическому пеплу австралопитеков оценили примерно в 2,88 километра в час Скорость гулявших по вулканическому пеплу австралопитеков оценили примерно в 2,88 километра в час

Испанские ученые вновь изучили цепочки следов гоминин из местности Лаэтоли

N+1
Как ускорить работу ноутбука: 6 полезных советов Как ускорить работу ноутбука: 6 полезных советов

Как ускорить ноутбук или повысить его производительность?

CHIP
Поранились или пошла кровь из носа? Эти способы помогут быстро остановить кровотечение Поранились или пошла кровь из носа? Эти способы помогут быстро остановить кровотечение

Как остановить кровь с помощью подручных средств и правильно обработать рану

ТехИнсайдер
Пальчики оближешь! 5 оригинальных и очень вкусных маринадов для шашлыка Пальчики оближешь! 5 оригинальных и очень вкусных маринадов для шашлыка

Мы собрали подборку лучших маринадов для шашлыка — выбирайте любой!

ТехИнсайдер
Безопасность в любви: как помочь дочери избежать абьюзивных отношений — 7 советов родителям Безопасность в любви: как помочь дочери избежать абьюзивных отношений — 7 советов родителям

Вот советы родителям девочек-подростков о выстраивании здоровых отношений

Psychologies
«Это бизнес, а не личное»: 12 фактов о Фрэнсисе Форде Копполе «Это бизнес, а не личное»: 12 фактов о Фрэнсисе Форде Копполе

В день рождения великого режиссера собрали несколько фактов из его биографии

Правила жизни
Заживает втрое быстрее: найден способ ускорить лечение ран с помощью электричества Заживает втрое быстрее: найден способ ускорить лечение ран с помощью электричества

В перспективе такой способ лечения ран может спасти тысячи жизней

Вокруг света
Светить всегда? Светить везде? Светить всегда? Светить везде?

Как выбрать подсветку для рассады?

Наука и жизнь
«Планка» не поможет: 7 бесполезных упражнений для восстановления после родов «Планка» не поможет: 7 бесполезных упражнений для восстановления после родов

Рассказываем, на что не стоит делать ставку новоиспеченной маме

VOICE
Ревность: полезна или вредна для отношений — разбор с психологами Ревность: полезна или вредна для отношений — разбор с психологами

Представляем исследование этой страсти, которую так часто презирают

Psychologies
Окаменевшая молния: посмотрите на минерал, который образовался в результате грозы при 1220 °C Окаменевшая молния: посмотрите на минерал, который образовался в результате грозы при 1220 °C

Ученые обнаружили в горной породе, спекшейся от удара молнии, новый минерал

Вокруг света
Открыть в приложении