По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Социальные круги: почему мы не можем дружить со всеми Социальные круги: почему мы не можем дружить со всеми

Отрывок из книги «Homo Amicus. Деловой человек в поисках друга»

Forbes
Прицепились к подвеске Прицепились к подвеске

Какие вопросы у археологов к украшению из Денисовой пещеры?

N+1
Роботы Figure научились сообща сортировать предметы Роботы Figure научились сообща сортировать предметы

Компания Figure разработала универсальный алгоритм управления роботами

N+1
Могли ли динозавры видеть «чужими глазами»: любопытное исследование Могли ли динозавры видеть «чужими глазами»: любопытное исследование

Могли ли динозавры использовать визуальное восприятие перспективы?

ТехИнсайдер
Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения

Влияет ли пол на музыкальные предпочтения?

Forbes
«Можно ли спасти отношения?»: 10 вопросов, которые помогут это понять, — проверьте вашу пару «Можно ли спасти отношения?»: 10 вопросов, которые помогут это понять, — проверьте вашу пару

Прежде чем расстаться с партнером, задайте себе правильные вопросы

Psychologies
Людмила Поргина «Ленком». Коллеги Людмила Поргина «Ленком». Коллеги

Судьба подарила мне театр «Ленком», где я встретила свою любовь

Караван историй
В поисках уральского времени В поисках уральского времени

Владимир Селезнев: искусство горизонтальных отношений

Weekend
«Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова «Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова

Режиссер Борис Хлебников — о том, как не давить на детей

Psychologies
Не-молоко, безглютеновая диета и кофе без кофеина: мифы и реальность Не-молоко, безглютеновая диета и кофе без кофеина: мифы и реальность

Не-молоко, безглютеновая диета, декаф — это просто хитрости маркетологов?

Psychologies
Острова притяжения Острова притяжения

Чем привлекают к себе горожан окруженные водой территории

РБК
Из бункера к звездам Из бункера к звездам

«Укрытие»: детектив, вестерн и тоталитарная антиутопия в одном сериале

Weekend
14 признаков того, что ты нашла свою родственную душу 14 признаков того, что ты нашла свою родственную душу

Признаки, которые указывают на то, что ты нашла свою родственную душу

VOICE
Современные популяции бурых медведей разделились около 150-100 тысяч лет назад Современные популяции бурых медведей разделились около 150-100 тысяч лет назад

Генетики исследовали ДНК 39 современных и 12 древних бурых медведей

N+1
Режиссер Борис Хлебников — Forbes: «Осуждение другого — самая глупая позиция» Режиссер Борис Хлебников — Forbes: «Осуждение другого — самая глупая позиция»

Борис Хлебников — о том, почему нельзя никого осуждать

Forbes
«Это жалкий муж для меня»: как отдавали под венец представительниц знати «Это жалкий муж для меня»: как отдавали под венец представительниц знати

О блистательной сестре Александра I и ее браке

Forbes
10.203 10.203

10.203 — это творческое объединение и совместная мастерская уличных художников

Собака.ru
23-летний россиянин съеден акулой. Почему нас ужасают такие события? 23-летний россиянин съеден акулой. Почему нас ужасают такие события?

Почему психика ярко реагирует на драматичные истории гибели людей?

Psychologies
Просто перенервничала Просто перенервничала

Возможные последствия стресса (опасные тоже есть)

Лиза
Дроны, тепловизоры и 3D-модели: технологии, которые спасают наши леса Дроны, тепловизоры и 3D-модели: технологии, которые спасают наши леса

Какие современные технологии помогают спасать деревья с воздуха

ТехИнсайдер
Ошибка 0x80070422: когда она появляется, и как ее исправить Ошибка 0x80070422: когда она появляется, и как ее исправить

Как исправить ошибку 0x80070422 при обновлении Windows 10

CHIP
6 отличных хорроров, снятых в России 6 отличных хорроров, снятых в России

Наши авторы сериалов и фильмов потихоньку набили руку на хоррорных историях

Maxim
Правила коррекции Правила коррекции

7 простых способов выглядеть стройнее с помощью одежды

Лиза
10 оттенков страшного 10 оттенков страшного

Чем пугает современный хоррор

Weekend
Лунная красотка: почему с подиума пропала супермодель Надя Ауэрманн и что она делает сейчас Лунная красотка: почему с подиума пропала супермодель Надя Ауэрманн и что она делает сейчас

В 1990-е Надя Ауэрманн была одной из самых востребованных и знаменитых моделей

VOICE
Как писал Борис Поплавский Как писал Борис Поплавский

Как жил поэт Борис Поплавский и чем примечательны его тексты

СНОБ
Дубайская земля Дубайская земля

Сложно представить, но лет сорок назад Дубай был сонной рыбацкой деревушкой

Robb Report
«Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев «Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев

Получилась альтернативная версия «Крестного отца».

Правила жизни
Без вины виноватый: защищаемся от субсидиарной ответственности Без вины виноватый: защищаемся от субсидиарной ответственности

Что такое субсидиарная ответственность и как от нее защититься

Inc.
Почему мы так любим кино про недалекое прошлое: 4 причины Почему мы так любим кино про недалекое прошлое: 4 причины

Что стоит за любовью россиян к фильмам про прошлое?

Psychologies
Открыть в приложении