По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психологический портрет: что такое панические атаки Психологический портрет: что такое панические атаки

Что испытывает человек при приступах паники?

Forbes
Делегирование полномочий: как отпустить контроль и научиться передавать задачи другим Делегирование полномочий: как отпустить контроль и научиться передавать задачи другим

Как сделать процесс делегирования эффективным?

Forbes
DDoSтать до потолка: как и почему за 2024 год изменились сетевые кибератаки DDoSтать до потолка: как и почему за 2024 год изменились сетевые кибератаки

Как изменился ландшафт DDoS и что этому способствовало

Forbes
Понять и простить: почему вам изменили — 7 причин Понять и простить: почему вам изменили — 7 причин

Почему люди изменяют?

Psychologies
Автомобиль для королей, рэперов и миллиардеров: 119 лет истории Rolls-Royce Автомобиль для королей, рэперов и миллиардеров: 119 лет истории Rolls-Royce

Rolls-Royce: история, смысл шильдика на капоте и образ владельца сквозь время

Правила жизни
Иван Волков Иван Волков

Все постановки с актером Иваном Волковым — автоматически зрительские хиты

Собака.ru
5 лучших книг по мотивам игр 5 лучших книг по мотивам игр

Книги, которые позволят вам окунуться во вселенную любимых видеоигр

Maxim
Правила летней укладки: что делать с волосами на море, если они сильно пушатся — отвечает стилист Правила летней укладки: что делать с волосами на море, если они сильно пушатся — отвечает стилист

Рассказываем о способах усмирить излишнюю пушистость волос во время отпуска

VOICE
80-летний мужчина годами проживает один и тот же день из-за редкого синдрома 80-летний мужчина годами проживает один и тот же день из-за редкого синдрома

Уж лучше ошибаться здесь и сейчас, чем заново проживать одни и те же события

Psychologies
Экономика будущего. Первый этап | The Economy of the Future. Stage One Экономика будущего. Первый этап | The Economy of the Future. Stage One

Видение Экономики будущего социального инвестора Алексея Рыжкова

Позитивные изменения
Анна Котова: «Моя роль от меня не уйдет» Анна Котова: «Моя роль от меня не уйдет»

«Вода камень точит. Важно не сдаваться!»

Коллекция. Караван историй
Маникюрное табу: не используй этот лак для ногтей, если тебе 50 лет или больше Маникюрное табу: не используй этот лак для ногтей, если тебе 50 лет или больше

Есть лак, который не стоит использовать, если ты разменяла шестой десяток лет

VOICE
Лидия Смирнова покоряла мужские сердца и в 80 лет Лидия Смирнова покоряла мужские сердца и в 80 лет

В фильмографии Смирновой много ярких образов

Коллекция. Караван историй
«Принес на первое свидание 5 кг красной рыбы» «Принес на первое свидание 5 кг красной рыбы»

Истории людей, которые нашли cвою любовь в Сети

Лиза
Бессмысленно и бестактно: почему не стоит советовать женщинам выходить замуж Бессмысленно и бестактно: почему не стоит советовать женщинам выходить замуж

Могут ли женщины состояться в жизни, не выходя замуж?

Forbes
Действительно ли человечество морально деградирует Действительно ли человечество морально деградирует

Как часто вы слышите разговоры о том, что раньше люди были добрее?

СНОБ
Рыбный день Рыбный день

Самые интересные места для рыбалки

Robb Report
В Стамбуле открывается Музей современного искусства от архитектора ГЭС-2 Ренцо Пьяно В Стамбуле открывается Музей современного искусства от архитектора ГЭС-2 Ренцо Пьяно

Яна Жиляева изучила, как устроен новый Музей современного искусства в Турции

Forbes
Кератин для волос: 4 причины сделать процедуру или отказаться от нее Кератин для волос: 4 причины сделать процедуру или отказаться от нее

Разбираемся с экспертами в плюсах и минусах кератинового выпрямления

РБК
Металлический мир: что известно о миссии по изучению астероида Психея, которая стартует уже осенью Металлический мир: что известно о миссии по изучению астероида Психея, которая стартует уже осенью

Зонд Psyche должен осмотреть целиком металлический мир

ТехИнсайдер
7 необычных способов использования розмарина, которые не связаны с кулинарией: лайфхаки для дома и для красоты 7 необычных способов использования розмарина, которые не связаны с кулинарией: лайфхаки для дома и для красоты

Розмарин настолько полезен, что его можно добавлять в косметические продукты

ТехИнсайдер
8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку! 8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку!

Это крошечное, но очень полезное приспособление должно быть в каждом доме

ТехИнсайдер
Хозяин своей жизни: 8 аргументов в пользу одиночества Хозяин своей жизни: 8 аргументов в пользу одиночества

Даже в природе не все особи создают пару. И это тоже вариант нормы

Psychologies
Зачем нам гендерное равенство: семь ответов на самые популярные вопросы Зачем нам гендерное равенство: семь ответов на самые популярные вопросы

Зачем России гендерное равенство и почему оно выгодно государству в целом

Forbes
Внутри астероида Итокава найдена обычная соль — и эта находка уникальна Внутри астероида Итокава найдена обычная соль — и эта находка уникальна

Почему ученых так взволновал самый заурядный хлорид натрия?

ТехИнсайдер
Шимпанзе подготовились к разным вариантам будущего Шимпанзе подготовились к разным вариантам будущего

Шимпанзе не дали экспериментатору украсть еду

N+1
Внутренний ребенок: как и зачем с ним общаться? Внутренний ребенок: как и зачем с ним общаться?

Познакомиться и подружиться со своим внутренним ребенком, чтобы стать счастливее

Psychologies
Отрывок из новой книги норвежского писателя Карла Уве Кнаусгора Отрывок из новой книги норвежского писателя Карла Уве Кнаусгора

«Надежды» — пятая книга автобиографии «Моя борьба» Карла Уве Кнаусгора

СНОБ
Список альтернативного чтения: лучшие детские книги на летние каникулы Список альтернативного чтения: лучшие детские книги на летние каникулы

Современный список книг на лето

Forbes
От белого платья до личного выбора: как эмансипация изменила свадебные традиции От белого платья до личного выбора: как эмансипация изменила свадебные традиции

Как наряд невесты прошел путь от церемониального облачения до личного выбора

Forbes
Открыть в приложении