По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кто создал хиты Алиши Киз и Coldplay: пять женщин, добившихся успеха в звукорежиссуре Кто создал хиты Алиши Киз и Coldplay: пять женщин, добившихся успеха в звукорежиссуре

Женщины-звукорежиссеры и трудности, которые им пришлось преодолеть

Forbes
Наследники Дукалиса и Казановы: как сегодня выглядят дети звезд Наследники Дукалиса и Казановы: как сегодня выглядят дети звезд

Как выглядят дети звезд "Улиц разбитых фонарей" сегодня и чем они занимаются?

VOICE
Миниатюрный орнитоптер стал одноногим прыгуном Миниатюрный орнитоптер стал одноногим прыгуном

Как инженеры создали робота-прыгуна массой меньше грамма

N+1
«В Бабкине тараканить некого», или Где искать секс за МКАД «В Бабкине тараканить некого», или Где искать секс за МКАД

Отправляемся в поисках секса на Чукотку и в Таиланд

СНОБ
Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья

Страдающие ежи и Средневековье: что ели люди в эпоху рыцарей?

ТехИнсайдер
«Без любви ничего не получится» «Без любви ничего не получится»

Наталья Гнеушева о том, как делать кино успешным, а имена — узнаваемыми

OK!
Так и не стали взрослыми: дети-актеры, которые рано умерли – самые трагические истории Так и не стали взрослыми: дети-актеры, которые рано умерли – самые трагические истории

У них впереди была целая жизнь, но, увы, она внезапно оборвалась.

VOICE
Секреты стиля Джорджа Майкла Секреты стиля Джорджа Майкла

Из чего состоял гардероб иконы стиля Джорджа Майкла?

Правила жизни
5 книг в жанре интеллектуальной прозы, которые стоит прочесть каждому 5 книг в жанре интеллектуальной прозы, которые стоит прочесть каждому

Качественная интеллектуальная проза, которая заставит ваш мозг работать

Maxim
Многообещающие голливудские актрисы 1990-х, о которых все забыли – где они теперь? Многообещающие голливудские актрисы 1990-х, о которых все забыли – где они теперь?

Прошло пару десятков лет, и эти имена почти забыты

VOICE
6 признаков хорошей тренировки 6 признаков хорошей тренировки

Сигналы организма дадут понять, каких результатов стоит ждать от тренировок

Maxim
Пора на дачу — грядки полоть! 5 причин, почему работать в огороде полезно для здоровья Пора на дачу — грядки полоть! 5 причин, почему работать в огороде полезно для здоровья

Садоводство — настоящая тренировка для ума и тела, если правильно им заниматься

ТехИнсайдер
«Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев «Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев

Получилась альтернативная версия «Крестного отца».

Правила жизни
Кино на драйве: зачем «Формула-1» стала съемочной площадкой голливудского фильма Кино на драйве: зачем «Формула-1» стала съемочной площадкой голливудского фильма

Как и зачем «Формула-1» завоевывает мир с большого экрана

Forbes
Правила жизни Моисея Гинзбурга Правила жизни Моисея Гинзбурга

Правила жизни советского архитектора и одного из лидеров конструктивизма

Правила жизни
Солнечная защита Земли: новые детали Солнечная защита Земли: новые детали

Галактические космические лучи — очень опасный тип радиации

Наука и жизнь
Как диеты вредят красоте Как диеты вредят красоте

4 причины, по которым мы выглядим хуже, сбрасывая лишний вес

Лиза
«Развод снова лишил мою дочь отца»: история одного переезда и двух замужеств «Развод снова лишил мою дочь отца»: история одного переезда и двух замужеств

Почему возникшая в отношениях трещина неумолимо разводит нас в разные стороны

Psychologies
Введение аденовирусного вектора в мозг вылечило глухоту у взрослых мышей Введение аденовирусного вектора в мозг вылечило глухоту у взрослых мышей

Введение аденовирусного вектора вернуло слух глухим взрослым мышам

N+1
Почему опасно делать гель-маникюр дома: эта ошибка может испортить здоровье на всю жизнь Почему опасно делать гель-маникюр дома: эта ошибка может испортить здоровье на всю жизнь

Почему нужно быть осторожной с гель-лаком?

VOICE
«Цитадель» братьев Руссо: как потратить более $300 млн на вторичный сериал «Цитадель» братьев Руссо: как потратить более $300 млн на вторичный сериал

Почему стриминги штампуют дорогостоящие, но вторичные проекты?

Forbes
80-летний мужчина годами проживает один и тот же день из-за редкого синдрома 80-летний мужчина годами проживает один и тот же день из-за редкого синдрома

Уж лучше ошибаться здесь и сейчас, чем заново проживать одни и те же события

Psychologies
Ошибка 0x80070422: когда она появляется, и как ее исправить Ошибка 0x80070422: когда она появляется, и как ее исправить

Как исправить ошибку 0x80070422 при обновлении Windows 10

CHIP
Старая новая дача Старая новая дача

Знакомьтесь с обновлённой версией дома для сезонного проживания

Идеи Вашего Дома
Александр Цыпкин Александр Цыпкин

За год у Александра было четыре театральные премьеры спектаклей по его текстам

Собака.ru
Серийный убийца, орудовашвий в 1980-е, сдался полиции в 2023 году! Совесть замучила? Серийный убийца, орудовашвий в 1980-е, сдался полиции в 2023 году! Совесть замучила?

Почему серийный убийца явился с повинной?

ТехИнсайдер
Интервью с детским нейрохирургом Шавкатом Кадыровым Интервью с детским нейрохирургом Шавкатом Кадыровым

Детский нейрохирург рассказал об изменениях, произошедших в нейрохирургии

СНОБ
Польза или вред: стоит ли тренироваться каждый день Польза или вред: стоит ли тренироваться каждый день

Что будет, если тренироваться каждый день? Крепкие мышцы или травмы?

Правила жизни
Как в Челябинске запустили первое в России производство сверхбольших стеклопакетов Как в Челябинске запустили первое в России производство сверхбольших стеклопакетов

Как производство больших архитектурных стеклопакетов может изменить Россию

СНОБ
Какую пластику можно и нужно делать летом: твоя подсказка от хирурга Какую пластику можно и нужно делать летом: твоя подсказка от хирурга

Какие из пластических преображений показано делать в теплое время года?

VOICE
Открыть в приложении