По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Труды и бессонные ночи»: как женщины добивались права работать адвокатами «Труды и бессонные ночи»: как женщины добивались права работать адвокатами

Как женщины в Российской империи и Советском Союзе меняли законы

Forbes
Когда воссияли звезды: ученые рассказали, какой была таинственная «эпоха Реионизации» на заре времен Когда воссияли звезды: ученые рассказали, какой была таинственная «эпоха Реионизации» на заре времен

Астрономы пытаются разгадать секреты того, когда Вселенная зажгла свои огни

ТехИнсайдер
Один снимок, миллион проблем: почему не стоит публиковать фото посадочного талона в социальных сетях Один снимок, миллион проблем: почему не стоит публиковать фото посадочного талона в социальных сетях

Чем рискуют те, кто решился на традиционное фото с посадочным талоном?

ТехИнсайдер
Мягкая робо-перчатка поможет научиться играть на пианино Мягкая робо-перчатка поможет научиться играть на пианино

Мягкая робо-перчатка может стать «учителем» музыки

ТехИнсайдер
В режиме «не беспокоить»: что такое синдром цифровой усталости, чем он опасен и как с ним бороться В режиме «не беспокоить»: что такое синдром цифровой усталости, чем он опасен и как с ним бороться

Как зумеры столкнулись с выгоранием от бесконечного скроллинга социальных сетей

Правила жизни
Что читать летом: современная притча о любви и утрате «Чистый цвет» Шилы Хети Что читать летом: современная притча о любви и утрате «Чистый цвет» Шилы Хети

Начало книги «Чистый цвет», где Шила Хети включает нас в мифологию

Правила жизни
На северо-западе Франции нашли три клада эпохи бронзы На северо-западе Франции нашли три клада эпохи бронзы

Во французской Бретани обнаружили три древних клада

N+1
Voglio Bene / Я люблю Voglio Bene / Я люблю

Экскурсия в студию художницы Бенедикт и ее мужа Паскаля

Seasons of life
«На казенный счет изгонял бога из природы» «На казенный счет изгонял бога из природы»

Климент Тимирязев раскрыл тайну фотосинтеза и изобретал теплицу

Наука
Как преодолеть любые жизненные испытания: 3 главных шага Как преодолеть любые жизненные испытания: 3 главных шага

Можем ли мы научиться чему-то у героев жизнеутверждающих фильмов?

Psychologies
«Может шить, готовить, говорить»: о чем писали поэтессы второй половины ХХ века «Может шить, готовить, говорить»: о чем писали поэтессы второй половины ХХ века

На протяжении долгого времени голоса женщин в литературе были почти не слышны

Forbes
Как быть, если у мужчины не проснулись отцовские чувства: 4 совета от Андрея Курпатова Как быть, если у мужчины не проснулись отцовские чувства: 4 совета от Андрея Курпатова

Как мужчины воспринимают отцовство?

Psychologies
Кристальное равновесие Кристальное равновесие

Баланс старого и нового в доме получился идеальным, как кристаллическая решётка

Идеи Вашего Дома
99 способов самоподдержки от смелого психолога Екатерины Сигитовой 99 способов самоподдержки от смелого психолога Екатерины Сигитовой

Список, который вам поможет радоваться жизни каждый день!

Psychologies
Предпоследний друг: как Берлускони пытался строить особые отношения с Россией Предпоследний друг: как Берлускони пытался строить особые отношения с Россией

Как европейские политики пытались интегрировать Россию и Запад

Forbes
Формула везения: можно ли объяснить удачу с научной точки зрения Формула везения: можно ли объяснить удачу с научной точки зрения

Что делать, чтобы удачные случайности стали происходить чаще?

Forbes
Как превратить дело жизни в успешный бизнес: интервью с владельцем отеля «Гельвеция» Юнисом Теймурханлы Как превратить дело жизни в успешный бизнес: интервью с владельцем отеля «Гельвеция» Юнисом Теймурханлы

Юнис Теймурханлы — как за годы изменился Санкт-Петербург и отель “Гельвеция”

Правила жизни
Более половины россиян хотели бы зарабатывать так же, как блогеры Более половины россиян хотели бы зарабатывать так же, как блогеры

60% россиян хотели бы иметь такой же доход, как и крупные блогеры

Forbes
Зубами щелк… Зубами щелк…

Почему щелкает челюсть и как с этим справиться

Лиза
«Я боялась вынашивать эмбрион»: жена Алека Болдуина рассказала, как у нее родились двое детей с разницей в полгода «Я боялась вынашивать эмбрион»: жена Алека Болдуина рассказала, как у нее родились двое детей с разницей в полгода

Хилария Болдуин рассказала, как в ее семье появился ребенок от суррогатной мамы

VOICE
Просто перенервничала Просто перенервничала

Возможные последствия стресса (опасные тоже есть)

Лиза
«Базовая задача — регулирование трансграничного рынка» «Базовая задача — регулирование трансграничного рынка»

Каких мер ожидают от государства производители биологически активных добавок

РБК
Что произойдет, если Земля начнет вращаться быстрее? Что произойдет, если Земля начнет вращаться быстрее?

Что будет, если наши привычные 24 часа в сутках сократятся?

ТехИнсайдер
Исторический Chevrolet Avalanche Base Camp продаётся на eBay Исторический Chevrolet Avalanche Base Camp продаётся на eBay

Этот оригинальный экспедиционный пикап был изготовлен по заказу General Motors

4x4 Club
Новая сцена Александринского театра Новая сцена Александринского театра

Команда Александринки сделала новую сцену прогрессивным междисцплинарным центром

Собака.ru
25-летний спор о сознании человека закончился победой философа над нейробиологом. Философ получил ящик вина 25-летний спор о сознании человека закончился победой философа над нейробиологом. Философ получил ящик вина

Как наш мозг производит сознание? Спор двух ученых

ТехИнсайдер
Исследователи попросили ChatGPT разработать кадровую политику компании. Он не справился, но помог Исследователи попросили ChatGPT разработать кадровую политику компании. Он не справился, но помог

Какую помощь может оказать чат-бот при формировании кадровой политики

ТехИнсайдер
Эмоции для диктатуры пролетариата Эмоции для диктатуры пролетариата

Как авангард хотел управлять сознанием с помощью архитектурных форм

Weekend
На трипольском поселении нашли кость мигрантки На трипольском поселении нашли кость мигрантки

Ученые исследовали кость, найденную на трипольском поселении Коломийцев Яр

N+1
Икота Икота

Даже физиологи не до конца понимают, почему мозг «клинит» на дыхании

Здоровье
Открыть в приложении