Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
Почему электроавтомобили такие дорогие? Почему электроавтомобили такие дорогие?

На электромобиле можно сэкономить, но только в процессе эксплуатации

CHIP
«Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха «Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха

Чем существеннее ваши достижения, тем выше вероятность разозлить окружающих

Psychologies
Чем хорош «Человек-паук: Паутина вселенных» и как менялся канон Человека-паука в кино? Чем хорош «Человек-паук: Паутина вселенных» и как менялся канон Человека-паука в кино?

Как менялся образ и канон Человека-паука на экране?

Правила жизни
Миссия допустима: 5 случаев, когда можно шпионить за партнером Миссия допустима: 5 случаев, когда можно шпионить за партнером

По мнению экспертов, есть ситуации, в которых можно следить за партнером

VOICE
Как Мария Сибилла Мериан научила европейцев восхищаться гусеницами и жуками Как Мария Сибилла Мериан научила европейцев восхищаться гусеницами и жуками

Мария Сибилла Мериан сломала стереотипы и отправилась ловить бабочек в Америку

Forbes
Нейросеть изобразила 8 популярных психологических терминов: взгляните и оцените! Нейросеть изобразила 8 популярных психологических терминов: взгляните и оцените!

Midjourney создала иллюстрации, на которых показаны психологические термины

Psychologies
Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта

Как более менее пройти кризис миграции?

Psychologies
Как селфи влияют на нашу самооценку и что с этим делать Как селфи влияют на нашу самооценку и что с этим делать

Какое именно влияние неоднозначная практика селфи оказывает на людей

VOICE
Синтетическая кожа передает сигналы в мозг и может сделать протезы чувствительными Синтетическая кожа передает сигналы в мозг и может сделать протезы чувствительными

Ученые Стэнфорда разработали мягкую и растяжимую электронную кожу

ТехИнсайдер
Самый громкий звук в истории человечества, который облетел Землю четыре раза Самый громкий звук в истории человечества, который облетел Землю четыре раза

Извержение Кракатау, концерт The Who и другие самые громкие звуки

ТехИнсайдер
«Релокация похожа на влюбленность»: как строить международную карьеру «Релокация похожа на влюбленность»: как строить международную карьеру

Как решиться и выйти на международный рынок труда, если кажется, что уже поздно

Forbes
Я - плохая хозяйка: можно ли это исправить? Я - плохая хозяйка: можно ли это исправить?

Из чего складывается неумение поддерживать порядок вокруг себя?

VOICE
Московский мускат Московский мускат

Органичный микс из современной мебели, классической отделки и живописи

SALON-Interior
Алла Горбунова: «Ваша жестянка сломалась». Взломать мозг Вселенной Алла Горбунова: «Ваша жестянка сломалась». Взломать мозг Вселенной

Размышление о том, как люди пользуются случайно обретенными способностями

СНОБ
Как выявить буллинг: 13 признаков, что ребенок столкнулся с издевательствами в школе Как выявить буллинг: 13 признаков, что ребенок столкнулся с издевательствами в школе

Как выяснить, что ребенок стал жертвой буллинга?

Psychologies
Места знать надо Места знать надо

Как города мира конкурируют за лидеров хай-тека, науки и креативных индустрий

РБК
С первыми лучами солнца: что может произойти с завтраком в отеле С первыми лучами солнца: что может произойти с завтраком в отеле

История таинственного исчезновения завтрака в отеле

Правила жизни
Шея девочки была обвита пуповиной: дочь Брюса Уиллиса пережила тяжелые домашние роды Шея девочки была обвита пуповиной: дочь Брюса Уиллиса пережила тяжелые домашние роды

Румер Уиллис раскрыла шокирующие подробности рождения первенца

VOICE
Как кормление ребенка грудью влияет на его результаты в школе? Поразительно! Как кормление ребенка грудью влияет на его результаты в школе? Поразительно!

Время кормления детей грудным молоком влияет на результаты школьных тестов

ТехИнсайдер
«Да у него просто выдался тяжелый день»: 6 признаков травматической привязанности «Да у него просто выдался тяжелый день»: 6 признаков травматической привязанности

Травматическая привязанность — парадоксальная тяга жертвы к абьюзеру

Psychologies
За регенерацию тела у гидрактиний отвечают процессы старения клеток За регенерацию тела у гидрактиний отвечают процессы старения клеток

Как крошечное морское существо гидрактиния регенерирует новое тело?

ТехИнсайдер
«Не убийца, а всего лишь код, созданный и управляемый человеком»: сооснователь фонда Andreessen Horowitz о рисках ИИ «Не убийца, а всего лишь код, созданный и управляемый человеком»: сооснователь фонда Andreessen Horowitz о рисках ИИ

Страхи, связанные с ИИ, лишь сеют панику и тормозят развитие сектора

VC.RU
Перовскитные солнечные элементы потеряли менее двух процентов эффективности за тысячу часов Перовскитные солнечные элементы потеряли менее двух процентов эффективности за тысячу часов

Химики удержали органические катионы в перовскитных солнечных элементах

N+1
Когда не стоит возвращаться к бывшему: 5 неправильных поводов Когда не стоит возвращаться к бывшему: 5 неправильных поводов

В каких случаях не стоит давать себе и партнеру второй шанс

Psychologies
Время Змееносца. Летнее небо Время Змееносца. Летнее небо

Змееносец — крупное экваториальное созвездие, пересекающее эклиптику

Наука и жизнь
В Англии есть специальное кладбище для ампутированных конечностей. Пугающе интересно! В Англии есть специальное кладбище для ампутированных конечностей. Пугающе интересно!

Куда люди могут девать свои ампутированные конечности

ТехИнсайдер
5 признаков, что вы — жертва эмоционального насилия 5 признаков, что вы — жертва эмоционального насилия

Каким бывает эмоциональное насилие и почему мы предпочитаем о нем молчать?

Psychologies
Астрономы открывают новую эру в исследовании экзопланет: эру прямых наблюдений Астрономы открывают новую эру в исследовании экзопланет: эру прямых наблюдений

Астрономы получили прямые снимки одной из самых маленьких планет

ТехИнсайдер
Как социоэкономический статус влияет на ваше общение с людьми? Узнайте секреты психологии! Как социоэкономический статус влияет на ваше общение с людьми? Узнайте секреты психологии!

Как социоэкономический статус влияет на самооценку людей и их мышление

ТехИнсайдер
Открыть в приложении