Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Юстиниан Великий и Великая чума Юстиниан Великий и Великая чума

Император, который мечтал о возрождении империи, но проиграл чумной палочке

Дилетант
«Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог «Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог

Почему не все женщины испытывают оргазм и как справиться с деликатной проблемой

Psychologies
Марафон выбора: как мы находим друг друга — 4 вечно актуальных принципа Марафон выбора: как мы находим друг друга — 4 вечно актуальных принципа

Почему из множества потенциальных партнеров мы выбираем одного-единственного?

Psychologies
«Людей нужно где-то кормить»: почему регионы переживают бум ресторанных франшиз «Людей нужно где-то кормить»: почему регионы переживают бум ресторанных франшиз

Как развивается российский общепит в регионах

Forbes
В сердечном ритме В сердечном ритме

Почему у современного ритма жизни есть «сердечное» сопровождение?

Лиза
Самая массивная черная дыра: абсолютный чемпион Самая массивная черная дыра: абсолютный чемпион

Чемпион среди черных дыр — его масса превышает массу Солнца в 40 000 000 000 раз

ТехИнсайдер
Пропускать душ и грызть ногти: 6 детских привычек, которые вообще-то полезны Пропускать душ и грызть ногти: 6 детских привычек, которые вообще-то полезны

Неэстетичные привычки, которые идут детям лишь на пользу

Psychologies
Дмитрий Лысенков Дмитрий Лысенков

Дмитрий Лысенков — хит сезона! Самый харизматичный актер страны

Собака.ru
Черви-костоеды поели акульих зубов Черви-костоеды поели акульих зубов

Оказывается, черви-костоеды едят не только акульи кости, но и зубы

N+1
Клим Шипенко: «Космос точно вызывает зависимость» Клим Шипенко: «Космос точно вызывает зависимость»

История от первого режиссера, который побывал в космосе, и привез оттуда фильм!

Maxim
Самый громкий звук в истории человечества, который облетел Землю четыре раза Самый громкий звук в истории человечества, который облетел Землю четыре раза

Извержение Кракатау, концерт The Who и другие самые громкие звуки

ТехИнсайдер
Вегетарианка и чудачка: почему друзья Ильи Репина не любили его жену Наталью Нордман Вегетарианка и чудачка: почему друзья Ильи Репина не любили его жену Наталью Нордман

Какой была жена Ильи Репина Наталья Нордман?

Forbes
Правила жизни Джона Ромиты — старшего Правила жизни Джона Ромиты — старшего

Правила жизни американского художника комиксов Джона Ромиты — старшего

Правила жизни
Рассада растет, как на дрожжах: 5 способов повторно использовать чайные пакетики на огороде Рассада растет, как на дрожжах: 5 способов повторно использовать чайные пакетики на огороде

На даче найдется много способов применения использованных чайных пакетиков

ТехИнсайдер
От блокбастеров до острой курицы: как голливудский продюсер развивает сферу общепита От блокбастеров до острой курицы: как голливудский продюсер развивает сферу общепита

Продюсер Джон Дэвис развивает рестораны формата fast casual

Forbes
Острова притяжения Острова притяжения

Чем привлекают к себе горожан окруженные водой территории

РБК
Древнерусская невеста: как выходили замуж и устраивали свадебные пиры на Руси Древнерусская невеста: как выходили замуж и устраивали свадебные пиры на Руси

На Руси свадьба была делом общесемейным, поэтому заключались браки как сделки

Forbes
Ролевые онлайн-игры: как предотвратить подмену цифровой личности Ролевые онлайн-игры: как предотвратить подмену цифровой личности

Какими инструментами можно решить проблему подмены цифровой личности

Forbes
Роботреугольники объединились в оригами-робота Роботреугольники объединились в оригами-робота

Инженеры разработали робота, состоящего из отдельных самостоятельных элементов

N+1
BMW X3 и Genesis GV70 разбили на краш-тестах: на чем безопасно ездить BMW X3 и Genesis GV70 разбили на краш-тестах: на чем безопасно ездить

BMW X3 и Mercedes GLC стали самыми безопасными моделями на краш-тестах

РБК
Я — сноб: певец Сергей Мазаев Я — сноб: певец Сергей Мазаев

Сергей Мазаев о новых проектах и о том, как важно оставаться самим собой

СНОБ
Без главного лица Без главного лица

«Он — это пуля»: несостоявшийся культовый триллер

Weekend
Что такое альгинатная маска и почему ее стоит попробовать Что такое альгинатная маска и почему ее стоит попробовать

Что представляет собой альгинатная маска и как получить от нее максимум пользы

РБК
«Мое проклятье! Я далеко не идеальна!»: Наталья Ионова рассказала Павлу Воле о своей травме «Мое проклятье! Я далеко не идеальна!»: Наталья Ионова рассказала Павлу Воле о своей травме

36-летняя певица Наталья Ионова призналась, что у нее нет ногтя на пальце

VOICE
«Магический реализм» Оуэна Уилсона «Магический реализм» Оуэна Уилсона

У Оуэна Уилсона много странностей и описать его сложно

Караван историй
Ненависть к пробкам и очередям: 7 триггеров, которые идут из нашего детства Ненависть к пробкам и очередям: 7 триггеров, которые идут из нашего детства

Почему рядовое событие порой вызывает у нас такую бурную реакцию?

Psychologies
«Всё, что имею, единственно по милости Его Величества» «Всё, что имею, единственно по милости Его Величества»

Уроженец Псковского края и выходец из рода князей смоленских Василий Татищев

Дилетант
«Это наживается нервами десятилетий, а конфискуется в одну ночь» «Это наживается нервами десятилетий, а конфискуется в одну ночь»

Александр Солженицын о правилах выживания

Weekend
Жажда власти, похоть и тщеславие в фильме Паоло Соррентино о Сильвио Берлускони Жажда власти, похоть и тщеславие в фильме Паоло Соррентино о Сильвио Берлускони

«Лоро» Паоло Соррентино — ироничный байопик о Сильвио Берлускони

Правила жизни
Одинокий Арми: 10 фильмов с Арми Хаммером — от лучшего к худшему Одинокий Арми: 10 фильмов с Арми Хаммером — от лучшего к худшему

Вспоминаем лучшие (и не только) роли американского актера Арми Хаммера

Правила жизни
Открыть в приложении