Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Было бы желание... Было бы желание...

Женское либидо — штука хрупкая, ненадежная. Вопросов здесь немало

Добрые советы
Голубиные мозговые желудочки наполнились ликвором во время медленного сна Голубиные мозговые желудочки наполнились ликвором во время медленного сна

Мозг голубей способен очищаться от ненужных метаболитов

N+1
Протесты в Польше после смерти беременной женщины. Как влияет запрет абортов на психику? Протесты в Польше после смерти беременной женщины. Как влияет запрет абортов на психику?

Как и почему запрет на аборты приводит к росту смертности?

Psychologies
Жена зарабатывает больше: как обойти стереотипы и сохранить гармонию в отношениях Жена зарабатывает больше: как обойти стереотипы и сохранить гармонию в отношениях

Существуют многие успешные пары, где жена зарабатывает больше, и они счастливы

Psychologies
Нос кошки устроен как отличный газовый хроматограф Нос кошки устроен как отличный газовый хроматограф

Ученые создали трехмерную компьютерную модель носа кошки

ТехИнсайдер
Австралийские палеонтологи описали самого крупного сцинка Австралийские палеонтологи описали самого крупного сцинка

Ящерица из плейстоценовой Австралии дорастала до 60 сантиметров в длину

N+1
«Я очень переживала. Поехала на «Я очень переживала. Поехала на

Певица Зара рассказала о крахе первого брака

VOICE
15 самых дорогих мобильных телефонов в мире 15 самых дорогих мобильных телефонов в мире

Представляем пятнадцать самых дорогих мобильников в мире!

ТехИнсайдер
6 причин, по которым на ногтях появляются белые пятна: что делать в каждом случае 6 причин, по которым на ногтях появляются белые пятна: что делать в каждом случае

Лейконихия — так «на медицинском» называются эти белые пятна на ногтях

VOICE
Чем так важна икона «Троица» Андрея Рублева для мирового искусства? Чем так важна икона «Троица» Андрея Рублева для мирового искусства?

Почему икона стала камнем преткновения между РПЦ и музейным обществом?

Maxim
Могли ли динозавры видеть «чужими глазами»: любопытное исследование Могли ли динозавры видеть «чужими глазами»: любопытное исследование

Могли ли динозавры использовать визуальное восприятие перспективы?

ТехИнсайдер
В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье

Как жить с абьюзивной свекровью?

Psychologies
Суп кочевника Суп кочевника

Монгольский наваристый мясной суп

Вокруг света
Ешь и худей: какие продукты могут ускорить метаболизм? Ешь и худей: какие продукты могут ускорить метаболизм?

Как ускорить обмен веществ, не ночуя в тренажерном зале?

ТехИнсайдер
10 шикарных корейских фильмов, о которых мало кто знает 10 шикарных корейских фильмов, о которых мало кто знает

Кинематограф Южной Кореи — это не только «Паразиты» и «Олдбой»!

Maxim
Я сижу на берегу Я сижу на берегу

Панически боишься воды? Лови советы нашего психолога

Лиза
Дети в рекламе: путь к успеху или реализация родительских амбиций Дети в рекламе: путь к успеху или реализация родительских амбиций

Как съемки в рекламе могут сказаться на детской психике

Forbes
Как убрать целлюлит за 7 простых шагов: твой самый быстрый путь к гладкой коже Как убрать целлюлит за 7 простых шагов: твой самый быстрый путь к гладкой коже

Даем пошаговую инструкцию по быстрому уничтожению "апельсиновой корки" на бедрах

VOICE
Маркетплейс для разработчиков: как развивать российский GitHub Маркетплейс для разработчиков: как развивать российский GitHub

Какие существуют способы развития сообщества open source в России

Forbes
Беззаботное детство и немного идеологии: для чего в СССР создавали пионерские лагеря Беззаботное детство и немного идеологии: для чего в СССР создавали пионерские лагеря

Почему дать однозначную оценку пионерским лагерям сложно до сих пор?

Forbes
Виртуальный доллар: зачем банки сохраняют счета физлиц в «токсичных» валютах Виртуальный доллар: зачем банки сохраняют счета физлиц в «токсичных» валютах

Девалютизация банковской системы не заставила банки вывести доллары и евро

Forbes
«Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог «Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог

Почему не все женщины испытывают оргазм и как справиться с деликатной проблемой

Psychologies
Ошибка записи на диск Steam: 10 советов, как устранить эту проблему Ошибка записи на диск Steam: 10 советов, как устранить эту проблему

10 рабочих способов устранить ошибку записи на диск Steam

CHIP
Любящие читать дети имеют больший мозг, благодаря этому они становятся более счастливыми и умными подростками Любящие читать дети имеют больший мозг, благодаря этому они становятся более счастливыми и умными подростками

Как связаны любовь к книгам в детстве и счастливое юношество?

ТехИнсайдер
Как подключить две пары наушников к одному смартфону Как подключить две пары наушников к одному смартфону

Как подключить две пары наушников к одному смартфону

CHIP
Серийный убийца, орудовашвий в 1980-е, сдался полиции в 2023 году! Совесть замучила? Серийный убийца, орудовашвий в 1980-е, сдался полиции в 2023 году! Совесть замучила?

Почему серийный убийца явился с повинной?

ТехИнсайдер
Вниманию шопоголиков Вниманию шопоголиков

6 уловок в магазинах одежды, на которые мы часто попадаемся

Лиза
4 причины, по которым у женщин болит спина: найди и устрани свою! 4 причины, по которым у женщин болит спина: найди и устрани свою!

Самые распространенные причины болей в спине

VOICE
О чём пишут научно-популярные журналы мира О чём пишут научно-популярные журналы мира

Угроза от соли, раннее изучение иностранного языка и электрические самолеты

Наука и жизнь
Как не дать психологическим травмам испортить вашу жизнь Как не дать психологическим травмам испортить вашу жизнь

Как себе помочь и стать успешным и счастливым человеком, несмотря на травмы

Psychologies
Открыть в приложении