Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ловец хакеров: как программист Юрий Максимов без сторонних инвестиций создал компанию по кибербезопасности с миллиардной стоимостью Ловец хакеров: как программист Юрий Максимов без сторонних инвестиций создал компанию по кибербезопасности с миллиардной стоимостью

Программист, который самостоятельно создал компанию с миллиардной стоимостью

Forbes
Ты и бывший: что остается после финала? Ты и бывший: что остается после финала?

Любовь однажды заканчивается, но след от нее растягивается на годы

VOICE
Врачи предлагали ампутацию: Билозерчев стал чемпионом, несмотря на травму и бойкот Врачи предлагали ампутацию: Билозерчев стал чемпионом, несмотря на травму и бойкот

История гимнаста Дмитрия Билозерчева: как он пережил травму и получил медаль

Forbes
Что произойдет с планетой, если люди внезапно исчезнут? Интересные факты! Что произойдет с планетой, если люди внезапно исчезнут? Интересные факты!

Станет ли Земле легче, если все 8 миллиардов человек внезапно исчезнут?

ТехИнсайдер
«Книгу писать или жизнь жить»: как участники группы Anacondaz написали детскую сказку «Книгу писать или жизнь жить»: как участники группы Anacondaz написали детскую сказку

Весной 2023 года группа Anacondaz выпустила книгу «Энтони: дорога к дракону»

Forbes
Мигрень повысила риск преждевременного инфаркта у женщин Мигрень повысила риск преждевременного инфаркта у женщин

У женщин с мигренью риск инфаркта миокарда и инсульта выше, чем у мужчин

N+1
Неприхотливый многолетник Неприхотливый многолетник

Перспективы выращивания мискантуса на российских полях

Агроинвестор
Будут как новые: 5 способов, как очистить инструменты от ржавчины Будут как новые: 5 способов, как очистить инструменты от ржавчины

Эти методы помогут убрать как небольшую, так и застарелую ржавчину!

ТехИнсайдер
Как подключить две пары наушников к одному смартфону Как подключить две пары наушников к одному смартфону

Как подключить две пары наушников к одному смартфону

CHIP
Как выглядит в обычной жизни самая красивая принцесса Иордании - и какой она была еще несколько лет назад Как выглядит в обычной жизни самая красивая принцесса Иордании - и какой она была еще несколько лет назад

Хаала бинт аль Хашим проснулась знаменитой после свадьбы своего кузена

VOICE
Польза или вред: стоит ли тренироваться каждый день Польза или вред: стоит ли тренироваться каждый день

Что будет, если тренироваться каждый день? Крепкие мышцы или травмы?

Правила жизни
Какую пластику можно и нужно делать летом: твоя подсказка от хирурга Какую пластику можно и нужно делать летом: твоя подсказка от хирурга

Какие из пластических преображений показано делать в теплое время года?

VOICE
Узнайте о самых древних языках, на которых говорят до сих пор! Интересные факты Узнайте о самых древних языках, на которых говорят до сих пор! Интересные факты

Иврит, санскрит, тамильский и другие языки используются на протяжении тысяч лет

ТехИнсайдер
Что ели на Руси до картошки? Что ели на Руси до картошки?

До XVII века на Руси господствовали совершенно другие продукты

Культура.РФ
Австралийцы дегуманизировали велосипедистов в защитной экипировке Австралийцы дегуманизировали велосипедистов в защитной экипировке

Велосипедисты в жилетах и шлемах казались респондентам менее похожими на людей

N+1
Boston Dynamics улучшила знаменитого желтого робопса Spot - теперь он сам открывает двери Boston Dynamics улучшила знаменитого желтого робопса Spot - теперь он сам открывает двери

Робот-собака Boston Dynamics стал функциональнее

ТехИнсайдер
«Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“ «Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“

Интервью с профессором Джеффри Саксом

Позитивные изменения
Жившего 1,45 миллиона лет назад гоминина разделал другой гоминин Жившего 1,45 миллиона лет назад гоминина разделал другой гоминин

Возможно, это одно из древнейших свидетельств каннибализма

N+1
Эмоциональная компетентность: как понять и принять чувства окружающих Эмоциональная компетентность: как понять и принять чувства окружающих

Можно ли на самом деле поставить себя на место другого человека и понять его?

Psychologies
Астрономы открывают новую эру в исследовании экзопланет: эру прямых наблюдений Астрономы открывают новую эру в исследовании экзопланет: эру прямых наблюдений

Астрономы получили прямые снимки одной из самых маленьких планет

ТехИнсайдер
Эпоха возрождения Эпоха возрождения

В Мозамбике после гражданской войны восстанавливают Национальный парк Горонгоза

Robb Report
Любовь-ностальгия: спорим, ты забыла, что Джонни Депп встречался с этими популярными актрисами Любовь-ностальгия: спорим, ты забыла, что Джонни Депп встречался с этими популярными актрисами

В жизни Джонни Деппа было немало романов

VOICE
Генетики прочитали ДНК погребенных в общей могиле носителей традиции колоколовидных кубков Генетики прочитали ДНК погребенных в общей могиле носителей традиции колоколовидных кубков

Останки женщины и ребенка больше 20 лет назад раскопали в Люксембурге

N+1
Обед с метеоритом Обед с метеоритом

Как знаменитый Челябинский метеорит оставил след на кулинарной карте региона

Лиза
«Я не прожил и дня без любви к тебе»: история Наполеона и Жозефины в письмах французского императора «Я не прожил и дня без любви к тебе»: история Наполеона и Жозефины в письмах французского императора

Роман Жозефины Богарне и Наполеона Бонапарта — чувственный бестселлер о любви

Правила жизни
Рыбный день Рыбный день

Самые интересные места для рыбалки

Robb Report
Вера Васильева: «Нужно быть готовым к любым поворотам судьбы и любить жизнь» Вера Васильева: «Нужно быть готовым к любым поворотам судьбы и любить жизнь»

Актриса Вера Васильева о детстве, театре и заботе

Коллекция. Караван историй
Для тех, кто любит посложнее: 5 романов для интеллектуалов Для тех, кто любит посложнее: 5 романов для интеллектуалов

Сложные эпические романы — целое исследование человека, общества и истории

Maxim
Когда нельзя идти на компромисс: 7 ситуаций — мнение семейного психолога Когда нельзя идти на компромисс: 7 ситуаций — мнение семейного психолога

Всегда ли стоит договариваться и идти на уступки?

Psychologies
«Концентрируйтесь на функциональности»: как правильно думать о теле — повысьте самооценку «Концентрируйтесь на функциональности»: как правильно думать о теле — повысьте самооценку

Как нужно думать о внешности, чтобы принять себя со всеми особенностями?

Psychologies
Открыть в приложении