Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
Как умирают в теплой воде Как умирают в теплой воде

Как остановить стремительное исчезновение крупнейших в мире морских звезд

Наука
Мелирование: подбор цвета, противопоказания и советы экспертов Мелирование: подбор цвета, противопоказания и советы экспертов

Какие техники относятся к мелированию и как выбрать подходящую?

РБК
«Была подвержена влиянию молодого человека из США»: почему Юлия Паршута ушла из группы «Инь-Ян» «Была подвержена влиянию молодого человека из США»: почему Юлия Паршута ушла из группы «Инь-Ян»

Юлия Паршута захотела изменить свою жизнь из-за бойфренда, живущего за границей

VOICE
Как она хочет: 5 лучших нон-фикшн книг, которые помогут лучше понимать свою женщину Как она хочет: 5 лучших нон-фикшн книг, которые помогут лучше понимать свою женщину

Как достичь понимания со своей женщиной? Подскажут эти книги

Maxim
Рассмешил весь мир и умер в одиночестве среди грязных тарелок: трагическая судьба комика Бенни Хилла Рассмешил весь мир и умер в одиночестве среди грязных тарелок: трагическая судьба комика Бенни Хилла

Бенни Хилл умер в 1992 году и финал его жизни был невероятно печален

VOICE
Так и не стали взрослыми: дети-актеры, которые рано умерли – самые трагические истории Так и не стали взрослыми: дети-актеры, которые рано умерли – самые трагические истории

У них впереди была целая жизнь, но, увы, она внезапно оборвалась.

VOICE
Российские астрономы подсчитали сколько весит Млечный путь Российские астрономы подсчитали сколько весит Млечный путь

Хотите узнать, сколько весит Млечный путь?

ТехИнсайдер
Что заставляет женщин выбирать женатых мужчин: 3 мотива Что заставляет женщин выбирать женатых мужчин: 3 мотива

Можно корить за выбор несвободных мужчин, а можно попытаться понять

Psychologies
Мы поехали! Мы поехали!

Cамые частые ошибки, которые портят отдых

Лиза
Страшный сон Раскольникова: как японский режиссер поставил «Преступление и наказание» Страшный сон Раскольникова: как японский режиссер поставил «Преступление и наказание»

Режиссер из Японии Мотои Миура поставил спектакль «Преступление и наказание»

Forbes
Бочка отсчёта Бочка отсчёта

Превосходное вино немыслимо без выдержки в превосходных дубовых бочках

Robb Report
Вечная классика: 5 цветов лака, которые должны быть у каждой женщины Вечная классика: 5 цветов лака, которые должны быть у каждой женщины

Главная проблема, когда дело доходит до покрытия, — это выбор

VOICE
Шимпанзе подготовились к разным вариантам будущего Шимпанзе подготовились к разным вариантам будущего

Шимпанзе не дали экспериментатору украсть еду

N+1
Человек, который не стал Гарри Поттером. Отрывок из романа Давида Фонкиноса Человек, который не стал Гарри Поттером. Отрывок из романа Давида Фонкиноса

Глава из романа о провале, который оказался вдохновляющей историей преодоления

СНОБ
Нейросеть точно оценила хаос и помогла найти признаки болезни Альцгеймера на энцефалограммах Нейросеть точно оценила хаос и помогла найти признаки болезни Альцгеймера на энцефалограммах

Алгоритм смог рассортировать ЭЭГ здоровых людей и пациентом с Альцгеймером

ТехИнсайдер
Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова

Палеогенетики прочитали ДНК девяти человек, живших в позднем эпипалеолите

N+1
Ледяное молчание: как Ледяное молчание: как

Почему вдовствующая королева Нур невзлюбила свою невестку Ранию?

VOICE
Горькая истина: почему огурцы горчат и как избавиться от этого неприятного привкуса Горькая истина: почему огурцы горчат и как избавиться от этого неприятного привкуса

Горечь — это защитный механизм огурца, но можно ли с ним что-то сделать?

ТехИнсайдер
Ученые воссоздают в 3D города, исчезнувшие с лица Земли Ученые воссоздают в 3D города, исчезнувшие с лица Земли

Исследователи воссоздали 3D-модели районов, которых больше не существует

ТехИнсайдер
Сверхзвуковой самолет Overture изменит центр тяжести в зависимости от скорости полета Сверхзвуковой самолет Overture изменит центр тяжести в зависимости от скорости полета

О внутренней конструкции будущего сверхзвукового самолета Overture

N+1
Какие модели поведения приводят к разводу с вероятностью более 90% Какие модели поведения приводят к разводу с вероятностью более 90%

Паттерны поведения в отношениях, которые приводят к разводу

Psychologies
Нейробиологи нашли, где в мозге человека находится его телесное Нейробиологи нашли, где в мозге человека находится его телесное

Удалось впервые локализовать "самоощущение" человека

ТехИнсайдер
Эстетика простоты Эстетика простоты

Текучая, визуально чистая архитектура, игра света и магия искусства

SALON-Interior
Строго по трафику: Минцифры заставляет операторов самих блокировать веб-ресурсы Строго по трафику: Минцифры заставляет операторов самих блокировать веб-ресурсы

Минцифры хочет заставить операторов блокировать все запрещенные интернет-ресурсы

Forbes
Просыпаетесь уставшими? Западные эксперты объяснили, в чем проблема! Просыпаетесь уставшими? Западные эксперты объяснили, в чем проблема!

Что такое эффект "инерции сна" и почему из-за него мы ощущаем себя уставшими?

ТехИнсайдер
Каннибализм и насилие: в чем обвиняли актера Арми Хаммера Каннибализм и насилие: в чем обвиняли актера Арми Хаммера

Конец затянувшегося скандала вокруг Арми Хаммера

Forbes
Лунная красотка: почему с подиума пропала супермодель Надя Ауэрманн и что она делает сейчас Лунная красотка: почему с подиума пропала супермодель Надя Ауэрманн и что она делает сейчас

В 1990-е Надя Ауэрманн была одной из самых востребованных и знаменитых моделей

VOICE
Константин Плотников Константин Плотников

Актер Константин Плотников к евангельскому возрасту получил роль мечты

Собака.ru
В Кыргызстане едят камни? Поразительно, но да! Вот чем это объясняется В Кыргызстане едят камни? Поразительно, но да! Вот чем это объясняется

Зачем люди в Центральной Азии едят глину?

ТехИнсайдер
Открыть в приложении