По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пережить декабрь: как растет спрос на адвент-календари и сколько денег они приносят Пережить декабрь: как растет спрос на адвент-календари и сколько денег они приносят

С чем связан тренд на адвент-календари и сколько на нем можно заработать?

Forbes
«Даю Теоне от 50 до 100 тысяч и плачу алименты»: Курбан Омаров рассказал о тратах на дочь от Ксении Бородиной «Даю Теоне от 50 до 100 тысяч и плачу алименты»: Курбан Омаров рассказал о тратах на дочь от Ксении Бородиной

Курбан Омаров откровенно рассказал о разводе с Ксенией Бородиной

VOICE
Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков

Настроить телевизор правильно — проще, чем кажется

ТехИнсайдер
«Мы решили рискнуть»: как живут и строят бизнес переехавшие в Сербию россияне «Мы решили рискнуть»: как живут и строят бизнес переехавшие в Сербию россияне

В каких сферах русскоязычные релоканты открывают собственный бизнес в Сербии

Forbes
Две недели в середине лета: история о любви, абьюзе и смерти Две недели в середине лета: история о любви, абьюзе и смерти

Трогательный рассказ о насилии и любви, жизни и смерти

Psychologies
5 самых распространенных наказаний в отношениях 5 самых распространенных наказаний в отношениях

Допустимы ли наказания в отношениях?

Psychologies
Вакиты пока не вымерли Вакиты пока не вымерли

Зоологи обнаружили, что вакиты все еще существуют

N+1
Можно ли заработать на инвестициях в музыкальную индустрию Можно ли заработать на инвестициях в музыкальную индустрию

Какими знаниями нужно обладать и сколько времени и денег придется вложить?

РБК
Откуда взялся мем про 40 кошек: ни одна женщина не обидится на эту шутку, если узнает ее происхождение Откуда взялся мем про 40 кошек: ни одна женщина не обидится на эту шутку, если узнает ее происхождение

Почему считается, что у сильной и независимой женщины должно быть 40 кошек?

VOICE
Бежим, но не со всех ног Бежим, но не со всех ног

Лето – особая активност бегунов. На пути к цели их могут ждать сюрпризы

Здоровье
Окнами в лес Окнами в лес

Интерьер оформлен так, чтобы поддерживать эффект единения с природой

Идеи Вашего Дома
Почувствовать себя сомелье: как работают современные винотеки Почувствовать себя сомелье: как работают современные винотеки

Как правильно выбирать вино, не проходя курсы сомелье

Forbes
Высокочувствительные люди: кто они и как жить с этой особенностью? Высокочувствительные люди: кто они и как жить с этой особенностью?

Гайд по поведению высокочувствительных людей

Правила жизни
Человек со свойствами и средствами Человек со свойствами и средствами

«Счастливчик Хэнк»: симпатичная кампусная драма

Weekend
Как установить моды на Симс 4? Подробная инструкция Как установить моды на Симс 4? Подробная инструкция

Как установить моды на Симс 4, чтобы играть было еще интереснее

CHIP
Назинская трагедия — одно из самых страшных событий советской истории Назинская трагедия — одно из самых страшных событий советской истории

Для 4000 человек остров Назино стал не только местом ссылки, но и местом гибели

ТехИнсайдер
Чтение выходного дня: фрагмент книги «Бархатная кибитка» Павла Пепперштейна Чтение выходного дня: фрагмент книги «Бархатная кибитка» Павла Пепперштейна

Отрывок из интеллектуально-биографического лабиринта «Бархатная кибитка»

Правила жизни
Интервью с гендиректором ивент-агентства ERA Натальей Зворыгиной Интервью с гендиректором ивент-агентства ERA Натальей Зворыгиной

Наталья Зворыгина — о том, что такое «хороший ивент» сегодня

СНОБ
Самый громкий звук в истории человечества, который облетел Землю четыре раза Самый громкий звук в истории человечества, который облетел Землю четыре раза

Извержение Кракатау, концерт The Who и другие самые громкие звуки

ТехИнсайдер
Александр Семенов, Даниил Веретенников & Гавриил Малышев Александр Семенов, Даниил Веретенников & Гавриил Малышев

Рупоры капрома готовят книгу о постсоветском наследии России

Собака.ru
Михаил Касаткин: «О тейпировании существует большое количество мифов и спекуляций, которые вводят в заблуждение людей и дискредитируют сам метод» Михаил Касаткин: «О тейпировании существует большое количество мифов и спекуляций, которые вводят в заблуждение людей и дискредитируют сам метод»

Тейпирование – одна из немногих технологий, которая пришла в медицину из спорта

Здоровье
Младенцы «лепечут» чаще, когда они окружены искусственными, а не природными объектами Младенцы «лепечут» чаще, когда они окружены искусственными, а не природными объектами

Искусственное окружение гораздо сильнее стимулирует речь детей, чем естественное

ТехИнсайдер
Wi-Fi-радар: как нас выслеживают, чтобы замучить рекламой Wi-Fi-радар: как нас выслеживают, чтобы замучить рекламой

На вас сыплется интернет-реклама, стоит вам только зайти в магазин?

CHIP
В чем разница между красным, белым и желтым репчатым луком? Дело не только в цвете! В чем разница между красным, белым и желтым репчатым луком? Дело не только в цвете!

Теперь вы будете знать, какой лук лучше выбирать в магазине!

ТехИнсайдер
Город мечты Город мечты

На берегу Каспийского моря Эмин Агаларов строит город своей мечты

OK!
Кросс-сочетание с разными нуклеофилами прошло на коктейле никелевых комплексов Кросс-сочетание с разными нуклеофилами прошло на коктейле никелевых комплексов

Химики изучили кросс-сочетания в присутствии солей никеля

N+1
Делиться ли проблемами с близкими? Делиться ли проблемами с близкими?

Стоит ли делиться наболевшим с близкими? Или наш долг — оградить их от забот?

Psychologies
Ледниковые прерии Ледниковые прерии

Что погубило тундростепь и мамонтовую фауну?

Вокруг света
Найден Найден

Ученые обнаружили следы «протостериновой биоты»

ТехИнсайдер
Потепление превратит снегопады в горах Северного полушария в проливные дожди Потепление превратит снегопады в горах Северного полушария в проливные дожди

Районы на высоте более 3000 метров станут уязвимы для экстремальных осадков

N+1
Открыть в приложении