По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Абонент не в сети: почему цифровой детокс и отказ от технологий не всегда помогают Абонент не в сети: почему цифровой детокс и отказ от технологий не всегда помогают

Как разумно регулировать свое поведение в соцсетях и в обращении с технологиями

Forbes
5 признаков, что вы — жертва эмоционального насилия 5 признаков, что вы — жертва эмоционального насилия

Каким бывает эмоциональное насилие и почему мы предпочитаем о нем молчать?

Psychologies
Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера» Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера»

Отрывок из книги «Искусственный интеллект: путь к новому миру»

Inc.
Огоньки большого города Огоньки большого города

«Личная жизнь»: японская мелодрама из жизни социальных работников

Weekend
Ошибка выжившего: как Москва искажает представление о счастье и бесконечно производит зависть Ошибка выжившего: как Москва искажает представление о счастье и бесконечно производит зависть

Как Москва сделала потребление культом и за сколько счастье можно купить

Правила жизни
«Производственная цепочка в кластере будет крепкой и гибкой» «Производственная цепочка в кластере будет крепкой и гибкой»

О перспективах химического кластера в Московской области

РБК
Археологи комплексно датировали некрополь времен Великого переселения на Алтае Археологи комплексно датировали некрополь времен Великого переселения на Алтае

Археологи уточнили хронологию некрополя Карбан-I булан-кобинской культуры

N+1
Узоры Поволжья Узоры Поволжья

Небольшая Республика Марий Эл в основном известна своей столицей

Отдых в России
За регенерацию тела у гидрактиний отвечают процессы старения клеток За регенерацию тела у гидрактиний отвечают процессы старения клеток

Как крошечное морское существо гидрактиния регенерирует новое тело?

ТехИнсайдер
Вечный капитал на добрые дела: как его создать и зачем это нужно Вечный капитал на добрые дела: как его создать и зачем это нужно

Как обеспечить выбранную организацию или проект поддержкой на долгие годы?

Inc.
Бассейн на даче: это сложно или нет? Бассейн на даче: это сложно или нет?

Разбираемся, чего от бассейна на дачном участке больше — пользы или проблем?

CHIP
Как починить молнию на одежде без помощи мастера: простой ремонт своими руками Как починить молнию на одежде без помощи мастера: простой ремонт своими руками

Есть несколько простых лайфхаков, которые помогут исправить молнию на одежде

ТехИнсайдер
30 лет спустя: как сложилась жизнь солисток 30 лет спустя: как сложилась жизнь солисток

Как сложилась жизнь девушек из группы "Лицей" и как они выглядят сейчас

VOICE
Пережил бомбардировки и ненавидит славу: Йокич — самый необычный чемпион НБА Пережил бомбардировки и ненавидит славу: Йокич — самый необычный чемпион НБА

Как мальчик из небольшого сербского городка превратился в нетипичную звезду НБА

Forbes
История разводов в России История разводов в России

Как в Древней Руси избавлялись от неверных мужей и жен?

Лиза
Ген тревоги впервые смогли удалить при помощи CRISPR неинвазивно Ген тревоги впервые смогли удалить при помощи CRISPR неинвазивно

Новый метод доставки технологии редактирования генов CRISPR / Cas9 в мозг

ТехИнсайдер
Как и почему сидр унес жизни 18 человек: объяснение врача-терапевта Как и почему сидр унес жизни 18 человек: объяснение врача-терапевта

Как выявить симптомы отравления метанолом на первых порах?

Psychologies
Основатель «Дикой мяты» Андрей Клюкин рассказал о планах на лето, своих принципах и любимой музыке Основатель «Дикой мяты» Андрей Клюкин рассказал о планах на лето, своих принципах и любимой музыке

Андрей Клюкин рассказал, за что не любит музыкальных критиков

СНОБ
Физики разобрались с танцем арахиса в пиве Физики разобрались с танцем арахиса в пиве

Эксперимент, который поможет добывать руду и обрабатывать ядерные отходы

N+1
«Он и в жизни такой?»: как Богдан Лисевский высмеял жанр интервью и покорил YouTube «Он и в жизни такой?»: как Богдан Лисевский высмеял жанр интервью и покорил YouTube

Как Богдану Лисевскому удалось покорить российское медиапространство?

Forbes
Мамские амбиции Мамские амбиции

Самое главное, чему стоит учить ребенка с ранних лет

Лиза
Кардиолог назвала 3 несуществующих диагноза, которые врачи тем не менее ставят Кардиолог назвала 3 несуществующих диагноза, которые врачи тем не менее ставят

Почему врачи с образованием и долгой практикой ставят диагнозы, которых нет?

Psychologies
Правда ли, что в музеях выставляют настоящие кости динозавров? Правда ли, что в музеях выставляют настоящие кости динозавров?

Почему не разлагаются кости динозавров?

ТехИнсайдер
Живые ископаемые Живые ископаемые

Членистоногие не зря послужили источником вдохновения для фантастов

Наука и жизнь
Идеальный пикник: 8 классных идей Идеальный пикник: 8 классных идей

Как организовать идеальное мероприятие на природе?

Караван историй
«Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова «Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова

Режиссер Борис Хлебников — о том, как не давить на детей

Psychologies
Пряности Пряности

Пряности, без которых немыслима не только французская, но и многие другие кухни

Здоровье
После сотрясения мозг исцеляет себя глубоким сном После сотрясения мозг исцеляет себя глубоким сном

Мозг после травмы погружает пострадавшего в сон более глубокий, чем обычно

ТехИнсайдер
Зеркало эмоций: что тело говорит о чувствах — выполните полезное упражнение Зеркало эмоций: что тело говорит о чувствах — выполните полезное упражнение

Как научиться жить в гармонии со своим телом и чувствами?

Psychologies
Гельголанд, роковой остров Гельголанд, роковой остров

Маленький остров Гельголанд пережил много всего

Дилетант
Открыть в приложении