Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Мирный атом и водородный мир: новая энергетическая революция Мирный атом и водородный мир: новая энергетическая революция

Что там – на том конце энергетической цепочки?

Популярная механика
Гендиректор Уральского завода гражданской авиации Леонид Лузгин: «Байкал» будет сертифицирован в установленные сроки Гендиректор Уральского завода гражданской авиации Леонид Лузгин: «Байкал» будет сертифицирован в установленные сроки

С какими сложностями столкнулись при создании самолета ЛМС-901 «Байкал»

Ведомости
«Чеченцы». Поколение «Чеченцы». Поколение

Кем были воины, прошедшие первую и вторую чеченские кампании?

Монокль
Великая Отечественная промышленность Великая Отечественная промышленность

Как СССР превзошел Германию в промышленности во время войны

Ведомости
Строго по графику Строго по графику

Чтобы вырастить всё в лучшем виде, многие садоводы опираются на лунный календарь

КАНТРИ Русская азбука
Всем оставаться на местах Всем оставаться на местах

Что делать, если выпадают волосы: пошаговая инструкция

Лиза
Новое направление Новое направление

Знакомимся ближе с полноразмерным гибридным кроссовером EXLANTIX ET

Y Magazine
Нажми на кнопку: фильмы по мотивам азиатских игр Нажми на кнопку: фильмы по мотивам азиатских игр

Гид по экранизациям азиатских видеоигр

Правила жизни
Геохимики СПбГУ первыми в России датировали подводный минерал из крупнейшего бассейна восточной Арктики Геохимики СПбГУ первыми в России датировали подводный минерал из крупнейшего бассейна восточной Арктики

Геологи СПбГУ смогли первыми определить возраст подводного арктического минерала

Знание – сила
Астрономы подтвердили существование экзогиганта на ретроградной орбите в тесной двойной системе Астрономы подтвердили существование экзогиганта на ретроградной орбите в тесной двойной системе

Астрономы нашли экзогиганта на необычно широкой и ретроградной орбите

N+1
Дворец чистоты Дворец чистоты

Какими были и остались Сандуновские бани?

RR Люкс.Личности.Бизнес.
Тест-полоска: как Минздрав помогает регионам лечить пациентов с диабетом Тест-полоска: как Минздрав помогает регионам лечить пациентов с диабетом

Как реализуется федеральная программа «Борьба с сахарным диабетом»

Forbes
Вспомнить всех Вспомнить всех

15 лучших ролей в русских сериалах

Men Today
Битва куликова Битва куликова

…Бойцовые собаки, бойцовые петухи, бойцовые кулики. Вы знаете о последних?

Наука и жизнь
Энергия вместо долга Энергия вместо долга

Как получилось, что США оказалась на грани дефолта?

Ведомости
Как организм слонов смог победить рак, и может ли человек достичь этого Как организм слонов смог победить рак, и может ли человек достичь этого

Генетическая загадка слонов: почему эти гиганты почти не болеют онкологией?

ТехИнсайдер
Билет туда-обратно Билет туда-обратно

1200 км без дозаправки — гибридный кроссовер Exlantix ET удивляет

Автопилот
Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо» Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо»

Ирина Старшенбаум — о трудностях перевоплощения в инфантильного персонажа

Ведомости
Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер

Инженеры разработали гибкие актуаторы, которые могут плавно деформироваться

N+1
Машины будущего: как бизнесу продавать электрокары, и почему нам рано или поздно придется сказать им «да» Машины будущего: как бизнесу продавать электрокары, и почему нам рано или поздно придется сказать им «да»

Почему мы все еще не пересели на электромобили?

Inc.
Золото выглядит дорого Золото выглядит дорого

Бурный рост цен на золото создал благоприятные условия для золотодобычи в России

Монокль
План побега План побега

Началось все с урожая в два килограмма. И со знакомых

Afternoon Seasons of life
Свободный полет Свободный полет

Константин Хабенский всё больше увлечен режиссурой. И экспериментом

OK!
В космосе обнаружили разрушительное явление, которому нет равных по масштабу В космосе обнаружили разрушительное явление, которому нет равных по масштабу

В просторах Вселенной разворачиваются драмы поистине космического масштаба

Inc.
Зарабатываете на пельменях, а просите денег на ПО: 7 причин, почему инвестор может отказать стартапу Зарабатываете на пельменях, а просите денег на ПО: 7 причин, почему инвестор может отказать стартапу

Семь причин, по которым инвестиционные фонды отказывают стартапам

Inc.
Психологический портрет: что такое синдром незавершенных дел и синдром Феникса Психологический портрет: что такое синдром незавершенных дел и синдром Феникса

Психология: что лежит в основе синдромов Феникса и незавершенных дел?

Forbes
Полис на взлет Полис на взлет

Как восстанавливается рынок туристического страхования

Деньги
«Сделать женщин счастливее» «Сделать женщин счастливее»

Любая история успеха — это большой путь. Вот каким видит свой Ирина Хайдарова

OK!
Национальность может говорить о потребностях во сне Национальность может говорить о потребностях во сне

Культурные нормы определяют ваши потребности во сне. Так ли это?

ТехИнсайдер
Этноконфессиональные особенности мясного потребления Этноконфессиональные особенности мясного потребления

Под влиянием каких факторов меняется ассортимент мясной продукции

Агроинвестор
Открыть в приложении