Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Гвоздика Гвоздика

В античной медицине её считали средством, укрепляющим желудок и печень

Здоровье
Асимметричная военная работа Асимметричная военная работа

Для США Вторая мировая война стала мощным экономическим стимулом

Монокль
«Стоять на обочине с полным баком»: как скромность мешает карьерному росту «Стоять на обочине с полным баком»: как скромность мешает карьерному росту

Как работает профессиональная видимость и можно ли превратить ее в стратегию

Forbes
В состоянии равновесия В состоянии равновесия

Анна Снаткина о мужском и женском и об энергиях в пространстве

OK!
Только для тебя Только для тебя

Что такое индивидуальный подход в бьюти-индустрии?

Лиза
Спасители мира: 10 важных фактов о пчелах Спасители мира: 10 важных фактов о пчелах

10 главных фактов, которые стоит знать о пчелах

Правила жизни
Элементарно, Ватсон: как создавался советский фильм «Приключения Шерлока Холмса и доктора Ватсона» Элементарно, Ватсон: как создавался советский фильм «Приключения Шерлока Холмса и доктора Ватсона»

Как создавался цикл фильмов о знаменитом британском сыщике от Масленникова

Правила жизни
Древнему жителю Китаю ампутировали ногу в наказание Древнему жителю Китаю ампутировали ногу в наказание

Ампутацию считают древнейшей хирургической операцией

N+1
Бюджет: проблемы явные и скрытые Бюджет: проблемы явные и скрытые

В значительной мере в росте дефицита бюджета виноват ЦБ

Монокль
Как на телефоне отсканировать QR-код: пошаговая инструкция для Android и iPhone Как на телефоне отсканировать QR-код: пошаговая инструкция для Android и iPhone

Инструкция, как отсканировать QR-код на экране телефона на Android и iPhone

CHIP
10 самых засмотренных до дыр мультфильмов разных поколений 10 самых засмотренных до дыр мультфильмов разных поколений

Самые засмотренные мультфильмы за все время, разбитые по десятилетиям

Maxim
Национальность может говорить о потребностях во сне Национальность может говорить о потребностях во сне

Культурные нормы определяют ваши потребности во сне. Так ли это?

ТехИнсайдер
Самый сок Самый сок

Готовим полезные напитки из дачных ягод, фруктов и овощей

Добрые советы
Андреа Кими Антонелли: биография гонщика, побившего рекорд Феттеля Андреа Кими Антонелли: биография гонщика, побившего рекорд Феттеля

Андреа Кими Антонелли — самый юный обладатель поул-позиции в истории «Формулы-1»

РБК
Узнать за 60 секунд Узнать за 60 секунд

Почему мы стремимся ускорить все процессы и как это влияет на наш мозг

Men Today
Подробно про ЭКО Подробно про ЭКО

Что важно знать об ЭКО: факты против мифов

Лиза
Дело в Омане Дело в Омане

Из-за чего интерес российских инвесторов смещается в сторону Омана от ОАЭ

Ведомости
Особый взгляд: 10 культовых фильмов, которые нам подарил Каннский кинофестиваль Особый взгляд: 10 культовых фильмов, которые нам подарил Каннский кинофестиваль

По случаю открытия 78-го смотра — десятка лучших фильмов в истории Канн

Правила жизни
Антон Рудзат Антон Рудзат

Антон Рудзат режиссирует, фотографирует и придумывает стратегии

Собака.ru
Программа возвращения стройности Программа возвращения стройности

Многие женщины в разные периоды жизни хотели бы снизить вес. Как это сделать?

Добрые советы
Может ли у живого существа быть 8 мозгов: кажется, у осьминогов может Может ли у живого существа быть 8 мозгов: кажется, у осьминогов может

Как работают руки-щупальцы осьминога?

ТехИнсайдер
Вадим Верник: «Я спросил у Вишневской: «Вы приручили Ростроповича?» Вадим Верник: «Я спросил у Вишневской: «Вы приручили Ростроповича?»

Мне хотелось поговорить с этими легендарными людьми по душам

Коллекция. Караван историй
Отец национальной безопасности Отец национальной безопасности

Владимир Любимцев о той роли, которую в его жизни сыграл его папа

Men Today
Отец и сын. Великая Отечественная в жизни Константина и Алексея Симоновых Отец и сын. Великая Отечественная в жизни Константина и Алексея Симоновых

Какой след оставила война в жизни Константина и Алексея Симоновых?

Знание – сила
Как выбрать брокера Как выбрать брокера

Как выбрать яхтенного брокера и избежать ошибок?

Y Magazine
Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием

Как Австралия смогла войти в топ-20 самых безопасных стран мира для женщин?

Forbes
LG Electronics: Поэтическое путешествие LG Electronics: Поэтическое путешествие

Президент компании LG в России и СНГ — о жизни в стихах

РБК
Красиво «замедлиться» Красиво «замедлиться»

Аскетичный и медитативный интерьер для отдыха с архитектурными решениями

SALON-Interior
А вокруг тишина А вокруг тишина

Как превратить путешествие в одиночку в успешную сессию самокоучинга

Новый очаг
Под облаками Под облаками

Как лучше обустроить мансарду в загородном доме?

КАНТРИ Русская азбука
Открыть в приложении