Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Мифы о мультизадачности: что происходит с нашим мозгом, когда мы делаем несколько дел одновременно Мифы о мультизадачности: что происходит с нашим мозгом, когда мы делаем несколько дел одновременно

Почему многозадачность вредна для мозга?

Psychologies
Тепло, еще теплее: будет ли профит от таяния льдов в Арктике Тепло, еще теплее: будет ли профит от таяния льдов в Арктике

Как сокращение площади льда в Арктике повлияет на разные отрасли

Монокль
Карта мягкой посадки Карта мягкой посадки

Российская экономика остывает, а бизнес ищет растущие сегменты

Монокль
Иван Соснин: Хочется находить крупицы хорошего Иван Соснин: Хочется находить крупицы хорошего

Режиссер Иван Соснин — о пути в кино, сказках и нейросетях в кинопроизводстве

Ведомости
Если ты аэрофоб Если ты аэрофоб

Как перестать бояться летать на самолетах

Лиза
Как организм слонов смог победить рак, и может ли человек достичь этого Как организм слонов смог победить рак, и может ли человек достичь этого

Генетическая загадка слонов: почему эти гиганты почти не болеют онкологией?

ТехИнсайдер
«Звук падения»: одна из самых громких премьер в Каннах — о судьбе четырех девочек «Звук падения»: одна из самых громких премьер в Каннах — о судьбе четырех девочек

В «Звуке падения» уживаются камерное пространство и масштабное время действия

Forbes
Hовые имена в моде Hовые имена в моде

Сверкающее вау: новейшие супергерои модной индустрии!

Собака.ru
Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий

Как армейские друзья создали сеть студий «мягкого» фитнеса

Forbes
Стоп, снято! Стоп, снято!

Олег Трофим — о причинах всеобщей любви к хулиганам

Правила жизни
Те еще овощи! Те еще овощи!

Кое-что о поведении овощей в открытом грунте

КАНТРИ Русская азбука
От винта! От винта!

Как автомобили научили летать

Деньги
Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны

Устройства времен холодной войны, которые делали работу шпионов эффективнее

ТехИнсайдер
Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов

Кишечная палочка использует ранее неизвестную противовирусную систему

ТехИнсайдер
Больше движений! Больше движений!

Нужно больше двигаться, а не искать отговорки, почему не можешь

Y Magazine
Коротко и ясно Коротко и ясно

Идеи для коротких, но ярких путешествий по России

Добрые советы
Под облаками Под облаками

Как лучше обустроить мансарду в загородном доме?

КАНТРИ Русская азбука
Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием

Как Австралия смогла войти в топ-20 самых безопасных стран мира для женщин?

Forbes
Спасители мира: 10 важных фактов о пчелах Спасители мира: 10 важных фактов о пчелах

10 главных фактов, которые стоит знать о пчелах

Правила жизни
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
Им наверху виднее Им наверху виднее

10 причин установить на свой автомобиль спутниковый охранный комплекс

Автопилот
Замахнуться на святое: как молоко стало самым спорным продуктом XXI века Замахнуться на святое: как молоко стало самым спорным продуктом XXI века

Как молоко из символа здоровья стало предметом споров

Forbes
С легким паром! С легким паром!

Дача без русской бани на участке — это скорее нонсенс

КАНТРИ Русская азбука
Худеем на супах Худеем на супах

Надоело скидывать вес на салатах и гречке? Попробуй суповые диеты

Лиза
Россия в многополярной глобальной экономике Россия в многополярной глобальной экономике

Мы вновь слышим о восстановлении барьеров в торговле

Ведомости
Усилием воли Усилием воли

Все о подготовке емкостей для консервирования

КАНТРИ Русская азбука
Сага мужества и стойкости Сага мужества и стойкости

Четыре года схваток сплотили союзников сильнее, чем дипломатические трактаты

Монокль
Шимпанзе способны оказывать медицинскую помощь друг другу Шимпанзе способны оказывать медицинскую помощь друг другу

Приматы не только залечивают собственные раны, но и помогают сородичам

ТехИнсайдер
Ученые расшифровали, как мы ощущаем вкус сладкого Ученые расшифровали, как мы ощущаем вкус сладкого

Как язык воспринимает сладость, какой рецептор отвечает за влечение к сахару?

ТехИнсайдер
Время титанов Время титанов

Ма Яньсун — архитектор, который умеет так же хорошо строить, как и мечтать

Weekend
Открыть в приложении