Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не сдохни! Не сдохни!

Еда в борьбе за жизнь

kiozk originals
«Крепкая семья остается сегодня наиболее важной ценностью» «Крепкая семья остается сегодня наиболее важной ценностью»

Как увеличить население нашей страны

Эксперт
Шимпанзе используют «деревянный телеграф» для удаленного общения Шимпанзе используют «деревянный телеграф» для удаленного общения

Ученые знают, что шимпанзе барабанят по деревьям, но только сейчас поняли, зачем

ТехИнсайдер
Летняя косметичка: что убавить, что прибавить Летняя косметичка: что убавить, что прибавить

Как пережить жару и сохранить красоту? Золотые правила ухода

Добрые советы
Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Какие ошибки снижают эффект лекарств Какие ошибки снижают эффект лекарств

Правила, чтобы лекарство принесло максимум пользы

Добрые советы
Магдала Магдала

Место паломничества археологов: Магдала – город, упоминаемый в Евангелии

Знание – сила
Дачное преображение Дачное преображение

Как можно преобразить дачное пространство своими руками

Здоровье
Небо и море люблю одинаково… Небо и море люблю одинаково…

Боевой и жизненный путь генерал-майора авиации Ивана Васильевича Рожкова

Знание – сила
Домашняя работа: как привести IT в ЖКХ в порядок Домашняя работа: как привести IT в ЖКХ в порядок

О том, что можно сделать с хаосом в жилищно-коммунальном IT

Forbes
Акцент на глаза Акцент на глаза

Выбираем патчи для глаз на все случаи жизни

Лиза
6 самых безумных предметов, которые когда-либо крали 6 самых безумных предметов, которые когда-либо крали

Некоторые из самых странных вещей, которые когда-либо были украдены

ТехИнсайдер
Электрическое движение Электрическое движение

Электродвижение в яхтинге: путь к экологичной навигации

Y Magazine
У берегов Явы обнаружили обломки черепов поздних эректусов У берегов Явы обнаружили обломки черепов поздних эректусов

Впервые были описаны фрагменты черепов архаичных людей, поднятые у острова Ява

N+1
Новое направление Новое направление

Знакомимся ближе с полноразмерным гибридным кроссовером EXLANTIX ET

Y Magazine
В состоянии равновесия В состоянии равновесия

Анна Снаткина о мужском и женском и об энергиях в пространстве

OK!
Клопы использовали химическую сигнализацию пчел для охоты на них самих Клопы использовали химическую сигнализацию пчел для охоты на них самих

Клопы-хищнецы научились обманывать жертв, заманивая их в ловушку

N+1
Идем по циклу Идем по циклу

Что в менструальном цикле считается нормой, а когда требуется внимание

Лиза
Кошка с собой Кошка с собой

Что стоит предусмотреть перед совместным отпуском с домашней кошкой

Новый очаг
Прокатят по деньгам Прокатят по деньгам

Как развивается и от чего зависит цена на сталь в России

Ведомости
Почему некоторые люди чихают несколько раз подряд Почему некоторые люди чихают несколько раз подряд

С чем может быть связано непрерывное чихание у людей?

ТехИнсайдер
Окно в Китай Окно в Китай

Как китайская фармотрасль стала одной из ведущих в мире

Ведомости
Арктическую Сибирь объединили собачьи упряжки Арктическую Сибирь объединили собачьи упряжки

Собачьи упряжки используют в Восточно-Сибирской Арктике уже 9 тысяч лет

Наука и жизнь
Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе

Почему женщины зацикливаются на тревожных мыслях? Ищем ответы в книге психолога

Forbes
Дети войны. Воспоминания Марка Розовского Дети войны. Воспоминания Марка Розовского

Война, эвакуация, московские дворы в воспоминаниях драматурга Марка Розовского

Знание – сила
Над всей Испанией безоблачное небо Над всей Испанией безоблачное небо

Как восемь гигаватт «погасили» электрическую сеть Пиренейского полуострова

Монокль
Астрономы отыскали кандидата в очень далекую карликовую планету на крайне широкой орбите Астрономы отыскали кандидата в очень далекую карликовую планету на крайне широкой орбите

Как обнаружили кандидата в экзотичный по свойствам транснептуновый объект

N+1
NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет

Марсоход NASA обнаружил множество древних камней на краю кратера Езеро

Inc.
Психологический портрет: что такое синдром незавершенных дел и синдром Феникса Психологический портрет: что такое синдром незавершенных дел и синдром Феникса

Психология: что лежит в основе синдромов Феникса и незавершенных дел?

Forbes
Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля

57 дней в одиночестве: невероятная история Ады Блэкджек

Forbes
Открыть в приложении