Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как устроен рынок спешелти-кофе Как устроен рынок спешелти-кофе

Почему кофе считают более сложным продуктом, чем вино?

СНОБ
Представь, что... Представь, что...

Почему стоит довериться роботу и спланировать путешествие с помощью Chat GPT

Новый очаг
Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов

Пиво, чемпионы и венчурные фонды: зачем Халк Хоган создал свою лигу?

Forbes
Как благотворительность помешала Биллу Гейтсу стать первым в мире триллионером Как благотворительность помешала Биллу Гейтсу стать первым в мире триллионером

Почему Билл Гейтс мог стать богаче Маска втрое?

Forbes
Автопророки Автопророки

На Шанхайском автосалоне производители попробовали заглянуть в будущее

ТехИнсайдер
Как американский ИИ-стартап помогает ресторанам процветать среди корпораций Как американский ИИ-стартап помогает ресторанам процветать среди корпораций

Как языковые модели помогают малым ресторанам конкурировать

Forbes
Визионеры в балете: Нижинский, Баланчин, Нуреев, Эк Визионеры в балете: Нижинский, Баланчин, Нуреев, Эк

Историк танца — о тех, кто решил пойти против течения и перевернуть балетный мир

РБК
Антон Рудзат Антон Рудзат

Антон Рудзат режиссирует, фотографирует и придумывает стратегии

Собака.ru
Спокоен как самурай: как японская философия помогает выжить в трудные времена Спокоен как самурай: как японская философия помогает выжить в трудные времена

Что помогает японцам принимать неопределенность?

Forbes
Валерий Федоров: Запрос на качественный анализ растет, но не удовлетворяется Валерий Федоров: Запрос на качественный анализ растет, но не удовлетворяется

На каких направлениях сосредоточился ВЦИОМ и что станет с опросами населения

Ведомости
Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны

Почти 15 тысяч самолетов были поставлены в СССР по ленд-лизу в годы ВОВ. Но как?

ТехИнсайдер
На российских авиалиниях растет доля пассажиров без багажа На российских авиалиниях растет доля пассажиров без багажа

Все больше пассажиров российских авиакомпаний выбирают перелеты без багажа

Inc.
В уюте и прохладе В уюте и прохладе

Как защитить квартиру от жарких солнечных лучей

Лиза
Ливановы Ливановы

Ливановы: три поколения актеров и лучший Холмс по версии Елизаветы II

Караван историй
Химия любви: введение Химия любви: введение

Несколько формул и теорий любви, которые предлагают современные ученые

Men Today
Магдала Магдала

Место паломничества археологов: Магдала – город, упоминаемый в Евангелии

Знание – сила
Мгновенное производство в ВПК Мгновенное производство в ВПК

Сегодня в России активно развивается новый военно-промышленный комплекс

Ведомости
Топ-5 орехов против старения Топ-5 орехов против старения

Могут ли орехи улучшить ваше самочувствие и продлить молодость?

ТехИнсайдер
Стать девушке солдатом на войне… Стать девушке солдатом на войне…

Война глазами одной из 200 девушек комсомолок-добровольцев

Знание – сила
Семь секретов красивого голоса Семь секретов красивого голоса

Простые хитрости, которые помогут сохранить звучание голоса в любом возрасте

Здоровье
6 самых безумных предметов, которые когда-либо крали 6 самых безумных предметов, которые когда-либо крали

Некоторые из самых странных вещей, которые когда-либо были украдены

ТехИнсайдер
Атомное размещение Атомное размещение

Зачем «Росатом» решил размещать облигаций за рубежом?

Ведомости
Медоуказчики привели людей к змеям по ошибке Медоуказчики привели людей к змеям по ошибке

Орнитологи выяснили, почему большие медоуказчики иногда направляют людей к змеям

N+1
От Арктики до Тибета: как российские путешественницы исследовали мир От Арктики до Тибета: как российские путешественницы исследовали мир

Исследовательницы, которые доказали, что жажда открытий не знает границ

Forbes
0,06 га счастья 0,06 га счастья

Когда в России появилось такое явление, как дача

КАНТРИ Русская азбука
Тайна самых древних галактик остается неразрешимой Тайна самых древних галактик остается неразрешимой

Джеймс Уэбб он столкнулся с тайной, которую не удается разрешить до сих пор

ТехИнсайдер
Вошли в историю Вошли в историю

Читать литературные дневники интересно. Вести личные дневники — душеспасительно

Afternoon Seasons of life
Самый сок Самый сок

Готовим полезные напитки из дачных ягод, фруктов и овощей

Добрые советы
Острая тема: какие виды инъекций существуют в современной косметологии и что нужно знать об уколах красоты Острая тема: какие виды инъекций существуют в современной косметологии и что нужно знать об уколах красоты

Как сориентироваться в многообразии уколов красоты?

Правила жизни
Ядро Земли понемногу вытекает на поверхность Ядро Земли понемногу вытекает на поверхность

Может ли материал металлического ядра Земли выталкиваться на ее поверхность?

ТехИнсайдер
Открыть в приложении