Шерри Тиао, старший менеджер Oracle, специализирующаяся на ИИ-решениях для предприятий, рассказывает на портале The New Stack о пяти основных проблемах, с которыми сталкиваются предприятия, экспериментируя и внедряя вайб-кодинг и агентов искусственного интеллекта.

Организации по всему миру ищут способы использовать ИИ, и генерация кода с помощью ИИ — ведущее направление. Талантливых инженеров-программистов не хватает, и максимизация их производительности — одновременно с избавлением от бремени создания шаблонного, рутинного кода — это крайне выгодно.

Но, конечно, каждое новое технологическое новшество влечет за собой трудности. Не все так просто, как кажется.

Сегодня, пытаясь внедрить вайб-кодинг для масштабирования своих инженерных команд, предприятия регулярно сталкиваются с проблемами и трудностями. Вот пять основных.

1. Галлюцинации ИИ

Как мы часто слышим, генеративный ИИ (GenAI) продолжает галюцинировать. Это может приводить к результатам, далеким от оптимальных, с ошибками, отличными от тех, которые допускает человек, что иногда затрудняет их обнаружение.

В качестве примера: ИИ, помогающий автору создать статью о вайб-кодинге для предприятий, может написать текст без единой грамматической ошибки (именно их часто допускают люди). Вступление и заключение, вероятно, будут понятными. Но в процессе работы ИИ может отклониться от курса. Он может добавить абзац об истории слова «вайб» («vibe»), фразы «good Vibes» и восхождения Beach Boys. Опытный автор проверит статью на грамматику, синтаксис и логику. Но если он не разбирается в вайб-кодинге или технических вопросах (а также в поп-культуре!), он может не понять, что нужно убрать из статьи.

2. Проблемы качества и соответствия нормативным требованиям

GenAI не только создает ошибки, но и делает это гораздо чаще, чем люди привыкли с ними сталкиваться. Должным образом проверить огромные объемы сгенерированного кода, особенно на предмет соответствия стандартам кодирования, протоколам безопасности и нормативным требованиям, может быть сложно. Код, сгенерированный ИИ, может не соответствовать этим стандартам, что может привести к соответствующим рискам.

3. Технический долг

Накопление технического долга — распространенная проблема для предприятий. Неправильный вайб-кодинг без установленных ограничений может привести к неструктурированному коду и непоследовательным стилям. Это может затруднить выявление, приоритизацию и устранение областей технического долга. Могут возникать нечеткие логические схемы и зависимости, которые могут легко нарушаться при внесении изменений. Отсутствие четкого понимания своей ответственности («Это сделал ИИ!») может означать, что командам потребуется больше времени, чтобы взять на себя ответственность за исправления и улучшения.

4. Сложности в совместной работе и обзорах

И все это может приводить к еще большим трудностям при экспертной оценке и анализе кода. Если код не обладает последовательностью и структурой — когда он «работает», но непонятно, почему, и команды продвигают его, потому что в их обязанности не входит анализ долгосрочных последствий, а лишь устранение ошибок, — вот тогда и начинают проявляться проблемы. Многие команды не имеют правильной структуры, позволяющей решать новые проблемы, возникающие при использовании кода, сгенерированного ИИ.

Кроме того, анализ кода и его генерация требуют разных навыков, а инженерные группы могут быть недостаточно укомплектованы, чтобы соответствовать изменившимся в связи с использованием ИИ потребностям команды.

5. Надежность и безопасность

Если вайб-кодинг не соответствует стандартизированным рекомендациям по кодированию и безопасности, это может приводить к появлению новых уязвимостей, таких как атаки типа инъекции подсказок или ненадлежащий контроль доступа. А если неформальное кодирование сочетается с автоматизированными инструментами тестирования и сканирования, проблема может еще больше усугубиться.

Код, сгенерированный ИИ, с его нечеткой логикой может быть сложнее для проверки и не всегда соответствовать установленным стандартам безопасного кодирования. Кроме того, существует теория, что в рамках долгосрочного (и очень коварного) плана злоумышленники могут внедрить уязвимости в логику обучения модели ИИ. Затем модель может быть опубликована как подходящая для предприятия, и эти уязвимости будут сгенерированы в виде кода, который разработчики могут внедрить в свои производственные системы.

Перспективы

Известно, что ранним девизом Марка Цукерберга было «Двигайся быстро и ломай все!», но с тех пор этот девиз был оспорен. Это всегда было дилеммой для предприятий: двигаться быстро, ломать все и захватывать рынок или двигаться медленно, но точно и обеспечивать надежность. В технологиях, как и в жизни, быстрое выполнение задач может означать недостаток надежности и устойчивости, и эта проблема переносится и на мир агентов ИИ.

Конечно, видение вайб-кодинга и агентов не ограничивается просто отдельными агентами, выполняющими точечные задачи, а затем обращающимися к людям для проверки точности. Это целые флоты агентов, слаженно координирующих свои действия. Это агенты за агентами: одни агенты создают код, другие агенты его проверяют, третьи агенты продвигают в продакшн, затем еще больше агентов проверяют на наличие ошибок и исправляют их. Мы пока не достигли этой цели. Но когда-нибудь достигнем ее, и предприятиям следует продолжать экспериментировать и внедрять технологии ИИ, чтобы подготовиться к новому будущему, которое нас ждет.