ИИ уже пишет код. Чем быстрее растет объем сгенерированных строк, тем острее стоит вопрос: кто отвечает за ошибку — модель, разработчик или бизнес? Пока все работает, вопрос кажется теоретическим. Но после первого сбоя он превращается в конкретный разбор с конкретными последствиями. Ответственность лучше распределить в первом состоянии, чтобы во втором не искать виноватого.
Ответственность распределяют, пока все работает
Вопрос «кто виноват» обычно задают после провала. Но работу предпочтительно строить так, чтобы до разбора не доходило, а ответственность распределять заранее, пока система работает штатно.
Ответ на вопрос об ответственности короткий. Модель виноватой назначить можно, но спросить с нее нечего. За код, который она написала, отвечает тот, кто слил его в основную ветку. За процесс отвечает руководитель, который решил, где модель допущена, и измеряет результат. Перед клиентом за все отвечает компания. Разработка — удобный полигон для разбора: там хорошо видно, где заканчивается работа модели и начинается решение человека.
ИИ-трек идет рядом с основным и соревнуется с ним
Если ИИ внедряется как ускоритель процесса, его стоит оформлять альтернативным треком наряду с основным: ту же задачу параллельно ведет разработчик в паре с моделью, как в парном программировании, и побеждает тот, кто «добежит» быстрее с качественным результатом. У такой схемы два следствия, и оба про ответственность.
Первое — основной трек страхует. Если альтернативный не добежал или прибежал с сомнительным результатом, продукт продолжает идти по основному. Проигранный забег стоит команде времени, и только. Второе — сравнение получается честным. Условия и задача у обоих треков одна, поэтому скорость и качество видны на деле. Без основного трека сравнивать было бы не с чем, и любой результат модели выглядел бы удачным.
Какой результат будет дальше, решает уже человек. В формуле «быстрее с качественным результатом» он смотрит прежде всего на дальнейший исход. Прибежать первым с кодом, который потом придется переписывать, значит перенести работу на завтра и на другого человека. Выбор победителя забега — настоящее решение, и отвечает за него тот, кто выбирал.
Первая цифра внедрения впечатляет
После внедрения ИИ на старте объем кода в строках растет кратно, иногда в 10 раз за тот же период разработки по сравнению с основным треком. Здесь появляется соблазн объявить победу и масштабировать деятельность. После такого всплеска стоит наоборот вернуться к прежнему объему выпускаемого кода, чтобы отладить процесс. Дальше рост допустим, но только вместе с вводом проверок и прокачкой навыков, направленных на валидацию результата.
Строки кода измеряют объем работы. Человек за тот же период не стал в 10 раз быстрее читать, понимать и проверять код. Если выпуск растет быстрее, чем способность проверять, разница копится в виде кода, который формально приняли и толком не прочитали. Из-за такого кода потом и спорят, кто виноват.
Откат к прежнему объему снова уравнивает две величины: сколько команда производит и сколько она может подтвердить. Потолок поднимается, когда появляются проверки и люди учатся проверять работу модели. Темп задает руководитель. Ошибиться можно в обе стороны. Запретишь рост совсем — потеряешь то, ради чего модель пускали в работу. Разрешишь его без проверок — получишь код, за который потом некому отвечать.
И про навык. Писать код и проверять чужой, тем более сгенерированный, — разные умения. Второе приходится качать отдельно и сознательно, и это такая же часть цены внедрения, как подписка на инструмент.
Человеческий режим в конце обязателен, даже когда это непопулярно
В конце создания кода с ИИ обязателен человеческий режим — рефакторинг и сквозное тестирование.
Рефакторинг — момент, когда человек делает код своим: разбирается в нем, упрощает, приводит к общим правилам проекта. До рефакторинга код можно только принять, после него за код можно отвечать. Отвечать можно только за то, что понимаешь.
Сквозной тест проверяет весь путь так, как его пройдет пользователь. Свой участок модель может сделать хорошо, но ошибки чаще сидят на стыках между участками. Стык потом и становится предметом спора, потому что за него никто отдельно не расписывался. Без этих двух шагов скорость, полученная от ИИ, взята в долг, и отдавать его придется в самый неудобный момент.
Слияние в основную ветку работает как подпись
Слияние стоит понимать как подпись: «я прочитал, понимаю и готов за это отвечать». Подпись ставит конкретный человек, и в истории изменений видно, кто именно. Кто набирал строки — человек, модель или оба вместе, — после слияния уже неважно. Не можешь объяснить код, который сливаешь, — значит, сливать его рано.
Право сливать код в основную ветку стоит оставлять тем, кто готов за него отвечать. И сгенерированного кода должно быть не больше, чем эти люди успевают прочитать. Иначе подпись становится формальностью, а вопрос «кто виноват» ждет первого сбоя.
Где модель допущена, решает руководитель: на каких участках идет альтернативный трек, с чем его сравнивают, когда пора остановиться и когда можно разрешить рост. Если границу никто не проводил и ничего не меряет, ответственность за процесс осталась ничьей. А если модель допустили туда, где ее результат не с чем сравнить, разбирать, кто виноват, потом будет не на чем: нет ни основного трека, ни замера.
Перед клиентом всегда отвечает компания
Клиенту все равно, кто внутри ошибся: модель, разработчик или подрядчик. Он разговаривает с компанией. Две внутренние роли — кто сливает код и кто решает, где допущена модель, — нужны, чтобы было ясно, кто чинит и кто меняет правила, если ошибка все-таки проскочила. Итог внутреннего разбора клиент видит в одном виде: ошибку исправили или нет.
Перед тем как пустить модель на новый участок, стоит проверить:
— С чем я сравниваю: есть ли основной трек, против которого меряю ИИ-трек?
— Сколько мы выпускаем относительно того, сколько успеваем проверить?
— Кто сливает результат в основную ветку и может ли он объяснить каждое изменение?
— Где в конце человеческий режим и что случится, если его сократить под сроки?
Нет ответа хотя бы на один вопрос — участок подождет.
ИИ — это уже не диалог для поиска результата, когда спрашиваешь и выбираешь подходящий ответ. Но и не замена человека на всем пути в сложном производственном процессе. При этом я верю во внедрение ИИ на участки такого процесса: там, где результат можно сравнить, измерить и проверить.






























