[Цикл деградации: что происходит, когда пользователи ИИ перестают спорить с результатом]

Есть такой режим работы с ИИ, который ощущается действительно прорывным: вы описываете задачу, агент выдает рабочее решение, вы чуть его дорабатываете — и отправляете результат в прод заметно быстрее обычного. Цикл обратной связи короткий, качество на старте хорошее, экономия времени — вполне осязаемая.

Большинство людей, которые регулярно пользуются ИИ, через это уже проходили. Гораздо меньше людей замечают, что происходит через несколько месяцев такой работы.

Прирост скорости никуда не девается, но параллельно с ним незаметно меняется другое. Планка, по которой вы оцениваете ответы агента, начинает проседать. Не драматично — вы по‑прежнему отбрасываете откровенно слабый результат, — но порог "ну, сойдет, можно идти дальше" тихо сползает вниз. Неделя за неделей, пока итоговое качество не опускается до уровня, который в начале вас бы откровенно напряг.

Это и есть цикл деградации. Это не ошибка модели и не "ленивый пользователь", а предсказуемое следствие того, как устроено взаимодействие "человек–ИИ" под постоянной когнитивной нагрузкой. Понять, как работает этот механизм, — первый шаг, чтобы он не начал управлять вами по умолчанию.

У этого цикла довольно узнаваемая форма. Как только вы ее увидите, начнете ловить ее в самых разных контекстах:

• Фаза 1. Активное участие
  Вы только осваиваете инструмент или новый тип задач. Внимательно читаете ответы. Замечаете, где модель ошибается или "промахивается по тону". Возражаете, переформулируете запрос, итеративно докручиваете. Агент со временем попадает в ожидания всё точнее, потому что вы через диалог "обучаете" и его, и себя.
• Фаза 2. Комфортное доверие
  Инструмент работает уже достаточно стабильно, чтобы ему начать доверять по умолчанию. Вы все еще просматриваете вывод, но уже без прежней тщательности. Все чаще опираетесь на поверхностные признаки: объем, структура, внешняя связность текста — вместо внимательного чтения по сути. Между "выглядит нормально" и "на самом деле верно" начинает появляться зазор.
• Фаза 3. Пассивное потребление
  Проверка начинает казаться лишней тратой времени. Вы устали, дедлайн жмет, а результат "на глаз" вроде бы в порядке. Вы принимаете его как есть. Потом — еще раз. Потом это становится стандартным режимом работы.
• Фаза 4. Сброс, который так и не происходит
  Поскольку ответы не проваливаются катастрофически, не возникает яркого сигнала "стоп, что‑то пошло не так". Качество проседает достаточно плавно, чтобы каждое отдельное упрощение можно было оправдать. Базовая точка сравнения — что вы бы сделали сами и чего раньше требовали — смещается, а вы этого не отслеживаете.

В одной из внутренних дискуссий мы описывали это так:
"Сначала есть период, когда человеку не лень продумывать запросы и правила. Потом — уже лень. Личные стандарты проседают, и он просто скатывается в режим потребления".

Цикл замыкается не потому, что ИИ стал хуже, а потому, что человек перестал замечать разницу.

Люди, которые попадают в цикл деградации, обычно не становятся ленивыми или безответственными. Это происходит потому, что "принять ответ" и "разобрать и поправить ответ" требуют разного объема усилий, и сама система почти всегда награждает первое сильнее второго.

Принять то, что выдал агент, получается за несколько секунд. Понять, что здесь не так, сформулировать, почему это не так, собрать новый запрос, который действительно исправит проблему, это уже заметная интеллектуальная работа. Под дедлайном, в усталости или при высокой нагрузке естественный путь это согласиться, особенно если результат выглядит достаточно правдоподобно, чтобы такое согласие казалось разумным.

В исследованиях это называют автоматизационным смещением (англ. automation bias). Так обозначают склонность переоценивать надежность автоматизированной системы и недооценивать необходимость критического просмотра, если ее вывод внешне выглядит убедительно. Этот эффект давно описан в авиации, медицине и финансах. В ИИ-ассистированной работе он проявляется по тем же причинам: поддерживать критичность по отношению к уверенно звучащему инструменту дорого, а внимание и сила воли конечны.

К этому добавляется потеря точки сравнения. Если вы несколько месяцев подряд решаете типовые задачи с ИИ-ассистентом, вы уже не очень хорошо помните, как выглядел бы ваш результат "вручную". Граница между "это действительно хорошо" и "я привык, что так" постепенно размывается. Базовая планка, по которой можно было бы заметить деградацию, исчезает.

Это не вопрос личного характера. Это системная особенность взаимодействия с ИИ. И отвечать на нее имеет смысл тоже системно: через практики и процессы, а не только через "буду стараться внимательнее".

Самое неприятное в цикле деградации то, что субъективно он ощущается не как деградация, а как рост эффективности.

Несколько признаков, что цикл уже включился:

• Вы перестали читать по-настоящему внимательно.
  Вы бегло просматриваете ответ, вылавливаете явные ошибки и на этом останавливаетесь. Если ничего не бросается в глаза, значит "все нормально". Вопросы вроде "правильно ли расставлены акценты", "корректна ли логика", "ничего ли важного не пропущено" просто не задаются.
• Вы правите меньше, чем раньше.
  В начале вы активно переписывали вывод: меняли структуру, акценты, формулировки. Сейчас ограничиваетесь отдельными фразами и косметикой. Каркас и содержательная часть в целом остаются такими, какими их выдал агент.
• Вам сложно объяснить, что для вас "хорошо".
  Когда вы пытаетесь дать агенту обратную связь, вы вдруг понимаете, что не можете четко сформулировать, что именно не так. Чувствуете, что результат "какой-то не тот", но объяснить это внятно трудно. Это признак того, что внутренняя планка стала размытой и плохо применимой на практике.
• Вы внутренне сопротивляетесь делать задачу без ИИ.
  Не потому, что задача сама по себе стала сложнее, а потому, что вы частично разучились выполнять ее сами. Навык просел, потому что заметную часть мыслительной работы вы отдали агенту.
• Вы защищаете вывод, который толком не проверяли.
  Вы отстаиваете решение, предложенное ИИ, так, как будто разработали его сами, хотя глубокого содержательного чека вы не делали.

Каждый из этих пунктов по отдельности еще не критичен. Но если совпадает сразу несколько, это хороший сигнал, что вы уже сместились из режима, где ИИ усиливает ваше профессиональное суждение, в режим, где он тихо его подменяет.

Существует здоровый режим ИИ-ассистированной работы: вы двигаетесь быстро, результат качественный, а человеческое суждение остается в контуре. Условно это можно назвать "потоком".

Есть другой режим, который снаружи выглядит почти так же. Вы тоже двигаетесь быстро, результат "на глаз" приемлем, но критическое мышление постепенно вытесняется, и фактически вы отдаете принятие решений агенту. Это уже "дрейф".

Ключевое отличие не в скорости и даже не в качестве конкретного ответа в отдельный момент времени. Важно, насколько ваше суждение остается включенным.

В потоке вы отдаете агенту рутину и генерацию, а сами держите на себе постановку задачи, критерии успеха, проверку логики и соответствие контексту. В дрейфе агент начинает выполнять и эту часть. Человек в цепочке по сути обеспечивает непрерывность процесса и подпись, а не содержательную оценку.

В разработке для описания крайней формы такого поведения закрепился термин "вайб кодинг". Его ввел Анджей Карпати в твите в феврале 2025 года, описывая режим, в котором разработчик полностью отдается выводу агента и "забывает, что код вообще существует". Позже этот термин стали использовать шире, уже не только применительно к программированию, но и к любому бескритичному принятию результата, сгенерированного ИИ. Тот же паттерн проявляется в текстах, аналитике, исследованиях и управлении: вместо содержательной проверки остается поверхностное ощущение, что "вроде все нормально".

Цель не в том, чтобы превращать каждый ответ ИИ в тяжелое многоступенчатое ревью. Так вы просто потеряете выигрыш в скорости. Задача в другом: удержать планку качества за разумную цену по усилиям.

Несколько подходов, которые помогают это сделать:

1. Опишите "что такое хорошо" до генерации.
   Перед тем как просить что-то содержательное, сформулируйте в одном-двух предложениях, чего вы хотите добиться и что обязательно должно быть верно. Это фиксирует критерии до того, как вы увидите ответ, и упрощает проверку.
2. Разводите генерацию и оценку по времени.
   Не вчитывайтесь в ответ в ту же секунду. Сделайте паузу. Вернитесь и прочитайте текст так, как будто это работа коллеги. Небольшая дистанция помогает заметить то, что в режиме "на лету" легко рационализировать.
3. Оставьте часть задач без ИИ осознанно.
   Держите несколько типов работы, которые вы делаете полностью сами. Это сохраняет живую точку сравнения и не дает базовому навыку окончательно выродиться.
4. Задайте себе минимальную "квоту правок".
   Для каждой нетривиальной задачи с ИИ найдите хотя бы одну правку, которая меняет смысл, а не только форму. Это не игра в излишний скепсис. Так вы просто заставляете себя оставаться включенным.
5. Отмечайте моменты "принял, хотя не до конца уверен".
   Даже короткая заметка (или осознанная фиксация) таких эпизодов дает материал для ретроспективы. Паттерны по этим точкам хорошо показывают, в каких областях вы начали снижать требования.

Общий знаменатель у этих практик один. Человек остается в активной позиции по отношению к результату, а не пассивно его потребляет. Снаружи оба режима могут выглядеть одинаково быстрыми. Но по качеству во времени они расходятся довольно сильно.

ИИ позволяет делать больше за то же время. Но проверка и интерпретация этого объема не исчезают, их по-прежнему кто-то должен выполнять. Если вы перестаете быть этим человеком, качество работы начнет постепенно растворяться в скорости.

Снаружи поток и дрейф легко перепутать. И там, и там вы быстро что-то создаете с помощью ИИ. Разница внутри: ваше профессиональное суждение либо постоянно работает, либо тихо ушло в сторону.

Ключевой навык в этой новой реальности это умение удерживать свое суждение в контуре так, чтобы критичность была не героическим усилием "раз в неделю", а естественной, встроенной привычкой.