Риски внедрения ИИ в бизнес: почему эффективность может быть иллюзией

Кажется, одно из самых больших заблуждений сегодня — это думать, что если ваша команда работает быстрее и производит больше контента или пишет больше кода, значит, её продуктивность выросла.

Со стороны это, правда, может так и выглядеть. Нейронки генерируют документы, тексты, программный код, идеи для брейншторма в сотни раз быстрее, чем это делают люди. Круто же!

– И качество не падает? — подумал бы собственник.

А вот тут уже вопрос… проверка того, что генерирует нейросеть, всё-таки лежит на ответственном за результат сотруднике. Потому что если, например, сайт после обновления упадёт, то пользовательское доверие подорвётся. Бизнес понесёт репутационные потери, и спрашивать будут… вряд ли с нейронки.

То есть мы правда можем генерировать огромное количество контента за короткие сроки. Но действительно ли при таких условиях эффективность сотрудника, да и всего отдела, растёт?

Недавно на дне рождения подруга, которая работает кем-то между QA и product, рассказывала про проект, который они делают. У них сервис, который регулярно дописывает и переписывает свой код сам. И 2 раза в день выпускает обновления.

А теперь попробуйте поставить себя на её место. 2 раза в день она имеет модифицированный продукт, новые функции в нём, и неизвестно, работают они корректно или это была галлюцинация нейронки в отчёте. Восторг и боль!

Подруга назвала это более точно: ИИ-истерия. Очень стрессово на таких скоростях проверять десятки новых и исправленных старых функций.

Мир бизнеса в очередной раз ускорился. Что принесли в жертву?

Очевидно, что если происходит резкий скачок в какой-то сфере, то дальше должен быть период коррекции (адаптация участников рынка к новому тренду). Трендовый импульс всегда чем-то компенсируется.

В нашем случае компенсация происходит за счёт того, что качество продуктов сильно проседает. Всё, что генерируется нейросетями сегодня, — абсолютно не годится для слепого выпуска в бой. Люди, которые раньше писали статьи, код, технические задания, рисовали дизайны, графику, — они всё ещё остались. Но их количество сократилось в десятки, если не в сотни тысяч раз. А большинство заняты проверкой того, что генерирует ИИ. Это и есть боттлнек бизнеса.

Среднестатистический сотрудник любой диджитал-профессии сегодня использует ИИ для задач, которые раньше делал сам. А теперь только перечитывает портянки отчётов об изменениях, просит от 2 до 20 (в лучшем случае) раз исправить результат, настраивает агентов. Ловит расфокус, когда нейронка исправляет сильно больше, чем требовалось. Пропускает дюжину контента не самого лучшего качества через свой мозг ежедневно. В общем, делает то, что на практике на самом деле понижает эффективность.

Например, в исследовании METR open-source разработчики ожидали, что ИИ ускорит их примерно на 24%. А по факту задачи заняли на 19% больше времени. После эксперимента участники всё равно продолжали считать, что ИИ их ускорил.

Мне это кажется особенно интересным: когда мы меньше печатаем руками и быстрее получаем что-то полуготовое, очень легко решить, что работа в целом ускорилась. Это выглядит примерно так же, как школьник, который учится программировать, — ему проще сидеть выделять код мышкой, жмакать контекстное меню, копировать и вставлять, чем написать "print" своими руками. Хотя первые действия занимают в 3–4 раза больше времени.

Фактически скорость и правда увеличилась, только это скорость работы мозга людей, проверяющих сгенерированный контент. Конечно, у этого есть побочные эффекты. Дальше интереснее!

AI brain fry: когда ИИ увеличивает эффективность(зачеркнуто) вероятность перегруза

В Harvard Business Review это уже описали как AI brain fry. Авторы из BCG опираются на исследование среди 1 488 работников крупных компаний в США и пишут про перегруз внимания, рост числа ошибок, перегрузку решениями и желание уйти с работы.

В той же статье есть фраза пользователя Gas Town:

Too much going on for you to reasonably comprehend.

На русский это можно перевести как:

Слишком много, чтобы осмыслить.

На мой взгляд, это очень точно попадает в происходящее. Мы привыкли думать, что автоматизация снимает нагрузку. Но на практике агенты и генеративные инструменты нередко добавляют новый слой контроля:

• Их надо ограничивать во избежание мусорной информации.
• Полуечнный результат надо интерпретировать, так как не всегда понятно, что имеется в виду.
• Часто ошибки приходится разбирать уже в боевом продукте, а не в тестовом.

LeadDev хорошо описывает это на примере агентов, которые пишут код. Причём всем людям из статьи всё это нравится. Из-за этого они начинают дольше сидеть за компьютером, в таком же темпе работать и в выходные, и жить с ощущением, что можно успеть сделать ещё немного. Это замкнутый круг. Но вообще это FOMO.

Для собственника риск заключается в том, что когнитивная перегрузка редко остаётся личной историей одного сотрудника. Через какое-то время она начинает бить по качеству решений руководителей среднего звена и общей ясности происходящего в команде.

То есть работа с ИИ создаёт workslop *(от англ. work — работа и slop — помои, отходы) — термин, введённый исследователями из Стэнфорда и BetterUp Labs, обозначающий мусорный контент.

BetterUp Labs и Stanford Social Media Lab называют так контент или задачи, сгенерированные искусственным интеллектом, которые выглядят профессионально и качественно, но не несут реальной смысловой ценности. В их выборке 150 full-time desk workers около 40% сотрудников сталкивались с этим за последний месяц, а один такой эпизод в среднем съедал около 2 часов.

Собственно, в этом и проблема. ИИ действительно убирает часть дешёвого труда. Но он не делает за человека всю работу целиком. Другими словами, он, во-первых, изменяет(!) процесс производства на предприятиях. А только потом, и то, если подойти к делу с умом, ускоряет. Так какие же риски в этом?

Давайте возьмём среднестатистическую компанию, в которой выстроенные процессы сильно зависят от человеческого фактора. В этом случае ИИ может очень быстро:

• увеличить объём спорных изменений;
• добавить скрытую нагрузку на CTO, техлидов, продактов и QA;
• понизить качество кода/контента и увеличить количество рабочих часов сотрудников.

В официальном анонсе отчёта DORA 2025 Google Cloud прямо пишет:

AI adoption continues to have a negative relationship with software delivery stability.

пер.: Внедрение ИИ по-прежнему отрицательно сказывается на стабильности выпуска программного обеспечения.

А на странице DevOps есть точная формулировка:

AI is an amplifier, not a fix.

пер.: ИИ — это усилитель, а не решение проблем.

Мне нравится эта мысль. В хорошо продуманном и малозависящем от человеческого фактора процессе ИИ правда может дать профит. А в "слабом" процессе он способен ускорить не только выпуск обновлений, но и ошибки, организационный шум и повысить цену чужого внимания.

Давайте, например, посмотрим на публичные инциденты корпораций. Они показывают, в какой реальности вообще живут современные технологические компании: даже очень сильные команды постоянно работают на фоне деградаций, сбоев, регрессий и уязвимостей.

В GitHub Status только в апреле 2026 можно увидеть и регрессию в Pull Requests, из-за которой очередь обновлений могла неправильно выпускать обновления, и отдельный инцидент с Pages, где статус-страница пишет о примерно 17.5 миллионах неудачных запросах, и сбой Codespaces, где около 40% ошибок на старте сборки проекта.

В OpenAI Status в апреле 2026 можно найти:

• Codex unresponsive
• Elevated conversation errors
• Login issues
• File upload failures
• и отдельные проблемы по разным продуктам.

У Vercel есть официальная status history и апрельский security bulletin 2026, где они прямо пишут про ошибки авторизации к внутренним системам. На статус-странице в те же дни отдельно зафиксированы критические ошибки на дашборде и API эндпоинтах, из-за которых у части пользователей были проблемы со сборкой новых версий своих приложений.

Думаю, современные системы и без того хрупкие и дорогие в поддержке. Поэтому безоглядно увеличивать поток изменений — идея сомнительная даже без ИИ. Я бы подходил к внедрению ИИ именно со стороны изменения темпа работы команд:

• Ограничивать количество параллельных AI-потоков, особенно если у команды уже не хватает времени на нормальное ревью.
• Проверять, сколько времени команда может тратить на проверку результата от ИИ без того, чтобы сыпались остальные задачи.
• Смотреть на дефекты, инциденты, нагрузку и качество решений.
• Требовать тесты и проверки безопасности для сгенерированных изменений.
• Всегда должен быть ответственный за конечный результат.
• Регулярно спрашивать команду, где ИИ действительно ускоряет работу, а где просто создаёт шум.
• Не пытаться с помощью нейросетей автоматизировать часть процесса, а перестраивать процесс с учётом их использования.

Итоги

Мне как разработчику, приятно видеть мир техническим взглядом. Не могу сказать, что испытываю отрицательные эмоции по поводу ИИ. Но мне и не очень понятна радость от роста скорости процессов. Это же влечёт кучу побочных эффектов. Рост эффективности в данном контексте чаще всего — это всё-таки иллюзия. Я сам настраиваю агентские системы для своей работы и на заказ. И, скажу, прям не многие готовы перестраивать процессы, которые годами выстраивались в компании, и переучивать сотрудников. Это правда больно.

Для собственника главный вопрос сейчас в том, может ли компания справиться с управлением командами на повышенной скорости без потери контроля? Как мне кажется, самыми ценными навыками ближайших лет вполне могли бы быть саморегуляция и осознанное управление вниманием. Это позволило бы каждому человеку, регулярно работающему с цифровыми технологиями, поддерживать и улучшать своё ментальное, эмоциональное и физическое здоровье. Тогда уже можно говорить про повышение эффективности в делах и работе.