Олег Булыгин | Полезная нагрузка

Почему называть ИИ «коллегой» — это выстрел в ногу бизнесу 🔫 Умные ребята из Бостонского университета и BCG выкатили отличное исследование. По их данным, 23% компаний уже начали официально вписывать ИИ-агентов в свои оргструктуры. Дают им должности, имена, роли и рисуют квадратики на схемах рядом с живыми людьми. В рамках эксперимента руководителям дали на ревью документы с зашитыми туда ошибками. Текст везде один. Разница была только во вводных, откуда этот драфт взялся: 1️⃣ Это сгенерил ИИ-инструмент (AI tool). 2️⃣ Это написал живой человек, твой новый подчиненный. 3️⃣ Это написал ALEX-3, новый «ИИ-сотрудник». Казалось бы, какая разница, как маркетологи называют скрипт? Но это ломает всю систему контроля качества. Как только ИИ-агента называли «сотрудником» (при условии, что в компании это легитимная практика), качество человеческого ревью падало на 16%. Люди банально пропускали баги. Авторы вывели шикарную модель того, как ломается мозг менеджера: ▫️ ИИ как инструмент (Tool). Если ты написал код в IDE с автокомплитом или нагенерил в ChatGPT — ответственность полностью на тебе. Это твоя работа, ты смотришь в оба. ▫️ Живой человек (Human). Когда ты делегируешь задачу кожаному джуну, включается классический надзор. Люди склонны лениться, халтурить и косячить. Ты это знаешь, поэтому пристально ревьюишь пулл-реквест. ▫️ ИИ-сотрудник (AI Employee). Попадает в слепую зону. ИИ не халтурит и не устает, поэтому следить за ним, как за хитрым стажером, вроде бы не надо. Мозг расслабляется. Но раз он теперь формально «коллега», то и ответственность за косяки размывается. В итоге происходит магия: руководитель перекладывает ответственность на железяку (доля личной ответственности в ответах падала на 9%), не находит ошибки, но при этом начинает заниматься защитной бюрократией — чаще эскалирует задачу на дополнительное ревью другим людям (рост на 44%), чтобы прикрыть задницу. Итого: как только вы очеловечиваете агента, люди подсознательно перестают за ним убирать и начинают спихивать на него ответственность за упавший прод.