TechSparks

Тут исследователи решили дополнить классику Канемана про Систему-1 и Систему-2 и предложили в эпоху ИИ рассматривать еще и Систему-3 — внешнее алгоритмическое мышление ИИ, которое использует человек в процессе решения задачи. Авторы не без оснований полагают, что ИИ уже стал активным внешним участником принятия решений. Авторы различают два режима работы с ИИ. • Когнитивный аутсорсинг (offloading): человек делегирует ИИ часть работы, но сохраняет контроль, сверяет ответ с задачей и при необходимости отменяет рекомендацию. • Когнитивная капитуляция (surrender): человек принимает выданный ИИ ответ без достаточной проверки; собственная аналитика фактически не включается. В ходе нескольких разумно сдизайненных экспериментов получили ожидаемый вывод: качество человеческого ответа стало зависеть от качества подсказки ИИ: правильный вариант ИИ добавил около 25 процентных пунктов к базовому уровню, ошибочный — отнял около 15. Контраст между двумя типами рекомендаций был крупным по размеру эффекта: Cohen’s h = 0.81. Вроде бы выглядит как большая опасность, но, как и в большинстве подобных экспериментов, сама среда их проведения примитивна: просто ChatGPT (а в данном случае еще и неявно управляемый экспериментаторами). Принципиально ошибочным при этом является неявно используемое утверждение “ChatGPT = AI" Все выводы, таким образом, сводятся к тому, что в лоб и бездумно использовать первый же ответ ChatGPT на сложную задачу опасно. Для бытовых пользователей ИИ-чатиков статья несет важное предупреждение — вот только они его не прочитают. А в реальных рабочих процессах с использованием ИИ, в правильной обвязке и с разработанными процедурами вариант “когнитивной капитуляции” становится куда менее вероятным, ради этого harness и существует. Тем не менее прочитать полезно, хотя это совсем не популярный текст (а уже появившиеся популярные пересказы с призывами “не сдавайтесь ИИ!” поверхностны и местами истеричны). А вообще интересно, приживется ли концепция “системы-3”, она по сути своей заметно глубже примитивного “ИИ — это инструмент” https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646 Если кому трудно по ссылке пройти, вот статья в PDF

⚡️ Практический гайд по AI-adoption для руководителей Ну что, готов горячий пирожок — мой гайд о том, как внедрять AI в ежедневную работу команд. За последний год разговор про AI внутри компаний сильно изменился. Нам нужно понять, как сделать так, чтобы новые инструменты действительно вошли в работу, и задача руководителя здесь — помочь своим людям, создать нужную среду, дать доступ к инструментам, научить, самому стать примером. Меня в процессе AI-adoption мотивирует вот какая мысль одного моего коллеги: ИИ всё усиливает, и хорошее, и плохое, и порядок, и хаос. Если в команде понятные процессы, нормальные доступы, сильная экспертиза и культура обмена знаниями — AI может всё это заметно усилить. Если процессы разваливаются, контекст живёт в головах, а инструменты выдаются как попало — массовый adoption, скорее всего, просто масштабирует этот хаос. Поэтому гайд — рабочая карта того, как помочь своей команде освоиться в новой рабочей реальности, где умение работать вместе с ИИ уже стало базовым навыком. Мы в Яндексе сейчас проходим этот путь в очень большом масштабе. Что-то уже умеем делать системно, какие-то первые подходы пришлось пересобрать, а часть практик всё ещё проверяем на ходу. В гайде я собрала то, что оказалось полезным у нас: — с чего начинать adoption в команде; — как искать первые рабочие кейсы; — зачем нужны AI-champions и амбассадоры; — почему обычное обучение часто не работает; — какие инструменты и условия нужны людям; — что имеет смысл измерять, а что легко превратить в бессмысленный KPI. Там, где это полезно, добавила практики других технологических компаний — как ещё один способ сравнить подходы. Гайд адаптирован для чтения с мобилки, навигация по разделам кликабельная. Без смс, без ботиков, только за ваши сердца 💙 @technohumanist